Heim
Anthropic räumt KI-Fehler in juristischem Dossier ein und bezeichnet ihn als peinlich und unbeabsichtigt.

Anthropic hat sich zu den Vorwürfen bezüglich einer KI-generierten Quelle in seinem laufenden Rechtsstreit mit Musikverlagen geäußert und den Vorfall als einen "unbeabsichtigten Zitierfehler" seines Chatbots Claude bezeichnet.
Das umstrittene Zitat tauchte in einem von der Anthropic-Datenwissenschaftlerin Olivia Chen eingereichten Rechtsantrag vom 30. April auf, der Teil der Verteidigung des Unternehmens gegen den Vorwurf ist, dass Claude mit urheberrechtlich geschützten Songtexten trainiert wurde. Während des Gerichtsverfahrens bezeichneten die Anwälte der Universal Music Group und anderer Verleger die zitierten Quellen als potenziell gefälscht und vermuteten, dass sie von Anthropics KI-System erfunden worden sein könnten.
In einer kürzlich eingereichten Erwiderung stellte die Verteidigerin von Anthropic, Ivana Dukanovic, klar, dass das zitierte Material zwar authentisch sei, dass aber Claude eingesetzt worden sei, um die rechtlichen Zitate in dem Dokument zu formatieren. Das Unternehmen räumte ein, dass bei automatischen Überprüfungen zwar die von der künstlichen Intelligenz erzeugten ungenauen Mengen- und Seitenzahlen erkannt und korrigiert wurden, bestimmte Ungenauigkeiten in der Formulierung jedoch bei der manuellen Überprüfung unentdeckt blieben.
Dukanovic erklärte: "Das System hat den Namen der Publikation, das Jahr und den zugänglichen Link richtig erkannt, aber fälschlicherweise falsche Artikeltitel und Autoreninformationen eingefügt", und betonte, dass es sich dabei um einen ehrlichen Fehler und nicht um eine absichtliche Falschdarstellung handelte. Anthropic drückte sein Bedauern über die entstandene Verwirrung aus und bezeichnete das Versehen als "einen unglücklichen, aber unbeabsichtigten Fehler".
Dieser Fall reiht sich ein in eine wachsende Liste von Gerichtsverfahren, bei denen KI-gestützte Zitate zu Komplikationen geführt haben. Kürzlich hat ein kalifornischer Richter Anwälte gerügt, weil sie die Rolle der KI bei der Erstellung eines Schriftsatzes, der nicht existierende Rechtsverweise enthielt, nicht offengelegt hatten. Weitere Aufmerksamkeit erlangte das Thema im vergangenen Dezember, als ein Fehlinformationsforscher einräumte, dass ChatGPT in einem seiner Schriftsätze Zitate erfunden hatte.
Verwandter Artikel
Warner Music übernimmt das KI-Zuschreibungsstart-up Sureel AI
Warner Music Group (WMG) hat am Mittwoch bestätigt, dass es Sureel AI, ein Startup für KI-gestützte Attribution, übernimmt. Die proprietäre Technologie von Sureel generiert „AI-DNA“ für Musikstücke, indem sie diese in ihre Bestandteile zerlegt, um na
Amazon führt Alexa für den Einkauf ein und schiebt Rufus in den Hintergrund
Amazon hat Alexa for Shopping eingeführt, indem es den Rufus-Shopping-Chatbot mit Alexa+ in der App, auf der Website und auf Echo Show-Geräten zusammenführt.Der Assistent beantwortet Produktanfragen, vergleicht Artikel, verfolgt Preise und unterstüt
Microsoft, Azure und KI-Technologie bekämpfen die Risiken von Waldbränden in Kalifornien
Microsoft investiert in die KI-gestützte Erkennung von Waldbränden. Juan Lavista Ferres, CVP und Chief Data Scientist, erörtert Strategien zur Eindämmung von Umweltschäden.Laut der NASA betrifft der K
Empfehlungen zu verwandten Spezialthemen
Kommentare (3)
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic hat sich zu den Vorwürfen bezüglich einer KI-generierten Quelle in seinem laufenden Rechtsstreit mit Musikverlagen geäußert und den Vorfall als einen "unbeabsichtigten Zitierfehler" seines Chatbots Claude bezeichnet.
Das umstrittene Zitat tauchte in einem von der Anthropic-Datenwissenschaftlerin Olivia Chen eingereichten Rechtsantrag vom 30. April auf, der Teil der Verteidigung des Unternehmens gegen den Vorwurf ist, dass Claude mit urheberrechtlich geschützten Songtexten trainiert wurde. Während des Gerichtsverfahrens bezeichneten die Anwälte der Universal Music Group und anderer Verleger die zitierten Quellen als potenziell gefälscht und vermuteten, dass sie von Anthropics KI-System erfunden worden sein könnten.
In einer kürzlich eingereichten Erwiderung stellte die Verteidigerin von Anthropic, Ivana Dukanovic, klar, dass das zitierte Material zwar authentisch sei, dass aber Claude eingesetzt worden sei, um die rechtlichen Zitate in dem Dokument zu formatieren. Das Unternehmen räumte ein, dass bei automatischen Überprüfungen zwar die von der künstlichen Intelligenz erzeugten ungenauen Mengen- und Seitenzahlen erkannt und korrigiert wurden, bestimmte Ungenauigkeiten in der Formulierung jedoch bei der manuellen Überprüfung unentdeckt blieben.
Dukanovic erklärte: "Das System hat den Namen der Publikation, das Jahr und den zugänglichen Link richtig erkannt, aber fälschlicherweise falsche Artikeltitel und Autoreninformationen eingefügt", und betonte, dass es sich dabei um einen ehrlichen Fehler und nicht um eine absichtliche Falschdarstellung handelte. Anthropic drückte sein Bedauern über die entstandene Verwirrung aus und bezeichnete das Versehen als "einen unglücklichen, aber unbeabsichtigten Fehler".
Dieser Fall reiht sich ein in eine wachsende Liste von Gerichtsverfahren, bei denen KI-gestützte Zitate zu Komplikationen geführt haben. Kürzlich hat ein kalifornischer Richter Anwälte gerügt, weil sie die Rolle der KI bei der Erstellung eines Schriftsatzes, der nicht existierende Rechtsverweise enthielt, nicht offengelegt hatten. Weitere Aufmerksamkeit erlangte das Thema im vergangenen Dezember, als ein Fehlinformationsforscher einräumte, dass ChatGPT in einem seiner Schriftsätze Zitate erfunden hatte.
Warner Music übernimmt das KI-Zuschreibungsstart-up Sureel AI
Warner Music Group (WMG) hat am Mittwoch bestätigt, dass es Sureel AI, ein Startup für KI-gestützte Attribution, übernimmt. Die proprietäre Technologie von Sureel generiert „AI-DNA“ für Musikstücke, indem sie diese in ihre Bestandteile zerlegt, um na
Microsoft, Azure und KI-Technologie bekämpfen die Risiken von Waldbränden in Kalifornien
Microsoft investiert in die KI-gestützte Erkennung von Waldbränden. Juan Lavista Ferres, CVP und Chief Data Scientist, erörtert Strategien zur Eindämmung von Umweltschäden.Laut der NASA betrifft der K
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!











