Anthropic räumt KI-Fehler in juristischem Dossier ein und bezeichnet ihn als peinlich und unbeabsichtigt.

Anthropic hat sich zu den Vorwürfen bezüglich einer KI-generierten Quelle in seinem laufenden Rechtsstreit mit Musikverlagen geäußert und den Vorfall als einen "unbeabsichtigten Zitierfehler" seines Chatbots Claude bezeichnet.

Das umstrittene Zitat tauchte in einem von der Anthropic-Datenwissenschaftlerin Olivia Chen eingereichten Rechtsantrag vom 30. April auf, der Teil der Verteidigung des Unternehmens gegen den Vorwurf ist, dass Claude mit urheberrechtlich geschützten Songtexten trainiert wurde. Während des Gerichtsverfahrens bezeichneten die Anwälte der Universal Music Group und anderer Verleger die zitierten Quellen als potenziell gefälscht und vermuteten, dass sie von Anthropics KI-System erfunden worden sein könnten.

In einer kürzlich eingereichten Erwiderung stellte die Verteidigerin von Anthropic, Ivana Dukanovic, klar, dass das zitierte Material zwar authentisch sei, dass aber Claude eingesetzt worden sei, um die rechtlichen Zitate in dem Dokument zu formatieren. Das Unternehmen räumte ein, dass bei automatischen Überprüfungen zwar die von der künstlichen Intelligenz erzeugten ungenauen Mengen- und Seitenzahlen erkannt und korrigiert wurden, bestimmte Ungenauigkeiten in der Formulierung jedoch bei der manuellen Überprüfung unentdeckt blieben.

Dukanovic erklärte: "Das System hat den Namen der Publikation, das Jahr und den zugänglichen Link richtig erkannt, aber fälschlicherweise falsche Artikeltitel und Autoreninformationen eingefügt", und betonte, dass es sich dabei um einen ehrlichen Fehler und nicht um eine absichtliche Falschdarstellung handelte. Anthropic drückte sein Bedauern über die entstandene Verwirrung aus und bezeichnete das Versehen als "einen unglücklichen, aber unbeabsichtigten Fehler".

Dieser Fall reiht sich ein in eine wachsende Liste von Gerichtsverfahren, bei denen KI-gestützte Zitate zu Komplikationen geführt haben. Kürzlich hat ein kalifornischer Richter Anwälte gerügt, weil sie die Rolle der KI bei der Erstellung eines Schriftsatzes, der nicht existierende Rechtsverweise enthielt, nicht offengelegt hatten. Weitere Aufmerksamkeit erlangte das Thema im vergangenen Dezember, als ein Fehlinformationsforscher einräumte, dass ChatGPT in einem seiner Schriftsätze Zitate erfunden hatte.