Anthropics Anwalt entschuldigt sich nachdem Claude eine Rechtszitierung halluciniert

Vor kurzem hat ein Anwalt, der Anthropic vertritt, die Verwendung eines falschen Zitats eingeräumt, das vom KI-Chatbot Claude des Unternehmens während des laufenden Rechtsstreits mit Musikverlagen erstellt wurde. Dieses Eingeständnis wurde am Donnerstag in einem Gerichtssaal in Nordkalifornien eingereicht.

Anthropic erklärte in dem Schriftsatz, über den Bloomberg zuerst berichtete, dass Claude das Zitat mit einem falschen Titel und falschen Autorenangaben erstellt hatte. Die Anwälte des Unternehmens räumten ein, dass ihre routinemäßige Überprüfung der Zitate diesen Fehler sowie mehrere andere Ungenauigkeiten, die durch Claudes "Halluzinationen" verursacht wurden, nicht aufgedeckt hat.

Anthropic entschuldigte sich für das Versehen und bezeichnete den Vorfall als "ehrlichen Zitierfehler und nicht als Fälschung von Autoritäten".

Anfang dieser Woche hatten die Anwälte der Universal Music Group und anderer Musikverlage Anthropics Sachverständige, die Angestellte Olivia Chen, beschuldigt, sich in ihrer Aussage auf gefälschte Artikel bezogen zu haben, die angeblich Claude benutzt hätten. Daraufhin forderte Bundesrichterin Susan van Keulen eine Stellungnahme von Anthropic zu diesen Vorwürfen.

Die von den Musikverlegern eingereichte Klage ist Teil mehrerer Konflikte zwischen Urheberrechtsinhabern und Technologieunternehmen wegen des angeblichen Missbrauchs ihrer Inhalte zur Entwicklung generativer KI-Tools.

Dies ist ein weiterer Fall, in dem der Einsatz von KI in Gerichtsverfahren zu unbeabsichtigten Konsequenzen geführt hat. Anfang dieser Woche kritisierte ein kalifornischer Richter zwei Anwaltskanzleien, weil sie vor seinem Gericht "gefälschte KI-generierte Forschungsergebnisse" eingereicht hatten. Im Januar wurde ein australischer Anwalt entlarvt, weil er beim Verfassen von Gerichtsdokumenten ChatGPT verwendet hatte, was zu fehlerhaften Zitaten führte.

Trotz solcher Vorfälle erhalten Start-ups weiterhin beträchtliche Finanzmittel für die Automatisierung von Rechtsprozessen. Harvey, das generative KI-Modelle zur Unterstützung von Anwälten einsetzt, befindet sich Berichten zufolge in Gesprächen, um mehr als 250 Millionen Dollar bei einer Bewertung von über 5 Milliarden Dollar zu erhalten.

Techcrunch-Veranstaltung ### Besuchen Sie uns bei den TechCrunch Sessions: AI

Sichern Sie sich Ihren Platz bei unserer wichtigsten Veranstaltung der KI-Branche mit Rednern von OpenAI, Anthropic und Cohere. Für einen begrenzten Zeitraum kosten die Tickets nur 292 $ für einen ganzen Tag voller Expertenvorträge, Workshops und wertvoller Networking-Möglichkeiten.

Stellen Sie bei den TechCrunch Sessions aus: AI

Buchen Sie Ihre展位 bei TC Sessions: AI und präsentieren Sie Ihre Innovationen vor mehr als 1.200 Entscheidungsträgern, ohne das Budget zu sprengen. Verfügbar bis zum 9. Mai oder solange der Vorrat reicht.

Berkeley, CA | 5. Juni JETZT ANMELDEN