Anthropics Anwalt entschuldigt sich nachdem Claude eine Rechtszitierung halluciniert

Vor kurzem hat ein Anwalt, der Anthropic vertritt, die Verwendung eines falschen Zitats eingeräumt, das vom KI-Chatbot Claude des Unternehmens während des laufenden Rechtsstreits mit Musikverlagen erstellt wurde. Dieses Eingeständnis wurde am Donnerstag in einem Gerichtssaal in Nordkalifornien eingereicht.
Anthropic erklärte in dem Schriftsatz, über den Bloomberg zuerst berichtete, dass Claude das Zitat mit einem falschen Titel und falschen Autorenangaben erstellt hatte. Die Anwälte des Unternehmens räumten ein, dass ihre routinemäßige Überprüfung der Zitate diesen Fehler sowie mehrere andere Ungenauigkeiten, die durch Claudes "Halluzinationen" verursacht wurden, nicht aufgedeckt hat.
Anthropic entschuldigte sich für das Versehen und bezeichnete den Vorfall als "ehrlichen Zitierfehler und nicht als Fälschung von Autoritäten".
Anfang dieser Woche hatten die Anwälte der Universal Music Group und anderer Musikverlage Anthropics Sachverständige, die Angestellte Olivia Chen, beschuldigt, sich in ihrer Aussage auf gefälschte Artikel bezogen zu haben, die angeblich Claude benutzt hätten. Daraufhin forderte Bundesrichterin Susan van Keulen eine Stellungnahme von Anthropic zu diesen Vorwürfen.
Die von den Musikverlegern eingereichte Klage ist Teil mehrerer Konflikte zwischen Urheberrechtsinhabern und Technologieunternehmen wegen des angeblichen Missbrauchs ihrer Inhalte zur Entwicklung generativer KI-Tools.
Dies ist ein weiterer Fall, in dem der Einsatz von KI in Gerichtsverfahren zu unbeabsichtigten Konsequenzen geführt hat. Anfang dieser Woche kritisierte ein kalifornischer Richter zwei Anwaltskanzleien, weil sie vor seinem Gericht "gefälschte KI-generierte Forschungsergebnisse" eingereicht hatten. Im Januar wurde ein australischer Anwalt entlarvt, weil er beim Verfassen von Gerichtsdokumenten ChatGPT verwendet hatte, was zu fehlerhaften Zitaten führte.
Trotz solcher Vorfälle erhalten Start-ups weiterhin beträchtliche Finanzmittel für die Automatisierung von Rechtsprozessen. Harvey, das generative KI-Modelle zur Unterstützung von Anwälten einsetzt, befindet sich Berichten zufolge in Gesprächen, um mehr als 250 Millionen Dollar bei einer Bewertung von über 5 Milliarden Dollar zu erhalten.
Techcrunch-Veranstaltung ### Besuchen Sie uns bei den TechCrunch Sessions: AI
Sichern Sie sich Ihren Platz bei unserer wichtigsten Veranstaltung der KI-Branche mit Rednern von OpenAI, Anthropic und Cohere. Für einen begrenzten Zeitraum kosten die Tickets nur 292 $ für einen ganzen Tag voller Expertenvorträge, Workshops und wertvoller Networking-Möglichkeiten.
Stellen Sie bei den TechCrunch Sessions aus: AI
Buchen Sie Ihre展位 bei TC Sessions: AI und präsentieren Sie Ihre Innovationen vor mehr als 1.200 Entscheidungsträgern, ohne das Budget zu sprengen. Verfügbar bis zum 9. Mai oder solange der Vorrat reicht.
Berkeley, CA | 5. Juni JETZT ANMELDEN
Verwandter Artikel
Anthropic bringt Opus 4.8 mit einem neuen dynamischen Workflow-Tool auf den Markt
Anthropic hat am Donnerstag Opus 4.8 vorgestellt, die neueste Version seines führenden öffentlichen Modells. Das Update kostet genauso viel wie sein Vorgänger und ist nun auf allen Plattformen verfügb
Anthropic stellt „Claude Fable 5“ vor, eine öffentliche Version von „Mythos“
Anthropic stellt sein leistungsstärkstes KI-Modell erstmals der breiten Öffentlichkeit zur Verfügung – allerdings unter Einhaltung entsprechender Sicherheitsvorkehrungen.Am Dienstag stellte das Unter
SandboxAQ bringt KI für die Arzneimittelentwicklung zu Claude – ein Computerwissenschafts-PhD ist nicht erforderlich.
Die Entdeckung neuer Medikamente bleibt eine der kostspieligsten Herausforderungen in der modernen Industrie. Es kann ein Jahrzehnt und Milliarden von Dollar dauern, bis eine einzige praktikable Molekülstruktur gefunden wird – und dennoch scheitern d
Empfehlungen zu verwandten Spezialthemen
Kommentare (3)
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Vor kurzem hat ein Anwalt, der Anthropic vertritt, die Verwendung eines falschen Zitats eingeräumt, das vom KI-Chatbot Claude des Unternehmens während des laufenden Rechtsstreits mit Musikverlagen erstellt wurde. Dieses Eingeständnis wurde am Donnerstag in einem Gerichtssaal in Nordkalifornien eingereicht.
Anthropic erklärte in dem Schriftsatz, über den Bloomberg zuerst berichtete, dass Claude das Zitat mit einem falschen Titel und falschen Autorenangaben erstellt hatte. Die Anwälte des Unternehmens räumten ein, dass ihre routinemäßige Überprüfung der Zitate diesen Fehler sowie mehrere andere Ungenauigkeiten, die durch Claudes "Halluzinationen" verursacht wurden, nicht aufgedeckt hat.
Anthropic entschuldigte sich für das Versehen und bezeichnete den Vorfall als "ehrlichen Zitierfehler und nicht als Fälschung von Autoritäten".
Anfang dieser Woche hatten die Anwälte der Universal Music Group und anderer Musikverlage Anthropics Sachverständige, die Angestellte Olivia Chen, beschuldigt, sich in ihrer Aussage auf gefälschte Artikel bezogen zu haben, die angeblich Claude benutzt hätten. Daraufhin forderte Bundesrichterin Susan van Keulen eine Stellungnahme von Anthropic zu diesen Vorwürfen.
Die von den Musikverlegern eingereichte Klage ist Teil mehrerer Konflikte zwischen Urheberrechtsinhabern und Technologieunternehmen wegen des angeblichen Missbrauchs ihrer Inhalte zur Entwicklung generativer KI-Tools.
Dies ist ein weiterer Fall, in dem der Einsatz von KI in Gerichtsverfahren zu unbeabsichtigten Konsequenzen geführt hat. Anfang dieser Woche kritisierte ein kalifornischer Richter zwei Anwaltskanzleien, weil sie vor seinem Gericht "gefälschte KI-generierte Forschungsergebnisse" eingereicht hatten. Im Januar wurde ein australischer Anwalt entlarvt, weil er beim Verfassen von Gerichtsdokumenten ChatGPT verwendet hatte, was zu fehlerhaften Zitaten führte.
Trotz solcher Vorfälle erhalten Start-ups weiterhin beträchtliche Finanzmittel für die Automatisierung von Rechtsprozessen. Harvey, das generative KI-Modelle zur Unterstützung von Anwälten einsetzt, befindet sich Berichten zufolge in Gesprächen, um mehr als 250 Millionen Dollar bei einer Bewertung von über 5 Milliarden Dollar zu erhalten.
Techcrunch-Veranstaltung ### Besuchen Sie uns bei den TechCrunch Sessions: AI
Sichern Sie sich Ihren Platz bei unserer wichtigsten Veranstaltung der KI-Branche mit Rednern von OpenAI, Anthropic und Cohere. Für einen begrenzten Zeitraum kosten die Tickets nur 292 $ für einen ganzen Tag voller Expertenvorträge, Workshops und wertvoller Networking-Möglichkeiten.
Stellen Sie bei den TechCrunch Sessions aus: AI
Buchen Sie Ihre展位 bei TC Sessions: AI und präsentieren Sie Ihre Innovationen vor mehr als 1.200 Entscheidungsträgern, ohne das Budget zu sprengen. Verfügbar bis zum 9. Mai oder solange der Vorrat reicht.
Berkeley, CA | 5. Juni JETZT ANMELDEN
Anthropic bringt Opus 4.8 mit einem neuen dynamischen Workflow-Tool auf den Markt
Anthropic hat am Donnerstag Opus 4.8 vorgestellt, die neueste Version seines führenden öffentlichen Modells. Das Update kostet genauso viel wie sein Vorgänger und ist nun auf allen Plattformen verfügb
Anthropic stellt „Claude Fable 5“ vor, eine öffentliche Version von „Mythos“
Anthropic stellt sein leistungsstärkstes KI-Modell erstmals der breiten Öffentlichkeit zur Verfügung – allerdings unter Einhaltung entsprechender Sicherheitsvorkehrungen.Am Dienstag stellte das Unter
SandboxAQ bringt KI für die Arzneimittelentwicklung zu Claude – ein Computerwissenschafts-PhD ist nicht erforderlich.
Die Entdeckung neuer Medikamente bleibt eine der kostspieligsten Herausforderungen in der modernen Industrie. Es kann ein Jahrzehnt und Milliarden von Dollar dauern, bis eine einzige praktikable Molekülstruktur gefunden wird – und dennoch scheitern d
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





Heim






