Anthropics Anwalt entschuldigt sich nachdem Claude eine Rechtszitierung halluciniert

Vor kurzem hat ein Anwalt, der Anthropic vertritt, die Verwendung eines falschen Zitats eingeräumt, das vom KI-Chatbot Claude des Unternehmens während des laufenden Rechtsstreits mit Musikverlagen erstellt wurde. Dieses Eingeständnis wurde am Donnerstag in einem Gerichtssaal in Nordkalifornien eingereicht.
Anthropic erklärte in dem Schriftsatz, über den Bloomberg zuerst berichtete, dass Claude das Zitat mit einem falschen Titel und falschen Autorenangaben erstellt hatte. Die Anwälte des Unternehmens räumten ein, dass ihre routinemäßige Überprüfung der Zitate diesen Fehler sowie mehrere andere Ungenauigkeiten, die durch Claudes "Halluzinationen" verursacht wurden, nicht aufgedeckt hat.
Anthropic entschuldigte sich für das Versehen und bezeichnete den Vorfall als "ehrlichen Zitierfehler und nicht als Fälschung von Autoritäten".
Anfang dieser Woche hatten die Anwälte der Universal Music Group und anderer Musikverlage Anthropics Sachverständige, die Angestellte Olivia Chen, beschuldigt, sich in ihrer Aussage auf gefälschte Artikel bezogen zu haben, die angeblich Claude benutzt hätten. Daraufhin forderte Bundesrichterin Susan van Keulen eine Stellungnahme von Anthropic zu diesen Vorwürfen.
Die von den Musikverlegern eingereichte Klage ist Teil mehrerer Konflikte zwischen Urheberrechtsinhabern und Technologieunternehmen wegen des angeblichen Missbrauchs ihrer Inhalte zur Entwicklung generativer KI-Tools.
Dies ist ein weiterer Fall, in dem der Einsatz von KI in Gerichtsverfahren zu unbeabsichtigten Konsequenzen geführt hat. Anfang dieser Woche kritisierte ein kalifornischer Richter zwei Anwaltskanzleien, weil sie vor seinem Gericht "gefälschte KI-generierte Forschungsergebnisse" eingereicht hatten. Im Januar wurde ein australischer Anwalt entlarvt, weil er beim Verfassen von Gerichtsdokumenten ChatGPT verwendet hatte, was zu fehlerhaften Zitaten führte.
Trotz solcher Vorfälle erhalten Start-ups weiterhin beträchtliche Finanzmittel für die Automatisierung von Rechtsprozessen. Harvey, das generative KI-Modelle zur Unterstützung von Anwälten einsetzt, befindet sich Berichten zufolge in Gesprächen, um mehr als 250 Millionen Dollar bei einer Bewertung von über 5 Milliarden Dollar zu erhalten.
Techcrunch-Veranstaltung ### Besuchen Sie uns bei den TechCrunch Sessions: AI
Sichern Sie sich Ihren Platz bei unserer wichtigsten Veranstaltung der KI-Branche mit Rednern von OpenAI, Anthropic und Cohere. Für einen begrenzten Zeitraum kosten die Tickets nur 292 $ für einen ganzen Tag voller Expertenvorträge, Workshops und wertvoller Networking-Möglichkeiten.
Stellen Sie bei den TechCrunch Sessions aus: AI
Buchen Sie Ihre展位 bei TC Sessions: AI und präsentieren Sie Ihre Innovationen vor mehr als 1.200 Entscheidungsträgern, ohne das Budget zu sprengen. Verfügbar bis zum 9. Mai oder solange der Vorrat reicht.
Berkeley, CA | 5. Juni JETZT ANMELDEN
Verwandter Artikel
Anthropic baut seine Partnerschaften im Bereich Rechenleistung mit Google und Broadrom aus
Das KI-Forschungslabor Anthropic gab am Montag eine neue Vereinbarung mit Google und Broadcom bekannt, um die Rechenleistung seiner Claude-KI-Modelle deutlich zu steigern. Diese Neuausrichtung seiner
Claude holt gegenüber ChatGPT auf, da Nutzer abwandern
Nach einer Reihe von Kontroversen um ChatGPT und dessen Mutterunternehmen OpenAI wechseln immer mehr Nutzer zu Claude.Der Wendepunkt kam, nachdem Anthropic, der Entwickler von Claude, eine Anfrage des
Was die Konfrontation zwischen Anthropic und dem Pentagon für die nationale Sicherheit bedeutet
Die letzten zwei Wochen standen ganz im Zeichen einer öffentlichen Auseinandersetzung zwischen Dario Amodei, dem CEO von Anthropic, und Verteidigungsminister Pete Hegseth, bei der es um den Einsatz vo
Empfehlungen zu verwandten Spezialthemen
Kommentare (2)
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Vor kurzem hat ein Anwalt, der Anthropic vertritt, die Verwendung eines falschen Zitats eingeräumt, das vom KI-Chatbot Claude des Unternehmens während des laufenden Rechtsstreits mit Musikverlagen erstellt wurde. Dieses Eingeständnis wurde am Donnerstag in einem Gerichtssaal in Nordkalifornien eingereicht.
Anthropic erklärte in dem Schriftsatz, über den Bloomberg zuerst berichtete, dass Claude das Zitat mit einem falschen Titel und falschen Autorenangaben erstellt hatte. Die Anwälte des Unternehmens räumten ein, dass ihre routinemäßige Überprüfung der Zitate diesen Fehler sowie mehrere andere Ungenauigkeiten, die durch Claudes "Halluzinationen" verursacht wurden, nicht aufgedeckt hat.
Anthropic entschuldigte sich für das Versehen und bezeichnete den Vorfall als "ehrlichen Zitierfehler und nicht als Fälschung von Autoritäten".
Anfang dieser Woche hatten die Anwälte der Universal Music Group und anderer Musikverlage Anthropics Sachverständige, die Angestellte Olivia Chen, beschuldigt, sich in ihrer Aussage auf gefälschte Artikel bezogen zu haben, die angeblich Claude benutzt hätten. Daraufhin forderte Bundesrichterin Susan van Keulen eine Stellungnahme von Anthropic zu diesen Vorwürfen.
Die von den Musikverlegern eingereichte Klage ist Teil mehrerer Konflikte zwischen Urheberrechtsinhabern und Technologieunternehmen wegen des angeblichen Missbrauchs ihrer Inhalte zur Entwicklung generativer KI-Tools.
Dies ist ein weiterer Fall, in dem der Einsatz von KI in Gerichtsverfahren zu unbeabsichtigten Konsequenzen geführt hat. Anfang dieser Woche kritisierte ein kalifornischer Richter zwei Anwaltskanzleien, weil sie vor seinem Gericht "gefälschte KI-generierte Forschungsergebnisse" eingereicht hatten. Im Januar wurde ein australischer Anwalt entlarvt, weil er beim Verfassen von Gerichtsdokumenten ChatGPT verwendet hatte, was zu fehlerhaften Zitaten führte.
Trotz solcher Vorfälle erhalten Start-ups weiterhin beträchtliche Finanzmittel für die Automatisierung von Rechtsprozessen. Harvey, das generative KI-Modelle zur Unterstützung von Anwälten einsetzt, befindet sich Berichten zufolge in Gesprächen, um mehr als 250 Millionen Dollar bei einer Bewertung von über 5 Milliarden Dollar zu erhalten.
Techcrunch-Veranstaltung ### Besuchen Sie uns bei den TechCrunch Sessions: AI
Sichern Sie sich Ihren Platz bei unserer wichtigsten Veranstaltung der KI-Branche mit Rednern von OpenAI, Anthropic und Cohere. Für einen begrenzten Zeitraum kosten die Tickets nur 292 $ für einen ganzen Tag voller Expertenvorträge, Workshops und wertvoller Networking-Möglichkeiten.
Stellen Sie bei den TechCrunch Sessions aus: AI
Buchen Sie Ihre展位 bei TC Sessions: AI und präsentieren Sie Ihre Innovationen vor mehr als 1.200 Entscheidungsträgern, ohne das Budget zu sprengen. Verfügbar bis zum 9. Mai oder solange der Vorrat reicht.
Berkeley, CA | 5. Juni JETZT ANMELDEN
Anthropic baut seine Partnerschaften im Bereich Rechenleistung mit Google und Broadrom aus
Das KI-Forschungslabor Anthropic gab am Montag eine neue Vereinbarung mit Google und Broadcom bekannt, um die Rechenleistung seiner Claude-KI-Modelle deutlich zu steigern. Diese Neuausrichtung seiner
Claude holt gegenüber ChatGPT auf, da Nutzer abwandern
Nach einer Reihe von Kontroversen um ChatGPT und dessen Mutterunternehmen OpenAI wechseln immer mehr Nutzer zu Claude.Der Wendepunkt kam, nachdem Anthropic, der Entwickler von Claude, eine Anfrage des
Was die Konfrontation zwischen Anthropic und dem Pentagon für die nationale Sicherheit bedeutet
Die letzten zwei Wochen standen ganz im Zeichen einer öffentlichen Auseinandersetzung zwischen Dario Amodei, dem CEO von Anthropic, und Verteidigungsminister Pete Hegseth, bei der es um den Einsatz vo
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





Heim






