Richter kritisiert Anwälte wegen fingierter KI-Forschung

Richter bestraft Anwaltskanzleien für den Einsatz von KI ohne Offenlegung
In einer kürzlich ergangenen Entscheidung verhängte der kalifornische Richter Michael Wilner gegen zwei prominente Anwaltskanzleien eine hohe Geldstrafe von 31.000 US-Dollar, weil sie heimlich künstliche Intelligenz in einem Zivilprozess einsetzten. Laut Richter Wilner reichten die Kanzleien ein Schriftstück ein, das mit „falschen, ungenauen und irreführenden juristischen Zitaten und Quellenangaben“ gefüllt war. Wie die Rechtsprofessoren Eric Goldman und Blake Reid auf Bluesky berichteten, äußerte der Richter seine Frustration über das, was er als rücksichtslosen Missbrauch professioneller Standards ansah.
„Ich habe dem Schriftstück, das ich gelesen habe, vertraut“, schrieb Richter Wilner in seiner Entscheidung. „Ich war von den zitierten Quellen überzeugt, also habe ich tiefer gegraben, um diese Fälle selbst zu prüfen. Aber sie existierten nicht. Es war erschreckend. Ich hätte beinahe eine gerichtliche Verfügung auf Basis falscher Informationen unterzeichnet.“
Laut Gerichtsdokumenten begann das Problem, als das Anwaltsteam der Klägerseite ein KI-Tool engagierte, um einen Entwurf für ein ergänzendes Schriftstück zu erstellen. Dieser Entwurf war jedoch voller erfundener Inhalte, als er an K&L Gates, eine weitere beteiligte Anwaltskanzlei, weitergegeben wurde. Leider überprüften beide Kanzleien die Informationen nicht, bevor sie sie einreichten.
Richter Wilner stellte fest, dass „mindestens zwei der zitierten Quellen völlig inexistent waren“. Auf Nachfrage reichte K&L Gates das Schriftstück erneut ein, nur um weitere erfundene Referenzen aufzudecken. Daraufhin erließ er eine Vorladung zur Klärung, die beide Seiten dazu zwang, die Wahrheit unter Eid zuzugeben. Der Anwalt, der den ursprünglichen Entwurf erstellt hatte, gestand, Google Gemini und juristische Recherchetools wie Westlaw Precision mit CoCounsel verwendet zu haben.
Ein Muster des Missbrauchs
Dies ist nicht der erste Fall, in dem Anwälte wegen Missbrauchs von KI in Schwierigkeiten geraten. Der ehemalige Trump-Anwalt Michael Cohen berief sich einmal auf nicht existierende Gerichtsfälle, nachdem er Google Gemini, damals bekannt als Bard, fälschlicherweise als reguläre Suchmaschine genutzt hatte. Ebenso stellte ein Richter in Kolumbien fest, dass Anwälte, die eine Fluggesellschaft verklagten, ihr Schriftstück mit gefälschten Fällen bestückt hatten, die von ChatGPT generiert wurden.
„Dieses ganze Ereignis war nichts weniger als alarmierend“, schloss Richter Wilner. „Die anfängliche Entscheidung, KI ohne Offenlegung zu nutzen, war inakzeptabel. Solch fehlerhaftes Material an andere Fachleute ohne Warnung über dessen fragwürdige Herkunft zu senden, brachte alle in Gefahr.“
Die größeren Auswirkungen
Die Entscheidung hebt eine wachsende Besorgnis unter Juristen über die ethischen Implikationen des Einsatzes von KI in Gerichtsdokumenten hervor. Während KI-Tools Effizienz und Genauigkeit versprechen, bergen sie auch das Risiko, Fehlinformationen zu verbreiten, wenn sie nicht richtig überprüft werden. Wie Richter Wilner betonte: „Kein vernünftig kompetenter Anwalt sollte seine Recherche oder sein Schreiben an einen Algorithmus auslagern, ohne dessen Ausgabe zu überprüfen.“
Der Fall dient als deutliche Erinnerung an die Bedeutung von Transparenz und Verantwortlichkeit in der juristischen Praxis. Da sich KI weiterentwickelt, bleibt es für Praktiker entscheidend, vorsichtig vorzugehen, um sicherzustellen, dass Technologie die Integrität des Rechtssystems stärkt – und nicht untergräbt.
Verwandter Artikel
Warner Music übernimmt das KI-Zuschreibungsstart-up Sureel AI
Warner Music Group (WMG) hat am Mittwoch bestätigt, dass es Sureel AI, ein Startup für KI-gestützte Attribution, übernimmt. Die proprietäre Technologie von Sureel generiert „AI-DNA“ für Musikstücke, indem sie diese in ihre Bestandteile zerlegt, um na
Amazon führt Alexa für den Einkauf ein und schiebt Rufus in den Hintergrund
Amazon hat Alexa for Shopping eingeführt, indem es den Rufus-Shopping-Chatbot mit Alexa+ in der App, auf der Website und auf Echo Show-Geräten zusammenführt.Der Assistent beantwortet Produktanfragen, vergleicht Artikel, verfolgt Preise und unterstüt
Microsoft, Azure und KI-Technologie bekämpfen die Risiken von Waldbränden in Kalifornien
Microsoft investiert in die KI-gestützte Erkennung von Waldbränden. Juan Lavista Ferres, CVP und Chief Data Scientist, erörtert Strategien zur Eindämmung von Umweltschäden.Laut der NASA betrifft der K
Empfehlungen zu verwandten Spezialthemen
Kommentare (4)
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

Richter bestraft Anwaltskanzleien für den Einsatz von KI ohne Offenlegung
In einer kürzlich ergangenen Entscheidung verhängte der kalifornische Richter Michael Wilner gegen zwei prominente Anwaltskanzleien eine hohe Geldstrafe von 31.000 US-Dollar, weil sie heimlich künstliche Intelligenz in einem Zivilprozess einsetzten. Laut Richter Wilner reichten die Kanzleien ein Schriftstück ein, das mit „falschen, ungenauen und irreführenden juristischen Zitaten und Quellenangaben“ gefüllt war. Wie die Rechtsprofessoren Eric Goldman und Blake Reid auf Bluesky berichteten, äußerte der Richter seine Frustration über das, was er als rücksichtslosen Missbrauch professioneller Standards ansah.
„Ich habe dem Schriftstück, das ich gelesen habe, vertraut“, schrieb Richter Wilner in seiner Entscheidung. „Ich war von den zitierten Quellen überzeugt, also habe ich tiefer gegraben, um diese Fälle selbst zu prüfen. Aber sie existierten nicht. Es war erschreckend. Ich hätte beinahe eine gerichtliche Verfügung auf Basis falscher Informationen unterzeichnet.“
Laut Gerichtsdokumenten begann das Problem, als das Anwaltsteam der Klägerseite ein KI-Tool engagierte, um einen Entwurf für ein ergänzendes Schriftstück zu erstellen. Dieser Entwurf war jedoch voller erfundener Inhalte, als er an K&L Gates, eine weitere beteiligte Anwaltskanzlei, weitergegeben wurde. Leider überprüften beide Kanzleien die Informationen nicht, bevor sie sie einreichten.
Richter Wilner stellte fest, dass „mindestens zwei der zitierten Quellen völlig inexistent waren“. Auf Nachfrage reichte K&L Gates das Schriftstück erneut ein, nur um weitere erfundene Referenzen aufzudecken. Daraufhin erließ er eine Vorladung zur Klärung, die beide Seiten dazu zwang, die Wahrheit unter Eid zuzugeben. Der Anwalt, der den ursprünglichen Entwurf erstellt hatte, gestand, Google Gemini und juristische Recherchetools wie Westlaw Precision mit CoCounsel verwendet zu haben.
Ein Muster des Missbrauchs
Dies ist nicht der erste Fall, in dem Anwälte wegen Missbrauchs von KI in Schwierigkeiten geraten. Der ehemalige Trump-Anwalt Michael Cohen berief sich einmal auf nicht existierende Gerichtsfälle, nachdem er Google Gemini, damals bekannt als Bard, fälschlicherweise als reguläre Suchmaschine genutzt hatte. Ebenso stellte ein Richter in Kolumbien fest, dass Anwälte, die eine Fluggesellschaft verklagten, ihr Schriftstück mit gefälschten Fällen bestückt hatten, die von ChatGPT generiert wurden.
„Dieses ganze Ereignis war nichts weniger als alarmierend“, schloss Richter Wilner. „Die anfängliche Entscheidung, KI ohne Offenlegung zu nutzen, war inakzeptabel. Solch fehlerhaftes Material an andere Fachleute ohne Warnung über dessen fragwürdige Herkunft zu senden, brachte alle in Gefahr.“
Die größeren Auswirkungen
Die Entscheidung hebt eine wachsende Besorgnis unter Juristen über die ethischen Implikationen des Einsatzes von KI in Gerichtsdokumenten hervor. Während KI-Tools Effizienz und Genauigkeit versprechen, bergen sie auch das Risiko, Fehlinformationen zu verbreiten, wenn sie nicht richtig überprüft werden. Wie Richter Wilner betonte: „Kein vernünftig kompetenter Anwalt sollte seine Recherche oder sein Schreiben an einen Algorithmus auslagern, ohne dessen Ausgabe zu überprüfen.“
Der Fall dient als deutliche Erinnerung an die Bedeutung von Transparenz und Verantwortlichkeit in der juristischen Praxis. Da sich KI weiterentwickelt, bleibt es für Praktiker entscheidend, vorsichtig vorzugehen, um sicherzustellen, dass Technologie die Integrität des Rechtssystems stärkt – und nicht untergräbt.
Warner Music übernimmt das KI-Zuschreibungsstart-up Sureel AI
Warner Music Group (WMG) hat am Mittwoch bestätigt, dass es Sureel AI, ein Startup für KI-gestützte Attribution, übernimmt. Die proprietäre Technologie von Sureel generiert „AI-DNA“ für Musikstücke, indem sie diese in ihre Bestandteile zerlegt, um na
Microsoft, Azure und KI-Technologie bekämpfen die Risiken von Waldbränden in Kalifornien
Microsoft investiert in die KI-gestützte Erkennung von Waldbränden. Juan Lavista Ferres, CVP und Chief Data Scientist, erörtert Strategien zur Eindämmung von Umweltschäden.Laut der NASA betrifft der K
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





Heim






