Richter kritisiert AI Unternehmer für die Beschäftigung von A-generierten "Anwalt" vor Gericht

Der kühne Schritt eines Mannes, einen von KI generierten Avatar in seinem Rechtsmittel zu verwenden, erregte sicherlich die Aufmerksamkeit eines New Yorker Gerichtssaals, allerdings nicht auf die Weise, die er sich erhofft haben könnte.

Jerome Dewald, ein 74-jähriger Unternehmer hinter einem Startup, das behauptet, "die rechtliche Selbstvertretung mit KI zu revolutionieren", wurde während einer Anhörung zu einem Arbeitsstreit am 26. März scharf getadelt. Das Problem? Er hatte den Richtern nicht mitgeteilt, dass die Person, die sein mündliches Plädoyer vorbrachte, künstlich generiert war. Obwohl das Gericht Dewald grünes Licht gegeben hatte, ein Video einzureichen, war Richterin Sallie Manzanet-Daniels verblüfft, als ein unbekanntes Gesicht, eindeutig nicht Dewald, auf dem Bildschirm erschien.

"Moment mal," unterbrach Manzanet-Daniels, kaum dass der Avatar mit seiner Rede begonnen hatte. "Ist das der Anwalt für den Fall?"

"Das habe ich generiert," gab Dewald zu. "Das ist keine echte Person."

Dewald erklärte gegenüber *The Register*, dass der Avatar, ein "großer, gutaussehender Kerl" namens Jim, eine der Standardoptionen eines KI-Avatar-Unternehmens namens Tavus war. Er reichte das Video ein, weil er Schwierigkeiten mit längerem Sprechen hatte, aber das Gericht wusste nicht, dass das Video von KI generiert war.

"Es wäre schön gewesen, das zu wissen, als Sie Ihren Antrag gestellt haben. Sie haben mir das nicht gesagt, mein Herr, ich schätze es nicht, getäuscht zu werden," entgegnete Manzanet-Daniels nach Dewalds Geständnis. "Sie werden diesen Gerichtssaal nicht als Startrampe für Ihr Unternehmen nutzen."

Jüngste KI-Pannen in rechtlichen Kontexten

Dieser Vorfall ist Teil einer wachsenden Liste von Pannen, bei denen KI und rechtliche Verfahren aufeinandertreffen. Im Jahr 2023 wurden zwei Anwälte und ihre Kanzlei bestraft, weil sie fiktive Rechtsrecherchen einreichten, die von ChatGPT generiert wurden. Ebenso wurde das Unternehmen "Robot Lawyer" DoNotPay im Februar von der FTC mit einer Strafe von 193.000 Dollar belegt, weil es fälschlicherweise behauptete, seine KI-Rechtsvertretung sei genauso effektiv wie menschliche Anwälte.

Diese Fälle verdeutlichen die Bedeutung von Transparenz und Vorsicht bei der Integration von KI in Gerichtsverfahren. Da die Technologie weiter voranschreitet, ist es entscheidend, dass Nutzer offen über den Einsatz von KI-Tools informieren, um die Integrität und das Vertrauen im Justizsystem zu wahren.