Le juge critique l'entrepreneur de l'IA pour avoir employé un «avocat» généré par l'IA au tribunal

Le déménagement audacieux d'un homme d'utiliser un avatar généré par l'AI dans son appel juridique a certainement attiré l'attention d'une salle d'audience de New York, mais pas de la manière dont il aurait pu espérer.

Jerome Dewald, un entrepreneur de 74 ans derrière une startup prétendant "révolutionner l'auto-représentation légale avec l'IA", a fait face à une réprimande sévère lors d'une audience sur les différends d'emploi le 26 mars. Le problème? Il n'a pas révélé aux juges que la personne présentant son argument oral a été générée artificiellement. Bien que le tribunal ait donné à Dewald le feu vert pour soumettre une vidéo, le juge Sallie Manzanet-Daniels a été surpris lorsqu'un visage inconnu, clairement pas Dewald, est apparu à l'écran.

"Attendez," interdisa Manzanet-Daniels, à peine une phrase dans le discours de l'avatar. "Est-ce que cet avocat est de l'affaire?"

"J'ai généré cela", a admis Dewald. "Ce n'est pas une vraie personne."

Dewald a expliqué au * Registre * que l'avatar, un "grand et beau morceau d'un gars" nommé Jim, était l'une des options d'achat d'actions d'une société AI Avatar appelée Tavus. Il a soumis la vidéo en raison de ses défis avec une parole prolongée, mais le tribunal n'était pas au courant que la vidéo était générée par l'AI.

"Il aurait été agréable de savoir que lorsque vous avez fait votre demande. Vous ne m'avez pas dit que, monsieur, je n'apprécie pas d'être induit en erreur", a rétorqué Manzanet-Daniels après la confession de Dewald. "Vous n'utiliserez pas cette salle d'audience comme lancement pour votre entreprise."

Les mésaventures d'IA récentes en milieu juridique

Cet incident fait partie d'une liste croissante de mésaventures où l'IA et les processus juridiques se croisent. En 2023, deux avocats et leur cabinet d'avocats ont fait face à des sanctions pour avoir soumis des recherches juridiques fictives générées par Chatgpt. De même, la société "Robot Lawyer" Donotpay a été giflée avec un règlement de 193 000 $ par la FTC en février pour avoir prétendu que sa représentation juridique de l'IA correspondait à l'efficacité des avocats humains.

Ces cas mettent en évidence l'importance de la transparence et de la prudence lors de l'intégration de l'IA dans les procédures judiciaires. Alors que la technologie continue d'évoluer, il est crucial que les utilisateurs soient francs sur leur utilisation des outils d'IA pour maintenir l'intégrité et la confiance dans le système judiciaire.