Le juge critique l'entrepreneur de l'IA pour avoir employé un «avocat» généré par l'IA au tribunal

Un homme a audacieusement choisi d'utiliser un avatar généré par IA dans son appel juridique, ce qui a certainement attiré l'attention d'un tribunal de New York, bien que pas de la manière qu'il aurait pu espérer.

Jerome Dewald, un entrepreneur de 74 ans à la tête d'une startup prétendant "révolutionner l'auto-représentation juridique avec l'IA", a reçu une sévère réprimande lors d'une audience sur un litige professionnel le 26 mars. Le problème ? Il n'a pas révélé aux juges que la personne présentant son argumentation orale était artificiellement générée. Bien que le tribunal ait autorisé Dewald à soumettre une vidéo, la juge Sallie Manzanet-Daniels a été stupéfaite lorsqu'un visage inconnu, clairement pas celui de Dewald, est apparu à l'écran.

"Attendez," a interrompu Manzanet-Daniels, à peine une phrase dans le discours de l'avatar. "Est-ce l'avocat de l'affaire ?"

"Je l'ai généré," a admis Dewald. "Ce n'est pas une vraie personne."

Dewald a expliqué à *The Register* que l'avatar, un "grand et bel homme" nommé Jim, était l'une des options standard d'une entreprise d'avatars IA appelée Tavus. Il a soumis la vidéo en raison de ses difficultés à parler longtemps, mais le tribunal ignorait que la vidéo était générée par IA.

"Il aurait été agréable de le savoir lorsque vous avez fait votre demande. Vous ne me l'avez pas dit, monsieur, je n'apprécie pas d'être induite en erreur," a rétorqué Manzanet-Daniels après l'aveu de Dewald. "Vous n'allez pas utiliser ce tribunal comme tremplin pour votre entreprise."

Récents déboires de l'IA dans les contextes juridiques

Cet incident s'inscrit dans une liste croissante de déboires où l'IA et les processus juridiques se croisent. En 2023, deux avocats et leur cabinet ont été sanctionnés pour avoir soumis des recherches juridiques fictives générées par ChatGPT. De même, l'entreprise de "robot avocat" DoNotPay a été condamnée à une amende de 193 000 $ par la FTC en février pour avoir faussement prétendu que sa représentation juridique par IA était aussi efficace que celle des avocats humains.

Ces cas soulignent l'importance de la transparence et de la prudence lors de l'intégration de l'IA dans les procédures judiciaires. À mesure que la technologie continue d'évoluer, il est crucial pour les utilisateurs d'être honnêtes sur leur utilisation des outils d'IA pour maintenir l'intégrité et la confiance au sein du système judiciaire.