El juez critica a la emprendedor de la IA por el empleo de 'abogado' generado por la IA en la corte

La audaz decisión de un hombre de usar un avatar generado por IA en su apelación legal ciertamente captó la atención de un tribunal de Nueva York, aunque no de la manera que él podría haber esperado.

Jerome Dewald, un emprendedor de 74 años detrás de una startup que afirma "revolucionar la autorrepresentación legal con IA", enfrentó una severa reprimenda durante una audiencia por una disputa laboral el 26 de marzo. ¿El problema? No informó a los jueces que la persona que presentaba su argumento oral fue generada artificialmente. Aunque el tribunal le había dado luz verde a Dewald para presentar un video, la jueza Sallie Manzanet-Daniels se sorprendió cuando apareció en pantalla un rostro desconocido, claramente no el de Dewald.

"Un momento", interrumpió Manzanet-Daniels, apenas una frase después de que comenzara el discurso del avatar. "¿Es ese el abogado del caso?"

"Yo lo generé", admitió Dewald. "No es una persona real".

Dewald explicó a *The Register* que el avatar, un "tipo grande y hermoso" llamado Jim, era una de las opciones predeterminadas de una empresa de avatares de IA llamada Tavus. Presentó el video debido a sus dificultades para hablar durante mucho tiempo, pero el tribunal no sabía que el video fue generado por IA.

"Hubiera sido bueno saberlo cuando hiciste tu solicitud. No me dijiste eso, señor, no aprecio que me engañen", respondió Manzanet-Daniels tras la confesión de Dewald. "No vas a usar este tribunal como plataforma de lanzamiento para tu negocio".

Recientes percances con IA en entornos legales

Este incidente forma parte de una lista creciente de percances donde la IA y los procesos legales se cruzan. En 2023, dos abogados y su firma enfrentaron sanciones por presentar investigaciones legales ficticias generadas por ChatGPT. De manera similar, la empresa de "abogado robot" DoNotPay recibió una multa de $193,000 por parte de la FTC en febrero por afirmar falsamente que su representación legal con IA igualaba la efectividad de los abogados humanos.

Estos casos resaltan la importancia de la transparencia y la precaución al integrar la IA en los procedimientos legales. A medida que la tecnología continúa evolucionando, es crucial que los usuarios sean claros sobre el uso de herramientas de IA para mantener la integridad y la confianza dentro del sistema judicial.