El juez critica a la emprendedor de la IA por el empleo de 'abogado' generado por la IA en la corte

El movimiento audaz de un hombre para usar un avatar generado por IA en su atractivo legal ciertamente llamó la atención de una sala del tribunal de Nueva York, aunque no de la manera que podría haber esperado.

Jerome Dewald, un emprendedor de 74 años detrás de una startup que afirma "revolucionar la autorrepresentación legal con IA", se enfrentó a una severa reprimenda durante una audiencia de disputas laboral el 26 de marzo. El problema? No pudo revelar a los jueces que la persona que presenta su argumento oral fue generado artificialmente. Aunque el tribunal le había dado a Dewald la luz verde para presentar un video, el juez Sallie Manzanet-Daniels se sorprendió cuando una cara desconocida, claramente no Dewald, apareció en la pantalla.

"Espera", intervino Manzanet-Daniels, apenas una oración al discurso del avatar. "¿Es ese abogado del caso?"

"Generé eso", admitió Dewald. "No es una persona real".

Dewald explicó a * el registro * que el avatar, un "gran y hermoso trozo de un chico" llamado Jim, era una de las opciones sobre acciones de una compañía AI Avatar llamada Tavus. Presentó el video debido a sus desafíos con un habla prolongada, pero el tribunal no sabía que el video fue generado por IA.

"Hubiera sido bueno saber que cuando hizo su solicitud. No me dijo eso, señor, no aprecio que me engañen", replicó Manzanet-Daniels después de la confesión de Dewald. "No vas a usar esta sala del tribunal como lanzamiento para tu negocio".

Recientes percances de IA en entornos legales

Este incidente es parte de una creciente lista de percances donde la IA y los procesos legales se cruzan. En 2023, dos abogados y su bufete de abogados enfrentaron sanciones por presentar una investigación legal ficticia generada por ChatGPT. Del mismo modo, la compañía de "abogado robot" Donotpay fue abofeteada con un acuerdo de $ 193,000 por la FTC en febrero por afirmar falsamente que su representación legal de IA coincidía con la efectividad de los abogados humanos.

Estos casos destacan la importancia de la transparencia y la precaución al integrar la IA en los procedimientos legales. A medida que la tecnología continúa evolucionando, es crucial que los usuarios sean iniciales sobre su uso de herramientas de IA para mantener la integridad y la confianza dentro del sistema judicial.