O juiz critica o empresário da IA ​​por empregar 'advogado' gerado pela IA no tribunal

A ousada decisão de um homem de usar um avatar gerado por IA em seu recurso legal certamente chamou a atenção de um tribunal de Nova York, embora não da maneira que ele poderia ter esperado.

Jerome Dewald, um empreendedor de 74 anos por trás de uma startup que afirma "revolucionar a autodefesa legal com IA," enfrentou uma repreensão severa durante uma audiência de disputa trabalhista em 26 de março. O problema? Ele não informou aos juízes que a pessoa apresentando seu argumento oral era artificialmente gerada. Embora o tribunal tivesse dado a Dewald o sinal verde para enviar um vídeo, a juíza Sallie Manzanet-Daniels ficou surpresa quando um rosto desconhecido, claramente não Dewald, apareceu na tela.

"Espere um momento," interrompeu Manzanet-Daniels, mal começada a fala do avatar. "Esse é o advogado do caso?"

"Eu gerei isso," admitiu Dewald. "Não é uma pessoa real."

Dewald explicou ao *The Register* que o avatar, um "homem grande e bonito" chamado Jim, era uma das opções padrão de uma empresa de avatares de IA chamada Tavus. Ele enviou o vídeo devido às suas dificuldades com fala prolongada, mas o tribunal não sabia que o vídeo era gerado por IA.

"Teria sido bom saber disso quando você fez seu pedido. Você não me disse isso, senhor, não aprecio ser enganada," retrucou Manzanet-Daniels após a confissão de Dewald. "Você não vai usar este tribunal como uma plataforma de lançamento para o seu negócio."

Recentos contratempos com IA em ambientes legais

Este incidente faz parte de uma lista crescente de contratempos onde IA e processos legais se cruzam. Em 2023, dois advogados e sua firma enfrentaram penalidades por apresentar pesquisas jurídicas fictícias geradas por ChatGPT. Da mesma forma, a empresa de "advogado robô" DoNotPay foi multada em um acordo de $193.000 pela FTC em fevereiro por afirmar falsamente que sua representação legal por IA tinha a mesma eficácia que advogados humanos.

Esses casos destacam a importância da transparência e cautela ao integrar IA em procedimentos legais. À medida que a tecnologia continua a evoluir, é crucial que os usuários sejam francos sobre o uso de ferramentas de IA para manter a integridade e a confiança no sistema judicial.