O juiz critica o empresário da IA ​​por empregar 'advogado' gerado pela IA no tribunal

O movimento ousado de um homem para usar um avatar gerado pela IA em seu apelo legal certamente chamou a atenção de um tribunal de Nova York, embora não da maneira que ele poderia ter esperado.

Jerome Dewald, um empresário de 74 anos por trás de uma startup que afirma "revolucionar a auto-representação legal com a IA", enfrentou uma repreensão severa durante uma audiência de disputa de emprego em 26 de março. O problema? Ele não divulgou aos juízes que a pessoa que apresentava seu argumento oral foi gerada artificialmente. Embora o tribunal tenha dado a Dewald o Green Light para enviar um vídeo, o juiz Sallie Manzanet-Daniels ficou surpreso quando um rosto desconhecido, claramente não Dewald, apareceu na tela.

"Hold on", Manzanet-Daniels interrompeu, apenas uma frase no discurso do avatar. "Esse é um advogado para o caso?"

"Eu gerei isso", admitiu Dewald. "Não é uma pessoa real."

Dewald explicou a * o registro * que o avatar, um "grande e bonito pedaço de um cara" chamado Jim, era uma das opções de ações de uma empresa de avatar de AI chamada Tavus. Ele enviou o vídeo devido a seus desafios com a fala prolongada, mas o tribunal não sabia que o vídeo foi gerado pela IA.

"Teria sido bom saber que, quando você fez sua aplicação. Você não me disse que, senhor, eu não aprecio ser enganado", respondeu Manzanet-Daniels após a confissão de Dewald. "Você não vai usar esse tribunal como um lançamento para o seu negócio".

Mishaps de IA recentes em ambientes legais

Esse incidente faz parte de uma lista crescente de contratempos, onde a IA e os processos legais se cruzam. Em 2023, dois advogados e seu escritório de advocacia enfrentaram multas por enviar pesquisas legais fictícias geradas pelo ChatGPT. Da mesma forma, a empresa "advogada de robôs", Donotpay, recebeu um acordo com um acordo de US $ 193.000 pela FTC em fevereiro por afirmar falsamente que sua representação legal de IA correspondia à eficácia dos advogados humanos.

Esses casos destacam a importância da transparência e da cautela ao integrar a IA em procedimentos legais. À medida que a tecnologia continua a evoluir, é crucial que os usuários sejam iniciais sobre o uso de ferramentas de IA para manter a integridade e a confiança no sistema judicial.