Juiz critica advogados por pesquisa de IA falsa

Juiz Penaliza Escritórios de Advocacia por Usarem IA Sem Divulgação

Em uma decisão recente, o juiz da Califórnia Michael Wilner impôs uma multa pesada de $31.000 a dois proeminentes escritórios de advocacia por usarem inteligência artificial secretamente durante um processo civil. Segundo o juiz Wilner, os escritórios apresentaram um documento repleto de “citações e referências legais falsas, imprecisas e enganosas”. Conforme relatado pelos professores de direito Eric Goldman e Blake Reid no Bluesky, o juiz expressou sua frustração com o que considerou um desrespeito imprudente aos padrões profissionais.

“Confiei no documento que li,” escreveu o juiz Wilner em sua decisão. “Fui convencido pelas autoridades que eles referenciaram, então aprofundei para explorar esses casos por mim mesmo. Mas eles não existiam. Foi aterrorizante. Quase assinei uma ordem judicial baseada em informações falsas.”

De acordo com documentos do tribunal, o problema começou quando a equipe jurídica do autor contratou uma ferramenta de IA para elaborar um esboço para um documento suplementar. Esse esboço, no entanto, estava cheio de conteúdo fabricado quando foi entregue ao K&L Gates, outro escritório de advocacia envolvido no caso. Infelizmente, nenhum dos escritórios se preocupou em verificar ou checar as informações antes de submetê-las.

O juiz Wilner descobriu que “pelo menos duas das autoridades citadas eram completamente inexistentes”. Quando pressionado por esclarecimentos, o K&L Gates reapresentou o documento, apenas para o juiz descobrir ainda mais referências fabricadas. Em resposta, ele emitiu uma Ordem para Mostrar Causa, levando ambas as partes a admitirem a verdade sob juramento. O advogado responsável por criar o esboço original confessou ter usado Google Gemini e ferramentas de pesquisa jurídica como Westlaw Precision com CoCounsel.

Um Padrão de Uso Indevido

Não é a primeira vez que advogados enfrentam problemas por uso indevido de IA. O ex-advogado de Trump, Michael Cohen, uma vez citou casos judiciais inexistentes após tratar erroneamente o Google Gemini, então conhecido como Bard, como um motor de busca comum. Da mesma forma, um juiz na Colômbia descobriu que advogados processando uma companhia aérea haviam incluído em seu documento casos falsos gerados pelo ChatGPT.

“Todo esse episódio foi nada menos que alarmante,” concluiu o juiz Wilner. “A decisão inicial de confiar na IA sem divulgação foi inaceitável. Enviar material tão defeituoso a outros profissionais sem avisá-los sobre sua origem questionável colocou todos em risco.”

As Implicações Mais Amplas

A decisão destaca uma crescente preocupação entre profissionais do direito sobre as implicações éticas do uso de IA em documentos judiciais. Embora as ferramentas de IA prometam eficiência e precisão, elas também trazem o risco de espalhar desinformação se não forem devidamente verificadas. Como enfatizou o juiz Wilner, “Nenhum advogado razoavelmente competente deveria terceirizar sua pesquisa ou redação para um algoritmo sem verificar sua saída.”

O caso serve como um lembrete claro da importância da transparência e responsabilidade na prática jurídica. À medida que a IA continua a evoluir, permanece crucial que os profissionais ajam com cautela, garantindo que a tecnologia aprimore—e não comprometa—a integridade do sistema de justiça.