Juez reprende a abogados por 'investigación falsa de IA'

Juez sanciona a bufetes de abogados por usar IA sin revelarlo

En un fallo reciente, el juez de California Michael Wilner impuso una multa de $31,000 a dos prominentes bufetes de abogados por depender secretamente de la inteligencia artificial durante un juicio civil. Según el juez Wilner, los bufetes presentaron un escrito lleno de “citas y referencias legales falsas, inexactas y engañosas”. Según informaron los profesores de derecho Eric Goldman y Blake Reid en Bluesky, el juez expresó su frustración por lo que consideró una negligencia temeraria respecto a los estándares profesionales.

“Confíe en el escrito que leí,” escribió el juez Wilner en su fallo. “Me convencieron las autoridades que citaron, así que investigué esos casos por mi cuenta. Pero no existían. Fue aterrador. Estuve a punto de firmar una orden judicial basada en información falsa.”

Según documentos judiciales, el problema comenzó cuando el equipo legal del demandante contrató una herramienta de IA para elaborar un esquema para un escrito suplementario. Sin embargo, este esquema estaba lleno de contenido fabricado cuando se entregó a K&L Gates, otro bufete involucrado en el caso. Desafortunadamente, ninguno de los bufetes se molestó en verificar o confirmar la información antes de presentarla.

El juez Wilner descubrió que “al menos dos de las autoridades citadas eran completamente inexistentes”. Cuando se les pidió aclaraciones, K&L Gates volvió a presentar el escrito, solo para que el juez descubriera aún más referencias fabricadas. En respuesta, emitió una Orden para Mostrar Causa, lo que llevó a ambas partes a admitir la verdad bajo juramento. El abogado responsable de crear el esquema original confesó haber usado Google Gemini y herramientas de investigación legal como Westlaw Precision con CoCounsel.

Un patrón de mal uso

No es la primera vez que abogados enfrentan problemas por el mal uso de la IA. El exabogado de Trump, Michael Cohen, una vez citó casos judiciales inexistentes tras confundir Google Gemini, entonces conocido como Bard, con un motor de búsqueda regular. De manera similar, un juez en Colombia encontró que abogados que demandaban a una aerolínea habían incluido en su escrito casos falsos generados por ChatGPT.

“Todo este episodio ha sido nada menos que alarmante,” concluyó el juez Wilner. “La decisión inicial de confiar en la IA sin revelarlo fue inaceptable. Enviar material tan defectuoso a otros profesionales sin advertirles sobre su origen cuestionable puso a todos en riesgo.”

Implicaciones más amplias

El fallo destaca una creciente preocupación entre los profesionales del derecho sobre las implicaciones éticas de usar IA en presentaciones judiciales. Aunque las herramientas de IA prometen eficiencia y precisión, también conllevan el riesgo de difundir desinformación si no se verifican adecuadamente. Como enfatizó el juez Wilner, “Ningún abogado razonablemente competente debería delegar su investigación o redacción a un algoritmo sin verificar su resultado.”

El caso sirve como un recordatorio claro de la importancia de la transparencia y la responsabilidad en la práctica legal. A medida que la IA continúa evolucionando, sigue siendo crucial que los profesionales actúen con cuidado, asegurando que la tecnología mejore, y no socave, la integridad del sistema judicial.