Juez reprende a abogados por 'investigación falsa de IA'

Juez sanciona a bufetes de abogados por usar IA sin revelarlo
En un fallo reciente, el juez de California Michael Wilner impuso una multa de $31,000 a dos prominentes bufetes de abogados por depender secretamente de la inteligencia artificial durante un juicio civil. Según el juez Wilner, los bufetes presentaron un escrito lleno de “citas y referencias legales falsas, inexactas y engañosas”. Según informaron los profesores de derecho Eric Goldman y Blake Reid en Bluesky, el juez expresó su frustración por lo que consideró una negligencia temeraria respecto a los estándares profesionales.
“Confíe en el escrito que leí,” escribió el juez Wilner en su fallo. “Me convencieron las autoridades que citaron, así que investigué esos casos por mi cuenta. Pero no existían. Fue aterrador. Estuve a punto de firmar una orden judicial basada en información falsa.”
Según documentos judiciales, el problema comenzó cuando el equipo legal del demandante contrató una herramienta de IA para elaborar un esquema para un escrito suplementario. Sin embargo, este esquema estaba lleno de contenido fabricado cuando se entregó a K&L Gates, otro bufete involucrado en el caso. Desafortunadamente, ninguno de los bufetes se molestó en verificar o confirmar la información antes de presentarla.
El juez Wilner descubrió que “al menos dos de las autoridades citadas eran completamente inexistentes”. Cuando se les pidió aclaraciones, K&L Gates volvió a presentar el escrito, solo para que el juez descubriera aún más referencias fabricadas. En respuesta, emitió una Orden para Mostrar Causa, lo que llevó a ambas partes a admitir la verdad bajo juramento. El abogado responsable de crear el esquema original confesó haber usado Google Gemini y herramientas de investigación legal como Westlaw Precision con CoCounsel.
Un patrón de mal uso
No es la primera vez que abogados enfrentan problemas por el mal uso de la IA. El exabogado de Trump, Michael Cohen, una vez citó casos judiciales inexistentes tras confundir Google Gemini, entonces conocido como Bard, con un motor de búsqueda regular. De manera similar, un juez en Colombia encontró que abogados que demandaban a una aerolínea habían incluido en su escrito casos falsos generados por ChatGPT.
“Todo este episodio ha sido nada menos que alarmante,” concluyó el juez Wilner. “La decisión inicial de confiar en la IA sin revelarlo fue inaceptable. Enviar material tan defectuoso a otros profesionales sin advertirles sobre su origen cuestionable puso a todos en riesgo.”
Implicaciones más amplias
El fallo destaca una creciente preocupación entre los profesionales del derecho sobre las implicaciones éticas de usar IA en presentaciones judiciales. Aunque las herramientas de IA prometen eficiencia y precisión, también conllevan el riesgo de difundir desinformación si no se verifican adecuadamente. Como enfatizó el juez Wilner, “Ningún abogado razonablemente competente debería delegar su investigación o redacción a un algoritmo sin verificar su resultado.”
El caso sirve como un recordatorio claro de la importancia de la transparencia y la responsabilidad en la práctica legal. A medida que la IA continúa evolucionando, sigue siendo crucial que los profesionales actúen con cuidado, asegurando que la tecnología mejore, y no socave, la integridad del sistema judicial.
Artículo relacionado
Google presenta la IA «Agentic» para Gemini, que se lanzará primero para clientes empresariales
Durante un evento de Google Cloud celebrado el jueves, la empresa dio a conocer sus planes para integrar la IA Gemini en la era de los agentes. Este lanzamiento presenta un agente unificado capaz no s
Google presenta Dreambeans, su herramienta de IA más excéntrica hasta la fecha, para convertir tu vida en una historieta
Google Labs, la división encargada del diseño de productos experimentales, ha lanzado una nueva aplicación basada en inteligencia artificial para iOS y Android que da vida a tu día a día.Te presentamo
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
Recomendaciones de temas especiales relacionados
comentario (4)
0/500
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

Juez sanciona a bufetes de abogados por usar IA sin revelarlo
En un fallo reciente, el juez de California Michael Wilner impuso una multa de $31,000 a dos prominentes bufetes de abogados por depender secretamente de la inteligencia artificial durante un juicio civil. Según el juez Wilner, los bufetes presentaron un escrito lleno de “citas y referencias legales falsas, inexactas y engañosas”. Según informaron los profesores de derecho Eric Goldman y Blake Reid en Bluesky, el juez expresó su frustración por lo que consideró una negligencia temeraria respecto a los estándares profesionales.
“Confíe en el escrito que leí,” escribió el juez Wilner en su fallo. “Me convencieron las autoridades que citaron, así que investigué esos casos por mi cuenta. Pero no existían. Fue aterrador. Estuve a punto de firmar una orden judicial basada en información falsa.”
Según documentos judiciales, el problema comenzó cuando el equipo legal del demandante contrató una herramienta de IA para elaborar un esquema para un escrito suplementario. Sin embargo, este esquema estaba lleno de contenido fabricado cuando se entregó a K&L Gates, otro bufete involucrado en el caso. Desafortunadamente, ninguno de los bufetes se molestó en verificar o confirmar la información antes de presentarla.
El juez Wilner descubrió que “al menos dos de las autoridades citadas eran completamente inexistentes”. Cuando se les pidió aclaraciones, K&L Gates volvió a presentar el escrito, solo para que el juez descubriera aún más referencias fabricadas. En respuesta, emitió una Orden para Mostrar Causa, lo que llevó a ambas partes a admitir la verdad bajo juramento. El abogado responsable de crear el esquema original confesó haber usado Google Gemini y herramientas de investigación legal como Westlaw Precision con CoCounsel.
Un patrón de mal uso
No es la primera vez que abogados enfrentan problemas por el mal uso de la IA. El exabogado de Trump, Michael Cohen, una vez citó casos judiciales inexistentes tras confundir Google Gemini, entonces conocido como Bard, con un motor de búsqueda regular. De manera similar, un juez en Colombia encontró que abogados que demandaban a una aerolínea habían incluido en su escrito casos falsos generados por ChatGPT.
“Todo este episodio ha sido nada menos que alarmante,” concluyó el juez Wilner. “La decisión inicial de confiar en la IA sin revelarlo fue inaceptable. Enviar material tan defectuoso a otros profesionales sin advertirles sobre su origen cuestionable puso a todos en riesgo.”
Implicaciones más amplias
El fallo destaca una creciente preocupación entre los profesionales del derecho sobre las implicaciones éticas de usar IA en presentaciones judiciales. Aunque las herramientas de IA prometen eficiencia y precisión, también conllevan el riesgo de difundir desinformación si no se verifican adecuadamente. Como enfatizó el juez Wilner, “Ningún abogado razonablemente competente debería delegar su investigación o redacción a un algoritmo sin verificar su resultado.”
El caso sirve como un recordatorio claro de la importancia de la transparencia y la responsabilidad en la práctica legal. A medida que la IA continúa evolucionando, sigue siendo crucial que los profesionales actúen con cuidado, asegurando que la tecnología mejore, y no socave, la integridad del sistema judicial.
Google presenta la IA «Agentic» para Gemini, que se lanzará primero para clientes empresariales
Durante un evento de Google Cloud celebrado el jueves, la empresa dio a conocer sus planes para integrar la IA Gemini en la era de los agentes. Este lanzamiento presenta un agente unificado capaz no s
Google presenta Dreambeans, su herramienta de IA más excéntrica hasta la fecha, para convertir tu vida en una historieta
Google Labs, la división encargada del diseño de productos experimentales, ha lanzado una nueva aplicación basada en inteligencia artificial para iOS y Android que da vida a tu día a día.Te presentamo
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





Hogar






