Abogado de Anthropic se disculpa tras la alucinación de Claude citando jurisprudencia

Recientemente, un abogado que representa a Anthropic ha reconocido el uso de una cita incorrecta generada por el chatbot Claude AI de la empresa durante su actual disputa legal con los editores de música. La admisión se produjo a través de una presentación judicial en un tribunal del norte de California el jueves.

Anthropic declaró en la presentación, de la que informó Bloomberg en primer lugar, que Claude había fabricado la cita con un título y unos datos de autor incorrectos. Los abogados de la empresa admitieron que sus comprobaciones rutinarias de citas no detectaron el error, junto con varias otras inexactitudes causadas por las "alucinaciones" de Claude.

Al disculparse por el descuido, Anthropic describió el incidente como "un error honesto de citación y no una invención de la autoridad".

A principios de esta semana, los abogados de Universal Music Group y otros editores de música acusaron a la testigo experta de Anthropic, la empleada Olivia Chen, de hacer referencia a artículos inventados en su testimonio, supuestamente utilizando a Claude. A raíz de ello, la juez federal Susan van Keulen solicitó a Anthropic una respuesta sobre estas afirmaciones.

La demanda presentada por los editores de música forma parte de múltiples conflictos entre titulares de derechos de autor y empresas tecnológicas por el supuesto uso indebido de sus contenidos para desarrollar herramientas de IA generativa.

Se trata de otro caso en el que el uso de la IA en procedimientos judiciales ha tenido consecuencias imprevistas. A principios de esta semana, un juez de California criticó a dos bufetes de abogados por presentar ante su tribunal "investigaciones falsas generadas por IA". En enero, un abogado australiano fue denunciado por utilizar ChatGPT en la redacción de documentos judiciales, lo que dio lugar a citas erróneas.

A pesar de estos incidentes, las startups siguen atrayendo importantes fondos para automatizar los procesos judiciales. Harvey, que emplea modelos generativos de inteligencia artificial para ayudar a los abogados, está en conversaciones para conseguir más de 250 millones de dólares con una valoración superior a 5.000 millones.

Evento Techcrunch ### Únase a nosotros en TechCrunch Sessions: AI

Reserva tu plaza en nuestro principal evento del sector de la IA, con ponentes de OpenAI, Anthropic y Cohere. Durante un periodo limitado, las entradas tienen un precio de sólo 292 $ para un día completo de presentaciones de expertos, talleres y valiosas oportunidades para establecer contactos.

Exponga en TechCrunch Sessions: AI

Reserve su exposici展 en TC Sessions: AI y muestre sus innovaciones a más de 1.200 responsables de la toma de decisiones sin arruinarse. Disponible hasta el 9 de mayo o hasta agotar plazas.

Berkeley, CA | 5 de junio REGÍSTRESE AHORA