Abogado de Anthropic se disculpa tras la alucinación de Claude citando jurisprudencia

En un desarrollo reciente, un abogado que representa a Anthropic reconoció el uso de una cita incorrecta generada por el chatbot Claude de la empresa durante su disputa legal en curso con editores de música. La admisión se realizó a través de un documento presentado en una sala de audiencias del norte de California el jueves.

Anthropic declaró en el documento, primero reportado por Bloomberg, que Claude había fabricado la cita con un título y detalles del autor incorrectos. Los abogados de la compañía admitieron que sus rutinarias comprobaciones de citas no detectaron el error, junto con varias otras inexactitudes causadas por las “alucinaciones” de Claude.

Disculpándose por el descuido, Anthropic describió el incidente como “un error honesto en la cita y no una falsificación de autoridad”.

A principios de esta semana, los abogados de Universal Music Group y otros editores de música acusaron a la testigo experta de Anthropic, la empleada Olivia Chen, de citar artículos ficticios en su testimonio, presuntamente utilizando a Claude. En respuesta, la Juez Federal Susan van Keulen solicitó una respuesta de Anthropic sobre estas acusaciones.

La demanda interpuesta por los editores de música forma parte de múltiples conflictos entre los titulares de derechos de autor y las empresas tecnológicas por el supuesto uso indebido de su contenido para desarrollar herramientas de IA generativa.

Esto marca otro caso en el que el uso de IA en procedimientos legales ha llevado a consecuencias no intencionadas. A principios de esta semana, un juez de California criticó a dos bufetes de abogados por presentar “investigaciones ficticias generadas por IA” en su tribunal. En enero, un abogado australiano fue expuesto por utilizar ChatGPT en la redacción de documentos judiciales, lo que resultó en citas defectuosas.

A pesar de estos incidentes, las startups continúan atrayendo importantes inversiones para automatizar procesos legales. Harvey, que emplea modelos de IA generativa para ayudar a los abogados, está en conversaciones para asegurar más de $250 millones con una valuación superior a los $5 mil millones.

Techcrunch evento ### Únete a nosotros en TechCrunch Sessions: IA

Reserva tu lugar en nuestro principal evento de la industria de IA con ponentes de OpenAI, Anthropic y Cohere. Durante un período limitado, los boletos tienen un precio de solo $292 para un día completo de presentaciones de expertos, talleres y valiosas oportunidades de networking.

Exponer en TechCrunch Sessions: IA

Reserva tu stand en TC Sessions: IA y muestra tus innovaciones a más de 1,200 tomadores de decisiones sin arruinarte. Disponible hasta el 9 de mayo o mientras haya cupo.

Berkeley, CA | 5 de junio REGÍSTRATE AHORA