Hogar
Abogado de Anthropic se disculpa tras la alucinación de Claude citando jurisprudencia

Recientemente, un abogado que representa a Anthropic ha reconocido el uso de una cita incorrecta generada por el chatbot Claude AI de la empresa durante su actual disputa legal con los editores de música. La admisión se produjo a través de una presentación judicial en un tribunal del norte de California el jueves.
Anthropic declaró en la presentación, de la que informó Bloomberg en primer lugar, que Claude había fabricado la cita con un título y unos datos de autor incorrectos. Los abogados de la empresa admitieron que sus comprobaciones rutinarias de citas no detectaron el error, junto con varias otras inexactitudes causadas por las "alucinaciones" de Claude.
Al disculparse por el descuido, Anthropic describió el incidente como "un error honesto de citación y no una invención de la autoridad".
A principios de esta semana, los abogados de Universal Music Group y otros editores de música acusaron a la testigo experta de Anthropic, la empleada Olivia Chen, de hacer referencia a artículos inventados en su testimonio, supuestamente utilizando a Claude. A raíz de ello, la juez federal Susan van Keulen solicitó a Anthropic una respuesta sobre estas afirmaciones.
La demanda presentada por los editores de música forma parte de múltiples conflictos entre titulares de derechos de autor y empresas tecnológicas por el supuesto uso indebido de sus contenidos para desarrollar herramientas de IA generativa.
Se trata de otro caso en el que el uso de la IA en procedimientos judiciales ha tenido consecuencias imprevistas. A principios de esta semana, un juez de California criticó a dos bufetes de abogados por presentar ante su tribunal "investigaciones falsas generadas por IA". En enero, un abogado australiano fue denunciado por utilizar ChatGPT en la redacción de documentos judiciales, lo que dio lugar a citas erróneas.
A pesar de estos incidentes, las startups siguen atrayendo importantes fondos para automatizar los procesos judiciales. Harvey, que emplea modelos generativos de inteligencia artificial para ayudar a los abogados, está en conversaciones para conseguir más de 250 millones de dólares con una valoración superior a 5.000 millones.
Evento Techcrunch ### Únase a nosotros en TechCrunch Sessions: AI
Reserva tu plaza en nuestro principal evento del sector de la IA, con ponentes de OpenAI, Anthropic y Cohere. Durante un periodo limitado, las entradas tienen un precio de sólo 292 $ para un día completo de presentaciones de expertos, talleres y valiosas oportunidades para establecer contactos.
Exponga en TechCrunch Sessions: AI
Reserve su exposici展 en TC Sessions: AI y muestre sus innovaciones a más de 1.200 responsables de la toma de decisiones sin arruinarse. Disponible hasta el 9 de mayo o hasta agotar plazas.
Berkeley, CA | 5 de junio REGÍSTRESE AHORA
Artículo relacionado
Anthropic lanza Opus 4.8, que incluye una nueva herramienta dinámica para el flujo de trabajo
Anthropic presentó el jueves Opus 4.8, la última versión de su modelo público estrella. Con un precio idéntico al de su predecesor, esta actualización ya está disponible en todas las plataformas.Con s
Anthropic presenta «Claude Fable 5», una versión pública de «Mythos»
Anthropic pone a disposición del público en general, por primera vez, su modelo de IA más potente, aunque con medidas de seguridad establecidas.El martes, la empresa lanzó Claude Fable 5, la primera
SandboxAQ introduce la inteligencia artificial para el descubrimiento de fármacos en Claude, sin necesidad de tener un doctorado en informática.
El descubrimiento de fármacos sigue siendo uno de los desafíos más costosos en la industria moderna. Identificar una sola molécula viable puede llevar una década y miles de millones de dólares, y la mayoría de las candidatas terminan fracasando. Una
Recomendaciones de temas especiales relacionados
comentario (3)
0/500
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Recientemente, un abogado que representa a Anthropic ha reconocido el uso de una cita incorrecta generada por el chatbot Claude AI de la empresa durante su actual disputa legal con los editores de música. La admisión se produjo a través de una presentación judicial en un tribunal del norte de California el jueves.
Anthropic declaró en la presentación, de la que informó Bloomberg en primer lugar, que Claude había fabricado la cita con un título y unos datos de autor incorrectos. Los abogados de la empresa admitieron que sus comprobaciones rutinarias de citas no detectaron el error, junto con varias otras inexactitudes causadas por las "alucinaciones" de Claude.
Al disculparse por el descuido, Anthropic describió el incidente como "un error honesto de citación y no una invención de la autoridad".
A principios de esta semana, los abogados de Universal Music Group y otros editores de música acusaron a la testigo experta de Anthropic, la empleada Olivia Chen, de hacer referencia a artículos inventados en su testimonio, supuestamente utilizando a Claude. A raíz de ello, la juez federal Susan van Keulen solicitó a Anthropic una respuesta sobre estas afirmaciones.
La demanda presentada por los editores de música forma parte de múltiples conflictos entre titulares de derechos de autor y empresas tecnológicas por el supuesto uso indebido de sus contenidos para desarrollar herramientas de IA generativa.
Se trata de otro caso en el que el uso de la IA en procedimientos judiciales ha tenido consecuencias imprevistas. A principios de esta semana, un juez de California criticó a dos bufetes de abogados por presentar ante su tribunal "investigaciones falsas generadas por IA". En enero, un abogado australiano fue denunciado por utilizar ChatGPT en la redacción de documentos judiciales, lo que dio lugar a citas erróneas.
A pesar de estos incidentes, las startups siguen atrayendo importantes fondos para automatizar los procesos judiciales. Harvey, que emplea modelos generativos de inteligencia artificial para ayudar a los abogados, está en conversaciones para conseguir más de 250 millones de dólares con una valoración superior a 5.000 millones.
Evento Techcrunch ### Únase a nosotros en TechCrunch Sessions: AI
Reserva tu plaza en nuestro principal evento del sector de la IA, con ponentes de OpenAI, Anthropic y Cohere. Durante un periodo limitado, las entradas tienen un precio de sólo 292 $ para un día completo de presentaciones de expertos, talleres y valiosas oportunidades para establecer contactos.
Exponga en TechCrunch Sessions: AI
Reserve su exposici展 en TC Sessions: AI y muestre sus innovaciones a más de 1.200 responsables de la toma de decisiones sin arruinarse. Disponible hasta el 9 de mayo o hasta agotar plazas.
Berkeley, CA | 5 de junio REGÍSTRESE AHORA
Anthropic lanza Opus 4.8, que incluye una nueva herramienta dinámica para el flujo de trabajo
Anthropic presentó el jueves Opus 4.8, la última versión de su modelo público estrella. Con un precio idéntico al de su predecesor, esta actualización ya está disponible en todas las plataformas.Con s
Anthropic presenta «Claude Fable 5», una versión pública de «Mythos»
Anthropic pone a disposición del público en general, por primera vez, su modelo de IA más potente, aunque con medidas de seguridad establecidas.El martes, la empresa lanzó Claude Fable 5, la primera
SandboxAQ introduce la inteligencia artificial para el descubrimiento de fármacos en Claude, sin necesidad de tener un doctorado en informática.
El descubrimiento de fármacos sigue siendo uno de los desafíos más costosos en la industria moderna. Identificar una sola molécula viable puede llevar una década y miles de millones de dólares, y la mayoría de las candidatas terminan fracasando. Una
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.











