Hogar
Anthropic admite el error de Claude AI en un escrito legal y lo califica de vergonzoso y no intencionado

Anthropic ha respondido a las acusaciones relativas a una fuente generada por IA en su actual disputa legal con los editores de música, caracterizando el incidente como un "error de citación involuntario" cometido por su chatbot Claude.
La cita en cuestión aparecía el 30 de abril en una demanda presentada por Olivia Chen, científica de datos de Anthropic, como parte de la defensa de la empresa contra las acusaciones de que Claude había sido entrenado utilizando letras de canciones protegidas por derechos de autor. Durante los procedimientos judiciales, los abogados que representan a Universal Music Group y a otros editores señalaron que las fuentes citadas podían ser falsas, sugiriendo que podrían haber sido inventadas por el sistema de IA de Anthropic.
En una respuesta presentada recientemente, la abogada defensora de Anthropic, Ivana Dukanovic, aclaró que, aunque el material citado era auténtico, Claude había sido empleado para dar formato a las citas legales del documento. La empresa reconoció que, si bien las comprobaciones automáticas detectaron y corrigieron el volumen y los números de página inexactos generados por la IA, algunas imprecisiones de redacción no se detectaron durante la revisión manual.
Dukanovic explicó que "el sistema identificó correctamente el nombre de la publicación, el año y el enlace accesible, pero incluyó erróneamente títulos de artículos e información sobre el autor incorrectos", subrayando que se trataba de un error honesto y no de una tergiversación deliberada. Anthropic expresó su pesar por la confusión causada, describiendo el descuido como "un error desafortunado pero involuntario".
Este caso se une a una creciente lista de procedimientos judiciales en los que la citación asistida por IA ha creado complicaciones. Recientemente, un juez de California reprendió a unos abogados por no revelar el papel de la IA en la preparación de un escrito que contenía referencias jurídicas inexistentes. En diciembre, un investigador de desinformación admitió que ChatGPT había inventado citas en uno de sus escritos jurídicos.
Artículo relacionado
Google presenta la IA «Agentic» para Gemini, que se lanzará primero para clientes empresariales
Durante un evento de Google Cloud celebrado el jueves, la empresa dio a conocer sus planes para integrar la IA Gemini en la era de los agentes. Este lanzamiento presenta un agente unificado capaz no s
Google presenta Dreambeans, su herramienta de IA más excéntrica hasta la fecha, para convertir tu vida en una historieta
Google Labs, la división encargada del diseño de productos experimentales, ha lanzado una nueva aplicación basada en inteligencia artificial para iOS y Android que da vida a tu día a día.Te presentamo
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
Recomendaciones de temas especiales relacionados
comentario (3)
0/500
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic ha respondido a las acusaciones relativas a una fuente generada por IA en su actual disputa legal con los editores de música, caracterizando el incidente como un "error de citación involuntario" cometido por su chatbot Claude.
La cita en cuestión aparecía el 30 de abril en una demanda presentada por Olivia Chen, científica de datos de Anthropic, como parte de la defensa de la empresa contra las acusaciones de que Claude había sido entrenado utilizando letras de canciones protegidas por derechos de autor. Durante los procedimientos judiciales, los abogados que representan a Universal Music Group y a otros editores señalaron que las fuentes citadas podían ser falsas, sugiriendo que podrían haber sido inventadas por el sistema de IA de Anthropic.
En una respuesta presentada recientemente, la abogada defensora de Anthropic, Ivana Dukanovic, aclaró que, aunque el material citado era auténtico, Claude había sido empleado para dar formato a las citas legales del documento. La empresa reconoció que, si bien las comprobaciones automáticas detectaron y corrigieron el volumen y los números de página inexactos generados por la IA, algunas imprecisiones de redacción no se detectaron durante la revisión manual.
Dukanovic explicó que "el sistema identificó correctamente el nombre de la publicación, el año y el enlace accesible, pero incluyó erróneamente títulos de artículos e información sobre el autor incorrectos", subrayando que se trataba de un error honesto y no de una tergiversación deliberada. Anthropic expresó su pesar por la confusión causada, describiendo el descuido como "un error desafortunado pero involuntario".
Este caso se une a una creciente lista de procedimientos judiciales en los que la citación asistida por IA ha creado complicaciones. Recientemente, un juez de California reprendió a unos abogados por no revelar el papel de la IA en la preparación de un escrito que contenía referencias jurídicas inexistentes. En diciembre, un investigador de desinformación admitió que ChatGPT había inventado citas en uno de sus escritos jurídicos.
Google presenta la IA «Agentic» para Gemini, que se lanzará primero para clientes empresariales
Durante un evento de Google Cloud celebrado el jueves, la empresa dio a conocer sus planes para integrar la IA Gemini en la era de los agentes. Este lanzamiento presenta un agente unificado capaz no s
Google presenta Dreambeans, su herramienta de IA más excéntrica hasta la fecha, para convertir tu vida en una historieta
Google Labs, la división encargada del diseño de productos experimentales, ha lanzado una nueva aplicación basada en inteligencia artificial para iOS y Android que da vida a tu día a día.Te presentamo
Stripe adquirirá OpenRouter a medida que el enrutamiento basado en modelos de IA cobra impulso
Stripe ha acordado adquirir OpenRouter, una plataforma de enrutamiento de modelos de IA que ofrece a los desarrolladores acceso a cientos de modelos a través de una única interfaz. El acuerdo amplía e
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!











