Hogar
Anthropic admite el error de Claude AI en un escrito legal y lo califica de vergonzoso y no intencionado

Anthropic ha respondido a las acusaciones relativas a una fuente generada por IA en su actual disputa legal con los editores de música, caracterizando el incidente como un "error de citación involuntario" cometido por su chatbot Claude.
La cita en cuestión aparecía el 30 de abril en una demanda presentada por Olivia Chen, científica de datos de Anthropic, como parte de la defensa de la empresa contra las acusaciones de que Claude había sido entrenado utilizando letras de canciones protegidas por derechos de autor. Durante los procedimientos judiciales, los abogados que representan a Universal Music Group y a otros editores señalaron que las fuentes citadas podían ser falsas, sugiriendo que podrían haber sido inventadas por el sistema de IA de Anthropic.
En una respuesta presentada recientemente, la abogada defensora de Anthropic, Ivana Dukanovic, aclaró que, aunque el material citado era auténtico, Claude había sido empleado para dar formato a las citas legales del documento. La empresa reconoció que, si bien las comprobaciones automáticas detectaron y corrigieron el volumen y los números de página inexactos generados por la IA, algunas imprecisiones de redacción no se detectaron durante la revisión manual.
Dukanovic explicó que "el sistema identificó correctamente el nombre de la publicación, el año y el enlace accesible, pero incluyó erróneamente títulos de artículos e información sobre el autor incorrectos", subrayando que se trataba de un error honesto y no de una tergiversación deliberada. Anthropic expresó su pesar por la confusión causada, describiendo el descuido como "un error desafortunado pero involuntario".
Este caso se une a una creciente lista de procedimientos judiciales en los que la citación asistida por IA ha creado complicaciones. Recientemente, un juez de California reprendió a unos abogados por no revelar el papel de la IA en la preparación de un escrito que contenía referencias jurídicas inexistentes. En diciembre, un investigador de desinformación admitió que ChatGPT había inventado citas en uno de sus escritos jurídicos.
Artículo relacionado
Google Fotos da vida al emblemático armario de «Clueless» gracias a la inteligencia artificial
Google Fotos anunció el miércoles una nueva función basada en la inteligencia artificial que pronto convertirá las fotos de tu ropa en un armario digital, lo que te permitirá crear nuevas combinacione
Notion convierte su espacio de trabajo en un centro para agentes de IA
Notion, la empresa de software de productividad, se adentra en la era de los agentes.Durante un anuncio de producto retransmitido en directo el miércoles, Notion —conocida sobre todo por su aplicación
ElevenLabs anuncia que BlackRock, Jamie Foxx y Eva Longoria se han convertido en nuevos inversores
ElevenLabs, la empresa de inteligencia artificial aplicada a la voz, ha dado a conocer nuevos inversores en su ronda de financiación de serie D, por valor de 500 millones de dólares, anunciada inicial
Recomendaciones de temas especiales relacionados
comentario (3)
0/500
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic ha respondido a las acusaciones relativas a una fuente generada por IA en su actual disputa legal con los editores de música, caracterizando el incidente como un "error de citación involuntario" cometido por su chatbot Claude.
La cita en cuestión aparecía el 30 de abril en una demanda presentada por Olivia Chen, científica de datos de Anthropic, como parte de la defensa de la empresa contra las acusaciones de que Claude había sido entrenado utilizando letras de canciones protegidas por derechos de autor. Durante los procedimientos judiciales, los abogados que representan a Universal Music Group y a otros editores señalaron que las fuentes citadas podían ser falsas, sugiriendo que podrían haber sido inventadas por el sistema de IA de Anthropic.
En una respuesta presentada recientemente, la abogada defensora de Anthropic, Ivana Dukanovic, aclaró que, aunque el material citado era auténtico, Claude había sido empleado para dar formato a las citas legales del documento. La empresa reconoció que, si bien las comprobaciones automáticas detectaron y corrigieron el volumen y los números de página inexactos generados por la IA, algunas imprecisiones de redacción no se detectaron durante la revisión manual.
Dukanovic explicó que "el sistema identificó correctamente el nombre de la publicación, el año y el enlace accesible, pero incluyó erróneamente títulos de artículos e información sobre el autor incorrectos", subrayando que se trataba de un error honesto y no de una tergiversación deliberada. Anthropic expresó su pesar por la confusión causada, describiendo el descuido como "un error desafortunado pero involuntario".
Este caso se une a una creciente lista de procedimientos judiciales en los que la citación asistida por IA ha creado complicaciones. Recientemente, un juez de California reprendió a unos abogados por no revelar el papel de la IA en la preparación de un escrito que contenía referencias jurídicas inexistentes. En diciembre, un investigador de desinformación admitió que ChatGPT había inventado citas en uno de sus escritos jurídicos.
Google Fotos da vida al emblemático armario de «Clueless» gracias a la inteligencia artificial
Google Fotos anunció el miércoles una nueva función basada en la inteligencia artificial que pronto convertirá las fotos de tu ropa en un armario digital, lo que te permitirá crear nuevas combinacione
Notion convierte su espacio de trabajo en un centro para agentes de IA
Notion, la empresa de software de productividad, se adentra en la era de los agentes.Durante un anuncio de producto retransmitido en directo el miércoles, Notion —conocida sobre todo por su aplicación
ElevenLabs anuncia que BlackRock, Jamie Foxx y Eva Longoria se han convertido en nuevos inversores
ElevenLabs, la empresa de inteligencia artificial aplicada a la voz, ha dado a conocer nuevos inversores en su ronda de financiación de serie D, por valor de 500 millones de dólares, anunciada inicial
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!











