Lar
Anthropic admite erro de IA de Claude em processo judicial e o chama de embaraçoso e não intencional

A Anthropic respondeu às acusações relacionadas a uma fonte gerada por IA em sua disputa legal em andamento com editoras de música, caracterizando o incidente como um "erro de citação não intencional" cometido por seu chatbot Claude.
A citação contestada apareceu em um processo judicial de 30 de abril apresentado pela cientista de dados da Anthropic, Olivia Chen, parte da defesa da empresa contra alegações de que Claude foi treinado usando letras de músicas protegidas por direitos autorais. Durante os procedimentos judiciais, os advogados que representam o Universal Music Group e outras editoras apontaram as fontes citadas como potencialmente fabricadas, sugerindo que elas poderiam ter sido inventadas pelo sistema de IA da Anthropic.
Em uma resposta apresentada recentemente, a advogada de defesa da Anthropic, Ivana Dukanovic, esclareceu que, embora o material citado fosse autêntico, Claude havia sido empregada para formatar as citações legais no documento. A empresa reconheceu que, embora as verificações automatizadas tenham detectado e corrigido volumes e números de página imprecisos gerados pela IA, certas imprecisões de fraseado não foram detectadas durante a revisão manual.
Dukanovic explicou: "O sistema identificou corretamente o nome da publicação, o ano e o link acessível, mas incluiu erroneamente títulos de artigos e informações de autores incorretos", enfatizando que isso representou um erro honesto e não uma deturpação deliberada. A Anthropic lamentou a confusão causada, descrevendo o descuido como "um erro infeliz, mas não intencional".
Esse caso se junta a uma lista crescente de procedimentos legais em que a citação assistida por IA criou complicações. Recentemente, um juiz da Califórnia repreendeu advogados por não divulgarem o papel da IA na preparação de um resumo contendo referências legais inexistentes. A questão ganhou mais atenção em dezembro do ano passado, quando um pesquisador de desinformação admitiu que o ChatGPT havia inventado citações em uma de suas apresentações legais.
Artigo relacionado
As visões gerais da IA do Google ganham espaço nos resultados de pesquisa
De acordo com o relatório “2026 Generative AI Landscape” da Similarweb, os resumos gerados por IA do Google apareceram em 43% das buscas nos EUA, um aumento significativo em relação aos 15% registrado
Empirik, apoiada pela Sequoia, arrecada US$ 21 milhões para prever interrupções antes que ocorram
Antes de ingressar na Sequoia Capital em 2020 como diretora de tecnologia digital e informação, Avon Puri passou mais de uma década liderando a infraestrutura na Rubrik e na VMware. Há três anos, quando os grandes modelos de linguagem começaram a mos
A ElevenLabs anuncia a entrada da BlackRock, Jamie Foxx e Longoria como novos investidores
ElevenLabs, líder em IA de voz, anunciou novos participantes em sua rodada de financiamento Série D de US$ 500 milhões, revelada inicialmente em fevereiro. A lista de investidores agora inclui grandes instituições como BlackRock, Wellington, D.E. Sha
Recomendações de tópicos especiais relacionados
Comentários (3)
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

A Anthropic respondeu às acusações relacionadas a uma fonte gerada por IA em sua disputa legal em andamento com editoras de música, caracterizando o incidente como um "erro de citação não intencional" cometido por seu chatbot Claude.
A citação contestada apareceu em um processo judicial de 30 de abril apresentado pela cientista de dados da Anthropic, Olivia Chen, parte da defesa da empresa contra alegações de que Claude foi treinado usando letras de músicas protegidas por direitos autorais. Durante os procedimentos judiciais, os advogados que representam o Universal Music Group e outras editoras apontaram as fontes citadas como potencialmente fabricadas, sugerindo que elas poderiam ter sido inventadas pelo sistema de IA da Anthropic.
Em uma resposta apresentada recentemente, a advogada de defesa da Anthropic, Ivana Dukanovic, esclareceu que, embora o material citado fosse autêntico, Claude havia sido empregada para formatar as citações legais no documento. A empresa reconheceu que, embora as verificações automatizadas tenham detectado e corrigido volumes e números de página imprecisos gerados pela IA, certas imprecisões de fraseado não foram detectadas durante a revisão manual.
Dukanovic explicou: "O sistema identificou corretamente o nome da publicação, o ano e o link acessível, mas incluiu erroneamente títulos de artigos e informações de autores incorretos", enfatizando que isso representou um erro honesto e não uma deturpação deliberada. A Anthropic lamentou a confusão causada, descrevendo o descuido como "um erro infeliz, mas não intencional".
Esse caso se junta a uma lista crescente de procedimentos legais em que a citação assistida por IA criou complicações. Recentemente, um juiz da Califórnia repreendeu advogados por não divulgarem o papel da IA na preparação de um resumo contendo referências legais inexistentes. A questão ganhou mais atenção em dezembro do ano passado, quando um pesquisador de desinformação admitiu que o ChatGPT havia inventado citações em uma de suas apresentações legais.
As visões gerais da IA do Google ganham espaço nos resultados de pesquisa
De acordo com o relatório “2026 Generative AI Landscape” da Similarweb, os resumos gerados por IA do Google apareceram em 43% das buscas nos EUA, um aumento significativo em relação aos 15% registrado
Empirik, apoiada pela Sequoia, arrecada US$ 21 milhões para prever interrupções antes que ocorram
Antes de ingressar na Sequoia Capital em 2020 como diretora de tecnologia digital e informação, Avon Puri passou mais de uma década liderando a infraestrutura na Rubrik e na VMware. Há três anos, quando os grandes modelos de linguagem começaram a mos
A ElevenLabs anuncia a entrada da BlackRock, Jamie Foxx e Longoria como novos investidores
ElevenLabs, líder em IA de voz, anunciou novos participantes em sua rodada de financiamento Série D de US$ 500 milhões, revelada inicialmente em fevereiro. A lista de investidores agora inclui grandes instituições como BlackRock, Wellington, D.E. Sha
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!











