Lar
Anthropic admite erro de IA de Claude em processo judicial e o chama de embaraçoso e não intencional

A Anthropic respondeu às acusações relacionadas a uma fonte gerada por IA em sua disputa legal em andamento com editoras de música, caracterizando o incidente como um "erro de citação não intencional" cometido por seu chatbot Claude.
A citação contestada apareceu em um processo judicial de 30 de abril apresentado pela cientista de dados da Anthropic, Olivia Chen, parte da defesa da empresa contra alegações de que Claude foi treinado usando letras de músicas protegidas por direitos autorais. Durante os procedimentos judiciais, os advogados que representam o Universal Music Group e outras editoras apontaram as fontes citadas como potencialmente fabricadas, sugerindo que elas poderiam ter sido inventadas pelo sistema de IA da Anthropic.
Em uma resposta apresentada recentemente, a advogada de defesa da Anthropic, Ivana Dukanovic, esclareceu que, embora o material citado fosse autêntico, Claude havia sido empregada para formatar as citações legais no documento. A empresa reconheceu que, embora as verificações automatizadas tenham detectado e corrigido volumes e números de página imprecisos gerados pela IA, certas imprecisões de fraseado não foram detectadas durante a revisão manual.
Dukanovic explicou: "O sistema identificou corretamente o nome da publicação, o ano e o link acessível, mas incluiu erroneamente títulos de artigos e informações de autores incorretos", enfatizando que isso representou um erro honesto e não uma deturpação deliberada. A Anthropic lamentou a confusão causada, descrevendo o descuido como "um erro infeliz, mas não intencional".
Esse caso se junta a uma lista crescente de procedimentos legais em que a citação assistida por IA criou complicações. Recentemente, um juiz da Califórnia repreendeu advogados por não divulgarem o papel da IA na preparação de um resumo contendo referências legais inexistentes. A questão ganhou mais atenção em dezembro do ano passado, quando um pesquisador de desinformação admitiu que o ChatGPT havia inventado citações em uma de suas apresentações legais.
Artigo relacionado
O Google Fotos dá vida ao icônico guarda-roupa de *Clueless* com IA
O Google Fotos anunciou na quarta-feira um novo recurso baseado em IA que em breve transformará as fotos de suas roupas em um guarda-roupa digital, permitindo que você crie novas combinações de looks
A Notion transforma seu espaço de trabalho em um centro para agentes de IA
A Notion, empresa de software de produtividade, está entrando na era dos agentes.Durante um anúncio de produto transmitido ao vivo na quarta-feira, a Notion — mais conhecida por seu aplicativo colabor
A ElevenLabs anuncia a BlackRock, Jamie Foxx e Eva Longoria como novos investidores
A ElevenLabs, empresa especializada em IA de voz, revelou novos investidores em sua rodada de financiamento da Série D, no valor de US$ 500 milhões, anunciada originalmente em fevereiro. Entre eles es
Recomendações de tópicos especiais relacionados
Comentários (3)
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

A Anthropic respondeu às acusações relacionadas a uma fonte gerada por IA em sua disputa legal em andamento com editoras de música, caracterizando o incidente como um "erro de citação não intencional" cometido por seu chatbot Claude.
A citação contestada apareceu em um processo judicial de 30 de abril apresentado pela cientista de dados da Anthropic, Olivia Chen, parte da defesa da empresa contra alegações de que Claude foi treinado usando letras de músicas protegidas por direitos autorais. Durante os procedimentos judiciais, os advogados que representam o Universal Music Group e outras editoras apontaram as fontes citadas como potencialmente fabricadas, sugerindo que elas poderiam ter sido inventadas pelo sistema de IA da Anthropic.
Em uma resposta apresentada recentemente, a advogada de defesa da Anthropic, Ivana Dukanovic, esclareceu que, embora o material citado fosse autêntico, Claude havia sido empregada para formatar as citações legais no documento. A empresa reconheceu que, embora as verificações automatizadas tenham detectado e corrigido volumes e números de página imprecisos gerados pela IA, certas imprecisões de fraseado não foram detectadas durante a revisão manual.
Dukanovic explicou: "O sistema identificou corretamente o nome da publicação, o ano e o link acessível, mas incluiu erroneamente títulos de artigos e informações de autores incorretos", enfatizando que isso representou um erro honesto e não uma deturpação deliberada. A Anthropic lamentou a confusão causada, descrevendo o descuido como "um erro infeliz, mas não intencional".
Esse caso se junta a uma lista crescente de procedimentos legais em que a citação assistida por IA criou complicações. Recentemente, um juiz da Califórnia repreendeu advogados por não divulgarem o papel da IA na preparação de um resumo contendo referências legais inexistentes. A questão ganhou mais atenção em dezembro do ano passado, quando um pesquisador de desinformação admitiu que o ChatGPT havia inventado citações em uma de suas apresentações legais.
O Google Fotos dá vida ao icônico guarda-roupa de *Clueless* com IA
O Google Fotos anunciou na quarta-feira um novo recurso baseado em IA que em breve transformará as fotos de suas roupas em um guarda-roupa digital, permitindo que você crie novas combinações de looks
A Notion transforma seu espaço de trabalho em um centro para agentes de IA
A Notion, empresa de software de produtividade, está entrando na era dos agentes.Durante um anúncio de produto transmitido ao vivo na quarta-feira, a Notion — mais conhecida por seu aplicativo colabor
A ElevenLabs anuncia a BlackRock, Jamie Foxx e Eva Longoria como novos investidores
A ElevenLabs, empresa especializada em IA de voz, revelou novos investidores em sua rodada de financiamento da Série D, no valor de US$ 500 milhões, anunciada originalmente em fevereiro. Entre eles es
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!











