Advogado da Anthropic se desculpa após Claude alucinar citação legal

Em um acontecimento recente, um advogado que representa a Anthropic reconheceu o uso de uma citação incorreta gerada pelo chatbot Claude AI da empresa durante sua disputa legal em andamento com editoras de música. A admissão veio por meio de um processo judicial em um tribunal do norte da Califórnia na quinta-feira.
A Anthropic declarou no processo, relatado pela primeira vez pela Bloomberg, que Claude havia fabricado a citação com um título e detalhes de autor incorretos. Os advogados da empresa admitiram que suas verificações rotineiras de citação não detectaram o erro, além de várias outras imprecisões causadas pelas "alucinações" de Claude.
Pedindo desculpas pelo descuido, a Anthropic descreveu o incidente como "um erro honesto de citação e não uma fabricação de autoridade".
No início desta semana, os advogados do Universal Music Group e de outras editoras musicais acusaram a testemunha especialista da Anthropic, a funcionária Olivia Chen, de fazer referência a artigos fabricados em seu testemunho, supostamente usando Claude. Depois disso, a juíza federal Susan van Keulen solicitou uma resposta da Anthropic com relação a essas alegações.
O processo movido pelas editoras musicais faz parte de vários conflitos entre detentores de direitos autorais e empresas de tecnologia sobre o suposto uso indevido de seu conteúdo para desenvolver ferramentas de IA generativas.
Isso marca mais um caso em que o uso de IA em processos judiciais levou a consequências não intencionais. No início desta semana, um juiz da Califórnia criticou dois escritórios de advocacia por apresentarem "pesquisas falsas geradas por IA" em seu tribunal. Em janeiro, um advogado australiano foi denunciado por utilizar o ChatGPT na elaboração de documentos judiciais, o que resultou em citações incorretas.
Apesar desses incidentes, as startups continuam a atrair financiamentos significativos para automatizar processos jurídicos. A Harvey, que emprega modelos de IA generativa para ajudar advogados, está supostamente em discussões para garantir mais de US$ 250 milhões em uma avaliação superior a US$ 5 bilhões.
Evento do Techcrunch ### Junte-se a nós no TechCrunch Sessions: IA
Reserve seu lugar em nosso principal evento do setor de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por um período limitado, os ingressos estão custando apenas US$ 292 para um dia inteiro de apresentações de especialistas, workshops e valiosas oportunidades de networking.
Exponha no TechCrunch Sessions: IA
Reserve sua exposição no TC Sessions: AI e apresente suas inovações a mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou enquanto durarem as vagas.
Berkeley, CA | 5 de junho INSCREVA-SE AGORA
Artigo relacionado
A Anthropic lança o Opus 4.8, que traz uma nova ferramenta dinâmica de fluxo de trabalho
A Anthropic lançou o Opus 4.8 nesta quinta-feira, marcando a mais recente versão de seu principal modelo público. Com preço idêntico ao de seu antecessor, esta atualização já está disponível em todas
A Anthropic lança o Claude Fable 5, uma versão pública do Mythos
A Anthropic está disponibilizando seu modelo de IA mais poderoso ao público em geral pela primeira vez — mas com medidas de segurança em vigor.Na terça-feira, a empresa lançou o Claude Fable 5, a pri
O SandboxAQ traz a inteligência artificial para descoberta de medicamentos ao Claude, sem a necessidade de um doutorado em computação.
A descoberta de medicamentos continua sendo um dos desafios mais caros da indústria moderna. Identificar uma única molécula viável pode levar uma década e bilhões de dólares, e a maioria das candidatas acaba não funcionando. Uma onda de startups de I
Recomendações de tópicos especiais relacionados
Comentários (3)
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Em um acontecimento recente, um advogado que representa a Anthropic reconheceu o uso de uma citação incorreta gerada pelo chatbot Claude AI da empresa durante sua disputa legal em andamento com editoras de música. A admissão veio por meio de um processo judicial em um tribunal do norte da Califórnia na quinta-feira.
A Anthropic declarou no processo, relatado pela primeira vez pela Bloomberg, que Claude havia fabricado a citação com um título e detalhes de autor incorretos. Os advogados da empresa admitiram que suas verificações rotineiras de citação não detectaram o erro, além de várias outras imprecisões causadas pelas "alucinações" de Claude.
Pedindo desculpas pelo descuido, a Anthropic descreveu o incidente como "um erro honesto de citação e não uma fabricação de autoridade".
No início desta semana, os advogados do Universal Music Group e de outras editoras musicais acusaram a testemunha especialista da Anthropic, a funcionária Olivia Chen, de fazer referência a artigos fabricados em seu testemunho, supostamente usando Claude. Depois disso, a juíza federal Susan van Keulen solicitou uma resposta da Anthropic com relação a essas alegações.
O processo movido pelas editoras musicais faz parte de vários conflitos entre detentores de direitos autorais e empresas de tecnologia sobre o suposto uso indevido de seu conteúdo para desenvolver ferramentas de IA generativas.
Isso marca mais um caso em que o uso de IA em processos judiciais levou a consequências não intencionais. No início desta semana, um juiz da Califórnia criticou dois escritórios de advocacia por apresentarem "pesquisas falsas geradas por IA" em seu tribunal. Em janeiro, um advogado australiano foi denunciado por utilizar o ChatGPT na elaboração de documentos judiciais, o que resultou em citações incorretas.
Apesar desses incidentes, as startups continuam a atrair financiamentos significativos para automatizar processos jurídicos. A Harvey, que emprega modelos de IA generativa para ajudar advogados, está supostamente em discussões para garantir mais de US$ 250 milhões em uma avaliação superior a US$ 5 bilhões.
Evento do Techcrunch ### Junte-se a nós no TechCrunch Sessions: IA
Reserve seu lugar em nosso principal evento do setor de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por um período limitado, os ingressos estão custando apenas US$ 292 para um dia inteiro de apresentações de especialistas, workshops e valiosas oportunidades de networking.
Exponha no TechCrunch Sessions: IA
Reserve sua exposição no TC Sessions: AI e apresente suas inovações a mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou enquanto durarem as vagas.
Berkeley, CA | 5 de junho INSCREVA-SE AGORA
A Anthropic lança o Opus 4.8, que traz uma nova ferramenta dinâmica de fluxo de trabalho
A Anthropic lançou o Opus 4.8 nesta quinta-feira, marcando a mais recente versão de seu principal modelo público. Com preço idêntico ao de seu antecessor, esta atualização já está disponível em todas
A Anthropic lança o Claude Fable 5, uma versão pública do Mythos
A Anthropic está disponibilizando seu modelo de IA mais poderoso ao público em geral pela primeira vez — mas com medidas de segurança em vigor.Na terça-feira, a empresa lançou o Claude Fable 5, a pri
O SandboxAQ traz a inteligência artificial para descoberta de medicamentos ao Claude, sem a necessidade de um doutorado em computação.
A descoberta de medicamentos continua sendo um dos desafios mais caros da indústria moderna. Identificar uma única molécula viável pode levar uma década e bilhões de dólares, e a maioria das candidatas acaba não funcionando. Uma onda de startups de I
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





Lar






