Advogado da Anthropic se desculpa após Claude alucinar citação legal

Em um acontecimento recente, um advogado que representa a Anthropic reconheceu o uso de uma citação incorreta gerada pelo chatbot Claude AI da empresa durante sua disputa legal em andamento com editoras de música. A admissão veio por meio de um processo judicial em um tribunal do norte da Califórnia na quinta-feira.
A Anthropic declarou no processo, relatado pela primeira vez pela Bloomberg, que Claude havia fabricado a citação com um título e detalhes de autor incorretos. Os advogados da empresa admitiram que suas verificações rotineiras de citação não detectaram o erro, além de várias outras imprecisões causadas pelas "alucinações" de Claude.
Pedindo desculpas pelo descuido, a Anthropic descreveu o incidente como "um erro honesto de citação e não uma fabricação de autoridade".
No início desta semana, os advogados do Universal Music Group e de outras editoras musicais acusaram a testemunha especialista da Anthropic, a funcionária Olivia Chen, de fazer referência a artigos fabricados em seu testemunho, supostamente usando Claude. Depois disso, a juíza federal Susan van Keulen solicitou uma resposta da Anthropic com relação a essas alegações.
O processo movido pelas editoras musicais faz parte de vários conflitos entre detentores de direitos autorais e empresas de tecnologia sobre o suposto uso indevido de seu conteúdo para desenvolver ferramentas de IA generativas.
Isso marca mais um caso em que o uso de IA em processos judiciais levou a consequências não intencionais. No início desta semana, um juiz da Califórnia criticou dois escritórios de advocacia por apresentarem "pesquisas falsas geradas por IA" em seu tribunal. Em janeiro, um advogado australiano foi denunciado por utilizar o ChatGPT na elaboração de documentos judiciais, o que resultou em citações incorretas.
Apesar desses incidentes, as startups continuam a atrair financiamentos significativos para automatizar processos jurídicos. A Harvey, que emprega modelos de IA generativa para ajudar advogados, está supostamente em discussões para garantir mais de US$ 250 milhões em uma avaliação superior a US$ 5 bilhões.
Evento do Techcrunch ### Junte-se a nós no TechCrunch Sessions: IA
Reserve seu lugar em nosso principal evento do setor de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por um período limitado, os ingressos estão custando apenas US$ 292 para um dia inteiro de apresentações de especialistas, workshops e valiosas oportunidades de networking.
Exponha no TechCrunch Sessions: IA
Reserve sua exposição no TC Sessions: AI e apresente suas inovações a mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou enquanto durarem as vagas.
Berkeley, CA | 5 de junho INSCREVA-SE AGORA
Artigo relacionado
A Anthropic amplia suas parcerias de computação com o Google e a Broadrom
O laboratório de pesquisa em IA Anthropic anunciou nesta segunda-feira um novo acordo com o Google e a Broadcom para aumentar significativamente o poder de processamento e computação por trás de seus
Claude ganha terreno em relação ao ChatGPT à medida que os usuários migram
Após uma série de controvérsias envolvendo o ChatGPT e sua empresa controladora, a OpenAI, um número crescente de usuários está migrando para o Claude.O ponto de virada ocorreu depois que a Anthropic,
O que o impasse da Anthropic com o Pentágono significa para a segurança nacional
As últimas duas semanas foram marcadas por um impasse público entre o CEO da Anthropic, Dario Amodei, e o secretário de Defesa, Pete Hegseth, centrado na aplicação da tecnologia de IA pelas Forças Arm
Recomendações de tópicos especiais relacionados
Comentários (2)
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Em um acontecimento recente, um advogado que representa a Anthropic reconheceu o uso de uma citação incorreta gerada pelo chatbot Claude AI da empresa durante sua disputa legal em andamento com editoras de música. A admissão veio por meio de um processo judicial em um tribunal do norte da Califórnia na quinta-feira.
A Anthropic declarou no processo, relatado pela primeira vez pela Bloomberg, que Claude havia fabricado a citação com um título e detalhes de autor incorretos. Os advogados da empresa admitiram que suas verificações rotineiras de citação não detectaram o erro, além de várias outras imprecisões causadas pelas "alucinações" de Claude.
Pedindo desculpas pelo descuido, a Anthropic descreveu o incidente como "um erro honesto de citação e não uma fabricação de autoridade".
No início desta semana, os advogados do Universal Music Group e de outras editoras musicais acusaram a testemunha especialista da Anthropic, a funcionária Olivia Chen, de fazer referência a artigos fabricados em seu testemunho, supostamente usando Claude. Depois disso, a juíza federal Susan van Keulen solicitou uma resposta da Anthropic com relação a essas alegações.
O processo movido pelas editoras musicais faz parte de vários conflitos entre detentores de direitos autorais e empresas de tecnologia sobre o suposto uso indevido de seu conteúdo para desenvolver ferramentas de IA generativas.
Isso marca mais um caso em que o uso de IA em processos judiciais levou a consequências não intencionais. No início desta semana, um juiz da Califórnia criticou dois escritórios de advocacia por apresentarem "pesquisas falsas geradas por IA" em seu tribunal. Em janeiro, um advogado australiano foi denunciado por utilizar o ChatGPT na elaboração de documentos judiciais, o que resultou em citações incorretas.
Apesar desses incidentes, as startups continuam a atrair financiamentos significativos para automatizar processos jurídicos. A Harvey, que emprega modelos de IA generativa para ajudar advogados, está supostamente em discussões para garantir mais de US$ 250 milhões em uma avaliação superior a US$ 5 bilhões.
Evento do Techcrunch ### Junte-se a nós no TechCrunch Sessions: IA
Reserve seu lugar em nosso principal evento do setor de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por um período limitado, os ingressos estão custando apenas US$ 292 para um dia inteiro de apresentações de especialistas, workshops e valiosas oportunidades de networking.
Exponha no TechCrunch Sessions: IA
Reserve sua exposição no TC Sessions: AI e apresente suas inovações a mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou enquanto durarem as vagas.
Berkeley, CA | 5 de junho INSCREVA-SE AGORA
A Anthropic amplia suas parcerias de computação com o Google e a Broadrom
O laboratório de pesquisa em IA Anthropic anunciou nesta segunda-feira um novo acordo com o Google e a Broadcom para aumentar significativamente o poder de processamento e computação por trás de seus
Claude ganha terreno em relação ao ChatGPT à medida que os usuários migram
Após uma série de controvérsias envolvendo o ChatGPT e sua empresa controladora, a OpenAI, um número crescente de usuários está migrando para o Claude.O ponto de virada ocorreu depois que a Anthropic,
O que o impasse da Anthropic com o Pentágono significa para a segurança nacional
As últimas duas semanas foram marcadas por um impasse público entre o CEO da Anthropic, Dario Amodei, e o secretário de Defesa, Pete Hegseth, centrado na aplicação da tecnologia de IA pelas Forças Arm
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





Lar






