Advogado da Anthropic se desculpa após Claude alucinar citação legal

Em um acontecimento recente, um advogado que representa a Anthropic reconheceu o uso de uma citação incorreta gerada pelo chatbot Claude AI da empresa durante sua disputa legal em andamento com editoras de música. A admissão veio por meio de um processo judicial em um tribunal do norte da Califórnia na quinta-feira.

A Anthropic declarou no processo, relatado pela primeira vez pela Bloomberg, que Claude havia fabricado a citação com um título e detalhes de autor incorretos. Os advogados da empresa admitiram que suas verificações rotineiras de citação não detectaram o erro, além de várias outras imprecisões causadas pelas "alucinações" de Claude.

Pedindo desculpas pelo descuido, a Anthropic descreveu o incidente como "um erro honesto de citação e não uma fabricação de autoridade".

No início desta semana, os advogados do Universal Music Group e de outras editoras musicais acusaram a testemunha especialista da Anthropic, a funcionária Olivia Chen, de fazer referência a artigos fabricados em seu testemunho, supostamente usando Claude. Depois disso, a juíza federal Susan van Keulen solicitou uma resposta da Anthropic com relação a essas alegações.

O processo movido pelas editoras musicais faz parte de vários conflitos entre detentores de direitos autorais e empresas de tecnologia sobre o suposto uso indevido de seu conteúdo para desenvolver ferramentas de IA generativas.

Isso marca mais um caso em que o uso de IA em processos judiciais levou a consequências não intencionais. No início desta semana, um juiz da Califórnia criticou dois escritórios de advocacia por apresentarem "pesquisas falsas geradas por IA" em seu tribunal. Em janeiro, um advogado australiano foi denunciado por utilizar o ChatGPT na elaboração de documentos judiciais, o que resultou em citações incorretas.

Apesar desses incidentes, as startups continuam a atrair financiamentos significativos para automatizar processos jurídicos. A Harvey, que emprega modelos de IA generativa para ajudar advogados, está supostamente em discussões para garantir mais de US$ 250 milhões em uma avaliação superior a US$ 5 bilhões.

Evento do Techcrunch ### Junte-se a nós no TechCrunch Sessions: IA

Reserve seu lugar em nosso principal evento do setor de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por um período limitado, os ingressos estão custando apenas US$ 292 para um dia inteiro de apresentações de especialistas, workshops e valiosas oportunidades de networking.

Exponha no TechCrunch Sessions: IA

Reserve sua exposição no TC Sessions: AI e apresente suas inovações a mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou enquanto durarem as vagas.

Berkeley, CA | 5 de junho INSCREVA-SE AGORA