Advogado da Anthropic se desculpa após Claude alucinar citação legal

Em um desenvolvimento recente, um advogado que representa a Anthropic reconheceu o uso de uma citação incorreta gerada pelo chatbot Claude AI da empresa durante a disputa legal em curso com editores de música. A confissão foi feita por meio de um pedido apresentado em uma sala de tribunal no norte da Califórnia na quinta-feira.

A Anthropic afirmou no pedido, primeiro relatado pela Bloomberg, que o Claude havia fabricado a citação com um título e detalhes do autor incorretos. Os advogados da empresa admitiram que suas verificações rotineiras de citações falharam em detectar o erro, juntamente com várias outras imprecisões causadas pelas "alucinações" do Claude.

Pedindo desculpas pelo erro, a Anthropic descreveu o incidente como "um honesto engano de citação e não uma falsificação de autoridade".

Na semana anterior, os advogados da Universal Music Group e de outros editores de música acusaram a testemunha especialista da Anthropic, funcionária Olivia Chen, de citar artigos fabricados em seu depoimento, supostamente utilizando o Claude. Segundo isso, a juíza federal Susan van Keulen solicitou uma resposta da Anthropic sobre essas acusações.

O processo movido pelos editores de música faz parte de múltiplos conflitos entre detentores de direitos autorais e empresas de tecnologia sobre o uso alegadamente inadequado de seu conteúdo para o desenvolvimento de ferramentas de IA gerativa.

Essa é mais uma instância em que o uso de IA em procedimentos legais levou a consequências indesejadas. Na semana anterior, um juiz da Califórnia criticou duas firmas de advocacia por apresentarem "pesquisas falsas geradas por IA" em seu tribunal. Em janeiro, um advogado australiano foi exposto por utilizar o ChatGPT na redação de documentos judiciais, resultando em citações defeituosas.

Apesar desses incidentes, startups continuam a atrair financiamento significativo para automatizar processos legais. A Harvey, que emprega modelos de IA gerativos para auxiliar advogados, está em negociações para arrecadar mais de $250 milhões, avaliada em mais de $5 bilhões.

Techcrunch evento ### Junte-se a nós no TechCrunch Sessions: AI

Reserve seu lugar no nosso principal evento da indústria de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por tempo limitado, ingressos custam apenas $292 para um dia inteiro de apresentações de especialistas, workshops e oportunidades valiosas de networking.

Exponha-se no TechCrunch Sessions: AI

Reserve seu espaço no TC Sessions: AI e exiba suas inovações para mais de 1.200 tomadores de decisão sem gastar muito dinheiro. Disponível até 9 de maio ou enquanto durarem os lugares.

Berkeley, CA | 5 de junho INSCREVA-SE AGORA