Advogado da Anthropic se desculpa após Claude alucinar citação legal
Em um desenvolvimento recente, um advogado que representa a Anthropic reconheceu o uso de uma citação incorreta gerada pelo chatbot Claude AI da empresa durante a disputa legal em curso com editores de música. A confissão foi feita por meio de um pedido apresentado em uma sala de tribunal no norte da Califórnia na quinta-feira.
A Anthropic afirmou no pedido, primeiro relatado pela Bloomberg, que o Claude havia fabricado a citação com um título e detalhes do autor incorretos. Os advogados da empresa admitiram que suas verificações rotineiras de citações falharam em detectar o erro, juntamente com várias outras imprecisões causadas pelas "alucinações" do Claude.
Pedindo desculpas pelo erro, a Anthropic descreveu o incidente como "um honesto engano de citação e não uma falsificação de autoridade".
Na semana anterior, os advogados da Universal Music Group e de outros editores de música acusaram a testemunha especialista da Anthropic, funcionária Olivia Chen, de citar artigos fabricados em seu depoimento, supostamente utilizando o Claude. Segundo isso, a juíza federal Susan van Keulen solicitou uma resposta da Anthropic sobre essas acusações.
O processo movido pelos editores de música faz parte de múltiplos conflitos entre detentores de direitos autorais e empresas de tecnologia sobre o uso alegadamente inadequado de seu conteúdo para o desenvolvimento de ferramentas de IA gerativa.
Essa é mais uma instância em que o uso de IA em procedimentos legais levou a consequências indesejadas. Na semana anterior, um juiz da Califórnia criticou duas firmas de advocacia por apresentarem "pesquisas falsas geradas por IA" em seu tribunal. Em janeiro, um advogado australiano foi exposto por utilizar o ChatGPT na redação de documentos judiciais, resultando em citações defeituosas.
Apesar desses incidentes, startups continuam a atrair financiamento significativo para automatizar processos legais. A Harvey, que emprega modelos de IA gerativos para auxiliar advogados, está em negociações para arrecadar mais de $250 milhões, avaliada em mais de $5 bilhões.
Techcrunch evento ### Junte-se a nós no TechCrunch Sessions: AI
Reserve seu lugar no nosso principal evento da indústria de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por tempo limitado, ingressos custam apenas $292 para um dia inteiro de apresentações de especialistas, workshops e oportunidades valiosas de networking.
Exponha-se no TechCrunch Sessions: AI
Reserve seu espaço no TC Sessions: AI e exiba suas inovações para mais de 1.200 tomadores de decisão sem gastar muito dinheiro. Disponível até 9 de maio ou enquanto durarem os lugares.
Berkeley, CA | 5 de junho INSCREVA-SE AGORA
Artigo relacionado
O Claude da Anthropic agora pode ler o Gmail
A Anthropic Integra o Claude com o Google WorkspaceNa terça-feira, a Anthropic revelou uma nova funcionalidade para o seu chatbot de IA, Claude, que se integra perfeitamente com o
A análise do Anthropic de 700.000 conversas de Claude revela o código moral único da IA
O estudo inovador dos revelações antrópicas sobre os valores do assistente de IA Claude, antropia, uma empresa iniciada por ex-funcionários do Openai, acaba de compartilhar um estudo revelador sobre como seu assistente de IA, Claude, expressa valores nas conversas do mundo real. A pesquisa, divulgada hoje, mostra que Claude Mostl
Versão Premium de $200 do Claude AI: Recursos Exclusivos
Anthropic lança nova assinatura premium para Claude, desafiando a OpenAIA Anthropic acaba de lançar um novo nível de assinatura premium para seu chatbot Claude, elevando o jogo na
Comentários (0)
0/200
Em um desenvolvimento recente, um advogado que representa a Anthropic reconheceu o uso de uma citação incorreta gerada pelo chatbot Claude AI da empresa durante a disputa legal em curso com editores de música. A confissão foi feita por meio de um pedido apresentado em uma sala de tribunal no norte da Califórnia na quinta-feira.
A Anthropic afirmou no pedido, primeiro relatado pela Bloomberg, que o Claude havia fabricado a citação com um título e detalhes do autor incorretos. Os advogados da empresa admitiram que suas verificações rotineiras de citações falharam em detectar o erro, juntamente com várias outras imprecisões causadas pelas "alucinações" do Claude.
Pedindo desculpas pelo erro, a Anthropic descreveu o incidente como "um honesto engano de citação e não uma falsificação de autoridade".
Na semana anterior, os advogados da Universal Music Group e de outros editores de música acusaram a testemunha especialista da Anthropic, funcionária Olivia Chen, de citar artigos fabricados em seu depoimento, supostamente utilizando o Claude. Segundo isso, a juíza federal Susan van Keulen solicitou uma resposta da Anthropic sobre essas acusações.
O processo movido pelos editores de música faz parte de múltiplos conflitos entre detentores de direitos autorais e empresas de tecnologia sobre o uso alegadamente inadequado de seu conteúdo para o desenvolvimento de ferramentas de IA gerativa.
Essa é mais uma instância em que o uso de IA em procedimentos legais levou a consequências indesejadas. Na semana anterior, um juiz da Califórnia criticou duas firmas de advocacia por apresentarem "pesquisas falsas geradas por IA" em seu tribunal. Em janeiro, um advogado australiano foi exposto por utilizar o ChatGPT na redação de documentos judiciais, resultando em citações defeituosas.
Apesar desses incidentes, startups continuam a atrair financiamento significativo para automatizar processos legais. A Harvey, que emprega modelos de IA gerativos para auxiliar advogados, está em negociações para arrecadar mais de $250 milhões, avaliada em mais de $5 bilhões.
Techcrunch evento ### Junte-se a nós no TechCrunch Sessions: AI
Reserve seu lugar no nosso principal evento da indústria de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por tempo limitado, ingressos custam apenas $292 para um dia inteiro de apresentações de especialistas, workshops e oportunidades valiosas de networking.
Exponha-se no TechCrunch Sessions: AI
Reserve seu espaço no TC Sessions: AI e exiba suas inovações para mais de 1.200 tomadores de decisão sem gastar muito dinheiro. Disponível até 9 de maio ou enquanto durarem os lugares.
Berkeley, CA | 5 de junho INSCREVA-SE AGORA
O Claude da Anthropic agora pode ler o Gmail
A Anthropic Integra o Claude com o Google WorkspaceNa terça-feira, a Anthropic revelou uma nova funcionalidade para o seu chatbot de IA, Claude, que se integra perfeitamente com o
A análise do Anthropic de 700.000 conversas de Claude revela o código moral único da IA
O estudo inovador dos revelações antrópicas sobre os valores do assistente de IA Claude, antropia, uma empresa iniciada por ex-funcionários do Openai, acaba de compartilhar um estudo revelador sobre como seu assistente de IA, Claude, expressa valores nas conversas do mundo real. A pesquisa, divulgada hoje, mostra que Claude Mostl
Versão Premium de $200 do Claude AI: Recursos Exclusivos
Anthropic lança nova assinatura premium para Claude, desafiando a OpenAIA Anthropic acaba de lançar um novo nível de assinatura premium para seu chatbot Claude, elevando o jogo na
