Maison
L’avocat d’Anthropic s’excuse après que Claude ait halluciné une citation juridique

Récemment, un avocat représentant Anthropic a reconnu avoir utilisé une citation incorrecte générée par le chatbot Claude AI de l'entreprise dans le cadre du litige qui l'oppose aux éditeurs de musique. L'aveu a été fait jeudi dans le cadre d'une procédure judiciaire devant un tribunal du nord de la Californie.
Anthropic a déclaré dans ce document, d'abord rapporté par Bloomberg, que Claude avait fabriqué la citation avec un titre et des détails sur l'auteur incorrects. Les avocats de la société ont admis que leurs vérifications de routine n'avaient pas permis de détecter l'erreur, ainsi que plusieurs autres inexactitudes causées par les "hallucinations" de M. Claude.
S'excusant pour cet oubli, Anthropic a décrit l'incident comme "une erreur de citation honnête et non une fabrication d'autorité".
En début de semaine, les avocats d'Universal Music Group et d'autres éditeurs de musique ont accusé le témoin expert d'Anthropic, l'employée Olivia Chen, d'avoir fait référence à des articles fabriqués dans son témoignage, en utilisant prétendument Claude. Suite à cela, la juge fédérale Susan van Keulen a demandé à Anthropic de répondre à ces accusations.
L'action en justice intentée par les éditeurs de musique s'inscrit dans le cadre de multiples conflits entre les titulaires de droits d'auteur et les entreprises technologiques au sujet de l'utilisation prétendument abusive de leur contenu pour développer des outils d'IA générative.
Il s'agit d'un autre cas où l'utilisation de l'IA dans les procédures judiciaires a eu des conséquences inattendues. En début de semaine, un juge californien a critiqué deux cabinets d'avocats pour avoir soumis à son tribunal des "recherches bidon générées par l'IA". En janvier, un avocat australien a été dénoncé pour avoir utilisé le ChatGPT dans la rédaction de documents judiciaires, ce qui a entraîné des citations erronées.
Malgré ces incidents, les startups continuent d'attirer des fonds importants pour automatiser les processus juridiques. Harvey, qui utilise des modèles d'IA générative pour aider les avocats, serait en discussion pour obtenir plus de 250 millions de dollars à une valeur dépassant les 5 milliards de dollars.
Événement Techcrunch ### Rejoignez-nous aux TechCrunch Sessions : AI
Réservez votre place à notre premier événement de l'industrie de l'IA avec des intervenants d'OpenAI, Anthropic et Cohere. Pour une période limitée, les billets ne coûtent que 292 $ pour une journée complète de présentations d'experts, d'ateliers et de précieuses opportunités de réseautage.
Exposez à TechCrunch Sessions : AI
Réservez votre展位 à TC Sessions : AI et présentez vos innovations à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Berkeley, CA | 5 juin INSCRIVEZ-VOUS MAINTENANT
Article connexe
Anthropic lance Opus 4.8, qui intègre un nouvel outil de flux de travail dynamique
Anthropic a dévoilé jeudi Opus 4.8, la dernière version en date de son modèle public phare. Proposée au même prix que la version précédente, cette mise à jour est désormais accessible sur toutes les p
Anthropic lance « Claude Fable 5 », une version publique de Mythos
Anthropic met pour la première fois son modèle d'IA le plus puissant à la disposition du grand public, tout en prenant des mesures de sécurité.Mardi, l’entreprise a lancé Claude Fable 5, la première
SandboxAQ intègre l’IA pour la découverte de médicaments dans Claude, sans nécessiter de diplôme en informatique.
La découverte de médicaments reste l’un des défis les plus coûteux de l’industrie moderne. Identifier une seule molécule viable peut prendre une dizaine d’années et des milliards de dollars, et la plupart des candidates échouent malgré tout. Une vagu
Recommandations de sujets spéciaux liés
commentaires (3)
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Récemment, un avocat représentant Anthropic a reconnu avoir utilisé une citation incorrecte générée par le chatbot Claude AI de l'entreprise dans le cadre du litige qui l'oppose aux éditeurs de musique. L'aveu a été fait jeudi dans le cadre d'une procédure judiciaire devant un tribunal du nord de la Californie.
Anthropic a déclaré dans ce document, d'abord rapporté par Bloomberg, que Claude avait fabriqué la citation avec un titre et des détails sur l'auteur incorrects. Les avocats de la société ont admis que leurs vérifications de routine n'avaient pas permis de détecter l'erreur, ainsi que plusieurs autres inexactitudes causées par les "hallucinations" de M. Claude.
S'excusant pour cet oubli, Anthropic a décrit l'incident comme "une erreur de citation honnête et non une fabrication d'autorité".
En début de semaine, les avocats d'Universal Music Group et d'autres éditeurs de musique ont accusé le témoin expert d'Anthropic, l'employée Olivia Chen, d'avoir fait référence à des articles fabriqués dans son témoignage, en utilisant prétendument Claude. Suite à cela, la juge fédérale Susan van Keulen a demandé à Anthropic de répondre à ces accusations.
L'action en justice intentée par les éditeurs de musique s'inscrit dans le cadre de multiples conflits entre les titulaires de droits d'auteur et les entreprises technologiques au sujet de l'utilisation prétendument abusive de leur contenu pour développer des outils d'IA générative.
Il s'agit d'un autre cas où l'utilisation de l'IA dans les procédures judiciaires a eu des conséquences inattendues. En début de semaine, un juge californien a critiqué deux cabinets d'avocats pour avoir soumis à son tribunal des "recherches bidon générées par l'IA". En janvier, un avocat australien a été dénoncé pour avoir utilisé le ChatGPT dans la rédaction de documents judiciaires, ce qui a entraîné des citations erronées.
Malgré ces incidents, les startups continuent d'attirer des fonds importants pour automatiser les processus juridiques. Harvey, qui utilise des modèles d'IA générative pour aider les avocats, serait en discussion pour obtenir plus de 250 millions de dollars à une valeur dépassant les 5 milliards de dollars.
Événement Techcrunch ### Rejoignez-nous aux TechCrunch Sessions : AI
Réservez votre place à notre premier événement de l'industrie de l'IA avec des intervenants d'OpenAI, Anthropic et Cohere. Pour une période limitée, les billets ne coûtent que 292 $ pour une journée complète de présentations d'experts, d'ateliers et de précieuses opportunités de réseautage.
Exposez à TechCrunch Sessions : AI
Réservez votre展位 à TC Sessions : AI et présentez vos innovations à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Berkeley, CA | 5 juin INSCRIVEZ-VOUS MAINTENANT
Anthropic lance Opus 4.8, qui intègre un nouvel outil de flux de travail dynamique
Anthropic a dévoilé jeudi Opus 4.8, la dernière version en date de son modèle public phare. Proposée au même prix que la version précédente, cette mise à jour est désormais accessible sur toutes les p
Anthropic lance « Claude Fable 5 », une version publique de Mythos
Anthropic met pour la première fois son modèle d'IA le plus puissant à la disposition du grand public, tout en prenant des mesures de sécurité.Mardi, l’entreprise a lancé Claude Fable 5, la première
SandboxAQ intègre l’IA pour la découverte de médicaments dans Claude, sans nécessiter de diplôme en informatique.
La découverte de médicaments reste l’un des défis les plus coûteux de l’industrie moderne. Identifier une seule molécule viable peut prendre une dizaine d’années et des milliards de dollars, et la plupart des candidates échouent malgré tout. Une vagu
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.











