L’avocat d’Anthropic s’excuse après que Claude ait halluciné une citation juridique

Récemment, un avocat représentant Anthropic a reconnu avoir utilisé une citation incorrecte générée par le chatbot Claude AI de l'entreprise dans le cadre du litige qui l'oppose aux éditeurs de musique. L'aveu a été fait jeudi dans le cadre d'une procédure judiciaire devant un tribunal du nord de la Californie.

Anthropic a déclaré dans ce document, d'abord rapporté par Bloomberg, que Claude avait fabriqué la citation avec un titre et des détails sur l'auteur incorrects. Les avocats de la société ont admis que leurs vérifications de routine n'avaient pas permis de détecter l'erreur, ainsi que plusieurs autres inexactitudes causées par les "hallucinations" de M. Claude.

S'excusant pour cet oubli, Anthropic a décrit l'incident comme "une erreur de citation honnête et non une fabrication d'autorité".

En début de semaine, les avocats d'Universal Music Group et d'autres éditeurs de musique ont accusé le témoin expert d'Anthropic, l'employée Olivia Chen, d'avoir fait référence à des articles fabriqués dans son témoignage, en utilisant prétendument Claude. Suite à cela, la juge fédérale Susan van Keulen a demandé à Anthropic de répondre à ces accusations.

L'action en justice intentée par les éditeurs de musique s'inscrit dans le cadre de multiples conflits entre les titulaires de droits d'auteur et les entreprises technologiques au sujet de l'utilisation prétendument abusive de leur contenu pour développer des outils d'IA générative.

Il s'agit d'un autre cas où l'utilisation de l'IA dans les procédures judiciaires a eu des conséquences inattendues. En début de semaine, un juge californien a critiqué deux cabinets d'avocats pour avoir soumis à son tribunal des "recherches bidon générées par l'IA". En janvier, un avocat australien a été dénoncé pour avoir utilisé le ChatGPT dans la rédaction de documents judiciaires, ce qui a entraîné des citations erronées.

Malgré ces incidents, les startups continuent d'attirer des fonds importants pour automatiser les processus juridiques. Harvey, qui utilise des modèles d'IA générative pour aider les avocats, serait en discussion pour obtenir plus de 250 millions de dollars à une valeur dépassant les 5 milliards de dollars.

Événement Techcrunch ### Rejoignez-nous aux TechCrunch Sessions : AI

Réservez votre place à notre premier événement de l'industrie de l'IA avec des intervenants d'OpenAI, Anthropic et Cohere. Pour une période limitée, les billets ne coûtent que 292 $ pour une journée complète de présentations d'experts, d'ateliers et de précieuses opportunités de réseautage.

Exposez à TechCrunch Sessions : AI

Réservez votre展位 à TC Sessions : AI et présentez vos innovations à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.

Berkeley, CA | 5 juin INSCRIVEZ-VOUS MAINTENANT