Maison
L’avocat d’Anthropic s’excuse après que Claude ait halluciné une citation juridique

Récemment, un avocat représentant Anthropic a reconnu avoir utilisé une citation incorrecte générée par le chatbot Claude AI de l'entreprise dans le cadre du litige qui l'oppose aux éditeurs de musique. L'aveu a été fait jeudi dans le cadre d'une procédure judiciaire devant un tribunal du nord de la Californie.
Anthropic a déclaré dans ce document, d'abord rapporté par Bloomberg, que Claude avait fabriqué la citation avec un titre et des détails sur l'auteur incorrects. Les avocats de la société ont admis que leurs vérifications de routine n'avaient pas permis de détecter l'erreur, ainsi que plusieurs autres inexactitudes causées par les "hallucinations" de M. Claude.
S'excusant pour cet oubli, Anthropic a décrit l'incident comme "une erreur de citation honnête et non une fabrication d'autorité".
En début de semaine, les avocats d'Universal Music Group et d'autres éditeurs de musique ont accusé le témoin expert d'Anthropic, l'employée Olivia Chen, d'avoir fait référence à des articles fabriqués dans son témoignage, en utilisant prétendument Claude. Suite à cela, la juge fédérale Susan van Keulen a demandé à Anthropic de répondre à ces accusations.
L'action en justice intentée par les éditeurs de musique s'inscrit dans le cadre de multiples conflits entre les titulaires de droits d'auteur et les entreprises technologiques au sujet de l'utilisation prétendument abusive de leur contenu pour développer des outils d'IA générative.
Il s'agit d'un autre cas où l'utilisation de l'IA dans les procédures judiciaires a eu des conséquences inattendues. En début de semaine, un juge californien a critiqué deux cabinets d'avocats pour avoir soumis à son tribunal des "recherches bidon générées par l'IA". En janvier, un avocat australien a été dénoncé pour avoir utilisé le ChatGPT dans la rédaction de documents judiciaires, ce qui a entraîné des citations erronées.
Malgré ces incidents, les startups continuent d'attirer des fonds importants pour automatiser les processus juridiques. Harvey, qui utilise des modèles d'IA générative pour aider les avocats, serait en discussion pour obtenir plus de 250 millions de dollars à une valeur dépassant les 5 milliards de dollars.
Événement Techcrunch ### Rejoignez-nous aux TechCrunch Sessions : AI
Réservez votre place à notre premier événement de l'industrie de l'IA avec des intervenants d'OpenAI, Anthropic et Cohere. Pour une période limitée, les billets ne coûtent que 292 $ pour une journée complète de présentations d'experts, d'ateliers et de précieuses opportunités de réseautage.
Exposez à TechCrunch Sessions : AI
Réservez votre展位 à TC Sessions : AI et présentez vos innovations à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Berkeley, CA | 5 juin INSCRIVEZ-VOUS MAINTENANT
Article connexe
Anthropic renforce ses partenariats en matière de calcul avec Google et Broadrom
Le laboratoire de recherche en IA Anthropic a annoncé lundi la conclusion d'un nouvel accord avec Google et Broadcom visant à renforcer considérablement la puissance de traitement et de calcul de ses
Claude gagne du terrain face à ChatGPT alors que les utilisateurs migrent vers cette plateforme
À la suite d'une série de controverses impliquant ChatGPT et sa société mère OpenAI, un nombre croissant d'utilisateurs se tournent vers Claude.Le tournant s'est produit après qu'A
Ce que l'impasse entre Anthropic et le Pentagone signifie pour la sécurité nationale
Ces deux dernières semaines ont été marquées par un bras de fer public entre Dario Amodei, PDG d’Anthropic, et Pete Hegseth, secrétaire à la Défense, portant sur l’utilisation de l’intelligence artifi
Recommandations de sujets spéciaux liés
commentaires (2)
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Récemment, un avocat représentant Anthropic a reconnu avoir utilisé une citation incorrecte générée par le chatbot Claude AI de l'entreprise dans le cadre du litige qui l'oppose aux éditeurs de musique. L'aveu a été fait jeudi dans le cadre d'une procédure judiciaire devant un tribunal du nord de la Californie.
Anthropic a déclaré dans ce document, d'abord rapporté par Bloomberg, que Claude avait fabriqué la citation avec un titre et des détails sur l'auteur incorrects. Les avocats de la société ont admis que leurs vérifications de routine n'avaient pas permis de détecter l'erreur, ainsi que plusieurs autres inexactitudes causées par les "hallucinations" de M. Claude.
S'excusant pour cet oubli, Anthropic a décrit l'incident comme "une erreur de citation honnête et non une fabrication d'autorité".
En début de semaine, les avocats d'Universal Music Group et d'autres éditeurs de musique ont accusé le témoin expert d'Anthropic, l'employée Olivia Chen, d'avoir fait référence à des articles fabriqués dans son témoignage, en utilisant prétendument Claude. Suite à cela, la juge fédérale Susan van Keulen a demandé à Anthropic de répondre à ces accusations.
L'action en justice intentée par les éditeurs de musique s'inscrit dans le cadre de multiples conflits entre les titulaires de droits d'auteur et les entreprises technologiques au sujet de l'utilisation prétendument abusive de leur contenu pour développer des outils d'IA générative.
Il s'agit d'un autre cas où l'utilisation de l'IA dans les procédures judiciaires a eu des conséquences inattendues. En début de semaine, un juge californien a critiqué deux cabinets d'avocats pour avoir soumis à son tribunal des "recherches bidon générées par l'IA". En janvier, un avocat australien a été dénoncé pour avoir utilisé le ChatGPT dans la rédaction de documents judiciaires, ce qui a entraîné des citations erronées.
Malgré ces incidents, les startups continuent d'attirer des fonds importants pour automatiser les processus juridiques. Harvey, qui utilise des modèles d'IA générative pour aider les avocats, serait en discussion pour obtenir plus de 250 millions de dollars à une valeur dépassant les 5 milliards de dollars.
Événement Techcrunch ### Rejoignez-nous aux TechCrunch Sessions : AI
Réservez votre place à notre premier événement de l'industrie de l'IA avec des intervenants d'OpenAI, Anthropic et Cohere. Pour une période limitée, les billets ne coûtent que 292 $ pour une journée complète de présentations d'experts, d'ateliers et de précieuses opportunités de réseautage.
Exposez à TechCrunch Sessions : AI
Réservez votre展位 à TC Sessions : AI et présentez vos innovations à plus de 1 200 décideurs sans vous ruiner. Disponible jusqu'au 9 mai ou jusqu'à épuisement des places.
Berkeley, CA | 5 juin INSCRIVEZ-VOUS MAINTENANT
Anthropic renforce ses partenariats en matière de calcul avec Google et Broadrom
Le laboratoire de recherche en IA Anthropic a annoncé lundi la conclusion d'un nouvel accord avec Google et Broadcom visant à renforcer considérablement la puissance de traitement et de calcul de ses
Claude gagne du terrain face à ChatGPT alors que les utilisateurs migrent vers cette plateforme
À la suite d'une série de controverses impliquant ChatGPT et sa société mère OpenAI, un nombre croissant d'utilisateurs se tournent vers Claude.Le tournant s'est produit après qu'A
Ce que l'impasse entre Anthropic et le Pentagone signifie pour la sécurité nationale
Ces deux dernières semaines ont été marquées par un bras de fer public entre Dario Amodei, PDG d’Anthropic, et Pete Hegseth, secrétaire à la Défense, portant sur l’utilisation de l’intelligence artifi
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.











