Maison
Anthropic admet l'erreur d'IA de Claude dans son dossier juridique, la qualifiant de gênante et non intentionnelle.

Anthropic a répondu aux accusations concernant une source générée par l'IA dans le cadre de son litige avec les éditeurs de musique, qualifiant l'incident d'"erreur de citation involontaire" commise par son chatbot Claude.
La citation contestée est apparue le 30 avril dans un dossier juridique soumis par Olivia Chen, data scientist d'Anthropic, dans le cadre de la défense de la société contre les allégations selon lesquelles Claude a été formé en utilisant des paroles de chansons protégées par le droit d'auteur. Au cours de la procédure judiciaire, les avocats représentant Universal Music Group et d'autres éditeurs ont signalé les sources citées comme étant potentiellement fabriquées, suggérant qu'elles pourraient avoir été inventées par le système d'IA d'Anthropic.
Dans une réponse récemment déposée, l'avocate de la défense d'Anthropic, Ivana Dukanovic, a précisé que si le matériel cité était authentique, Claude avait été employé pour formater les citations légales dans le document. La société a reconnu que si les contrôles automatisés ont détecté et corrigé les volumes et les numéros de page inexacts générés par l'IA, certaines inexactitudes de formulation n'ont pas été détectées lors de l'examen manuel.
M. Dukanovic a expliqué que "le système a correctement identifié le nom de la publication, l'année et le lien accessible, mais a inclus par erreur des titres d'articles et des informations sur les auteurs incorrects", soulignant qu'il s'agissait d'une erreur honnête plutôt que d'une déformation délibérée. Anthropic a exprimé ses regrets pour la confusion causée, décrivant l'oubli comme "une erreur malheureuse mais involontaire".
Cette affaire vient s'ajouter à une liste croissante de procédures judiciaires dans lesquelles les citations assistées par l'IA ont créé des complications. Récemment, un juge californien a réprimandé des avocats pour ne pas avoir révélé le rôle de l'IA dans la préparation d'un mémoire contenant des références juridiques inexistantes. La question a encore attiré l'attention en décembre dernier lorsqu'un chercheur en désinformation a admis que ChatGPT avait inventé des citations dans l'une de ses soumissions juridiques.
Article connexe
Warner Music acquiert l'entreprise de démarrage Sureel AI spécialisée dans l'attribution par intelligence artificielle
Warner Music Group (WMG) a confirmé mercredi qu’elle acquiert Sureel AI, une startup spécialisée dans l’attribution par intelligence artificielle. La technologie propriétaire de Sureel génère une « ADN IA » pour les titres musicaux, en décomposant ce
Amazon présente Alexa pour les achats tout en reléguant Rufus au second plan
Amazon a lancé Alexa for Shopping, fusionnant son chatbot de shopping Rufus avec Alexa+ sur l’application, le site web et les appareils Echo Show.L’assistant répond aux requêtes sur les produits, compare les articles, suit les prix et prend en charg
Microsoft, Azure et les technologies d'IA luttent contre les risques d'incendies de forêt en Californie
Microsoft investit dans la détection des feux de forêt grâce à l'IA ; Juan Lavista Ferres, vice-président corporatif et responsable scientifique des données, évoque les stratégies visant à atténuer le
Recommandations de sujets spéciaux liés
commentaires (3)
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic a répondu aux accusations concernant une source générée par l'IA dans le cadre de son litige avec les éditeurs de musique, qualifiant l'incident d'"erreur de citation involontaire" commise par son chatbot Claude.
La citation contestée est apparue le 30 avril dans un dossier juridique soumis par Olivia Chen, data scientist d'Anthropic, dans le cadre de la défense de la société contre les allégations selon lesquelles Claude a été formé en utilisant des paroles de chansons protégées par le droit d'auteur. Au cours de la procédure judiciaire, les avocats représentant Universal Music Group et d'autres éditeurs ont signalé les sources citées comme étant potentiellement fabriquées, suggérant qu'elles pourraient avoir été inventées par le système d'IA d'Anthropic.
Dans une réponse récemment déposée, l'avocate de la défense d'Anthropic, Ivana Dukanovic, a précisé que si le matériel cité était authentique, Claude avait été employé pour formater les citations légales dans le document. La société a reconnu que si les contrôles automatisés ont détecté et corrigé les volumes et les numéros de page inexacts générés par l'IA, certaines inexactitudes de formulation n'ont pas été détectées lors de l'examen manuel.
M. Dukanovic a expliqué que "le système a correctement identifié le nom de la publication, l'année et le lien accessible, mais a inclus par erreur des titres d'articles et des informations sur les auteurs incorrects", soulignant qu'il s'agissait d'une erreur honnête plutôt que d'une déformation délibérée. Anthropic a exprimé ses regrets pour la confusion causée, décrivant l'oubli comme "une erreur malheureuse mais involontaire".
Cette affaire vient s'ajouter à une liste croissante de procédures judiciaires dans lesquelles les citations assistées par l'IA ont créé des complications. Récemment, un juge californien a réprimandé des avocats pour ne pas avoir révélé le rôle de l'IA dans la préparation d'un mémoire contenant des références juridiques inexistantes. La question a encore attiré l'attention en décembre dernier lorsqu'un chercheur en désinformation a admis que ChatGPT avait inventé des citations dans l'une de ses soumissions juridiques.
Warner Music acquiert l'entreprise de démarrage Sureel AI spécialisée dans l'attribution par intelligence artificielle
Warner Music Group (WMG) a confirmé mercredi qu’elle acquiert Sureel AI, une startup spécialisée dans l’attribution par intelligence artificielle. La technologie propriétaire de Sureel génère une « ADN IA » pour les titres musicaux, en décomposant ce
Microsoft, Azure et les technologies d'IA luttent contre les risques d'incendies de forêt en Californie
Microsoft investit dans la détection des feux de forêt grâce à l'IA ; Juan Lavista Ferres, vice-président corporatif et responsable scientifique des données, évoque les stratégies visant à atténuer le
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!











