Maison
Anthropic admet l'erreur d'IA de Claude dans son dossier juridique, la qualifiant de gênante et non intentionnelle.

Anthropic a répondu aux accusations concernant une source générée par l'IA dans le cadre de son litige avec les éditeurs de musique, qualifiant l'incident d'"erreur de citation involontaire" commise par son chatbot Claude.
La citation contestée est apparue le 30 avril dans un dossier juridique soumis par Olivia Chen, data scientist d'Anthropic, dans le cadre de la défense de la société contre les allégations selon lesquelles Claude a été formé en utilisant des paroles de chansons protégées par le droit d'auteur. Au cours de la procédure judiciaire, les avocats représentant Universal Music Group et d'autres éditeurs ont signalé les sources citées comme étant potentiellement fabriquées, suggérant qu'elles pourraient avoir été inventées par le système d'IA d'Anthropic.
Dans une réponse récemment déposée, l'avocate de la défense d'Anthropic, Ivana Dukanovic, a précisé que si le matériel cité était authentique, Claude avait été employé pour formater les citations légales dans le document. La société a reconnu que si les contrôles automatisés ont détecté et corrigé les volumes et les numéros de page inexacts générés par l'IA, certaines inexactitudes de formulation n'ont pas été détectées lors de l'examen manuel.
M. Dukanovic a expliqué que "le système a correctement identifié le nom de la publication, l'année et le lien accessible, mais a inclus par erreur des titres d'articles et des informations sur les auteurs incorrects", soulignant qu'il s'agissait d'une erreur honnête plutôt que d'une déformation délibérée. Anthropic a exprimé ses regrets pour la confusion causée, décrivant l'oubli comme "une erreur malheureuse mais involontaire".
Cette affaire vient s'ajouter à une liste croissante de procédures judiciaires dans lesquelles les citations assistées par l'IA ont créé des complications. Récemment, un juge californien a réprimandé des avocats pour ne pas avoir révélé le rôle de l'IA dans la préparation d'un mémoire contenant des références juridiques inexistantes. La question a encore attiré l'attention en décembre dernier lorsqu'un chercheur en désinformation a admis que ChatGPT avait inventé des citations dans l'une de ses soumissions juridiques.
Article connexe
Google Photos redonne vie à la garde-robe emblématique de « Clueless » grâce à l'IA
Google Photos a annoncé mercredi une nouvelle fonctionnalité basée sur l'IA qui permettra bientôt de transformer les photos de vos vêtements en une garde-robe numérique, vous permettant ainsi de créer
Notion transforme son espace de travail en une plateforme centralisée pour les agents IA
Notion, l'éditeur de logiciels de productivité, entre dans l'ère des agents.Lors d'une annonce de produit diffusée en direct mercredi, Notion — surtout connu pour son application de pri
ElevenLabs annonce que BlackRock, Jamie Foxx et Eva Longoria ont rejoint le cercle de ses investisseurs
ElevenLabs, la société spécialisée dans l'IA vocale, a révélé le nom d'investisseurs supplémentaires ayant participé à son tour de table de série D de 500 millions de dollars, initialement annoncé en
Recommandations de sujets spéciaux liés
commentaires (3)
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic a répondu aux accusations concernant une source générée par l'IA dans le cadre de son litige avec les éditeurs de musique, qualifiant l'incident d'"erreur de citation involontaire" commise par son chatbot Claude.
La citation contestée est apparue le 30 avril dans un dossier juridique soumis par Olivia Chen, data scientist d'Anthropic, dans le cadre de la défense de la société contre les allégations selon lesquelles Claude a été formé en utilisant des paroles de chansons protégées par le droit d'auteur. Au cours de la procédure judiciaire, les avocats représentant Universal Music Group et d'autres éditeurs ont signalé les sources citées comme étant potentiellement fabriquées, suggérant qu'elles pourraient avoir été inventées par le système d'IA d'Anthropic.
Dans une réponse récemment déposée, l'avocate de la défense d'Anthropic, Ivana Dukanovic, a précisé que si le matériel cité était authentique, Claude avait été employé pour formater les citations légales dans le document. La société a reconnu que si les contrôles automatisés ont détecté et corrigé les volumes et les numéros de page inexacts générés par l'IA, certaines inexactitudes de formulation n'ont pas été détectées lors de l'examen manuel.
M. Dukanovic a expliqué que "le système a correctement identifié le nom de la publication, l'année et le lien accessible, mais a inclus par erreur des titres d'articles et des informations sur les auteurs incorrects", soulignant qu'il s'agissait d'une erreur honnête plutôt que d'une déformation délibérée. Anthropic a exprimé ses regrets pour la confusion causée, décrivant l'oubli comme "une erreur malheureuse mais involontaire".
Cette affaire vient s'ajouter à une liste croissante de procédures judiciaires dans lesquelles les citations assistées par l'IA ont créé des complications. Récemment, un juge californien a réprimandé des avocats pour ne pas avoir révélé le rôle de l'IA dans la préparation d'un mémoire contenant des références juridiques inexistantes. La question a encore attiré l'attention en décembre dernier lorsqu'un chercheur en désinformation a admis que ChatGPT avait inventé des citations dans l'une de ses soumissions juridiques.
Google Photos redonne vie à la garde-robe emblématique de « Clueless » grâce à l'IA
Google Photos a annoncé mercredi une nouvelle fonctionnalité basée sur l'IA qui permettra bientôt de transformer les photos de vos vêtements en une garde-robe numérique, vous permettant ainsi de créer
Notion transforme son espace de travail en une plateforme centralisée pour les agents IA
Notion, l'éditeur de logiciels de productivité, entre dans l'ère des agents.Lors d'une annonce de produit diffusée en direct mercredi, Notion — surtout connu pour son application de pri
ElevenLabs annonce que BlackRock, Jamie Foxx et Eva Longoria ont rejoint le cercle de ses investisseurs
ElevenLabs, la société spécialisée dans l'IA vocale, a révélé le nom d'investisseurs supplémentaires ayant participé à son tour de table de série D de 500 millions de dollars, initialement annoncé en
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!











