Anthropic admet l'erreur d'IA de Claude dans son dossier juridique, la qualifiant de gênante et non intentionnelle.
Anthropic a répondu aux accusations concernant une source générée par l'IA dans le cadre de son litige avec les éditeurs de musique, qualifiant l'incident d'"erreur de citation involontaire" commise par son chatbot Claude.
La citation contestée est apparue le 30 avril dans un dossier juridique soumis par Olivia Chen, data scientist d'Anthropic, dans le cadre de la défense de la société contre les allégations selon lesquelles Claude a été formé en utilisant des paroles de chansons protégées par le droit d'auteur. Au cours de la procédure judiciaire, les avocats représentant Universal Music Group et d'autres éditeurs ont signalé les sources citées comme étant potentiellement fabriquées, suggérant qu'elles pourraient avoir été inventées par le système d'IA d'Anthropic.
Dans une réponse récemment déposée, l'avocate de la défense d'Anthropic, Ivana Dukanovic, a précisé que si le matériel cité était authentique, Claude avait été employé pour formater les citations légales dans le document. La société a reconnu que si les contrôles automatisés ont détecté et corrigé les volumes et les numéros de page inexacts générés par l'IA, certaines inexactitudes de formulation n'ont pas été détectées lors de l'examen manuel.
M. Dukanovic a expliqué que "le système a correctement identifié le nom de la publication, l'année et le lien accessible, mais a inclus par erreur des titres d'articles et des informations sur les auteurs incorrects", soulignant qu'il s'agissait d'une erreur honnête plutôt que d'une déformation délibérée. Anthropic a exprimé ses regrets pour la confusion causée, décrivant l'oubli comme "une erreur malheureuse mais involontaire".
Cette affaire vient s'ajouter à une liste croissante de procédures judiciaires dans lesquelles les citations assistées par l'IA ont créé des complications. Récemment, un juge californien a réprimandé des avocats pour ne pas avoir révélé le rôle de l'IA dans la préparation d'un mémoire contenant des références juridiques inexistantes. La question a encore attiré l'attention en décembre dernier lorsqu'un chercheur en désinformation a admis que ChatGPT avait inventé des citations dans l'une de ses soumissions juridiques.
Article connexe
ChatGPT exploité pour voler des données Gmail sensibles dans le cadre d'une faille de sécurité
Alerte de sécurité : des chercheurs démontrent une technique d'exfiltration de données basée sur l'IADes experts en cybersécurité ont récemment découvert une vulnérabilité inquiétante dans laquelle la
Gmail déploie des résumés automatiques d'e-mails alimentés par l'IA
Les utilisateurs de l'espace de travail vont pouvoir bénéficier de résumés d'e-mails générés par GeminiLes abonnés à Google Workspace remarqueront le rôle accru de Gemini dans la gestion de leur boî
Apple pourrait retarder le lancement du prochain iPhone pour sortir un modèle pliable
Selon The Information, Apple prépare un remaniement important de son calendrier de sortie de l'iPhone pour 2026, en introduisant le premier iPhone pliable de l'entreprise aux côtés des modèles "Air" n
commentaires (0)
0/200
Anthropic a répondu aux accusations concernant une source générée par l'IA dans le cadre de son litige avec les éditeurs de musique, qualifiant l'incident d'"erreur de citation involontaire" commise par son chatbot Claude.
La citation contestée est apparue le 30 avril dans un dossier juridique soumis par Olivia Chen, data scientist d'Anthropic, dans le cadre de la défense de la société contre les allégations selon lesquelles Claude a été formé en utilisant des paroles de chansons protégées par le droit d'auteur. Au cours de la procédure judiciaire, les avocats représentant Universal Music Group et d'autres éditeurs ont signalé les sources citées comme étant potentiellement fabriquées, suggérant qu'elles pourraient avoir été inventées par le système d'IA d'Anthropic.
Dans une réponse récemment déposée, l'avocate de la défense d'Anthropic, Ivana Dukanovic, a précisé que si le matériel cité était authentique, Claude avait été employé pour formater les citations légales dans le document. La société a reconnu que si les contrôles automatisés ont détecté et corrigé les volumes et les numéros de page inexacts générés par l'IA, certaines inexactitudes de formulation n'ont pas été détectées lors de l'examen manuel.
M. Dukanovic a expliqué que "le système a correctement identifié le nom de la publication, l'année et le lien accessible, mais a inclus par erreur des titres d'articles et des informations sur les auteurs incorrects", soulignant qu'il s'agissait d'une erreur honnête plutôt que d'une déformation délibérée. Anthropic a exprimé ses regrets pour la confusion causée, décrivant l'oubli comme "une erreur malheureuse mais involontaire".
Cette affaire vient s'ajouter à une liste croissante de procédures judiciaires dans lesquelles les citations assistées par l'IA ont créé des complications. Récemment, un juge californien a réprimandé des avocats pour ne pas avoir révélé le rôle de l'IA dans la préparation d'un mémoire contenant des références juridiques inexistantes. La question a encore attiré l'attention en décembre dernier lorsqu'un chercheur en désinformation a admis que ChatGPT avait inventé des citations dans l'une de ses soumissions juridiques.
ChatGPT exploité pour voler des données Gmail sensibles dans le cadre d'une faille de sécurité
Alerte de sécurité : des chercheurs démontrent une technique d'exfiltration de données basée sur l'IADes experts en cybersécurité ont récemment découvert une vulnérabilité inquiétante dans laquelle la
Gmail déploie des résumés automatiques d'e-mails alimentés par l'IA
Les utilisateurs de l'espace de travail vont pouvoir bénéficier de résumés d'e-mails générés par GeminiLes abonnés à Google Workspace remarqueront le rôle accru de Gemini dans la gestion de leur boî
Apple pourrait retarder le lancement du prochain iPhone pour sortir un modèle pliable
Selon The Information, Apple prépare un remaniement important de son calendrier de sortie de l'iPhone pour 2026, en introduisant le premier iPhone pliable de l'entreprise aux côtés des modèles "Air" n
