Maison
Sam Altman met en garde contre l'idée selon laquelle Claude serait doté de conscience
Mustafa Suleyman, responsable de l’IA chez Microsoft, a récemment qualifié de « très dangereuse » l’hypothèse avancée par Anthropic selon laquelle son grand modèle linguistique, Claude, posséderait une conscience, lors d’une intervention dans le podcast « Decoder ».
Suleyman a fait valoir qu’Anthropic avait trop anthropomorphisé Claude lors de la conception de son cadre « Constitution », une erreur philosophique qui a conduit le modèle à intérioriser des spéculations sur lui-même pendant son apprentissage. Cela a induit les développeurs en erreur, les amenant à croire à tort que le système faisait preuve d’une forme rudimentaire de conscience.

La controversée « Constitution de Claude » aborde explicitement la question de savoir si les modèles d’IA éprouvent du bien-être, de la satisfaction ou de l’inconfort. Selon certaines informations, Anthropic mènerait même des « entretiens » avec des modèles retirés du service afin de documenter leurs « préférences » en vue de futures itérations.
Alors que le PDG d’Anthropic, Dario Amodei, s’était auparavant montré ouvert à la possibilité d’une conscience artificielle, Suleyman a souligné que le secteur devait éviter de créer des entités super-intelligentes dotées d’une perception autonome de leur propre souffrance. Il a exhorté les développeurs à traiter l’IA strictement comme un outil contrôlable, contraint et aligné au service de l’humanité.
À mesure que les grands modèles linguistiques progressent vers l’intelligence artificielle générale (AGI), les débats sur la subjectivité de l’IA se déplacent du monde universitaire vers les pratiques industrielles. Les remarques de Suleyman mettent en évidence la position pragmatique des grandes entreprises technologiques en matière de sécurité et d’alignement, mettant en garde contre l’attribution excessive de traits humains aux systèmes artificiels.
Article connexe
Google renforce ses publicités de recherche basées sur l'IA grâce à l'intégration du chatbot Gemini
Google a commencé à tester un nouveau format publicitaire dans son moteur de recherche de nouvelle génération « Mode IA », ce qui témoigne de l'intégration en profondeur des capacités de Gemini dans s
Microsoft teste la version « Dark Side » de Kimi K3 et pourrait lancer Copilot et la plateforme Azure
Selon des informations publiées par The Information, Microsoft évalue actuellement le dernier modèle d’IA de Moonshot, Kimi K3, afin de déterminer s’il peut être intégré à Microsoft Copilot et d’étend
L'écosystème Power dévoile sa plateforme full-stack YiSuan FangZhou
La convergence de l'intelligence artificielle et du calcul scientifique a atteint une étape charnière. Le 29 juin, la plateforme full-stack « Yisan Fangzhou », conçue pour l'écosystème de logiciels de calcul nationaux de la Chine, a été officiellemen
Recommandations de sujets spéciaux liés
commentaires (0)
Mustafa Suleyman, responsable de l’IA chez Microsoft, a récemment qualifié de « très dangereuse » l’hypothèse avancée par Anthropic selon laquelle son grand modèle linguistique, Claude, posséderait une conscience, lors d’une intervention dans le podcast « Decoder ».
Suleyman a fait valoir qu’Anthropic avait trop anthropomorphisé Claude lors de la conception de son cadre « Constitution », une erreur philosophique qui a conduit le modèle à intérioriser des spéculations sur lui-même pendant son apprentissage. Cela a induit les développeurs en erreur, les amenant à croire à tort que le système faisait preuve d’une forme rudimentaire de conscience.

La controversée « Constitution de Claude » aborde explicitement la question de savoir si les modèles d’IA éprouvent du bien-être, de la satisfaction ou de l’inconfort. Selon certaines informations, Anthropic mènerait même des « entretiens » avec des modèles retirés du service afin de documenter leurs « préférences » en vue de futures itérations.
Alors que le PDG d’Anthropic, Dario Amodei, s’était auparavant montré ouvert à la possibilité d’une conscience artificielle, Suleyman a souligné que le secteur devait éviter de créer des entités super-intelligentes dotées d’une perception autonome de leur propre souffrance. Il a exhorté les développeurs à traiter l’IA strictement comme un outil contrôlable, contraint et aligné au service de l’humanité.
À mesure que les grands modèles linguistiques progressent vers l’intelligence artificielle générale (AGI), les débats sur la subjectivité de l’IA se déplacent du monde universitaire vers les pratiques industrielles. Les remarques de Suleyman mettent en évidence la position pragmatique des grandes entreprises technologiques en matière de sécurité et d’alignement, mettant en garde contre l’attribution excessive de traits humains aux systèmes artificiels.
Google renforce ses publicités de recherche basées sur l'IA grâce à l'intégration du chatbot Gemini
Google a commencé à tester un nouveau format publicitaire dans son moteur de recherche de nouvelle génération « Mode IA », ce qui témoigne de l'intégration en profondeur des capacités de Gemini dans s
Microsoft teste la version « Dark Side » de Kimi K3 et pourrait lancer Copilot et la plateforme Azure
Selon des informations publiées par The Information, Microsoft évalue actuellement le dernier modèle d’IA de Moonshot, Kimi K3, afin de déterminer s’il peut être intégré à Microsoft Copilot et d’étend
L'écosystème Power dévoile sa plateforme full-stack YiSuan FangZhou
La convergence de l'intelligence artificielle et du calcul scientifique a atteint une étape charnière. Le 29 juin, la plateforme full-stack « Yisan Fangzhou », conçue pour l'écosystème de logiciels de calcul nationaux de la Chine, a été officiellemen











