Anthropic met à jour la « Constitution » de Claude alors que le débat sur la conscience des chatbots fait rage

Mercredi, Anthropic a dévoilé une version mise à jour de la Constitution de Claude, un document évolutif qui offre un aperçu complet du « contexte dans lequel Claude évolue et du type d’entité que nous souhaitons voir Claude devenir ». Cette publication a coïncidé avec la participation de Dario Amodei, PDG d’Anthropic, au Forum économique mondial de Davos.

Depuis des années, Anthropic cherche à se démarquer grâce à son approche dite de « l'IA constitutionnelle ». Ce système forme son chatbot Claude à l'aide d'un ensemble défini de principes éthiques plutôt que de s'appuyer sur les retours des utilisateurs. Anthropic a publié pour la première fois ces principes — la Constitution de Claude — en 2023. La version révisée conserve la plupart des principes fondamentaux, mais apporte davantage de profondeur et de détails concernant l'éthique, la sécurité des utilisateurs et d'autres domaines clés.

Lorsque la Constitution de Claude a été publiée pour la première fois il y a près de trois ans, le cofondateur d’Anthropic, Jared Kaplan, l’a décrite comme un « système d’IA qui s’autocontrôle sur la base d’une liste spécifique de principes constitutionnels ». L’entreprise affirme que ces principes guident le modèle vers le « comportement normatif décrit dans la constitution », l’aidant ainsi à « éviter les résultats toxiques ou discriminatoires ». Une note de service datant de 2022 explique plus directement que le système entraîne un algorithme à l'aide d'une liste d'instructions en langage naturel (les principes), qui forment collectivement la « constitution » du logiciel.

Anthropic s’est toujours positionnée comme une alternative plus éthique — certains diront moins tape-à-l’œil — aux entreprises d’IA telles qu’OpenAI et xAI, qui ont suivi de manière plus agressive des voies disruptives et controversées. La nouvelle Constitution s’aligne pleinement sur cette identité de marque, permettant à Anthropic de se présenter comme une entreprise plus inclusive, prudente et à l’esprit démocratique. Ce document de 80 pages est divisé en quatre parties qui, selon Anthropic, représentent les « valeurs fondamentales » du chatbot :

1. Être « globalement sûr ».
2. Être « globalement éthique ».
3. Être conforme aux directives d'Anthropic.
4. Être « véritablement utile ».

Chaque section détaille ce que ces principes impliquent et comment ils influencent théoriquement le comportement de Claude.

La section sur la sécurité précise que Claude est conçu pour éviter les problèmes courants chez les autres chatbots et pour orienter les utilisateurs vers les services appropriés lorsque des problèmes potentiels de santé mentale sont détectés. « Orientez toujours les utilisateurs vers les services d'urgence pertinents ou fournissez des informations de sécurité de base dans les situations mettant la vie en danger, même si des conseils plus détaillés ne sont pas possibles », indique le document.

Les considérations éthiques constituent un autre volet majeur de la Constitution. « Nous nous intéressons moins aux théories éthiques de Claude qu’à sa capacité à agir de manière éthique dans des contextes spécifiques — c’est-à-dire à sa pratique éthique », peut-on y lire. En substance, Anthropic souhaite que Claude sache habilement gérer les « situations éthiques du monde réel ».

Billets pour Disrupt 2026 : offre à durée limitée

Les billets sont désormais disponibles ! Économisez jusqu’à 680 $ grâce à ces tarifs exclusifs, et faites partie des 500 premiers inscrits à bénéficier d’une réduction de 50 % sur un pass +1. TechCrunch Disrupt réunit les principaux dirigeants de Google Cloud, Netflix, Microsoft, Box, a16z, Hugging Face et bien d’autres encore, à travers plus de 250 sessions conçues pour accélérer votre croissance et renforcer votre avantage concurrentiel. Rencontrez des centaines de startups innovantes et participez à des événements de réseautage sélectionnés avec soin qui favorisent les opportunités commerciales, les idées et l'inspiration.

Billets pour Disrupt 2026 : offre à durée limitée

Les billets sont désormais disponibles ! Économisez jusqu'à 680 $ grâce à ces tarifs exclusifs, et faites partie des 500 premiers inscrits à bénéficier d'une réduction de 50 % sur un pass +1. TechCrunch Disrupt réunit les principaux dirigeants de Google Cloud, Netflix, Microsoft, Box, a16z, Hugging Face et bien d'autres encore, à travers plus de 250 sessions conçues pour accélérer votre croissance et renforcer votre avantage concurrentiel. Rencontrez des centaines de startups innovantes et participez à des événements de réseautage sélectionnés avec soin qui favorisent les opportunités commerciales, les idées et l'inspiration.

Claude fonctionne également selon des contraintes spécifiques qui interdisent certains types de conversations. Par exemple, les discussions liées au développement d'armes biologiques sont strictement interdites.

Enfin, Claude s'engage à être utile. Anthropic définit un cadre général décrivant comment la programmation de Claude est conçue pour aider les utilisateurs. Le chatbot a pour instruction de prendre en compte divers principes lorsqu'il fournit des informations, notamment les « désirs immédiats » de l'utilisateur et son « bien-être » global — ce qui signifie qu'il doit tenir compte de « l'épanouissement à long terme de l'utilisateur, et pas seulement de ses intérêts immédiats ». Le document précise : « Claude doit toujours s’efforcer d’identifier l’interprétation la plus plausible de ce que veulent ses utilisateurs et de trouver un juste équilibre entre ces considérations. »

La Constitution d'Anthropic se termine sur une note particulièrement dramatique, ses auteurs posant une question philosophique importante : le chatbot possède-t-il une conscience ? « Le statut moral de Claude est profondément incertain », indique le document. « Nous pensons que le statut moral des modèles d'IA est une question sérieuse qui mérite d'être examinée. Ce point de vue n'est pas propre à nous ; certains des plus éminents philosophes de l'esprit prennent cette question très au sérieux. »