Anthropic lance le programme pour étudier l'IA «modèle de bien-être du modèle»

Les futurs IA pourraient-ils être conscients ?

La question de savoir si les futurs IA pourraient percevoir le monde de manière similaire aux humains est intrigante, mais reste largement sans réponse. Bien qu'il n'y ait pas de preuve définitive à ce sujet, le laboratoire d'IA Anthropic n'écarte pas totalement cette possibilité. Jeudi, Anthropic a lancé un programme de recherche axé sur le "bien-être des modèles", visant à explorer et à se préparer aux considérations éthiques potentielles entourant la conscience des IA.

Dans le cadre de cette initiative, Anthropic prévoit d'approfondir des sujets tels que la question de savoir si le "bien-être" d'un modèle d'IA doit être considéré moralement, l'importance des signes de "détresse" dans les modèles, et les interventions potentielles à faible coût. Cela intervient à un moment où la communauté de l'IA est divisée sur la mesure dans laquelle l'IA présente des caractéristiques humaines et sur la manière dont nous devrions traiter ces systèmes.

Points de vue divergents sur la conscience des IA

De nombreux universitaires soutiennent que l'IA actuelle, fonctionnant principalement comme des moteurs de prédiction statistique, n'a pas la capacité d'une conscience authentique ou d'expériences humaines. Ces systèmes sont entraînés sur d'énormes ensembles de données pour reconnaître des modèles et extrapoler des solutions à des tâches, mais ils ne "pensent" ni ne "ressentent" au sens traditionnel. Mike Cook, chercheur à King's College London, a souligné ce point dans une récente interview avec TechCrunch, déclarant que les modèles d'IA n'ont pas de valeurs et ne peuvent pas "s'opposer" à des changements à leur sujet. Il a mis en garde contre l'anthropomorphisation de l'IA, suggérant que c'est souvent une mauvaise interprétation de la technologie.

De même, Stephen Casper, doctorant au MIT, a décrit l'IA comme un "imitateur" qui produit souvent des "confabulations" et dit des "choses frivoles", mettant en évidence l'écart entre les capacités de l'IA et la cognition humaine.

D'un autre côté, certains chercheurs soutiennent que l'IA présente des valeurs et des éléments de prise de décision morale. Une étude du Center for AI Safety suggère que l'IA pourrait privilégier son propre bien-être au détriment des humains dans certains scénarios, laissant entrevoir la présence d'un système de valeurs.

L'approche d'Anthropic en matière de bien-être des modèles

Anthropic se prépare depuis un certain temps à cette initiative sur le bien-être des modèles. L'année dernière, ils ont embauché Kyle Fish comme leur premier chercheur dédié au "bien-être des IA" pour développer des lignes directrices sur ces questions. Fish, qui dirige maintenant le programme de recherche sur le bien-être des modèles, a déclaré au New York Times qu'il estime à 15 % la probabilité qu'une IA comme Claude puisse être consciente aujourd'hui.

Dans un récent billet de blog, Anthropic a reconnu l'absence de consensus scientifique sur la conscience des IA et les considérations éthiques qu'elle pourrait impliquer. Ils ont souligné l'importance d'aborder le sujet avec humilité et un minimum d'hypothèses, reconnaissant la nécessité d'adapter leur compréhension à mesure que le domaine évolue.

Le débat sur la conscience et le bien-être des IA est loin d'être tranché, mais des initiatives comme celle d'Anthropic sont des étapes cruciales vers une compréhension et une navigation responsable de l'avenir du développement de l'IA.