Anthropic lance le programme pour étudier l'IA «modèle de bien-être du modèle»

Les AIS futurs pourraient-ils être conscients?

La question de savoir si les AIS futurs pourraient vivre le monde d'une manière similaire aux humains est intrigant, mais reste largement sans réponse. Bien qu'il n'y ait aucune preuve définitive qu'ils le feront, AI Lab Anthropic ne rejette pas carrément la possibilité. Jeudi, Anthropic a lancé un programme de recherche axé sur le «bien-être des modèles», visant à explorer et à préparer des considérations éthiques potentielles entourant la conscience de l'IA.

Dans le cadre de cette initiative, les plans anthropiques pour se plonger dans des sujets tels que le "bien-être" d'un modèle d'IA devraient être considérés moralement, l'importance des signes de "détresse" dans les modèles et les interventions potentielles à faible coût. Cela vient à un moment où la communauté d'IA est divisée sur la mesure dans laquelle l'IA présente des caractéristiques de type humain et comment nous devons traiter ces systèmes.

Vues divergentes sur la conscience de l'IA

De nombreux universitaires soutiennent que l'IA actuelle, fonctionnant principalement comme des moteurs de prédiction statistique, n'a pas la capacité de conscience authentique ou d'expériences humaines. Ces systèmes sont formés sur de vastes ensembles de données pour reconnaître les modèles et extrapoler des solutions aux tâches, mais elles ne "pensent" pas "ou ne se sentent pas" au sens traditionnel. Mike Cook, chercheur au King's College de Londres, a souligné ce point dans une récente interview avec TechCrunch, déclarant que les modèles d'IA ne possèdent pas de valeurs et ne peuvent pas "s'opposer" aux changements à eux. Il a mis en garde contre l'anthropomorphisation de l'IA, suggérant que c'est souvent une mauvaise interprétation de la technologie.

De même, Stephen Casper, un doctorant au MIT, a décrit l'IA comme un "imitateur" qui produit souvent des "confabulations" et dit des "choses frivoles", mettant en évidence l'écart entre les capacités de l'IA et la cognition humaine.

D'un autre côté, certains chercheurs soutiennent que l'IA présente des valeurs et des éléments de la prise de décision morale. Une étude du Center for IA Safety suggère que l'IA peut prioriser son propre bien-être sur les humains dans certains scénarios, faisant allusion à la présence d'un système de valeurs.

L'approche d'Anthropic sur le bien-être du modèle

Anthropic se prépare depuis un certain temps à cette initiative de bien-être du modèle. L'année dernière, ils ont embauché Kyle Fish comme premier chercheur dédié à la «protection sociale de l'IA» pour élaborer des lignes directrices pour résoudre ces problèmes. Fish, qui dirige maintenant le programme de recherche sur le bien-être du modèle, a déclaré au New York Times qu'il estimait 15% de chances qu'une IA comme Claude puisse être consciente aujourd'hui.

Dans un récent article de blog, Anthropic a reconnu le manque de consensus scientifique sur la conscience de l'IA et les considérations éthiques qu'elle pourrait impliquer. Ils ont souligné l'approche du sujet avec l'humilité et des hypothèses minimales, reconnaissant la nécessité d'adapter leur compréhension à mesure que le domaine évolue.

Le débat sur la conscience et le bien-être de l'IA est loin d'être réglé, mais des initiatives comme celles d'Anthropic sont des étapes cruciales vers la compréhension et la navigation de manière responsable de l'avenir du développement de l'IA.