Anthropic supprime la politique Biden AI du site Web tranquillement

Anthropic, une entreprise axée sur le développement de l'IA, a récemment supprimé de son site web plusieurs engagements volontaires en matière de sécurité de l'IA, pris en collaboration avec l'administration Biden en 2023. Ces engagements, visant à promouvoir une IA sûre et fiable, incluaient le partage d'informations sur la gestion des risques liés à l'IA et la réalisation de recherches sur les biais et la discrimination dans l'IA. Le groupe de surveillance de l'IA, The Midas Project, a souligné que ces engagements ont été retirés du centre de transparence d'Anthropic la semaine dernière. Cependant, les engagements liés à la réduction des abus sexuels basés sur des images générées par l'IA sont toujours en place.

Anthropic n'a fait aucune annonce concernant ce changement et n'a pas répondu immédiatement aux demandes de commentaires. L'entreprise, ainsi que d'autres comme OpenAI, Google, Microsoft, Meta et Inflection, avait accepté de suivre certaines mesures volontaires de sécurité de l'IA proposées par l'administration Biden en juillet 2023. Ces mesures incluaient des tests de sécurité internes et externes des systèmes d'IA avant leur sortie, des investissements dans la cybersécurité pour protéger les données sensibles de l'IA, et le développement de moyens pour marquer le contenu généré par l'IA.

Il est à noter qu'Anthropic mettait déjà en œuvre bon nombre de ces pratiques, et l'accord n'était pas juridiquement contraignant. L'objectif de l'administration Biden était de mettre en avant ses priorités en matière de politique d'IA avant la mise en œuvre d'un décret exécutif sur l'IA plus complet quelques mois plus tard.

L'administration Trump, en revanche, a signalé une approche différente de la gouvernance de l'IA. En janvier, le président Trump a révoqué le décret exécutif sur l'IA, qui avait ordonné à l'Institut national des normes et de la technologie de créer des lignes directrices pour les entreprises afin d'identifier et de corriger les défauts des modèles d'IA, y compris les biais. Les alliés de Trump ont critiqué ce décret pour ses exigences de rapport lourdes, qui, selon eux, obligeaient les entreprises à révéler leurs secrets commerciaux.

Peu après la révocation du décret exécutif sur l'IA, Trump a publié une nouvelle directive pour les agences fédérales afin de soutenir le développement de l'IA "exempte de biais idéologiques" qui favoriserait "l'épanouissement humain, la compétitivité économique et la sécurité nationale". Contrairement à l'initiative de Biden, l'ordre de Trump n'abordait pas la lutte contre la discrimination dans l'IA.

The Midas Project a souligné sur X que les engagements de l'ère Biden n'indiquaient pas qu'ils étaient temporaires ou dépendants du parti politique au pouvoir. Après l'élection de novembre, plusieurs entreprises d'IA ont réaffirmé leurs engagements.

Anthropic n'est pas la seule entreprise à ajuster ses politiques publiques depuis l'arrivée de Trump au pouvoir. OpenAI a récemment déclaré qu'elle défendrait "la liberté intellectuelle ... quel que soit le sujet, aussi difficile ou controversé soit-il", et s'assurerait que son IA ne censure pas certains points de vue. OpenAI a également supprimé une page de son site web qui mettait auparavant en avant son engagement envers la diversité, l'équité et l'inclusion (DEI). Ces programmes ont été critiqués par l'administration Trump, incitant de nombreuses entreprises à abandonner ou à modifier significativement leurs initiatives DEI.

Certains conseillers en IA de Trump dans la Silicon Valley, dont Marc Andreessen, David Sacks et Elon Musk, ont accusé des entreprises comme Google et OpenAI de censurer l'IA en restreignant les réponses de leurs chatbots. Cependant, des laboratoires comme OpenAI ont nié que leurs ajustements de politique soient dus à des pressions politiques.

OpenAI et Anthropic détiennent actuellement ou recherchent activement des contrats gouvernementaux.

Quelques heures après la publication de cet article, Anthropic a fourni à TechCrunch la déclaration suivante :

"Nous restons engagés envers les engagements volontaires en matière d'IA établis sous l'administration Biden. Ces progrès et actions spécifiques continuent d'être reflétés dans [notre] centre de transparence au sein du contenu. Pour éviter toute confusion supplémentaire, nous ajouterons une section citant directement où nos progrès s'alignent."

Mis à jour à 11h25, heure du Pacifique : Ajout d'une déclaration d'Anthropic.