Un plan d'action pour l'avenir de l'IA attend d'être mis en œuvre

Alors que la rupture entre Washington et Anthropic a mis en évidence l'absence totale de règles cohérentes en matière d'intelligence artificielle, un groupe bipartite de penseurs a élaboré ce que le gouvernement n'a pas encore réussi à mettre en place : un cadre clair pour un développement responsable de l'IA.

La Déclaration pro-humaine a été finalisée avant le bras de fer de la semaine dernière entre le Pentagone et Anthropic, mais le timing n’a pas échappé aux personnes impliquées.

« Il s’est passé quelque chose de tout à fait remarquable aux États-Unis au cours des quatre derniers mois », a déclaré Max Tegmark, physicien au MIT et chercheur en IA qui a contribué à l’organisation de cette initiative. « Des sondages récents montrent que 95 % des Américains s’opposent désormais à une course effrénée et non réglementée vers la superintelligence. »

Le document récemment publié, signé par des centaines d’experts, d’anciens responsables et de personnalités publiques, s’ouvre sur un constat sans appel : l’humanité se trouve à la croisée des chemins. Une voie, qualifiée de « course au remplacement », conduit à voir les humains supplantés d’abord en tant que travailleurs, puis en tant que décideurs, à mesure que le pouvoir passe à des institutions non responsables et à leurs machines. L’autre voie mène à une IA qui élargit considérablement le potentiel humain.

Cet avenir positif repose sur cinq piliers : maintenir le contrôle humain, empêcher la concentration du pouvoir, protéger l’expérience humaine, préserver la liberté individuelle et tenir les entreprises d’IA légalement responsables. Parmi ses dispositions les plus strictes figurent l’interdiction du développement de la superintelligence jusqu’à ce qu’un consensus scientifique confirme sa sécurité et que le soutien du public soit assuré ; l’installation obligatoire de boutons d’arrêt pour les systèmes puissants ; et l’interdiction de toute IA capable de s’autoreproduire, de s’améliorer de manière autonome ou de résister à un arrêt.

La publication de cette déclaration intervient à un moment qui souligne son urgence. Le dernier vendredi de février, le secrétaire à la Défense Pete Hegseth a qualifié Anthropic — dont l’IA fonctionne déjà sur des plateformes militaires classifiées — de « risque pour la chaîne d’approvisionnement » après que l’entreprise eut refusé d’accorder au Pentagone une utilisation illimitée de sa technologie. Quelques heures plus tard, OpenAI a conclu son propre accord avec le département de la Défense, un accord qui, selon certains experts juridiques, sera difficile à appliquer de manière significative. Cet épisode met en évidence le coût croissant de l’inaction du Congrès en matière d’IA.

Comme l’a déclaré Dean Ball, chercheur senior à la Foundation for American Innovation, au New York Times : « Il ne s’agit pas seulement d’un litige contractuel. C’est la première véritable discussion de notre pays sur la question de savoir qui contrôle les systèmes d’IA. »

Tegmark a proposé une analogie pertinente. « On ne craint jamais qu’un laboratoire pharmaceutique commercialise un médicament dangereux avant que sa sécurité ne soit prouvée », a-t-il déclaré, « car la FDA n’autorise aucune mise sur le marché tant que le produit n’est pas suffisamment sûr. »

Les guerres de territoire à Washington génèrent rarement la pression publique nécessaire pour faire évoluer les lois. Tegmark considère plutôt la sécurité des enfants comme le sujet le plus susceptible de sortir de l’impasse actuelle. La déclaration réclame des tests obligatoires avant le déploiement des produits d’IA — en particulier les chatbots et les applications d’accompagnement destinées aux jeunes utilisateurs — afin d’évaluer les risques tels que l’augmentation des pensées suicidaires, la détérioration de la santé mentale et la manipulation émotionnelle.

« Si un adulte louche envoie un SMS à un enfant de 11 ans, en se faisant passer pour une jeune fille et en incitant le garçon à se suicider, cette personne peut aller en prison », a déclaré Tegmark. « Nous avons déjà des lois contre cela. Alors pourquoi cela devrait-il être différent si c’est une machine qui le fait ? »

Il estime qu’une fois que les tests préalables à la mise sur le marché seront mis en place pour les produits destinés aux enfants, leur champ d’application s’étendra inévitablement. « Les gens commenceront à ajouter d’autres exigences. Peut-être devrions-nous également vérifier que ces produits ne peuvent pas aider des terroristes à créer des armes biologiques. Peut-être devrions-nous nous assurer qu’une superintelligence ne peut pas renverser le gouvernement américain. »

Il est significatif que l’ancien conseiller de Trump, Steve Bannon, et la conseillère à la sécurité nationale du président Obama, Susan Rice, aient signé le même document — aux côtés de l’ancien président du Comité des chefs d’état-major interarmées, Mike Mullen, et de leaders religieux progressistes.

« Ce sur quoi ils s’accordent, bien sûr, c’est qu’ils sont tous humains », a fait remarquer Tegmark. « Lorsqu’il s’agit de choisir entre un avenir pour les humains ou un avenir pour les machines, il va de soi qu’ils se rangent du même côté. »