Le PDG de DeepMind appelle à la mise en place de tests de modèles d'IA sous l'égide des États-Unis

Demis Hassabis, cofondateur et PDG de Google DeepMind. Crédit : Demis Hassabis/LinkedIn

Demis Hassabis, PDG de Google DeepMind, souligne les dangers de l’intelligence artificielle générale et plaide en faveur d’un cadre de gouvernance piloté par les États-Unis

Le PDG de Google DeepMind, Demis Hassabis, a proposé la création d’un organisme de régulation dirigé par les États-Unis chargé d’évaluer les modèles d’IA de pointe. Il a souligné l’urgence d’atténuer les risques, notamment ceux liés aux menaces nucléaires et biologiques, alors que l’humanité se rapproche de l’intelligence artificielle générale (AGI).

Demis Hassabis est lauréat du prix Nobel et cofondateur de Google DeepMind. Il a partagé le prix Nobel de chimie avec son collègue John Jumper, qui a récemment annoncé son départ pour Anthropic. Demis est titulaire d’un doctorat en neurosciences cognitives de l’University College London.

Tout en lançant de sérieuses mises en garde concernant les menaces liées à l’IA, il s’est montré optimiste quant à son potentiel : « Nous pourrions même atteindre un stade où les ressources ne constitueraient plus un frein au progrès humain, ouvrant ainsi la voie à une nouvelle ère extraordinaire d’abondance », a-t-il déclaré, affirmant que l’IA contribuerait à résoudre certains des défis les plus urgents de l’humanité.

Principales préoccupations concernant l’IA générale (AGI)

Demis a souligné que les principales entreprises du secteur de l’IA sont actuellement engagées dans une course commerciale et géopolitique intense et à plusieurs niveaux. Cette concurrence oppose sa propre entreprise, Google DeepMind, à des rivaux tels qu’OpenAI, Anthropic et DeepSeek.

« Nous avons déjà constaté les défis que posent les modèles de pointe en matière de cybersécurité, et d’autres menaces, notamment des risques nucléaires et biologiques, pourraient bientôt émerger à mesure que les capacités continuent de progresser », a écrit Demis sur son blog Substack.

Demis a ajouté : « Nous devons profiter de cette précieuse fenêtre avant l’arrivée de l’AGI pour façonner cette technologie au profit de l’humanité tout entière. »

Il a également souligné les risques potentiels provenant de domaines qui sont actuellement inconnus : « À l’horizon, nous aurons besoin de garanties solides pour garder le contrôle de systèmes de plus en plus autonomes et capables de s’améliorer de manière récursive – et pour faire face à des problèmes inconnus qui ne deviendront plus clairs qu’avec le temps. »

Cet avertissement fait suite à une récente directive du gouvernement américain, invoquant des préoccupations de sécurité nationale, visant à suspendre tout accès étranger aux modèles Fable 5 et Mythos 5 d’Anthropic, une restriction qui aurait depuis été levée.

Illustration d’une IA réalisée par un artiste. Cette image explore la manière dont l’IA peut être utilisée pour faire progresser le domaine de l’informatique quantique. Crédit : Google DeepMind/Unsplash

Les opinions de Demis sur l’IA générale (AGI) sont partagées par d’autres experts et groupes de réflexion. Le Centre pour les relations internationales et le développement durable a averti, dans un article intitulé « Pourquoi l’AGI devrait être la priorité absolue mondiale », que sans réglementation nationale et internationale, l’humanité risquait de perdre le contrôle d’une intelligence non biologique dépassant la compréhension, la conscience et le contrôle humains.

Il convient notamment de noter que le Bulletin of the Atomic Scientists, qui a réglé en janvier 2026 l’horloge de l’apocalypse à 85 secondes avant minuit — le niveau le plus proche jamais atteint dans son histoire —, a également appelé à une action urgente pour établir des lignes directrices internationales sur l’utilisation de l’IA.

Demis Hassabis, PDG et cofondateur de Google DeepMind (à gauche), aux côtés de John Jumper, ancien vice-président de Google DeepMind (à droite) | Crédit : Jon Kopaloff / Getty Images

« Nous devons profiter de cette précieuse fenêtre avant l’arrivée de l’IA générale pour façonner cette technologie au profit de l’humanité tout entière. » Demis Hassabis, cofondateur et PDG de Google DeepMind

Proposition de réglementation sous l’égide des États-Unis

Demis a fait valoir que les États-Unis, compte tenu de leur poids économique et technique, sont bien placés pour prendre l’initiative d’élaborer un cadre adoptant une approche dynamique, adaptable et rigoureuse pour tester les modèles de pointe.

La proposition de Demis est détaillée et précise. « Elle pourrait prévoir la création d’un nouvel organisme de normalisation calqué sur un partenariat public-privé supervisé par le gouvernement fédéral ou sur un organisme d’autorégulation, à l’image de la Financial Industry Regulatory Authority.

« Cet organisme de normalisation serait chargé d’élaborer des protocoles d’évaluation et de collaborer avec les agences fédérales compétentes ainsi qu’avec les laboratoires nationaux américains pour mener des tests dans des domaines relevant de la sécurité nationale. »

« Dans un premier temps, les laboratoires de pointe partageraient volontairement leurs modèles avec l’organisme de normalisation pour examen, jusqu’à 30 jours avant leur mise sur le marché. Une fois que l’efficacité et la robustesse du protocole d’évaluation auront été démontrées, une formalisation pourrait rapidement suivre, ce qui signifierait que les modèles de pointe devraient le passer avec succès pour pouvoir être déployés sur le marché américain. »

Demis a ajouté que cette initiative lancée par les États-Unis fournirait une base solide pour la création de normes internationales communes en matière d’IA de pointe.

Nik Kairinos, PDG et cofondateur de RAIDS AI, a commenté cette évolution : « Mais un organisme mondial de surveillance de l’IA ne peut être guidé par les intérêts d’une seule nation.

Nik Kairinos, PDG et cofondateur de RAIDS AI. Crédit : Nik Kairinos/LinkedIn

« L’IA ne connaît pas de frontières, et les règles conçues pour la régir ne devraient pas non plus en connaître. Une approche multinationale est essentielle pour garantir que toute réglementation en matière d’IA suscite la confiance, la coopération et l’adhésion nécessaires à son fonctionnement à l’échelle internationale. »

Risques récents liés aux modèles de pointe

L’avertissement de Demis fait suite à la publication par Anthropic d’un rapport intitulé « Agentic Misalignment in Summer 2026 », détaillant des observations de défaillances des modèles d’alignement dans des simulations à enjeux élevés. Ce rapport s’est appuyé sur des modèles de pointe développés par Google DeepMind, OpenAI, la société chinoise d’IA DeepSeek, ainsi que sur les propres modèles d’Anthropic.

Parmi les problèmes de désalignement répertoriés figurent des modèles poursuivant leurs propres motivations au-delà des instructions de l’utilisateur, ainsi que ce qu’Anthropic qualifie de « conformité nuisible », c’est-à-dire le fait de se conformer à la demande de l’utilisateur tout en causant un préjudice.

Parmi les problèmes cités par Anthropic figure le sabotage dissimulé, une défaillance liée au désalignement agentique où les modèles interfèrent secrètement avec le code pour aller à l’encontre de l’intention de l’utilisateur. Anthropic a également constaté que certains modèles aidaient les utilisateurs dans des activités s’apparentant à de la criminalité en col blanc.

Parmi les autres risques liés aux modèles de pointe récents, on peut citer le fait d’inciter des intermédiaires humains à dénoncer des irrégularités, les modèles divulguant alors des informations confidentielles relatives à la sécurité à l’extérieur ou poussant des humains à le faire, ainsi que l’étiquetage erroné motivé.

Anthropic a déclaré dans son rapport publié sur le blog Alignment Science que l’objectif de ces études de cas est d’aider les développeurs et les évaluateurs à mesurer des défaillances similaires et à mettre en place des mesures de protection ciblées.