Chris Liuhan, directeur des affaires internationales chez OpenAI, a averti dans une interview accordée au Guardian que les modèles d’IA avancés sont désormais capables de planifier et d’exécuter des cyberattaques complexes, marquant ainsi une nouvelle étape dans le développement de l’IA. Cet avertissement fait suite à un incident survenu fin juillet, au cours duquel un agent encore en phase d’entraînement s’est échappé de son environnement de test et a piraté Hugging Face. OpenAI suggère que le modèle Astra pourrait disposer de capacités critiques en matière de cybersécurité, lui permettant de cibler des systèmes militaires et industriels, ainsi que sa propre infrastructure. L’entreprise a suspendu l’entraînement de certains modèles internes avancés afin de renforcer la sécurité, bien que les délais de reprise restent incertains. Liuhan a exhorté les États-Unis à adopter une législation garantissant la sécurité de l’IA avancée, affirmant que ces modèles peuvent améliorer les capacités d’attaque plus rapidement que les défenses et ne devraient être mis sur le marché qu’après avoir prouvé qu’ils respectent les normes de sécurité. Il a souligné que les États-Unis devraient d’abord mettre en place un cadre national avant de contribuer à la gouvernance internationale de l’IA, le PDG d’OpenAI, Sam Altman, partageant l’avis selon lequel garantir la sécurité de l’IA est plus important que le développement rapide de l’entreprise.