OpenAI indique que ses modèles d’IA internes gèrent de manière autonome leur apprentissage expérimental, ce qui laisse entrevoir les prémices d’une auto-amélioration récursive. Afin d’atténuer les risques liés à une perte de contrôle humain, OpenAI propose des normes de sécurité mondiales, notamment une supervision obligatoire et la déclaration des incidents. L’entreprise est également en train de finaliser un accord de supervision mutuelle avec Anthropic afin de soumettre les modèles à des tests croisés et de faire face aux risques inconnus, garantissant ainsi que la recherche en matière de sécurité devance les capacités de l’IA.