L'OpenAI pourrait assouplir ses garanties si ses concurrents lancent des modèles d'IA potentiellement dangereux

L'OpenAI ajuste son protocole de sécurité sous la pression de la concurrence

L'OpenAI a révisé son Preparedness Framework, le mécanisme interne qui guide les évaluations de la sécurité des modèles d'IA et la mise en œuvre des mesures de protection tout au long des cycles de développement. La politique mise à jour comprend notamment des dispositions permettant un assouplissement potentiel des mesures de sécurité si des entreprises concurrentes lancent des systèmes à haut risque sans protections équivalentes.

Cette modification souligne les forces croissantes du marché qui obligent les développeurs d'IA à accélérer les délais de déploiement. L'OpenAI fait l'objet d'un examen de plus en plus minutieux en raison de l'affaiblissement présumé des priorités en matière de sécurité afin de permettre des lancements plus rapides, y compris la publication tardive de la documentation relative à l'évaluation de la sécurité. Lors d'une récente procédure judiciaire, 12 anciens employés ont soutenu la plainte d'Elon Musk contre OpenAI, avertissant que la restructuration prévue de l'entreprise pourrait encore éroder les normes de sécurité.

Équilibrer la concurrence et la sécurité

Anticipant les critiques, OpenAI a souligné que tout ajustement de sa politique maintiendrait des niveaux de protection rigoureux. "Bien que nous puissions adapter les exigences si les concurrents déploient des systèmes à haut risque sans mesures de protection comparables, nous nous engageons à procéder à une vérification approfondie des risques, à faire preuve de transparence sur les modifications et à maintenir des mesures de protection supérieures", indique la mise à jour du blog de mardi.

Le cadre révisé souligne la dépendance croissante de l'OpenAI à l'égard des outils d'évaluation automatisés, parallèlement aux tests traditionnels menés par des humains. Les représentants de l'entreprise affirment que ces systèmes automatisés permettent de maintenir le rythme de publication sans compromettre la qualité de l'évaluation.

Des pratiques de test controversées apparaissent

Des rapports contredisent la position officielle d'OpenAI, avec des comptes rendus d'initiés révélant des périodes d'examen de sécurité comprimées. Selon des sources du Financial Times, les testeurs ont récemment reçu moins d'une semaine pour évaluer un modèle imminent, ce qui est nettement plus court que les délais précédents. D'autres inquiétudes sont apparues concernant les tests de sécurité effectués principalement sur des variantes de modèles en préversion plutôt que sur des versions de déploiement public.

OpenAI réduit discrètement ses engagements en matière de sécurité.

Omis dans les modifications du cadre :

- Aucun test de sécurité n'est requis pour les modèles affinés.

- Steven Adler (@sjgadler) 15 avril 2025

Système de classification des risques redéfini

Le cadre mis à jour introduit une catégorisation rationalisée des modèles axée sur deux seuils de capacité :

• Capacité élevée : Modèles amplifiant les vecteurs de dommages graves existants
• Capacité critique : Modèles établissant de nouvelles voies de dommages graves

"Les systèmes à haute capacité exigent des mesures de protection contre les risques avant le déploiement", a précisé l'OpenAI. "Les modèles à capacité critique nécessitent des protections supplémentaires en phase de développement.

Il s'agit de la première révision substantielle du cadre depuis 2023, reflétant l'évolution de la dynamique de l'industrie et les changements opérationnels internes de l'OpenAI.