Maison
L'OpenAI pourrait assouplir ses garanties si ses concurrents lancent des modèles d'IA potentiellement dangereux

L'OpenAI ajuste son protocole de sécurité sous la pression de la concurrence
L'OpenAI a révisé son Preparedness Framework, le mécanisme interne qui guide les évaluations de la sécurité des modèles d'IA et la mise en œuvre des mesures de protection tout au long des cycles de développement. La politique mise à jour comprend notamment des dispositions permettant un assouplissement potentiel des mesures de sécurité si des entreprises concurrentes lancent des systèmes à haut risque sans protections équivalentes.
Cette modification souligne les forces croissantes du marché qui obligent les développeurs d'IA à accélérer les délais de déploiement. L'OpenAI fait l'objet d'un examen de plus en plus minutieux en raison de l'affaiblissement présumé des priorités en matière de sécurité afin de permettre des lancements plus rapides, y compris la publication tardive de la documentation relative à l'évaluation de la sécurité. Lors d'une récente procédure judiciaire, 12 anciens employés ont soutenu la plainte d'Elon Musk contre OpenAI, avertissant que la restructuration prévue de l'entreprise pourrait encore éroder les normes de sécurité.
Équilibrer la concurrence et la sécurité
Anticipant les critiques, OpenAI a souligné que tout ajustement de sa politique maintiendrait des niveaux de protection rigoureux. "Bien que nous puissions adapter les exigences si les concurrents déploient des systèmes à haut risque sans mesures de protection comparables, nous nous engageons à procéder à une vérification approfondie des risques, à faire preuve de transparence sur les modifications et à maintenir des mesures de protection supérieures", indique la mise à jour du blog de mardi.
Le cadre révisé souligne la dépendance croissante de l'OpenAI à l'égard des outils d'évaluation automatisés, parallèlement aux tests traditionnels menés par des humains. Les représentants de l'entreprise affirment que ces systèmes automatisés permettent de maintenir le rythme de publication sans compromettre la qualité de l'évaluation.
Des pratiques de test controversées apparaissent
Des rapports contredisent la position officielle d'OpenAI, avec des comptes rendus d'initiés révélant des périodes d'examen de sécurité comprimées. Selon des sources du Financial Times, les testeurs ont récemment reçu moins d'une semaine pour évaluer un modèle imminent, ce qui est nettement plus court que les délais précédents. D'autres inquiétudes sont apparues concernant les tests de sécurité effectués principalement sur des variantes de modèles en préversion plutôt que sur des versions de déploiement public.
OpenAI réduit discrètement ses engagements en matière de sécurité.
Omis dans les modifications du cadre :
- Aucun test de sécurité n'est requis pour les modèles affinés.
- Steven Adler (@sjgadler) 15 avril 2025
Système de classification des risques redéfini
Le cadre mis à jour introduit une catégorisation rationalisée des modèles axée sur deux seuils de capacité :
- Capacité élevée : Modèles amplifiant les vecteurs de dommages graves existants
- Capacité critique : Modèles établissant de nouvelles voies de dommages graves
"Les systèmes à haute capacité exigent des mesures de protection contre les risques avant le déploiement", a précisé l'OpenAI. "Les modèles à capacité critique nécessitent des protections supplémentaires en phase de développement.
Il s'agit de la première révision substantielle du cadre depuis 2023, reflétant l'évolution de la dynamique de l'industrie et les changements opérationnels internes de l'OpenAI.
Article connexe
OpenAI lance une version plus sûre de ChatGPT pour les adolescents, plusieurs années après qu’ils ont commencé à l’utiliser
À la suite d’une série de poursuites judiciaires liées à l’absence de protocoles de sécurité dans les chatbots basés sur l’IA — qui ont contribué à des suicides d’adolescents et à d’autres crises de s
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr
Le Tiffany Luck de NEA : les entreprises continuent de lutter pour justifier le retour sur investissement de l’IA
Chargement du lecteur…Plus tôt cette année, le « tokenmaxxing » a dominé la Silicon Valley, les PDG exhortant leurs employés à maximiser l’utilisation de l’IA. Cet enthousiasme a rapidement rencontré la réalité. Selon les informations rapportées, Ub
Recommandations de sujets spéciaux liés
commentaires (2)
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?

L'OpenAI ajuste son protocole de sécurité sous la pression de la concurrence
L'OpenAI a révisé son Preparedness Framework, le mécanisme interne qui guide les évaluations de la sécurité des modèles d'IA et la mise en œuvre des mesures de protection tout au long des cycles de développement. La politique mise à jour comprend notamment des dispositions permettant un assouplissement potentiel des mesures de sécurité si des entreprises concurrentes lancent des systèmes à haut risque sans protections équivalentes.
Cette modification souligne les forces croissantes du marché qui obligent les développeurs d'IA à accélérer les délais de déploiement. L'OpenAI fait l'objet d'un examen de plus en plus minutieux en raison de l'affaiblissement présumé des priorités en matière de sécurité afin de permettre des lancements plus rapides, y compris la publication tardive de la documentation relative à l'évaluation de la sécurité. Lors d'une récente procédure judiciaire, 12 anciens employés ont soutenu la plainte d'Elon Musk contre OpenAI, avertissant que la restructuration prévue de l'entreprise pourrait encore éroder les normes de sécurité.
Équilibrer la concurrence et la sécurité
Anticipant les critiques, OpenAI a souligné que tout ajustement de sa politique maintiendrait des niveaux de protection rigoureux. "Bien que nous puissions adapter les exigences si les concurrents déploient des systèmes à haut risque sans mesures de protection comparables, nous nous engageons à procéder à une vérification approfondie des risques, à faire preuve de transparence sur les modifications et à maintenir des mesures de protection supérieures", indique la mise à jour du blog de mardi.
Le cadre révisé souligne la dépendance croissante de l'OpenAI à l'égard des outils d'évaluation automatisés, parallèlement aux tests traditionnels menés par des humains. Les représentants de l'entreprise affirment que ces systèmes automatisés permettent de maintenir le rythme de publication sans compromettre la qualité de l'évaluation.
Des pratiques de test controversées apparaissent
Des rapports contredisent la position officielle d'OpenAI, avec des comptes rendus d'initiés révélant des périodes d'examen de sécurité comprimées. Selon des sources du Financial Times, les testeurs ont récemment reçu moins d'une semaine pour évaluer un modèle imminent, ce qui est nettement plus court que les délais précédents. D'autres inquiétudes sont apparues concernant les tests de sécurité effectués principalement sur des variantes de modèles en préversion plutôt que sur des versions de déploiement public.
OpenAI réduit discrètement ses engagements en matière de sécurité.
- Steven Adler (@sjgadler) 15 avril 2025
Omis dans les modifications du cadre :
- Aucun test de sécurité n'est requis pour les modèles affinés.
Système de classification des risques redéfini
Le cadre mis à jour introduit une catégorisation rationalisée des modèles axée sur deux seuils de capacité :
- Capacité élevée : Modèles amplifiant les vecteurs de dommages graves existants
- Capacité critique : Modèles établissant de nouvelles voies de dommages graves
"Les systèmes à haute capacité exigent des mesures de protection contre les risques avant le déploiement", a précisé l'OpenAI. "Les modèles à capacité critique nécessitent des protections supplémentaires en phase de développement.
Il s'agit de la première révision substantielle du cadre depuis 2023, reflétant l'évolution de la dynamique de l'industrie et les changements opérationnels internes de l'OpenAI.
OpenAI lance une version plus sûre de ChatGPT pour les adolescents, plusieurs années après qu’ils ont commencé à l’utiliser
À la suite d’une série de poursuites judiciaires liées à l’absence de protocoles de sécurité dans les chatbots basés sur l’IA — qui ont contribué à des suicides d’adolescents et à d’autres crises de s
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr
Le Tiffany Luck de NEA : les entreprises continuent de lutter pour justifier le retour sur investissement de l’IA
Chargement du lecteur…Plus tôt cette année, le « tokenmaxxing » a dominé la Silicon Valley, les PDG exhortant leurs employés à maximiser l’utilisation de l’IA. Cet enthousiasme a rapidement rencontré la réalité. Selon les informations rapportées, Ub
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?











