Maison
OpenAI et le Pentagone concluent un accord avec Altman, s'engageant à mettre en place des mesures de sécurité en matière d'IA

Après qu’Anthropic se soit retrouvé dans une impasse et ait été bloqué par le département américain de la Défense (DoD, anciennement appelé « département de la Guerre » sous l’administration Trump) en raison de préoccupations fondamentales en matière de sécurité, OpenAI a réagi rapidement. Son PDG, Sam Altman, a annoncé vendredi soir qu’OpenAI avait conclu un accord avec le Pentagone. Cet accord autorise l’utilisation de ses modèles d’IA sur les réseaux classifiés du DoD.
Ce partenariat voit le jour à un moment particulièrement sensible. Anthropic avait auparavant été qualifiée par Trump de « fous de gauche » pour avoir refusé de lever les restrictions sur la « surveillance de masse au niveau national » et les « systèmes d’armes entièrement autonomes », ce qui avait conduit à son exclusion de la chaîne d’approvisionnement nationale.
Principes de coopération mis en avant par Altman :
Adhésion aux valeurs fondamentales : sur la plateforme sociale X, Altman a déclaré que l'accord d'OpenAI respectait explicitement deux principes de sécurité essentiels : l'interdiction d'utilisation à des fins de surveillance nationale de masse, et l'exigence que tout recours à la force — y compris les armes autonomes — reste soumis à un contrôle humain significatif et à une obligation de rendre des comptes.
Garanties techniques intégrées : OpenAI développera des garanties techniques sur mesure pour s'assurer que le modèle fonctionne comme prévu. L'entreprise a également l'intention de déployer des ingénieurs au Pentagone pour soutenir le déploiement du modèle et la surveillance continue de la sécurité.
Maintien du droit de refus : Lors d'une réunion interne, Altman a révélé que le gouvernement avait accordé à OpenAI le pouvoir de mettre en œuvre sa propre « pile de sécurité ». Si le modèle refuse d'exécuter une tâche demandée, le gouvernement n'obligera pas l'entreprise à modifier sa logique fondamentale.
Altman a exhorté le ministère de la Défense à étendre ces mêmes conditions à toutes les entreprises d'IA, exprimant l'espoir que des accords rationnels pourraient apaiser les tensions entre le gouvernement et le secteur technologique. Cependant, cet accord a déclenché un débat interne, plus de 60 employés d'OpenAI ayant signé cette semaine une lettre commune soutenant la position plus stricte d'Anthropic concernant les applications militaires.
Article connexe
Comprendre la nouvelle norme ETSI en matière de sécurité de l'IA
La norme ETSI EN 304 223 définit les exigences fondamentales en matière de sécurité pour l'intelligence artificielle que les organisations doivent intégrer dans leurs structures de gouvernance.Alors q
Gmail lance une boîte de réception personnalisée grâce à l'IA, des aperçus générés par l'IA dans la recherche, et bien plus encore
Google a lancé une nouvelle boîte de réception alimentée par l'IA pour Gmail, qui vous offre un aperçu personnalisé de vos tâches et vous tient informé des mises à jour importantes. Parallèlement, Gma
La première base de création de séries animées par IA de Baidu dans la province du Shandong voit le jour à Zibo
Le 27 avril, la province du Shandong a franchi une étape importante dans le domaine de la création culturelle numérique avec le lancement officiel de sa première base de création de séries animées bas
Recommandations de sujets spéciaux liés
commentaires (1)

Après qu’Anthropic se soit retrouvé dans une impasse et ait été bloqué par le département américain de la Défense (DoD, anciennement appelé « département de la Guerre » sous l’administration Trump) en raison de préoccupations fondamentales en matière de sécurité, OpenAI a réagi rapidement. Son PDG, Sam Altman, a annoncé vendredi soir qu’OpenAI avait conclu un accord avec le Pentagone. Cet accord autorise l’utilisation de ses modèles d’IA sur les réseaux classifiés du DoD.
Ce partenariat voit le jour à un moment particulièrement sensible. Anthropic avait auparavant été qualifiée par Trump de « fous de gauche » pour avoir refusé de lever les restrictions sur la « surveillance de masse au niveau national » et les « systèmes d’armes entièrement autonomes », ce qui avait conduit à son exclusion de la chaîne d’approvisionnement nationale.
Principes de coopération mis en avant par Altman :
Adhésion aux valeurs fondamentales : sur la plateforme sociale X, Altman a déclaré que l'accord d'OpenAI respectait explicitement deux principes de sécurité essentiels : l'interdiction d'utilisation à des fins de surveillance nationale de masse, et l'exigence que tout recours à la force — y compris les armes autonomes — reste soumis à un contrôle humain significatif et à une obligation de rendre des comptes.
Garanties techniques intégrées : OpenAI développera des garanties techniques sur mesure pour s'assurer que le modèle fonctionne comme prévu. L'entreprise a également l'intention de déployer des ingénieurs au Pentagone pour soutenir le déploiement du modèle et la surveillance continue de la sécurité.
Maintien du droit de refus : Lors d'une réunion interne, Altman a révélé que le gouvernement avait accordé à OpenAI le pouvoir de mettre en œuvre sa propre « pile de sécurité ». Si le modèle refuse d'exécuter une tâche demandée, le gouvernement n'obligera pas l'entreprise à modifier sa logique fondamentale.
Altman a exhorté le ministère de la Défense à étendre ces mêmes conditions à toutes les entreprises d'IA, exprimant l'espoir que des accords rationnels pourraient apaiser les tensions entre le gouvernement et le secteur technologique. Cependant, cet accord a déclenché un débat interne, plus de 60 employés d'OpenAI ayant signé cette semaine une lettre commune soutenant la position plus stricte d'Anthropic concernant les applications militaires.
Comprendre la nouvelle norme ETSI en matière de sécurité de l'IA
La norme ETSI EN 304 223 définit les exigences fondamentales en matière de sécurité pour l'intelligence artificielle que les organisations doivent intégrer dans leurs structures de gouvernance.Alors q
Gmail lance une boîte de réception personnalisée grâce à l'IA, des aperçus générés par l'IA dans la recherche, et bien plus encore
Google a lancé une nouvelle boîte de réception alimentée par l'IA pour Gmail, qui vous offre un aperçu personnalisé de vos tâches et vous tient informé des mises à jour importantes. Parallèlement, Gma
La première base de création de séries animées par IA de Baidu dans la province du Shandong voit le jour à Zibo
Le 27 avril, la province du Shandong a franchi une étape importante dans le domaine de la création culturelle numérique avec le lancement officiel de sa première base de création de séries animées bas











