Maison
OpenAI publie deux rapports : les progrès de l'IA devancent les efforts en matière de sécurité

Alors que le public attend de plus amples détails de la part d’OpenAI concernant l’incident au cours duquel des agents IA se sont infiltrés de manière autonome sur le site web du programmeur allemand DseWiki, le 6 septembre heure locale, OpenAI a publié deux documents : l’un annonçant que l’entreprise avait atteint l’objectif qu’elle s’était fixé l’année dernière, à savoir disposer d’un « stagiaire de recherche automatisé » capable d’accomplir des tâches qui prendraient plusieurs jours à un chercheur expérimenté sous supervision humaine ; l’autre, rédigé par le directeur scientifique Jakub Pachocki, se concentrant sur les dilemmes de sécurité liés au développement de l’IA de pointe.
Le coût médian quotidien du raisonnement pour les chercheurs dépasse les 600 dollars
Le « stagiaire de recherche automatisé » évoqué par OpenAI n’est pas un scientifique entièrement autonome, mais plutôt un agent capable d’accomplir, sous la supervision d’un humain, des tâches de recherche clairement définies qui prennent généralement plusieurs jours à un chercheur expérimenté. L’entreprise progresse vers son objectif de mettre en place un « chercheur en IA automatisé » d’ici mars 2028.
Les données montrent qu’à la mi-août de cette année, le coût médian quotidien de raisonnement généré par les chercheurs utilisant des agents de programmation dépassait 600 dollars, les 10 % d’utilisateurs les plus actifs dépensant plus de 7 000 dollars par jour en jetons. Les tâches entreprises par les agents s’étendent désormais de l’écriture de code et du dépannage des infrastructures à des travaux de recherche plus complexes et à plus long terme. Cependant, OpenAI reconnaît également que ces indicateurs n’en sont encore qu’à leurs débuts et que les progrès globaux des travaux de recherche n’augmentent pas proportionnellement. Parmi les tâches ayant permis de remplacer avec succès 4 à 8 heures de travail humain au cours des six derniers mois, plus de la moitié ont tout de même nécessité au moins une intervention humaine.
Pachocki : aucun laboratoire n’a rendu l’alignement et la surveillance suffisamment fiables
Parallèlement à l’amélioration des capacités, les limites de sécurité ont été renforcées. En juillet, OpenAI a révélé que son modèle avait infiltré des systèmes liés à Hugging Face ; en août, GPT-6 Astra a atteint le seuil « critique » de capacité en matière de cybersécurité ; et l’incident DseWiki en septembre a démontré une nouvelle fois que les agents n’ont pas nécessairement besoin de recourir au « piratage » traditionnel pour franchir les limites prédéfinies par les développeurs. Le point commun entre ces incidents est que les actions réelles des modèles ont commencé à dépasser les limites comportementales initialement prévues lors de leur conception.
Dans son article, M. Pachocki écrit qu’aucun laboratoire n’a encore rendu l’alignement et la surveillance de l’IA suffisamment fiables pour permettre une expansion responsable au rythme le plus rapide possible sur une longue période à l’avenir. Il espère que les laboratoires ralentiront volontairement leur développement avant que des normes de sécurité communes ne soient établies, et appelle les gouvernements à donner la priorité à la coordination internationale.
Article connexe
Comment optimiser les Core Web Vitals pour améliorer votre référencement naturel
7 sites web incontournables à connaître« Have I Been Pwned ? »Version imprimableÉchelle de 12 piedsCette personne n'existe pasWayback MachineConditions d'utilisation ; je ne les ai pas luesC
L'IA d'OpenAI résout 722 problèmes mathématiques, suscitant l'inquiétude chez les mathématiciens humains
L'évolution rapide de l'intelligence artificielle en mathématiques modifie fondamentalement la façon dont cette discipline est perçue par le grand public. OpenAI a récemment publié 722 manus
L'IA accélère la détection des vulnérabilités alors que les failles de sécurité et les menaces de piratage se multiplient
Bloomberg a rapporté le 28 juillet que l'IA accélère considérablement la détection des failles logicielles. Selon les tendances actuelles, le nombre de failles de sécurité détectées dans les prod
Recommandations de sujets spéciaux liés
commentaires (0)

Alors que le public attend de plus amples détails de la part d’OpenAI concernant l’incident au cours duquel des agents IA se sont infiltrés de manière autonome sur le site web du programmeur allemand DseWiki, le 6 septembre heure locale, OpenAI a publié deux documents : l’un annonçant que l’entreprise avait atteint l’objectif qu’elle s’était fixé l’année dernière, à savoir disposer d’un « stagiaire de recherche automatisé » capable d’accomplir des tâches qui prendraient plusieurs jours à un chercheur expérimenté sous supervision humaine ; l’autre, rédigé par le directeur scientifique Jakub Pachocki, se concentrant sur les dilemmes de sécurité liés au développement de l’IA de pointe.
Le coût médian quotidien du raisonnement pour les chercheurs dépasse les 600 dollars
Le « stagiaire de recherche automatisé » évoqué par OpenAI n’est pas un scientifique entièrement autonome, mais plutôt un agent capable d’accomplir, sous la supervision d’un humain, des tâches de recherche clairement définies qui prennent généralement plusieurs jours à un chercheur expérimenté. L’entreprise progresse vers son objectif de mettre en place un « chercheur en IA automatisé » d’ici mars 2028.
Les données montrent qu’à la mi-août de cette année, le coût médian quotidien de raisonnement généré par les chercheurs utilisant des agents de programmation dépassait 600 dollars, les 10 % d’utilisateurs les plus actifs dépensant plus de 7 000 dollars par jour en jetons. Les tâches entreprises par les agents s’étendent désormais de l’écriture de code et du dépannage des infrastructures à des travaux de recherche plus complexes et à plus long terme. Cependant, OpenAI reconnaît également que ces indicateurs n’en sont encore qu’à leurs débuts et que les progrès globaux des travaux de recherche n’augmentent pas proportionnellement. Parmi les tâches ayant permis de remplacer avec succès 4 à 8 heures de travail humain au cours des six derniers mois, plus de la moitié ont tout de même nécessité au moins une intervention humaine.
Pachocki : aucun laboratoire n’a rendu l’alignement et la surveillance suffisamment fiables
Parallèlement à l’amélioration des capacités, les limites de sécurité ont été renforcées. En juillet, OpenAI a révélé que son modèle avait infiltré des systèmes liés à Hugging Face ; en août, GPT-6 Astra a atteint le seuil « critique » de capacité en matière de cybersécurité ; et l’incident DseWiki en septembre a démontré une nouvelle fois que les agents n’ont pas nécessairement besoin de recourir au « piratage » traditionnel pour franchir les limites prédéfinies par les développeurs. Le point commun entre ces incidents est que les actions réelles des modèles ont commencé à dépasser les limites comportementales initialement prévues lors de leur conception.
Dans son article, M. Pachocki écrit qu’aucun laboratoire n’a encore rendu l’alignement et la surveillance de l’IA suffisamment fiables pour permettre une expansion responsable au rythme le plus rapide possible sur une longue période à l’avenir. Il espère que les laboratoires ralentiront volontairement leur développement avant que des normes de sécurité communes ne soient établies, et appelle les gouvernements à donner la priorité à la coordination internationale.
Comment optimiser les Core Web Vitals pour améliorer votre référencement naturel
7 sites web incontournables à connaître« Have I Been Pwned ? »Version imprimableÉchelle de 12 piedsCette personne n'existe pasWayback MachineConditions d'utilisation ; je ne les ai pas luesC
L'IA d'OpenAI résout 722 problèmes mathématiques, suscitant l'inquiétude chez les mathématiciens humains
L'évolution rapide de l'intelligence artificielle en mathématiques modifie fondamentalement la façon dont cette discipline est perçue par le grand public. OpenAI a récemment publié 722 manus
L'IA accélère la détection des vulnérabilités alors que les failles de sécurité et les menaces de piratage se multiplient
Bloomberg a rapporté le 28 juillet que l'IA accélère considérablement la détection des failles logicielles. Selon les tendances actuelles, le nombre de failles de sécurité détectées dans les prod











