Maison
OpenAI renforce la sécurité de Codex avec le blocage des opérations dangereuses et des contrôles d'autorisation

OpenAI a renforcé le cadre de sécurité de son agent de codage IA, Codex, en introduisant plusieurs garde-fous conçus pour atténuer les risques associés à des actions destructrices, telles que la suppression accidentelle de fichiers ou l'écrasement de données lors de l'exécution du code.
Selon un récent message d'un membre de l'équipe OpenAI, Tibo, l'entreprise a enquêté sur des rapports d'opérations nuisibles provenant de Codex et a identifié que les principales vulnérabilités survenaient lors du nettoyage des répertoires de travail temporaires. Les problèmes clés comprenaient la réutilisation incorrecte de variables système, telles que $HOME, qui pouvaient involontairement orienter les processus de nettoyage vers les répertoires utilisateurs réels. De plus, certaines opérations manquaient de vérification adéquate des chemins avant la suppression ou l'écrasement, augmentant ainsi le potentiel de corruption des données.
Pour résoudre ces vulnérabilités, OpenAI a mis en place des protections multicouches. La version mise à jour de Codex exige désormais que les agents valident les chemins cibles avant d'exécuter des opérations sensibles et utilise des répertoires temporaires isolés, éliminant ainsi la dépendance à des variables système potentiellement trompeuses. De plus, OpenAI a amélioré ses mécanismes d'identification et de blocage des commandes dangereuses, tout en introduisant des procédures de révision supplémentaires pour ces opérations.
Par ailleurs, OpenAI a accru les exigences pour l'octroi des autorisations d'accès complet à Codex. En intégrant des avertissements de risque plus visibles, l'entreprise vise à réduire la probabilité que les utilisateurs autorisent involontairement un accès étendu. Ces mises à niveau des règles d'auto-vérification restreignent davantage les risques de sécurité sans compromettre l'efficacité de la programmation assistée par IA.
Alors que les agents de codage IA s'intègrent de plus en plus dans le développement de code, la gestion des fichiers et l'exécution de tâches automatisées, garantir la sécurité du comportement des agents est devenu une priorité critique pour l'industrie. Cette amélioration par OpenAI souligne la nécessité pour les agents IA d'affiner continuellement leurs capacités de gestion des permissions, d'audit opérationnel et de contrôle des risques à mesure que leur champ d'application s'élargit.
Article connexe
WeChat Pay lance un SDK pour lunettes connectées ; Rokid devient la première marque compatible
WeChat a officiellement lancé le SDK WeChat Pay pour lunettes connectées, le rendant ainsi pleinement accessible. Cette solution intègre la fonctionnalité phare de WeChat, « scanner pour payer », dans
Un ingénieur d'Uber crée un clone de son PDG grâce à l'IA pour esquiver les questions directes
Alors que la plupart des employés redoutent de rendre compte au PDG, les ingénieurs d’Uber, leader mondial du transport, ont découvert un avantage stratégique : laisser une réplique IA de leur patron
Comment Unitree façonne l'avenir de la robotique humanoïde
La nouvelle créature d’Unitree dotée d’une IA incarnée et d’une technologie LiDAR 4D ultra-large pour une navigation avancée dans le monde réel. Crédit : UnitreeWang Xingxing, PDG d'Unitree, vise des
Recommandations de sujets spéciaux liés
commentaires (0)

OpenAI a renforcé le cadre de sécurité de son agent de codage IA, Codex, en introduisant plusieurs garde-fous conçus pour atténuer les risques associés à des actions destructrices, telles que la suppression accidentelle de fichiers ou l'écrasement de données lors de l'exécution du code.
Selon un récent message d'un membre de l'équipe OpenAI, Tibo, l'entreprise a enquêté sur des rapports d'opérations nuisibles provenant de Codex et a identifié que les principales vulnérabilités survenaient lors du nettoyage des répertoires de travail temporaires. Les problèmes clés comprenaient la réutilisation incorrecte de variables système, telles que $HOME, qui pouvaient involontairement orienter les processus de nettoyage vers les répertoires utilisateurs réels. De plus, certaines opérations manquaient de vérification adéquate des chemins avant la suppression ou l'écrasement, augmentant ainsi le potentiel de corruption des données.
Pour résoudre ces vulnérabilités, OpenAI a mis en place des protections multicouches. La version mise à jour de Codex exige désormais que les agents valident les chemins cibles avant d'exécuter des opérations sensibles et utilise des répertoires temporaires isolés, éliminant ainsi la dépendance à des variables système potentiellement trompeuses. De plus, OpenAI a amélioré ses mécanismes d'identification et de blocage des commandes dangereuses, tout en introduisant des procédures de révision supplémentaires pour ces opérations.
Par ailleurs, OpenAI a accru les exigences pour l'octroi des autorisations d'accès complet à Codex. En intégrant des avertissements de risque plus visibles, l'entreprise vise à réduire la probabilité que les utilisateurs autorisent involontairement un accès étendu. Ces mises à niveau des règles d'auto-vérification restreignent davantage les risques de sécurité sans compromettre l'efficacité de la programmation assistée par IA.
Alors que les agents de codage IA s'intègrent de plus en plus dans le développement de code, la gestion des fichiers et l'exécution de tâches automatisées, garantir la sécurité du comportement des agents est devenu une priorité critique pour l'industrie. Cette amélioration par OpenAI souligne la nécessité pour les agents IA d'affiner continuellement leurs capacités de gestion des permissions, d'audit opérationnel et de contrôle des risques à mesure que leur champ d'application s'élargit.
WeChat Pay lance un SDK pour lunettes connectées ; Rokid devient la première marque compatible
WeChat a officiellement lancé le SDK WeChat Pay pour lunettes connectées, le rendant ainsi pleinement accessible. Cette solution intègre la fonctionnalité phare de WeChat, « scanner pour payer », dans
Un ingénieur d'Uber crée un clone de son PDG grâce à l'IA pour esquiver les questions directes
Alors que la plupart des employés redoutent de rendre compte au PDG, les ingénieurs d’Uber, leader mondial du transport, ont découvert un avantage stratégique : laisser une réplique IA de leur patron
Comment Unitree façonne l'avenir de la robotique humanoïde
La nouvelle créature d’Unitree dotée d’une IA incarnée et d’une technologie LiDAR 4D ultra-large pour une navigation avancée dans le monde réel. Crédit : UnitreeWang Xingxing, PDG d'Unitree, vise des











