OpenAI、Codexのセキュリティを強化し、危険な操作のブロックと権限管理を導入

OpenAIは、CodexというAIコーディングエージェントのセキュリティフレームワークを強化し、コード実行中にファイルの誤削除やデータの上書きといった破壊的な行動に関連するリスクを軽減するために設計された複数の安全策を導入しました。
OpenAIチームのメンバーであるTiboによる最近の投稿によると、同社はCodexから発生した有害な操作に関する報告を調査し、主要な脆弱性が一時作業ディレクトリのクリーンアップ中に発生することを特定しました。主な問題には、$HOMEのようなシステム変数の不適切な再利用が含まれ、これによりクリーンアッププロセスが実際のユーザーディレクトリを誤って指す可能性がありました。さらに、特定の操作には削除や上書きの前に十分なパス検証が欠けていたため、データ破損の可能性が高まりました。
これらの脆弱性を解決するために、OpenAIは多層の保護を実装しました。更新されたCodexバージョンでは、エージェントが機密性の高い操作を実行する前に対象パスを検証することが要求され、誤解を招く可能性のあるシステム変数への依存を排除するために隔離された一時ディレクトリが使用されます。さらに、OpenAIは危険なコマンドを識別してブロックするメカニズムを強化し、これらの操作に対する追加のレビュー手順を導入しました。
さらに、OpenAIはCodexにフルアクセス権限を付与する要件を引き上げました。より目立つリスク警告を組み込むことで、同社はユーザーが広範なアクセスを誤って承認する可能性を減らすことを目指しています。これらのAuto-reviewルールへのアップグレードは、AI支援プログラミングの効率を損なうことなく、セキュリティリスクをさらに制限します。
AIコーディングエージェントがコード開発、ファイル管理、および自動化されたタスク実行にますます統合されるにつれて、エージェントの行動の安全性を確保することが業界の重要な優先事項となっています。このOpenAIによる強化は、アプリケーション範囲が拡大するにつれて、AIエージェントが権限管理、運用監査、およびリスク制御能力を継続的に洗練させる必要性を強調しています。
関連記事
Uberのエンジニアが、直接的な質問をかわすためにCEOのAIクローンを作成
多くの社員がCEOへの報告を嫌がる一方で、世界有数の旅行大手Uberのエンジニアたちは、戦略的な利点を見出しました。それは、上司のAIレプリカに事前にフィードバックをもらうという方法です。「Dara AI」:取締役会前のエグゼクティブ・コーチUberのCEO、ダラ・コスロシャヒ氏は先日、スティーブン・バートレット氏の人気ポッドキャスト「CEO Diaries」に出演し、自社のエンジニアリングチーム
ユニツリーがヒューマノイドロボットの未来をどのように切り拓いているか
Unitreeが発表した、高度な実世界ナビゲーションを実現する超広角4D LiDAR技術を搭載した新たな「具現化AI」ロボット。画像提供:UnitreeUnitreeのCEO、王星星氏は、世界モデルの飛躍的進歩を目指し、ヒューマノイドロボットが慣れない家庭に置かれた際、タスクの80%を遂行できるよう支援することを目指しているロボット業界がスクリプト化された動作の段階を脱する中、中国のヒューマノイド
なぜAbnormal AIは『Daybreak』でOpenAIと提携したのか
OpenAIのサイバー部門プロダクト責任者、マイケル・アイエロ | 提供:マイケル・アイエロ/LinkedInアブノーマルAIがOpenAIの「Daybreak」プログラムに参加。マイク・アイエロ氏は、この提携により企業向けの実用的な防御策の導入が加速すると述べている最先端のAI企業であるOpenAIは、Abnormal AIと提携し、企業がビジネスおよび製品開発の全領域において、最高水準のAIモ
関連特集おすすめ
コメント (0)
0/500

OpenAIは、CodexというAIコーディングエージェントのセキュリティフレームワークを強化し、コード実行中にファイルの誤削除やデータの上書きといった破壊的な行動に関連するリスクを軽減するために設計された複数の安全策を導入しました。
OpenAIチームのメンバーであるTiboによる最近の投稿によると、同社はCodexから発生した有害な操作に関する報告を調査し、主要な脆弱性が一時作業ディレクトリのクリーンアップ中に発生することを特定しました。主な問題には、$HOMEのようなシステム変数の不適切な再利用が含まれ、これによりクリーンアッププロセスが実際のユーザーディレクトリを誤って指す可能性がありました。さらに、特定の操作には削除や上書きの前に十分なパス検証が欠けていたため、データ破損の可能性が高まりました。
これらの脆弱性を解決するために、OpenAIは多層の保護を実装しました。更新されたCodexバージョンでは、エージェントが機密性の高い操作を実行する前に対象パスを検証することが要求され、誤解を招く可能性のあるシステム変数への依存を排除するために隔離された一時ディレクトリが使用されます。さらに、OpenAIは危険なコマンドを識別してブロックするメカニズムを強化し、これらの操作に対する追加のレビュー手順を導入しました。
さらに、OpenAIはCodexにフルアクセス権限を付与する要件を引き上げました。より目立つリスク警告を組み込むことで、同社はユーザーが広範なアクセスを誤って承認する可能性を減らすことを目指しています。これらのAuto-reviewルールへのアップグレードは、AI支援プログラミングの効率を損なうことなく、セキュリティリスクをさらに制限します。
AIコーディングエージェントがコード開発、ファイル管理、および自動化されたタスク実行にますます統合されるにつれて、エージェントの行動の安全性を確保することが業界の重要な優先事項となっています。このOpenAIによる強化は、アプリケーション範囲が拡大するにつれて、AIエージェントが権限管理、運用監査、およびリスク制御能力を継続的に洗練させる必要性を強調しています。
Uberのエンジニアが、直接的な質問をかわすためにCEOのAIクローンを作成
多くの社員がCEOへの報告を嫌がる一方で、世界有数の旅行大手Uberのエンジニアたちは、戦略的な利点を見出しました。それは、上司のAIレプリカに事前にフィードバックをもらうという方法です。「Dara AI」:取締役会前のエグゼクティブ・コーチUberのCEO、ダラ・コスロシャヒ氏は先日、スティーブン・バートレット氏の人気ポッドキャスト「CEO Diaries」に出演し、自社のエンジニアリングチーム
ユニツリーがヒューマノイドロボットの未来をどのように切り拓いているか
Unitreeが発表した、高度な実世界ナビゲーションを実現する超広角4D LiDAR技術を搭載した新たな「具現化AI」ロボット。画像提供:UnitreeUnitreeのCEO、王星星氏は、世界モデルの飛躍的進歩を目指し、ヒューマノイドロボットが慣れない家庭に置かれた際、タスクの80%を遂行できるよう支援することを目指しているロボット業界がスクリプト化された動作の段階を脱する中、中国のヒューマノイド
なぜAbnormal AIは『Daybreak』でOpenAIと提携したのか
OpenAIのサイバー部門プロダクト責任者、マイケル・アイエロ | 提供:マイケル・アイエロ/LinkedInアブノーマルAIがOpenAIの「Daybreak」プログラムに参加。マイク・アイエロ氏は、この提携により企業向けの実用的な防御策の導入が加速すると述べている最先端のAI企業であるOpenAIは、Abnormal AIと提携し、企業がビジネスおよび製品開発の全領域において、最高水準のAIモ





家






