AnthropicのClaudeはOpenAIを侵害する可能性がある

AIセキュリティの動向を示す重要な出来事として、独立した研究者らがAnthropicのClaudeを活用してOpenAIのセキュリティを突破し、ChatGPT開発者の防御に脆弱性があることを明らかにしたと、ウォール・ストリート・ジャーナルが木曜日に報じた。
Hacktron AIの3名で構成されるチームは、OpenAIのバグ報奨金プログラムのもとでこの攻撃を実行した。彼らの発見を報告した後、このスタートアップは6,500ドルの報奨金を受け取った。2つの重大な脆弱性を連鎖させることで、チームは複数のOpenAI従業員のChatGPTアカウントにアクセスし、同社の社内ソフトウェアインフラストラクチャに侵入することに成功した。
OpenAIは、Hacktronによって特定された脆弱性が修正済みであると述べており、この対応はトップAI企業に対する安全プロトコルの監視が強化されている時期と一致している。
この出来事は、OpenAIのAIエージェントがサイバーセキュリティ評価中にコンテナールを突破し、Hugging Faceをハッキングした最近の事件に続くものである。これは、AIモデルの自律性が拡大していることを示すと同時に、市販の商用技術が最も先進的な企業インフラストラクチャの弱点を特定するためにどのように利用され得るかを証明している。
「月額200ドルで、誰でもOpenAIのような会社に侵入するためのツールを利用できる」と、AIセキュリティ企業Gray SwanのCEOであるMatt FredriksonはTechCrunchに語った。「彼らでさえ起きていること——彼らが最近のサイバーセキュリティ衛生において過失があったとは考えていないが——それは誰にでも起こり得る。」
あるAI評論家がソーシャルメディアで指摘したように:「[Hacktron]はOpus 5を使用してハックを実行した……喫緊の課題は、この3人の個人がこれを実現できるのであれば、国家主体は何を成し得るかということである。」
研究者らは7月25日、OpenAIのコミュニティフォーラムを動かすサードパーティ製ソフトウェアであるDiscourseの欠陥を通じて、OpenAIへの侵入経路を特定した。
研究者らのブログ投稿によると、最初の攻撃ベクトルは通常の画像アップロードであった。ユーザーがフォーラムにHEIFまたはHEIC形式の画像ファイル(iPhoneのデフォルト形式)を提出すると、Discourseはそれらを標準的なJPEGに変換するために一連のバックエンドツールで処理した。最初のステップでは、画像のリサイズを行う長年のオープンソースユーティリティであるImageMagickが使用された。ImageMagickの標準ツールキットはAppleの形式を処理できないため、デコード作業を別のライブラリであるlibheifに委譲した。
libheifの内部には、攻撃者が悪意のある命令を注入することを可能にするメモリエラーが存在した。研究者らは特別に作成された画像をライブラリに供給し、ある画像が別の画像の上に配置される位置を誤計算させることで、最終的にサーバーを乗っ取った。
サイバーセキュリティコミュニティが懸念するのは、このバグはlibheifの開発者によって数ヶ月前に修正されていたことである。しかし、この修正は正式に脆弱性として指定されず、既知のセキュリティ欠陥を追跡するための業界標準であるCVE(Common Vulnerabilities and Exposures)番号が付与されなかった。Hacktronは、この見落としがDiscourseがまだ脆弱なバージョンのソフトウェアを実行していた理由を説明する可能性があると考えている。
注目すべきは、研究者らが使用していたClaudeモデル——サイバーセキュリティ研究者向けに提供されたOpus 4.8の特殊バージョン——が、動作する攻撃コードを生成することに当初失敗したという点である。これはAnthropicによるOpus 5のリリース後、一晩で状況が変わった。
「Opus 4.8は、動作する攻撃コードを生成するために複数のセッションで苦戦した」とHacktronはブログ投稿に記した。「Opus 5のリリースから数時間以内に、同じ問題を提示したところ、成功した。」
Discourseサーバー内に侵入した後、研究者らはユーザーのChatGPTおよびCodexアカウント、さらにはOpenAI従業員のアカウントを含む、これらのアカウントを乗っ取るための別の欠陥を発見した。
「その後、OpenAIのCodexがOpenAIのGithub組織に接続された従業員のアカウントを乗っ取った」とHacktronは事件の概要で記した。
この段階で、研究者らはOpenAIとDiscourseの両方に通知し、後者は7月27日に修正パッチを発行した。
この事件は、モデルの能力の限界を浮き彫りにしている。このバグを攻撃することに成功したClaude Opus 5は、その高度なハッキング能力への懸念から一時的に制限された最新のMythos 5とは異なり、セキュリティ輸出規制の対象となっていない。
これらはクローズドモデルにすぎない。オープンウェイトモデルは、フロントティアモデルとのサイバー能力の格差を急速に縮めている。例えば、AI安全非営利団体SaferAIは最近、中国企業Z.aiのGLM-5.2が、サイバー能力においてOpenAIのGPT-5.5およびAnthropicのClaude Opus 4.7に数ヶ月遅れしかないことを発見した。
Hacktronの創設者であるMohan PedhapatiはX上で次のように述べている:「AIは、攻撃コードを開発するために必要な希少な専門知識の量を減少させている。かつて数ヶ月を要していた作業が、現在は数日で完了できるようになった。」
関連記事
ドッペル、サンフランシスコ・フォーティナイナーズと提携し、スポーツ分野にAIを導入
ドッペルのAIネイティブプラットフォームは、脅威から保護するために設計されています。写真提供:ゲッティサンフランシスコ・フォーティナイナーズがDoppelを公式「ソーシャルエンジニアリング防御パートナー」に指名、最先端のAIを活用してディープフェイク、フィッシング、サイバーリスクに対抗サンフランシスコ・フォーティナイナーズと、ソーシャルエンジニアリング対策およびデジタルリスク保護を目的としたAIネ
OpenAIの倫理責任者クロエ・バカラールが退任した理由
OpenAIの元倫理責任者、クロエ・バカラール氏。提供:CITP Princeton/YouTubeOpenAIの倫理責任者であるクロエ・バカラール氏は、OpenAIへのハッキング事件を受けて、AIの安全性に関する激動の時期のさなかに、この大手AI企業を去った。OpenAIの倫理責任者であるクロエ・バカラール氏が同社を去った。この退社はフィナンシャル・タイムズ紙が最初に報じたもので、彼女がカリフォ
OpenAIのヒューマンエラーがHugging FaceでのAI活用ハックを引き起こす
火曜日、OpenAIは、そのAIモデルの1つがテスト中にデータセットプラットフォームHugging Faceのシステムを侵害したことを明らかにし、完全に自動化されたAI駆動型攻撃における劇的なマイルストーンを示した。しかし、サイバーセキュリティの専門家は、AIの役割にもかかわらず、根本原因は人間のミスであると指摘している。OpenAIは「高度に隔離された環境」を適切に構成することに失敗し、オフラインであるべきテスト用サンドボックスがインターネットに接続することを許してしまった。サイバーセキュ
関連特集おすすめ
コメント (0)
0/500

AIセキュリティの動向を示す重要な出来事として、独立した研究者らがAnthropicのClaudeを活用してOpenAIのセキュリティを突破し、ChatGPT開発者の防御に脆弱性があることを明らかにしたと、ウォール・ストリート・ジャーナルが木曜日に報じた。
Hacktron AIの3名で構成されるチームは、OpenAIのバグ報奨金プログラムのもとでこの攻撃を実行した。彼らの発見を報告した後、このスタートアップは6,500ドルの報奨金を受け取った。2つの重大な脆弱性を連鎖させることで、チームは複数のOpenAI従業員のChatGPTアカウントにアクセスし、同社の社内ソフトウェアインフラストラクチャに侵入することに成功した。
OpenAIは、Hacktronによって特定された脆弱性が修正済みであると述べており、この対応はトップAI企業に対する安全プロトコルの監視が強化されている時期と一致している。
この出来事は、OpenAIのAIエージェントがサイバーセキュリティ評価中にコンテナールを突破し、Hugging Faceをハッキングした最近の事件に続くものである。これは、AIモデルの自律性が拡大していることを示すと同時に、市販の商用技術が最も先進的な企業インフラストラクチャの弱点を特定するためにどのように利用され得るかを証明している。
「月額200ドルで、誰でもOpenAIのような会社に侵入するためのツールを利用できる」と、AIセキュリティ企業Gray SwanのCEOであるMatt FredriksonはTechCrunchに語った。「彼らでさえ起きていること——彼らが最近のサイバーセキュリティ衛生において過失があったとは考えていないが——それは誰にでも起こり得る。」
あるAI評論家がソーシャルメディアで指摘したように:「[Hacktron]はOpus 5を使用してハックを実行した……喫緊の課題は、この3人の個人がこれを実現できるのであれば、国家主体は何を成し得るかということである。」
研究者らは7月25日、OpenAIのコミュニティフォーラムを動かすサードパーティ製ソフトウェアであるDiscourseの欠陥を通じて、OpenAIへの侵入経路を特定した。
研究者らのブログ投稿によると、最初の攻撃ベクトルは通常の画像アップロードであった。ユーザーがフォーラムにHEIFまたはHEIC形式の画像ファイル(iPhoneのデフォルト形式)を提出すると、Discourseはそれらを標準的なJPEGに変換するために一連のバックエンドツールで処理した。最初のステップでは、画像のリサイズを行う長年のオープンソースユーティリティであるImageMagickが使用された。ImageMagickの標準ツールキットはAppleの形式を処理できないため、デコード作業を別のライブラリであるlibheifに委譲した。
libheifの内部には、攻撃者が悪意のある命令を注入することを可能にするメモリエラーが存在した。研究者らは特別に作成された画像をライブラリに供給し、ある画像が別の画像の上に配置される位置を誤計算させることで、最終的にサーバーを乗っ取った。
サイバーセキュリティコミュニティが懸念するのは、このバグはlibheifの開発者によって数ヶ月前に修正されていたことである。しかし、この修正は正式に脆弱性として指定されず、既知のセキュリティ欠陥を追跡するための業界標準であるCVE(Common Vulnerabilities and Exposures)番号が付与されなかった。Hacktronは、この見落としがDiscourseがまだ脆弱なバージョンのソフトウェアを実行していた理由を説明する可能性があると考えている。
注目すべきは、研究者らが使用していたClaudeモデル——サイバーセキュリティ研究者向けに提供されたOpus 4.8の特殊バージョン——が、動作する攻撃コードを生成することに当初失敗したという点である。これはAnthropicによるOpus 5のリリース後、一晩で状況が変わった。
「Opus 4.8は、動作する攻撃コードを生成するために複数のセッションで苦戦した」とHacktronはブログ投稿に記した。「Opus 5のリリースから数時間以内に、同じ問題を提示したところ、成功した。」
Discourseサーバー内に侵入した後、研究者らはユーザーのChatGPTおよびCodexアカウント、さらにはOpenAI従業員のアカウントを含む、これらのアカウントを乗っ取るための別の欠陥を発見した。
「その後、OpenAIのCodexがOpenAIのGithub組織に接続された従業員のアカウントを乗っ取った」とHacktronは事件の概要で記した。
この段階で、研究者らはOpenAIとDiscourseの両方に通知し、後者は7月27日に修正パッチを発行した。
この事件は、モデルの能力の限界を浮き彫りにしている。このバグを攻撃することに成功したClaude Opus 5は、その高度なハッキング能力への懸念から一時的に制限された最新のMythos 5とは異なり、セキュリティ輸出規制の対象となっていない。
これらはクローズドモデルにすぎない。オープンウェイトモデルは、フロントティアモデルとのサイバー能力の格差を急速に縮めている。例えば、AI安全非営利団体SaferAIは最近、中国企業Z.aiのGLM-5.2が、サイバー能力においてOpenAIのGPT-5.5およびAnthropicのClaude Opus 4.7に数ヶ月遅れしかないことを発見した。
Hacktronの創設者であるMohan PedhapatiはX上で次のように述べている:「AIは、攻撃コードを開発するために必要な希少な専門知識の量を減少させている。かつて数ヶ月を要していた作業が、現在は数日で完了できるようになった。」
ドッペル、サンフランシスコ・フォーティナイナーズと提携し、スポーツ分野にAIを導入
ドッペルのAIネイティブプラットフォームは、脅威から保護するために設計されています。写真提供:ゲッティサンフランシスコ・フォーティナイナーズがDoppelを公式「ソーシャルエンジニアリング防御パートナー」に指名、最先端のAIを活用してディープフェイク、フィッシング、サイバーリスクに対抗サンフランシスコ・フォーティナイナーズと、ソーシャルエンジニアリング対策およびデジタルリスク保護を目的としたAIネ
OpenAIの倫理責任者クロエ・バカラールが退任した理由
OpenAIの元倫理責任者、クロエ・バカラール氏。提供:CITP Princeton/YouTubeOpenAIの倫理責任者であるクロエ・バカラール氏は、OpenAIへのハッキング事件を受けて、AIの安全性に関する激動の時期のさなかに、この大手AI企業を去った。OpenAIの倫理責任者であるクロエ・バカラール氏が同社を去った。この退社はフィナンシャル・タイムズ紙が最初に報じたもので、彼女がカリフォ
OpenAIのヒューマンエラーがHugging FaceでのAI活用ハックを引き起こす
火曜日、OpenAIは、そのAIモデルの1つがテスト中にデータセットプラットフォームHugging Faceのシステムを侵害したことを明らかにし、完全に自動化されたAI駆動型攻撃における劇的なマイルストーンを示した。しかし、サイバーセキュリティの専門家は、AIの役割にもかかわらず、根本原因は人間のミスであると指摘している。OpenAIは「高度に隔離された環境」を適切に構成することに失敗し、オフラインであるべきテスト用サンドボックスがインターネットに接続することを許してしまった。サイバーセキュ





家






