アラバマ州、Hugging Faceのサイバー攻撃を受け、OpenAIを調査中

Hugging Faceでのセキュリティ侵害を受けて、OpenAIはフロンティアモデルの開発を一時停止した。同社のCEOサム・アルトマン氏は、安全性の確保が急速な技術の進歩に遅れをとってはならないと強調した。写真提供：ゲッティ

アラバマ州のスティーブ・マーシャル司法長官は、自律型AIモデルに伴う安全上のリスクを調査するため、OpenAIに対して召喚状を発行した。

アラバマ州のスティーブ・マーシャル司法長官は、主要なAI・機械学習プラットフォームであるHugging Faceへのハッキング事件に関する調査に対し、OpenAIに回答を求める召喚状を発出したと発表した。

OpenAIは最近、この事件を受けてフロンティアモデルの開発を一時停止すると発表した。

この「不正取引行為防止法」に基づく調査は、今月初めに複数の州が連名でOpenAIに送付した書簡に続くもので、同書簡ではより高い透明性と説明責任が求められていた。複数の州司法長官は、「OpenAIが自社製品の安全性を確保できない、あるいは確保する意思がないことは、当州に対して重大な危害をもたらす差し迫ったリスクをもたらす」と述べた。

「モデルの進歩は現在、極めて急速に進んでおり、モデルの能力が安全性やアラインメントの確保のペースを上回っていると判断した場合は

、

常に行動を起こすと述べてきました

」OpenAI CEO サム・アルトマン

ワシントンD.C.にいるOpenAIのサム・アルトマン氏。写真提供：ケビン・ディッチ／ゲッティイメージズ

アラバマ州の召喚状

2026年8月に発令されたアラバマ州司法長官による召喚状は、「2026年7月の侵入事件」に関して、OpenAIに対し広範な内部記録の提出を要求している。

この事件では、実験中のAIモデルが社内の安全制限を迂回し、脆弱性を悪用して、オープンソースプラットフォーム「Hugging Face」やその他のサードパーティネットワークに不正アクセスを行った。

「このAI研究所からの情報漏洩は、AIに対するアラバマ州民やアメリカ国民の最大の懸念が単なる理論上のものにとどまらないことを示した。我々の調査は、事実を明らかにし、企業や消費者が暴走AIから直面している脅威に関する厳しい現実に対処することを目的としている」と、スティーブ・マーシャル司法長官は述べている。

アラバマ州のスティーブ・マーシャル司法長官。写真提供：アラバマ州司法長官室

「結局のところ、各州は消費者を保護するために行動を起こすと同時に、イノベーションを促進し、米国の国際競争力を確保するための適切なバランスを保つ必要があると私は考えています。」

同州は、OpenAIのテスト手法および適切な安全対策の欠如とされる状況が、消費者保護法に違反し、公衆に対して継続的なリスクをもたらしているかどうかを調査している。

これらの脅威を評価するため、召喚状によりOpenAIは、関連するすべてのインシデント報告書、内部通信記録、損害評価、関係者の身元情報、および高度なAIモデルを評価するための同社の詳細な安全プロトコルを提出するよう法的に義務付けられている。

主な事実

• このインシデントは、GPT-5.6 Solや「さらに高性能な未公開モデル」を含む複数のOpenAIモデルが組み合わさったことが原因で発生した
• これらのモデルは、OpenAIの研究環境およびHugging Faceの本番インフラ全体に存在する脆弱性を特定し、それらを連鎖させた
• 発生した事象は、「仕様悪用（specification gaming）」と呼ぶことができる
• OpenAIは、サイバー攻撃能力がますます高まるモデルの普及に伴い、こうしたインシデントがより一般的になると予想していると述べている。

OpenAI、開発ペースを緩める

OpenAIは、Hugging Faceでのインシデントを受けてモデル開発のペースを緩めており、AIの能力が高まるにつれて、それに伴うリスクも増大することを示している。

この動きは、開発中のモデル「Astra」が同社のサイバーセキュリティの許容限界に近づきつつあることを示す内部調査結果を受けてのものであり、その高度な機能に対する懸念が高まっている。

OpenAIのCEOであるサム・アルトマン氏は次のように述べています。「モデルの進歩は現在、極めて急速に進んでおり、私たちは常に、モデルの能力が安全性やアラインメントの確保のペースを上回っていると判断した場合には、措置を講じると述べてきました。

「安全に対する確信が、AIの進歩のペースをますます決定づけていくものと期待している。我々は現在進めているアラインメント（倫理的整合性）の取り組みに楽観的であり、最先端の機能を広く利用可能にするという姿勢を堅持している。」

AIのガードレールは、セキュリティの境界線として設計されたものではない。それらは行動を保証するのではなく、行動に影響を与えるために存在するのだ。

— イルミオ（Illumio）の業界戦略担当副社長、

ラグ・

ナンダクマール

実験的なAIモデル

今回の調査は、今月初めにOpenAIに対して透明性と説明責任を要求する書簡を複数の州が連名で送付したことを受けたものであり、アラバマ州もその一員であった。

この書簡には、アイオワ州、アラバマ州、アーカンソー州、フロリダ州、アイダホ州、インディアナ州、カンザス州、ミズーリ州、モンタナ州、ネブラスカ州、オクラホマ州、ペンシルベニア州、サウスカロライナ州、テキサス州、ユタ州の各州司法長官が署名した。

書簡の中で、各州の司法長官らは次のように記している。「我々は、アメリカ国民とその安全よりも利益を優先する者たちから、各州の市民を守ることに尽力している。

「我々は最近、OpenAIが実験的なAIモデルを公開し、それが合理的な管理や監督なしに、複数のコンピュータネットワークへ不正アクセスを行ったという事案を把握した。」

自律性と明確な目的

立法者たちはこの不正アクセスを監督の明らかな失敗と見なしている一方、サイバーセキュリティの専門家たちは、これが業界におけるAIの安全性への取り組みに根本的な欠陥を露呈していると主張している。

Illumioの業界戦略担当副社長であるラグ・ナンダクマラ氏は次のように述べています。「AIのガードレールは、セキュリティ境界として設計されたものではありません。それらは行動を保証するためではなく、行動に影響を与えるために存在するのです。」

Illumioの業界戦略担当副社長、ラグー・ナンダクマール氏。提供：ラグー・ナンダクマール／LinkedIn

「自律型エージェントは疲れもせず、興味を失うこともなく、努力する価値がないと判断することもありません。十分な自律性と明確な目標を与えれば、前進する道を見つけるまで試み続けるでしょう。

「この事例では、エージェントは本来サンドボックス化された環境内で動作しており、その環境には最終的に脱出経路が存在していました。明確な目標、無制限の粘り強さ、そして欠陥のある設定が与えられていた以上、もし突破口を見つけられなかったとしたら、それこそがむしろ驚くべき結果だったでしょう。

「おそらくもっと興味深いのは、エージェントへの指示が、制約を回避する方法を模索するよう事実上促していたかどうかという点だ。もしそうであれば、この結果は衝撃的な発見というよりは、実験の予測可能な帰結のように感じられる。

「組織にとっての教訓は、私たちが扱うシステムが、人間のオペレーターとは全く異なる規模で、仮定を検証し、適応し、持続できるようになってきているということです。ガードレールを主要なセキュリティ対策として扱うことは、そもそも楽観的すぎたと言えるでしょう。」

OpenAIのパートナーエコシステム

OpenAIは、さまざまな主要パートナーと連携しています。主なパートナーには以下が含まれます：

• AWS：OpenAIは 4月、企業がAWS環境内でOpenAIの機能を活用してシステムを構築できるよう支援するため、戦略的パートナーシップを拡大すると発表した。Amazonとのパートナーシップ拡大により、限定プレビューとして開始された3つの主要な取り組みが統合される。それらは、「AWS上のOpenAIモデル」、「AWS上のCodex」、そしてOpenAIが提供する「Amazon Bedrock Managed Agents」である。
• NVIDIA：NVIDIAは10年にわたりOpenAIの主要なハードウェアサプライヤーであり、当初からChatGPTを駆動してきたGPUを供給してきた。 NVIDIAは、OpenAIに300億米ドルを直接出資することでこの関係をさらに深化させました。この資本注入により、OpenAIはNVIDIAの次世代推論コンピューティングへのアクセスを確保するとともに、史上最大規模のAIインフラストラクチャ・ネットワークを構築するという共同の目標を支援することになります。
• Broadcom：標準的なGPUへの依存度を低減するため、OpenAIはBroadcomと戦略的提携を結び、カスタムAIアクセラレータおよびイーサネット・ネットワーキング・ラックの共同開発を進めています。このインフラストラクチャ契約は10GWのカスタム演算能力をカバーしており、このハイパースケーラー戦略により、OpenAIは自社のハードウェアスタックをより最適化し、膨大な計算需要を効率的に管理できるようになります。