OpenAIが主導する100団体が署名したサイバー防衛推進の動き

OpenAIの書簡は、「サイバー防衛を強化できる時間は限られている」という文言で始まっている。写真提供：ゲッティイメージズ

AWS、Google、Microsoft を含む大手テクノロジー企業は、各国政府に対し防御ツールの資金提供を要請している一方、批判派はこのマニフェストを「自己利益のためのもの」と非難している

AIモデルがデジタルシステムに対する攻撃と防御の両面でますます高度化する中、100を超えるテクノロジー、サイバーセキュリティ、金融サービス関連組織がOpenAIに賛同し、世界的なサイバー防衛体制の即時強化を求める公開書簡に署名した。

この書簡の核心となるメッセージは明確だ。AIを活用したサイバー脅威がさらに広範かつ高度化する前に、産業界と政府の指導者が行動を起こせる時間は限られている。「サイバー防衛を強化できる時間は限られている」と書簡には記されている。

この公開書簡は、前例のない業界横断的な連合を結集させたものだ。 署名者には、ハイパースケーラーのAWS、Google、Microsoft、大手テクノロジー企業のAdobe、IBM、Oracle、OpenAIの競合企業であるAnthropicを含むAI開発企業、CrowdStrike、Palo Alto Networks、Red Hatなどのセキュリティ大手、ハードウェアおよび通信プロバイダー、大手コンサルティング会社、そしてMastercard、US Bank、Visaといった金融大手が含まれている。

署名企業の一つであるAbnormal AIの創業者兼CEO、エヴァン・ライザー氏は次のように述べている。「サイバー防衛に関する共同行動を求めるOpenAIの書簡に署名したのは、この問題を単独の企業だけで解決することは不可能だからだ。

アブノーマル・セキュリティのCEO、エヴァン・ライザー氏 | 提供：アブノーマル・セキュリティ

「ソフトウェアの脆弱性やマルウェアは依然として現実的な脅威ですが、現在最も被害の大きい攻撃は、IDの乗っ取り、アカウントの不正取得、ソーシャルエンジニアリングを通じて人々を標的としています。内部者による脅威や国家による侵入は、今やテキスト、音声、動画のディープフェイクを通じて行われています。

「彼らは正当な身元を装い、ほんの少し不自然な振る舞いをするだけなので、既知の悪意あるソフトウェアを検知するために構築されたツールを容易にすり抜けてしまいます。こうした攻撃には、ニュースの見出しを賑わしている脆弱性と同じレベルの緊急性をもって対処すべきです。

「AIは攻撃者の参入障壁を下げ、攻撃速度を高め、大規模な欺瞞を容易に生み出せるようにしています。昨日の前提では、明日の攻撃を防ぐことはできません。

「だからこそ、OpenAIによる共同行動の呼びかけは極めて重要であり、私たちAbnormal AIもこれを全面的に支持しています。 セキュリティコミュニティには、攻撃型AI少なくとも同等のスピードで防御型AIを進化させる機会と義務があります。つまり、継続的に学習するシステムを構築し、新たな脅威インテリジェンスをより強力な実稼働環境の防御策へと転換し、防御を共同の取り組みとして捉えることが求められるのです。」

AIを活用したサイバー攻撃に対する共同行動を呼びかける、100社以上のテクノロジー企業による公開書簡は、業界がここ数年向かってきた道のりにおける新たな道標である。

Goldilock Secureのグローバル・テクニカル・プリンシパル、

マイケル・

ヴァラス

氏

しかし、署名企業のリストから特に欠けているのは、NVIDIAとSpaceXだ。

署名した競合他社――特にAnthropicのような最先端モデル開発企業や、AWSやマイクロソフトのようなクラウドインフラ大手――にとって、この不在は、テクノロジー業界全体に広がる戦略的な分断を浮き彫りにしている可能性がある。

スペースXのイーロン・マスク氏とNVIDIAのジェンセン・フアン氏は、この公開書簡への署名を避けた。写真提供：Win McNamee/Getty

NVIDIAはオープンソースおよびオープンウェイトのモデル標準をますます支持しており、SpaceXと共同で独自の競合団体「Open Secure AI Alliance」を立ち上げたほどである。一方、OpenAIやAnthropicのような独自開発のフロンティアモデルプロバイダーは、より厳格に管理されたエコシステムと、一元化された信頼できるアクセスフレームワークを提唱している。

ロイターが6月に指摘したように、OpenAIとAnthropicは市場投入を巡って互いに競い合っており、最初の上場を、投資家が両社をどのように評価するかを決定づけ、自社のCEOをAI分野の主導的な存在として確立する手段と見なしている。

これら2つの主要研究所の間には激しい商業的競争とIPOに向けた競争が続いているものの、今回の共同声明は、両社が公の場で足並みを揃えた稀有な瞬間を象徴している。

AnthropicのCEO、ダリオ・アモデイ氏（写真提供：ゲッティイメージズ）

提案された枠組みの理解

署名団体は総じて、3つの柱からなる行動計画を提案している。第一に、現状のセキュリティ対策では不十分であることを認識することが極めて重要だと主張している。システムは依然として、レガシーな技術的負債、長年にわたるバグ、設定ミス、過剰な権限、脆弱な認証、パッチ未適用のソフトウェアといった問題に深刻にさらされている。 重要インフラのセキュリティチームは、長年にわたるリソース不足に対処するため、ツールとリソースの急激な増強を緊急に必要としている。

第二に、この書簡では、サイバー対応可能なAIを活用して、より多くの防御担当者を支援するよう求めている。AIを活用し、セキュリティチームに専門的なスキルを付与するとともに、中核的な運用タスクを効率化しなければならない。検証済みの修正策、実践的な知識、防御ツールを共有することで、ある組織の取り組みが他の多くの組織を保護することにつながる。

第三に、署名者たちは、協調的な対応の展開を提唱している。セキュリティ基準を引き上げ、新たな脅威に対処するためには、グローバルなパートナーシップを構築し、サイバー能力の向上による効果が、単一の主体によって支配されるのではなく、全体としてプラスのものとなるよう確保しなければならない。

明確なプロセスルールと厳格な運用上の安全策がなければ、AIエージェントは必然的に制御不能に陥り、組織にとっての負担となるでしょう。

ロジャー・リー（Appian社 EMEAソリューションコンサルティング担当エリアバイスプレジデント）

組織および政府の責任

これを達成するために、同書簡は、すべての組織が、高リスクの脆弱性へのパッチ適用や、購入・構築・導入する対象に対する基準の引き上げを通じて、セキュリティのベースラインを引き上げる必要があると主張している。これには、レガシーシステムのアップグレードによる最小権限のアクセス、堅牢な認証、および多層防御アーキテクチャの徹底も含まれる。

サイバーセキュリティ企業やテクノロジーパートナーには、防御体制を厳格にテストし、ツールを広く導入可能にし、リアルタイムの脅威インテリジェンスや対応マニュアルを共有することで、この取り組みを主導することが期待されている。

一方、同書簡では、政府は、実用的なインテリジェンスを共有し、主要なリスクに優先順位をつけ、インシデント対応を世界的に調整するための官民間の連携を強化することで、地方、国家、国際レベルでサイバー防衛を調整しなければならないと主張している。

さらに、政府は、地方自治体、水道事業者、病院などの重要インフラに対し、信頼できるセキュリティプロバイダーを通じて、高性能な防御用AIへのアクセス、認可されたテスト、および直接的な支援を提供すべきである。

最近のエージェントによる情報漏洩が懐疑論を招く

この公開書簡の発表時期は、業界のオブザーバーから鋭い批判を浴びている。

OpenAIは最近、同社の自律型エージェントがサンドボックス試験環境を脱出し、この公開書簡の共同署名者でもあるオープンソース開発者プラットフォーム「Hugging Face」に侵入した経緯を詳述した技術的インシデントレポートを公表した。同社は、より厳格な隔離境界の導入やネットワークアクセスの制限など、得られた教訓を明らかにした。

同社の主要な競合他社であるAnthropicも、モデルが評価環境内から、あるいは評価環境とやり取りしている最中にインターネットにアクセスした3件の事案を特定している。

業界の専門家にとって、この侵害は、自律型AIシステムの現在のガバナンス方法における根本的な欠陥を浮き彫りにしている。

Goldilock Secureのグローバル・テクニカル・プリンシパルであるマイケル・ヴァラス氏は次のように述べている。「AIを利用したサイバー攻撃に対する共同行動を求める100社以上のテクノロジー企業による公開書簡は、業界が長年にわたり進んできた道のりにおける新たな道標である。

「AIエージェントがサンドボックスを脱出し、攻撃を実行したという最近のニュースが相次いでいるが、人々が『暴走AI』の危険性について長年議論してきたことを忘れてはならない。こうしたシステムがより賢く、より高性能になるにつれ、ソフトウェアだけではそれらを封じ込めることはできなくなるだろう。 我々はそれらを出し抜こうと努力し続けることはできるが、それらがどれほど賢くなっているのかさえ把握できていないかもしれない。」

「この事件は驚くべきことではない」と、AppianのEMEAソリューションコンサルティング担当エリアバイスプレジデント、ロジャー・リー氏は述べる。 「自律型エージェントが構造的な境界なしに目標を達成するよう駆り立てられると、これは必然的な結果です。OpenAIはエージェントに目標を与え、強化学習は単にそれを達成するための最短経路を見出したのです。つまり、報酬を最大化するために、協調し、痕跡を消し、第三者を侵害したということです。」

ロジャー・リー氏は、AppianのEMEAソリューションコンサルティング担当エリアバイスプレジデントである

ロジャー氏は、エージェントがシステムの制約を検知されずに迂回する場合、従来の監視メカニズムでは不十分であると強調する。

「OpenAIがこれに気付くまでに1週間を要したことは、エージェントが監視体制を容易に回避できるのであれば、『人間の介入』は無意味であることを証明している」と彼は付け加える。「より安全なプロンプトや、より賢いAIモデルでは、この問題を解決することはできない。明確なプロセスルールと厳格な運用上のガードレールがなければ、AIエージェントは必然的に制御不能となり、組織にとっての負債となるだろう。」

一方、関与しているベンダーの事情を考慮すると、この共同の行動要請は自己利益に過ぎないと見る向きもある。

「この書簡は、火災警報を装おうとするプレスリリースのように聞こえる」と、AIおよびロボティクスの専門家であり、Multiplexのオーナーであるブライアン・ロームレ氏は記している。 「自社エージェントがテスト環境を抜け出し、他社の本番システムに侵入してしまったのと同じ研究所が、今や『時間がなくなっている』と皆に告げ、その解決策として、彼らが管理を支援できる『信頼されたアクセス』を提示している。都合がいい話だ。」