OpenAIへのハッキング報告、国連AI安全保障理事会に提出される

ヨシュア・ベンジオ氏が、AIの安全性に関する国連安全保障理事会会合で基調講演を行った。写真提供：国連

AIの安全性に焦点を当てた国連安全保障理事会の会合に続き、オーストラリア政府の機密データへの不正アクセスを含む、OpenAIの不正アクセス事件に関する報告が浮上した。

世界各国の政策立案者やAI分野のリーダーたちが、国連安全保障理事会第10,228回会合のためにニューヨークに集結した。

2026年9月23日に開催されたこの会合では、OpenAIのCEOサム・アルトマン氏、AnthropicのCEOダリオ・アモデイ氏、Hugging FaceのCEOクレマン・デラング氏など、AI界の著名人による見解や議論が交わされた。

国連AI国際独立パネルの共同議長を務めるヨシュア・ベンジオ教授が会議で演説を行った。冒頭の挨拶で、同氏はAIの進歩が「人類にとっての緊急の使命」であることを強調した。

「ここ数ヶ月、世界的な目覚めが広まる中、大手企業が開発したAIエージェントが、指示に反して容認できないほど危険な行動をとりました」と彼は述べた。

「それらは、人間が行えば犯罪となるような行動をとった。個々の封じ込めを脱し、検出を回避しようとしながら、割り当てられたタスクで不正行為を行った。制御不能なAIエージェントは、自律的に協調したサイバー攻撃を仕掛け、不正行為を隠すために回答を改ざんした。」

この会議は、6月にOpenAIの制御不能なエージェントがオーストラリア政府のウェブサイトをハッキングしたというニュースが報じられたのとほぼ同時期に開催された。BBCニュースの報道によると、あるAIモデルが、オーストラリアの国民皆保険制度「メディケア」の統計ポータルサイトに「侵入」したという。

制御不能なAIエージェントは、協調的なサイバー攻撃を自律的に仕掛け、不正行為を隠すために回答を改ざんした。ヨシュア

・ベンジオ（国連AIに関する国際独立パネルの共同議長兼教授）

フロンティアAIが安全性に影を落とす

ダリオ・アモデイ氏は、AIの最先端を適切に管理するための自身の取り組みについて国連に改めて訴えた。 「9月12日、私は最先端技術の進展を抑制するための協調的な取り組みを呼びかけました。これはAIの進歩を止めるためではなく、業界と世界が、業界のすべての人々にとって安全性が能力に確実に追いつくペースで前進できるよう、協力して取り組むためです」と彼は述べた。

「我々は、国際基準を策定するために、世界中の政府間でグローバルな協力を呼びかけました。

「まさにこの最後の分野こそが、本理事会の管轄範囲に最も直接的に該当するものです。」

一方、OpenAIのCEOであるサム・アルトマン氏はヨシュア氏の見解に同意し、AIの進展が深刻な事態を招く可能性は3つではなく2つであると断言した。具体的には、制御不能に陥ることと、過度の権力がごく少数の手に集中することの2点を挙げた。

「AIは、人々が自らの生活に対してより大きな主導権を握れるようにすべきだ」と彼は述べた。「我々は、盲目的な楽観主義という罠にはまりたくはない。同様に、悲観論の罠にも陥りたくない。

「どちらかの極端に引きずり込まれても、目の前の課題をうまく解決する助けにはなりません。特に今、世界とその人々が、この技術によって解決できるような途方もない課題に直面しているのですから。」

AnthropicのCEO、ダリオ・アモデイ氏は、AIには世界的な協力が必要だと述べている。写真提供：Getty Images/Anna Moneymaker

OpenAIのモデルがオーストラリア政府のウェブサイトをハッキングした経緯

『The Security Council』は、不正なOpenAIエージェントがオーストラリア政府の公式ウェブサイトをハッキングし、非公開データにアクセスした事件を追跡している。専門家によると、この種の事件が確認されたのは世界的に見てもこれが初めてだという。

BBCの報道によると、OpenAIは8月にモデルの不適切な動作を調査していた際にこの侵害を初めて把握し、2026年9月10日にオーストラリア政府機関の一般受信箱宛てにメールを送信した。

オーストラリアのアンソニー・アルバネーゼ首相は、調査は継続中であるものの、個人情報へのアクセスはなかったとみられると述べた。

「私はOpenAIのCEOであるサム・アルトマン氏と話し、この事件に対するオーストラリアの極めて強い懸念を伝えた」と、同氏はこの件に関する公式記者会見で述べた。

「また、同社が政府に事態の発生を報告するまでにあまりにも長い時間を要したこと、およびその通知のあり方についても、到底容認できないものであると失望の意を伝えた」

この情報漏洩について業界リーダーたちはどう語っているか

世界中のAI業界のリーダーや経営幹部らが、この前例のないセキュリティ侵害についてコメントしている。

バイオテクノロジー研究企業LifebitのCEO、マリア・ダンフォード氏は、AIエージェントが管理された境界なしに機密データへの自律的なアクセス権を与えられている場合、このような情報漏洩は予想されることだと指摘する。

「医療データの漏洩について、政府や医療システムが事後2ヶ月も経ってから、一般的な受信箱に届いたメールを通じて初めて知るような事態であってはならない」と彼女は述べる。

「これは憂慮すべき出来事であり、政府がAIに機密性の高いインフラへのアクセスをどのように許可するかについて、再考を迫るべきだ」

マリア・ダンフォード氏はライフビットのCEOである。出典：LinkedIn

イルミオ（Illumio）のAPJシステムエンジニアリング担当ディレクター、アンドルー・ケイ氏は次のようにコメントしている。「衝撃的ではあるが、現実として、このような注目を集める情報漏洩は今後も増え続けるだろう。ここ数週間だけでも、AIモデルが制御不能になる事例が相次いでいる。

「自律性と能力を備えたエージェントがますます登場する中、我々は『安全装置』という幻想に頼ったり、AIが常に意図した通りに振る舞うと想定したりすることはできない」

さらなる侵害を防ぐためにAIのリーダーたちが取るべき最善の戦略について尋ねられた際、マリア氏は次のように付け加えた。「AIを『主権環境』に導入することだ。そこでは、データやシステムが所有者の管理下から決して外れることはない。」

IllumioのAPJシステムエンジニアリング担当ディレクター、アンドルー・ケイ氏は、AIが常に意図した通りに振る舞うと想定してはならないと述べています。出典：LinkedIn

アンドルー氏は、その責任は政府にあると示唆し、次のように付け加えた。「サプライチェーンに関わる組織や、OpenAIのようなAIモデルを開発する企業にも説明責任はあるが、市民のデータを保護する責任は、とりわけ政府や重要インフラの提供者に大きくのしかかっている。」

「不正な、あるいは異常な動作をするAIエージェントは、今後ますます高性能化し、普及していくでしょう。最優先すべきは、万が一境界を突破したAIエージェントが、機密情報にアクセスしたり、深刻な損害を与えたり、重要なサービスを停止させたりできないようにすることです。」

OpenAIのセキュリティ侵害の経緯（BBC News）：

• 2026年6月18日：OpenAIの研究用モデルがセキュリティブロックを迂回し、メディケア統計報告ポータルにアクセスした。
• 2026年8月：OpenAIが、正常に動作していないAIモデルの活動を調査中に、この不正アクセスを発見した。
• 2026年9月10日：OpenAIは、この侵入に関するメールをサービス・オーストラリアの一般受信箱に送信した。

この侵害を受けて、アルバーニーゼ氏は、既存のプロセスがAI関連のサイバーインシデントに対処するのに十分かどうかを判断するため、本件について直ちに調査を行うタスクフォースの設置を発表した。

「AIは世界を変えつつある」と彼は述べた。

「AIは、成長、生産性の向上、医療やイノベーション、その他の科学分野における画期的な進歩など、莫大な経済的機会をもたらしています。

「しかし、AIは重大なリスクも孕んでおり、だからこそ、私たちの生活様式を守るための安全策が必要なのです。AIに私たちを形作らせるのではなく、私たちがAIを形作るようにしたいのです。

「端的に言えば、人間が主導権を握り続けなければならないのです。」

国連安全保障理事会会合の主要講演者

• OpenAI： 2015年に設立されたOpenAIは 、米国に拠点を置く人工知能（AI）研究機関である。同社は、生成AIチャットボット「ChatGPT」や画像生成ツール「DALL-E」の開発で最もよく知られている。 安全な汎用人工知能（AGI）の開発に注力するOpenAIは、マイクロソフトなどの主要なテクノロジーパートナーと協力し、企業環境全体に自社モデルを展開している。
• Anthropic： 2021年にOpenAIの元幹部らによって設立されたAnthropicは 、サンフランシスコに拠点を置く米国のAI安全性・研究企業である。公益法人として運営されている。同社は、大規模言語モデルのファミリーである「Claude」を開発したことで最もよく知られている。 AnthropicはAIのアラインメントと安全性に重点を置き、独自の「Constitutional AI」フレームワークを用いて、信頼性が高く制御可能なシステムを開発している。
• Hugging Face：2016年に設立されたHugging Faceは、ニューヨーク市を拠点とするコラボレーションプラットフォーム兼オープンソースコミュニティです。「機械学習界のGitHub」とも呼ばれる同社は、AI開発者向けにツール、リポジトリ、事前学習済みモデルを提供しています。 「Transformers」ライブラリで最もよく知られるHugging Faceは、ユーザーが機械学習モデルを簡単に共有、発見、展開できるようにすることで、AIの普及を推進しています。