DeepMindのCEO、米国主導によるAIモデルの検証を要請

Google DeepMindの共同創業者兼CEO、デミス・ハサビス氏。写真提供：デミス・ハサビス／LinkedIn

Google DeepMindのCEO、デミス・ハサビス氏は、汎用人工知能（AGI）の危険性を指摘し、米国主導のガバナンス体制を提唱している

Google DeepMindのCEOであるデミス・ハッサビス氏は、最先端のAIモデルを評価するための米国主導の規制機関の設置を提案した。同氏は、人類が汎用人工知能（AGI）に近づくにつれ、核や生物兵器に関連する脅威を含むリスクを軽減することが急務であると強調した。

デミス・ハサビス氏はノーベル賞受賞者であり、Google DeepMindの共同創業者である。同氏は、最近Anthropicへの移籍を発表した同僚のジョン・ジャンパー氏と共にノーベル化学賞を受賞した。デミス氏はユニバーシティ・カレッジ・ロンドン（UCL）で認知神経科学の博士号を取得している。

AIの脅威について深刻な警告を発する一方で、彼はその可能性については楽観的な見方を示した。「資源がもはや人類の進歩の制約要因ではなくなり、驚くべき新たな豊かさの時代が到来する段階にさえ到達し得る」と述べ、AIが人類が直面する最も差し迫った課題の解決に寄与すると主張した。

AGIに関する主な懸念点

デミス氏は、主要なAI企業が現在、商業的かつ地政学的な面で、多層的な激しい競争を繰り広げていると指摘した。この競争には、彼自身が所属するGoogle DeepMindに加え、OpenAI、Anthropic、DeepSeekといったライバル企業も巻き込まれている。

「最先端のモデルがサイバーセキュリティに与える課題はすでに明らかになっており、能力の向上に伴い、核や生物兵器などのリスクを含むその他の脅威も間もなく浮上する可能性がある」と、デミス氏は自身のSubstackブログに記した。

デミス氏はさらに次のように付け加えた。「AGIが登場するまでのこの貴重な期間を活用し、全人類の利益のためにこの技術を形作らなければならない。」

また、彼は現在未知の分野から生じうる潜在的なリスクについても強調した。「近い将来、ますます自律性を増し、再帰的に自己改善するシステムの制御を維持し、時間の経過とともにのみ明らかになる未知の問題に対処するために、強固な安全対策が必要となるだろう」。

この警告は、国家安全保障上の懸念を理由に、米国政府が最近、Anthropic社の「Fable 5」および「Mythos 5」モデルへのすべての海外からのアクセスを停止するよう指示したことを受けたものである。ただし、この制限はその後解除されたと報じられている。

AIの概念図。この画像は、AIが量子コンピューティング分野の発展にどのように活用できるかを探求したものである。提供：Google DeepMind/Unsplash

AGIに関するデミス氏の見解は、他の専門家やシンクタンクからも支持されている。国際関係・持続可能な開発センター（CIRSD）は、「なぜAGIが世界の最優先課題であるべきか」と題した記事の中で、国内および国際的な規制がなければ、人類は人間の理解、認識、制御の及ばない非生物的な知能に対する支配力を失うリスクがあると警告した。

特に注目すべきは、2026年1月に「終末時計」を「真夜中まであと85秒」に設定し（これは同誌の歴史上最も近い数値である）、AIの利用に関する国際的なガイドラインの策定に向けた緊急の行動を求めた『原子科学者会報』である。

Google DeepMindのCEO兼共同創業者であるデミス・ハサビス氏（左）と、Google DeepMindの元副社長ジョン・ジャンパー氏（右） | 写真提供：Jon Kopaloff / Getty Images

「汎用人工知能（AGI）が登場する前のこの貴重な期間を活用し、全人類の利益のためにこの技術を形作らなければならない。」デミス・ハサビス　Google DeepMind共同創業者兼CEO

米国主導の規制に関する提案

デミスは、経済的・技術的な地位を踏まえると、米国こそが、最先端のモデルを検証するための動的かつ適応性があり、厳格なアプローチを採用した枠組みの構築において、先陣を切るのに最適な立場にあると主張した。

デミスの提案は詳細かつ具体的だ。「連邦政府の監督下にある官民パートナーシップや、金融業界規制機構（FINRA）のような自主規制機関をモデルとした、新たな標準化機関を設立することができるだろう。

「この標準化機関は、評価プロトコルを策定するとともに、関連する連邦機関や米国国立研究所と連携し、国家安全保障に関連する分野でのテストを実施する責任を負うことになる。」

「当初は、フロンティア・ラボがモデルをリリースする30日前までに、自主的に標準化機関に提供し、審査を受けることになる。評価プロトコルが有効かつ堅牢であることが実証されれば、速やかに正式な制度化が進む可能性があり、その結果、フロンティア・モデルは米国市場で展開されるためにこの評価に合格することが義務付けられることになるだろう。」

デミス氏はさらに、この米国主導の取り組みが、最先端AIに関する国際的な共通基準を策定するための強固な基盤となるだろうと付け加えた。

RAIDS AIのCEO兼共同創業者であるニック・カイリノス氏は、この動きについて次のようにコメントした。「しかし、世界的なAI監視機関は、いかなる一国の思惑に左右されてはならない。」

RAIDS AIのCEO兼共同創業者、ニック・カイリノス氏。写真提供：ニック・カイリノス／LinkedIn

「AIは国境を尊重しないし、それを規制するために設計されたルールもまた、国境を尊重すべきではない。AI規制が国際的に機能するために必要な信頼、協力、支持を確保するには、多国間アプローチが不可欠だ。」

最先端モデルに起因する最近のリスク

デミス氏の警告は、Anthropicが報告書『2026年夏のエージェント的ミスマッチ（Agentic Misalignment in Summer 2026）』を公表したことを受けて発せられたもので、同報告書では、重大な結果を伴うシミュレーションにおけるアラインメントモデルの失敗事例が詳細に記述されている。この報告書では、Google DeepMind、OpenAI、中国のAI企業DeepSeek、およびAnthropic独自のモデルといった最先端モデルが使用された。

挙げられたアラインメントの問題には、ユーザーの指示を超えて独自の動機を追求するモデルや、Anthropicが「有害な順守（harmful compliance）」と呼ぶ、ユーザーの要求には従うものの結果として害をもたらすケースが含まれている。

Anthropicが指摘した問題には、モデルが密かにコードに干渉してユーザーの意図を妨害する「隠蔽的な妨害行為」というエージェント的ミスマッチの失敗事例が含まれる。また、一部のモデルがホワイトカラー犯罪に類似した活動をユーザーに助長することも判明した。

最近の最先端モデルに起因するその他のリスクとして挙げられているのは、人間を介して内部告発を行うよう誘導する行為（モデルが機密の安全情報を外部に漏洩したり、人間にそうするよう促したりすること）や、意図的な誤ラベリングなどである。

Anthropicは「Alignment Science Blog」上の報告書で、これらの事例研究の目的は、開発者や評価者が同様の失敗を測定し、的を絞った安全対策を構築できるよう支援することにあると述べている。