エリック・シュミットはアギ・マンハッタンプロジェクトに反対します

水曜日に発表された政策文書において、元Google CEOのエリック・シュミット、Scale AI CEOのアレクサンドル・ワン、Center for AI Safetyディレクターのダン・ヘンドリックスは、米国が「超人的」知能を持つAIシステム、いわゆるAGI（人工汎用知能）を開発するためのマンハッタン計画のようなイニシアチブを立ち上げることに反対する助言を行った。

「超知能戦略」と題されたこの文書は、米国が超知能AIを独占しようとする取り組みは、中国からの強い反発を招き、サイバー攻撃の形で現れる可能性があり、グローバルな関係を混乱させるかもしれないと警告している。

共著者らは、「AGIのためのマンハッタン計画は、競争相手が永続的な不均衡や全滅を受け入れるのではなく、それを防ぐために行動を起こすと仮定している。超兵器とグローバルな支配を目指す動きは、敵対的な対抗措置や緊張の高まりを引き起こすリスクがあり、戦略が確保しようとする安定性を損なう」と主張している。

米国のAIセクターの3人の重要人物によって書かれたこの文書は、米議会の委員会が1940年代の米国の原子爆弾プロジェクトに例えてAGI開発を資金提供する「マンハッタン計画式」のイニシアチブを提案した直後に発表された。米エネルギー長官クリス・ライトは最近、OpenAI共同創業者のグレッグ・ブロックマンと共にスーパーコンピューター施設で、米国がAIにおける「新たなマンハッタン計画の始まり」にいると宣言した。

超知能戦略文書は、中国に追いつくために政府支援のAGIプログラムが最善の方法だと考える米国の政策および業界リーダー数名による最近の推進に異議を唱えている。

シュミット、ワン、ヘンドリックスは、米国がAGIを巡る対立状況にあり、相互確証破壊の概念に似ていると見ている。各国が先制攻撃を防ぐために核兵器の独占を避けるのと同じように、著者らは米国が高性能AIシステムの支配を急ぐことに慎重であるべきだと提案している。

AIを核兵器に例えるのは大げさに思えるかもしれないが、グローバルリーダーはすでにAIを重要な軍事資産と見なしている。ペンタゴンは、AIが軍のキルチェーンを加速させていると指摘している。

著者らは、相互確証AI不具合（MAIM）の概念を導入し、政府が敵対者がAGIを兵器化するのを待つよりも、脅威となるAIプロジェクトを無効化するために先制行動を取る可能性があると述べている。

シュミット、ワン、ヘンドリックスは、米国が「超知能へのレースに勝つ」ことよりも、他国が超知能AIを開発するのを抑止する方法を開発することに焦点を移すべきだと推奨している。彼らは、政府が「他国が管理する脅威的なAIプロジェクトを無効化するためのサイバー攻撃の手段を拡大し」、先進的なAIチップやオープンソースモデルへの敵対者のアクセスを制限すべきだと提案している。

この文書は、AI政策コミュニティにおける「悲観論者（ドゥーマー）」と「楽観論者（オストリッチ）」の分裂を浮き彫りにしている。悲観論者はAIの壊滅的な結果が避けられないと信じ、AIの進展を遅らせることを主張し、楽観論者はAI開発を加速させ、最善を望む。

著者らは第三の道を提案している：防御戦略を重視したAGI開発への慎重なアプローチである。

この立場は、以前に米国がAI開発で中国と積極的に競争する必要性を強調していたシュミットにとって特に注目に値する。数か月前、シュミットはDeepSeekが米国と中国のAIレースにおける重要な瞬間を示すと述べた論説を書いた。

トランプ政権が米国のAI開発を進める決意を示しているにもかかわらず、共著者らは、米国のAGIに関する決定がグローバルな影響を持つことを思い出させている。

世界が米国のAIへの推進を注視する中、シュミットと共著者らは、より防御的な戦略が賢明な選択かもしれないと示唆している。