エリック・シュミットはアギ・マンハッタンプロジェクトに反対します

# openai # China # agi

水曜日に発表されたポリシーペーパーで、元Google CEOのエリックシュミットと、AI CEOのアレクサンドルワンセンターとAIセーフティディレクターのダンヘンドリックセンターとともに、米国に対して、AGIと呼ばれる「超人」インテリジェンスを備えたマンハッタンプロジェクトスタイルのイニシアチブを開始することをアドバイスしました。 「Superintelligence Strategy」というタイトルで、この論文は、スーパーインテリジェントAIを独占する米国の努力が、おそらくグローバルな関係を混乱させる可能性のあるサイバー攻撃の形で、中国からの強い反応を引き起こす可能性があると警告しています。共著者は、「AGIのマンハッタンプロジェクトは、ライバルがそれを防ぐために動くのではなく、永続的な不均衡や全自由を黙認することを想定しています。敵対的な対策とエスカレートの緊張を促したスーパーウェアポンとグローバルコントロールのリスクとして始まるものは、戦略を非常に安定させます。アメリカのAIセクターの3つの重要な人物によって書かれたこの論文は、米国議会委員会がAGI開発に資金を提供するための「マンハッタンプロジェクトスタイル」イニシアチブを提案し、1940年代の米国原子爆弾プロジェクトと類似していることを提案した直後に到着しました。エネルギー秘書のクリス・ライトは最近、米国がAIで「新しいマンハッタンプロジェクトの始まり」にいると宣言し、Openaiの共同設立者であるGreg Brockmanが彼の側でスーパーコンピューターのサイトで話しました。 Superintelligence Strategy Paperは、政府が支援するAGIプログラムが中国に追いつくための最良の方法であると信じているいくつかのアメリカの政策と業界のリーダーによる最近の推進に挑戦しています。 Schmidt、Wang、およびHendrycksは、相互に保証された破壊の概念と同様に、AGIの対立に似た状況で米国を見ています。国家が先制攻撃を防ぐために核兵器を独占することを避けているように、著者は、米国が高度な高度なAIシステムを支配するために急いでいることに警戒すべきであると示唆している。 AIを核兵器と比較することは最高のように見えるかもしれませんが、グローバルリーダーはすでにAIを重要な軍事資産と見なしています。国防総省は、AIが軍の殺害鎖を加速していることに注目しています。著者は、敵がAGIを兵器化するのを待つのではなく、政府がAIプロジェクトを脅かすために先制的な行動をとるかもしれない相互保証されたAI誤動作（MAIM）のアイデアを紹介します。 Schmidt、Wang、およびHendrycksは、米国が「レースの勝利からスーパーインテリジェンスへの獲得」から、他の国が緊密なAIの作成を阻止する方法の開発に焦点を移すことを推奨しています。彼らは、政府が「サイバー攻撃の兵器庫を拡大して、脅迫的なAIプロジェクトを無効にし、他の国によって管理され、敵のアクセスを高度なAIチップとオープンソースモデルへのアクセスを制限すべきだと示唆しています。この論文は、壊滅的なAIの結果が避けられないと考えている「運命」の間のAIポリシーコミュニティの分裂を強調しており、AIの進歩を遅らせることを提唱し、AIの開発と希望を促進することを推し進める「ダチョウ」を強調しています。著者は、第三のパスを提案しています。防御戦略を強調するAGI開発への慎重なアプローチです。このスタンスは、米国がAI開発において中国と積極的に競争する必要性を以前に強調していたシュミットから特に注目に値します。わずか数ヶ月前、シュミットは、Deepseekが米中のAIレースで極めて重要な瞬間をマークしたと述べたOP-EDを書きました。アメリカのAI開発を進めるというトランプ政権の決意にもかかわらず、共著者は、AGIに関する米国の決定が世界的な意味を持っていることを思い出させてくれます。世界がアメリカのAIへの推進を観察するように、シュミットと彼の共著者は、より防御的な戦略が賢明な選択である可能性があることを示唆しています。

関連記事

コメント (20)