エリック・シュミットはアギ・マンハッタンプロジェクトに反対します

水曜日に発表された政策文書において、元Google CEOのエリック・シュミット、Scale AI CEOのアレクサンドル・ワン、Center for AI Safetyディレクターのダン・ヘンドリックスは、米国が「超人的」知能を持つAIシステム、いわゆるAGI(人工汎用知能)を開発するためのマンハッタン計画のようなイニシアチブを立ち上げることに反対する助言を行った。
「超知能戦略」と題されたこの文書は、米国が超知能AIを独占しようとする取り組みは、中国からの強い反発を招き、サイバー攻撃の形で現れる可能性があり、グローバルな関係を混乱させるかもしれないと警告している。
共著者らは、「AGIのためのマンハッタン計画は、競争相手が永続的な不均衡や全滅を受け入れるのではなく、それを防ぐために行動を起こすと仮定している。超兵器とグローバルな支配を目指す動きは、敵対的な対抗措置や緊張の高まりを引き起こすリスクがあり、戦略が確保しようとする安定性を損なう」と主張している。
米国のAIセクターの3人の重要人物によって書かれたこの文書は、米議会の委員会が1940年代の米国の原子爆弾プロジェクトに例えてAGI開発を資金提供する「マンハッタン計画式」のイニシアチブを提案した直後に発表された。米エネルギー長官クリス・ライトは最近、OpenAI共同創業者のグレッグ・ブロックマンと共にスーパーコンピューター施設で、米国がAIにおける「新たなマンハッタン計画の始まり」にいると宣言した。
超知能戦略文書は、中国に追いつくために政府支援のAGIプログラムが最善の方法だと考える米国の政策および業界リーダー数名による最近の推進に異議を唱えている。
シュミット、ワン、ヘンドリックスは、米国がAGIを巡る対立状況にあり、相互確証破壊の概念に似ていると見ている。各国が先制攻撃を防ぐために核兵器の独占を避けるのと同じように、著者らは米国が高性能AIシステムの支配を急ぐことに慎重であるべきだと提案している。
AIを核兵器に例えるのは大げさに思えるかもしれないが、グローバルリーダーはすでにAIを重要な軍事資産と見なしている。ペンタゴンは、AIが軍のキルチェーンを加速させていると指摘している。
著者らは、相互確証AI不具合(MAIM)の概念を導入し、政府が敵対者がAGIを兵器化するのを待つよりも、脅威となるAIプロジェクトを無効化するために先制行動を取る可能性があると述べている。
シュミット、ワン、ヘンドリックスは、米国が「超知能へのレースに勝つ」ことよりも、他国が超知能AIを開発するのを抑止する方法を開発することに焦点を移すべきだと推奨している。彼らは、政府が「他国が管理する脅威的なAIプロジェクトを無効化するためのサイバー攻撃の手段を拡大し」、先進的なAIチップやオープンソースモデルへの敵対者のアクセスを制限すべきだと提案している。
この文書は、AI政策コミュニティにおける「悲観論者(ドゥーマー)」と「楽観論者(オストリッチ)」の分裂を浮き彫りにしている。悲観論者はAIの壊滅的な結果が避けられないと信じ、AIの進展を遅らせることを主張し、楽観論者はAI開発を加速させ、最善を望む。
著者らは第三の道を提案している:防御戦略を重視したAGI開発への慎重なアプローチである。
この立場は、以前に米国がAI開発で中国と積極的に競争する必要性を強調していたシュミットにとって特に注目に値する。数か月前、シュミットはDeepSeekが米国と中国のAIレースにおける重要な瞬間を示すと述べた論説を書いた。
トランプ政権が米国のAI開発を進める決意を示しているにもかかわらず、共著者らは、米国のAGIに関する決定がグローバルな影響を持つことを思い出させている。
世界が米国のAIへの推進を注視する中、シュミットと共著者らは、より防御的な戦略が賢明な選択かもしれないと示唆している。
関連記事
OpenAIは、公的基金、ロボット税、週4日勤務制を柱とするAI経済の構想を提示した
各国政府が超知能機械による経済的影響への対応に苦慮する中、OpenAIは「知能の時代」において富と労働がどのように再構築されるべきかを概説した一連の政策提言を発表した。その構想は、公的資産基金や社会安全網の拡充といった伝統的な左派的な仕組みと、根本的に資本主義的で市場主導型の経済枠組みとを融合させたものである。OpenAIの提案は本質的に「要望リスト」に相当し、人工知能が労働と経済を変革する中で、
グレッグ・ブロックマンが、イーロン・マスクがOpenAIを去った経緯を明かす
2017年8月下旬、当時まだ小規模な非営利研究機関だったOpenAIの主要メンバーは、自社の技術を商用化し、汎用人工知能(AGI)の実現に必要な資金を調達するために、営利法人をどのように設立すべきかについて協議した。イーロン・マスクは同社の完全な支配権を要求しており、ちょうどその直前に共同創業者たち一人ひとりにテスラ「モデル3」を贈っていた。CTOのグレッグ・ブロックマンは、マスクとサム・アルトマ
ペンタゴン、Nvidia、Microsoft、AWSと契約を結び、機密ネットワークでAIの導入を進める
以前にGoogle、SpaceX、OpenAIと合意に達した後、米国国防総省は金曜日にNvidia、Microsoft、Amazon Web Services、Reflection AIとも契約を結び、これらの企業のAI技術やモデルを機密ネットワークで「合法的な運用目的」のために活用することを発表しました。同声明では、「これらの契約により、米軍をAIを優先した戦闘力として確立する取り組みが加速され、あらゆる戦闘分野において我々の兵士たちが意思決定上の優位性を維持する能力が強化されるだろう」と述
関連特集おすすめ
コメント (33)
0/500
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.

水曜日に発表された政策文書において、元Google CEOのエリック・シュミット、Scale AI CEOのアレクサンドル・ワン、Center for AI Safetyディレクターのダン・ヘンドリックスは、米国が「超人的」知能を持つAIシステム、いわゆるAGI(人工汎用知能)を開発するためのマンハッタン計画のようなイニシアチブを立ち上げることに反対する助言を行った。
「超知能戦略」と題されたこの文書は、米国が超知能AIを独占しようとする取り組みは、中国からの強い反発を招き、サイバー攻撃の形で現れる可能性があり、グローバルな関係を混乱させるかもしれないと警告している。
共著者らは、「AGIのためのマンハッタン計画は、競争相手が永続的な不均衡や全滅を受け入れるのではなく、それを防ぐために行動を起こすと仮定している。超兵器とグローバルな支配を目指す動きは、敵対的な対抗措置や緊張の高まりを引き起こすリスクがあり、戦略が確保しようとする安定性を損なう」と主張している。
米国のAIセクターの3人の重要人物によって書かれたこの文書は、米議会の委員会が1940年代の米国の原子爆弾プロジェクトに例えてAGI開発を資金提供する「マンハッタン計画式」のイニシアチブを提案した直後に発表された。米エネルギー長官クリス・ライトは最近、OpenAI共同創業者のグレッグ・ブロックマンと共にスーパーコンピューター施設で、米国がAIにおける「新たなマンハッタン計画の始まり」にいると宣言した。
超知能戦略文書は、中国に追いつくために政府支援のAGIプログラムが最善の方法だと考える米国の政策および業界リーダー数名による最近の推進に異議を唱えている。
シュミット、ワン、ヘンドリックスは、米国がAGIを巡る対立状況にあり、相互確証破壊の概念に似ていると見ている。各国が先制攻撃を防ぐために核兵器の独占を避けるのと同じように、著者らは米国が高性能AIシステムの支配を急ぐことに慎重であるべきだと提案している。
AIを核兵器に例えるのは大げさに思えるかもしれないが、グローバルリーダーはすでにAIを重要な軍事資産と見なしている。ペンタゴンは、AIが軍のキルチェーンを加速させていると指摘している。
著者らは、相互確証AI不具合(MAIM)の概念を導入し、政府が敵対者がAGIを兵器化するのを待つよりも、脅威となるAIプロジェクトを無効化するために先制行動を取る可能性があると述べている。
シュミット、ワン、ヘンドリックスは、米国が「超知能へのレースに勝つ」ことよりも、他国が超知能AIを開発するのを抑止する方法を開発することに焦点を移すべきだと推奨している。彼らは、政府が「他国が管理する脅威的なAIプロジェクトを無効化するためのサイバー攻撃の手段を拡大し」、先進的なAIチップやオープンソースモデルへの敵対者のアクセスを制限すべきだと提案している。
この文書は、AI政策コミュニティにおける「悲観論者(ドゥーマー)」と「楽観論者(オストリッチ)」の分裂を浮き彫りにしている。悲観論者はAIの壊滅的な結果が避けられないと信じ、AIの進展を遅らせることを主張し、楽観論者はAI開発を加速させ、最善を望む。
著者らは第三の道を提案している:防御戦略を重視したAGI開発への慎重なアプローチである。
この立場は、以前に米国がAI開発で中国と積極的に競争する必要性を強調していたシュミットにとって特に注目に値する。数か月前、シュミットはDeepSeekが米国と中国のAIレースにおける重要な瞬間を示すと述べた論説を書いた。
トランプ政権が米国のAI開発を進める決意を示しているにもかかわらず、共著者らは、米国のAGIに関する決定がグローバルな影響を持つことを思い出させている。
世界が米国のAIへの推進を注視する中、シュミットと共著者らは、より防御的な戦略が賢明な選択かもしれないと示唆している。
OpenAIは、公的基金、ロボット税、週4日勤務制を柱とするAI経済の構想を提示した
各国政府が超知能機械による経済的影響への対応に苦慮する中、OpenAIは「知能の時代」において富と労働がどのように再構築されるべきかを概説した一連の政策提言を発表した。その構想は、公的資産基金や社会安全網の拡充といった伝統的な左派的な仕組みと、根本的に資本主義的で市場主導型の経済枠組みとを融合させたものである。OpenAIの提案は本質的に「要望リスト」に相当し、人工知能が労働と経済を変革する中で、
グレッグ・ブロックマンが、イーロン・マスクがOpenAIを去った経緯を明かす
2017年8月下旬、当時まだ小規模な非営利研究機関だったOpenAIの主要メンバーは、自社の技術を商用化し、汎用人工知能(AGI)の実現に必要な資金を調達するために、営利法人をどのように設立すべきかについて協議した。イーロン・マスクは同社の完全な支配権を要求しており、ちょうどその直前に共同創業者たち一人ひとりにテスラ「モデル3」を贈っていた。CTOのグレッグ・ブロックマンは、マスクとサム・アルトマ
ペンタゴン、Nvidia、Microsoft、AWSと契約を結び、機密ネットワークでAIの導入を進める
以前にGoogle、SpaceX、OpenAIと合意に達した後、米国国防総省は金曜日にNvidia、Microsoft、Amazon Web Services、Reflection AIとも契約を結び、これらの企業のAI技術やモデルを機密ネットワークで「合法的な運用目的」のために活用することを発表しました。同声明では、「これらの契約により、米軍をAIを優先した戦闘力として確立する取り組みが加速され、あらゆる戦闘分野において我々の兵士たちが意思決定上の優位性を維持する能力が強化されるだろう」と述
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.





家






