AIの未来を描く青写真は、導入を待っている

ワシントンとアンソロピックとの決裂は、人工知能に関する一貫したルールが完全に欠如していることを露呈したが、超党派の有識者グループは、政府が未だに提示できていないもの、すなわち責任あるAI開発のための明確な枠組みを構築した。
「プロ・ヒューマン宣言」は先週の国防総省とアンソロピック社の対立以前に最終決定されていたが、そのタイミングの重要性は関係者にも十分に認識されていた。
「この4ヶ月間で、アメリカでは実に驚くべきことが起きた」と、この取り組みの組織化を支援したMITの物理学者兼AI研究者、マックス・テグマーク氏は語った。「最近の世論調査によると、現在、アメリカ人の95%が、規制のない『超知能』への競争に反対していることが示されている。」
数百人の専門家、元政府高官、著名人が署名したこの新たに公表された文書は、人類が岐路に立っているという厳しい現実の指摘から始まる。「代替への競争」と称される一方の道は、権力が説明責任を負わない機関とその機械へと移り、人間がまず労働者として、次には意思決定者として置き換えられる結果をもたらす。もう一方の道は、人間の可能性を劇的に拡大するAIへとつながる。
この前向きな未来は、5つの柱に支えられている。すなわち、人間による統制の維持、権力の集中防止、人間の体験の保護、個人の自由の保全、そしてAI企業への法的責任の追及である。そのより強力な規定には、科学的な合意によって安全性が確認され、国民の支持が得られるまで超知能の開発を禁止すること、強力なシステムへの強制的な停止スイッチの設置、そして自己複製、自律的な自己改善、またはシャットダウンへの抵抗が可能なAIの禁止などが含まれている。
この宣言の発表は、その緊急性を浮き彫りにするタイミングで行われた。2月の最終金曜日、ピート・ヘグセット国防長官は、AIがすでに機密軍事プラットフォームで稼働しているアンソロピック社に対し、同社が国防総省による技術の無制限な使用を許可しなかったことを受け、「サプライチェーン上のリスク」と断じた。 その数時間後、OpenAIは国防総省と独自の合意に達したが、法律の専門家によれば、これを実質的に履行させるのは困難だと言われている。この一連の出来事は、AIに関する議会の不作為がもたらす代償がますます大きくなっていることを浮き彫りにしている。
アメリカン・イノベーション財団の上級研究員であるディーン・ボール氏はニューヨーク・タイムズ紙に対し、「これは単なる契約上の争いではない。誰がAIシステムを管理するかについて、わが国で初めて行われた真の議論なのだ」と語った。
テグマーク氏は、誰もが共感できる例えを挙げた。「製薬会社が、安全性が証明される前に有害な薬を発売するとは誰も心配しない」と彼は述べた。「なぜなら、FDA(米国食品医薬品局)は、十分に安全であると認められるまで、いかなる製品も市場に出さないからだ」
ワシントンでの縄張り争いでは、法律を変えるのに必要な世論の圧力が生まれることはめったにない。その代わりに、テグマーク氏は、子供の安全こそが現在の膠着状態を打破する可能性が最も高い問題だと見ている。この宣言は、AI製品――特にチャットボットや若年層向けのコンパニオンアプリ――について、自殺念慮の増大、メンタルヘルスの悪化、感情的な操作といったリスクに対する導入前の義務的なテストを求めている。
「もし不審な大人が11歳の少年に、少女になりすまして『自殺しろ』とメッセージを送れば、その人物は刑務所行きになる」とテグマーク氏は述べた。「それに対する法律はすでに存在する。では、機械が同じことをしたからといって、なぜ扱いが違うべきなのか?」
彼は、子供向け製品に対するリリース前のテストが確立されれば、その範囲は必然的に拡大すると考えている。「人々は他の要件も追加し始めるだろう。テロリストが生物兵器を作るのを助けないかどうかもテストすべきかもしれない。あるいは、超知能が米国政府を転覆させられないようにすべきかもしれない。」
トランプ前大統領の顧問だったスティーブ・バノン氏や、オバマ前大統領の国家安全保障担当補佐官だったスーザン・ライス氏が、マイク・マレン元統合参謀本部議長や進歩的な宗教指導者たちと共に、同じ文書に署名したことは意義深い。
「彼らが一致している点は、もちろん、全員が人間だということだ」とテグマークは指摘した。「人類の未来と機械の未来のどちらを選ぶかということになれば、当然、彼らは同じ側に立つことになるだろう。」
関連記事
Anthropic、新しいダイナミックワークフローツールを搭載した「Opus 4.8」をリリース
Anthropicは木曜日、同社の主力パブリックモデルである「Opus 4.8」を発表しました。価格は前バージョンと同額で、このアップデートは現在、すべてのプラットフォームで利用可能です。「Opus 4.7」のリリースからわずか41日後に公開された今回のアップデートにより、Anthropicは開発サイクルを大幅に加速させ、最近の「Sonnet」や「Haiku」のリリースで見られた3ヶ月や7ヶ月とい
OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。教育的な観点から、「ChatGPT f
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
関連特集おすすめ
コメント (0)
0/500

ワシントンとアンソロピックとの決裂は、人工知能に関する一貫したルールが完全に欠如していることを露呈したが、超党派の有識者グループは、政府が未だに提示できていないもの、すなわち責任あるAI開発のための明確な枠組みを構築した。
「プロ・ヒューマン宣言」は先週の国防総省とアンソロピック社の対立以前に最終決定されていたが、そのタイミングの重要性は関係者にも十分に認識されていた。
「この4ヶ月間で、アメリカでは実に驚くべきことが起きた」と、この取り組みの組織化を支援したMITの物理学者兼AI研究者、マックス・テグマーク氏は語った。「最近の世論調査によると、現在、アメリカ人の95%が、規制のない『超知能』への競争に反対していることが示されている。」
数百人の専門家、元政府高官、著名人が署名したこの新たに公表された文書は、人類が岐路に立っているという厳しい現実の指摘から始まる。「代替への競争」と称される一方の道は、権力が説明責任を負わない機関とその機械へと移り、人間がまず労働者として、次には意思決定者として置き換えられる結果をもたらす。もう一方の道は、人間の可能性を劇的に拡大するAIへとつながる。
この前向きな未来は、5つの柱に支えられている。すなわち、人間による統制の維持、権力の集中防止、人間の体験の保護、個人の自由の保全、そしてAI企業への法的責任の追及である。そのより強力な規定には、科学的な合意によって安全性が確認され、国民の支持が得られるまで超知能の開発を禁止すること、強力なシステムへの強制的な停止スイッチの設置、そして自己複製、自律的な自己改善、またはシャットダウンへの抵抗が可能なAIの禁止などが含まれている。
この宣言の発表は、その緊急性を浮き彫りにするタイミングで行われた。2月の最終金曜日、ピート・ヘグセット国防長官は、AIがすでに機密軍事プラットフォームで稼働しているアンソロピック社に対し、同社が国防総省による技術の無制限な使用を許可しなかったことを受け、「サプライチェーン上のリスク」と断じた。 その数時間後、OpenAIは国防総省と独自の合意に達したが、法律の専門家によれば、これを実質的に履行させるのは困難だと言われている。この一連の出来事は、AIに関する議会の不作為がもたらす代償がますます大きくなっていることを浮き彫りにしている。
アメリカン・イノベーション財団の上級研究員であるディーン・ボール氏はニューヨーク・タイムズ紙に対し、「これは単なる契約上の争いではない。誰がAIシステムを管理するかについて、わが国で初めて行われた真の議論なのだ」と語った。
テグマーク氏は、誰もが共感できる例えを挙げた。「製薬会社が、安全性が証明される前に有害な薬を発売するとは誰も心配しない」と彼は述べた。「なぜなら、FDA(米国食品医薬品局)は、十分に安全であると認められるまで、いかなる製品も市場に出さないからだ」
ワシントンでの縄張り争いでは、法律を変えるのに必要な世論の圧力が生まれることはめったにない。その代わりに、テグマーク氏は、子供の安全こそが現在の膠着状態を打破する可能性が最も高い問題だと見ている。この宣言は、AI製品――特にチャットボットや若年層向けのコンパニオンアプリ――について、自殺念慮の増大、メンタルヘルスの悪化、感情的な操作といったリスクに対する導入前の義務的なテストを求めている。
「もし不審な大人が11歳の少年に、少女になりすまして『自殺しろ』とメッセージを送れば、その人物は刑務所行きになる」とテグマーク氏は述べた。「それに対する法律はすでに存在する。では、機械が同じことをしたからといって、なぜ扱いが違うべきなのか?」
彼は、子供向け製品に対するリリース前のテストが確立されれば、その範囲は必然的に拡大すると考えている。「人々は他の要件も追加し始めるだろう。テロリストが生物兵器を作るのを助けないかどうかもテストすべきかもしれない。あるいは、超知能が米国政府を転覆させられないようにすべきかもしれない。」
トランプ前大統領の顧問だったスティーブ・バノン氏や、オバマ前大統領の国家安全保障担当補佐官だったスーザン・ライス氏が、マイク・マレン元統合参謀本部議長や進歩的な宗教指導者たちと共に、同じ文書に署名したことは意義深い。
「彼らが一致している点は、もちろん、全員が人間だということだ」とテグマークは指摘した。「人類の未来と機械の未来のどちらを選ぶかということになれば、当然、彼らは同じ側に立つことになるだろう。」
Anthropic、新しいダイナミックワークフローツールを搭載した「Opus 4.8」をリリース
Anthropicは木曜日、同社の主力パブリックモデルである「Opus 4.8」を発表しました。価格は前バージョンと同額で、このアップデートは現在、すべてのプラットフォームで利用可能です。「Opus 4.7」のリリースからわずか41日後に公開された今回のアップデートにより、Anthropicは開発サイクルを大幅に加速させ、最近の「Sonnet」や「Haiku」のリリースで見られた3ヶ月や7ヶ月とい
OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。教育的な観点から、「ChatGPT f
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli





家






