OpenAIのチーフサイエンティストは、AIがまもなく自己改善フェーズに入る可能性があると警告し、業界が自発的に速度を落とすことを望んでいる

ヤクブ・パチョッキOpenAIの最高科学責任者(CSO)は、人工知能(AI)が前例のない速度で進展しており、人間の監視と制御を複雑にしていると警告した。彼は、AI開発者に安全を優先するため、進歩を自発的に減速するよう促した。
「自己改善型モデルは間もなく実現する」
最近の記事で、パチョッキは、AIシステムがコンピュータの制御、人間や他のAIとの協業、独立した研究を迅速に実行するようになったと指摘した。彼は、これらのモデルが間もなく「再帰的自己改善」を達成し、人間の介入なしに自身を強化すると警告した。
「これには極度の注意が必要だ」とパチョッキは記した。「私は、制御されない急速な機械知能の成長による影響に対して、誰も準備できていないことに懸念を抱いている。」
普遍的な安全基準の前に自発的な一時停止が必要
パチョッキは、開発者がAIを人間の利益により厳格に導くか、「必要に応じて開発を一時停止する」かのいずれかを選択できると提案した。彼は、普遍的な安全基準が確立される前に、自発的な減速が標準的な慣行となることを期待している。
この見解は、最近のOpenAIの発表と一致している。同社は、開発を加速するためにAIエージェントを使用しているが、モデルの能力に安全とアライメント(整合性)が追いつかないことを認めている。より強力なシステムは監視が困難である。パチョッキは、これまでどのラボも信頼できるAIアライメントを達成していないと述べており、政府に対し国際的な協調を優先するよう呼びかけた。
関連記事
OpenAIはIPO延期を確認し、アルトマン氏は2026年の開始は賢明ではないと述べた
生成AIのリーダーであるOpenAIのCEO、サム・アルトマン氏は、最近のFortuneとのインタビューで、同社が初期公開株式(IPO)の開始を急いでいないことを明確にしました。現在の市場状況や技術の成熟度を考慮すると、2026年のIPOを目標とすることは戦略的ではない可能性があります。以前、秘密裏にIPO申請が行われているとの報道がありましたが、アルトマン氏は、OpenAIは事業が完全に稼働し、AI技術が社会全体で成熟した段階で初めて資本市場に進出すると強調し、2026年の上場を事実上否定しま
Blue Bug Embodied、モジュラー式ヒューマノイドロボット「シャオバイ」を発表、価格は9,800元から
西安交通大学の技術移転部門である「蘭崇」は、9月14日、新しいモジュラー式ヒューマノイドロボット「Mantis Standard “Bai Xiao”」を発表した。このモデルは、ヒューマノイドロボット分野における従来の参入障壁を下げ、価格はわずか98万元からとなっており、業界から大きな関心を集めている。「白小」は、単なる標準的なヒューマノイドロボットにとどまらず、柔軟な形態変化が可能なインテリジェ
アマゾン、ケイト・スペードなどを含む小売業者向けにAIショッピングアシスタントをリリース
Amazonは、AWSを基盤とした新しい「Agentic Shopping Assistant」を通じて、AIを活用したショッピング機能を外部の小売業者にも拡大しており、Kate Spadeなどが初期導入ブランドとして名を連ねています。このサービスにより、小売業者は自社のウェブサイトやアプリ向けにAIショッピングアシスタントを作成できるようになります。Amazonによると、各導入事例は、小売業者の
関連特集おすすめ
コメント (0)
0/500

ヤクブ・パチョッキOpenAIの最高科学責任者(CSO)は、人工知能(AI)が前例のない速度で進展しており、人間の監視と制御を複雑にしていると警告した。彼は、AI開発者に安全を優先するため、進歩を自発的に減速するよう促した。
「自己改善型モデルは間もなく実現する」
最近の記事で、パチョッキは、AIシステムがコンピュータの制御、人間や他のAIとの協業、独立した研究を迅速に実行するようになったと指摘した。彼は、これらのモデルが間もなく「再帰的自己改善」を達成し、人間の介入なしに自身を強化すると警告した。
「これには極度の注意が必要だ」とパチョッキは記した。「私は、制御されない急速な機械知能の成長による影響に対して、誰も準備できていないことに懸念を抱いている。」
普遍的な安全基準の前に自発的な一時停止が必要
パチョッキは、開発者がAIを人間の利益により厳格に導くか、「必要に応じて開発を一時停止する」かのいずれかを選択できると提案した。彼は、普遍的な安全基準が確立される前に、自発的な減速が標準的な慣行となることを期待している。
この見解は、最近のOpenAIの発表と一致している。同社は、開発を加速するためにAIエージェントを使用しているが、モデルの能力に安全とアライメント(整合性)が追いつかないことを認めている。より強力なシステムは監視が困難である。パチョッキは、これまでどのラボも信頼できるAIアライメントを達成していないと述べており、政府に対し国際的な協調を優先するよう呼びかけた。
OpenAIはIPO延期を確認し、アルトマン氏は2026年の開始は賢明ではないと述べた
生成AIのリーダーであるOpenAIのCEO、サム・アルトマン氏は、最近のFortuneとのインタビューで、同社が初期公開株式(IPO)の開始を急いでいないことを明確にしました。現在の市場状況や技術の成熟度を考慮すると、2026年のIPOを目標とすることは戦略的ではない可能性があります。以前、秘密裏にIPO申請が行われているとの報道がありましたが、アルトマン氏は、OpenAIは事業が完全に稼働し、AI技術が社会全体で成熟した段階で初めて資本市場に進出すると強調し、2026年の上場を事実上否定しま
Blue Bug Embodied、モジュラー式ヒューマノイドロボット「シャオバイ」を発表、価格は9,800元から
西安交通大学の技術移転部門である「蘭崇」は、9月14日、新しいモジュラー式ヒューマノイドロボット「Mantis Standard “Bai Xiao”」を発表した。このモデルは、ヒューマノイドロボット分野における従来の参入障壁を下げ、価格はわずか98万元からとなっており、業界から大きな関心を集めている。「白小」は、単なる標準的なヒューマノイドロボットにとどまらず、柔軟な形態変化が可能なインテリジェ
アマゾン、ケイト・スペードなどを含む小売業者向けにAIショッピングアシスタントをリリース
Amazonは、AWSを基盤とした新しい「Agentic Shopping Assistant」を通じて、AIを活用したショッピング機能を外部の小売業者にも拡大しており、Kate Spadeなどが初期導入ブランドとして名を連ねています。このサービスにより、小売業者は自社のウェブサイトやアプリ向けにAIショッピングアシスタントを作成できるようになります。Amazonによると、各導入事例は、小売業者の





家






