AIの先駆者ヒントン氏、テック大手企業の利益重視の姿勢が、人間を超知能にとっての「赤ん坊」のような存在にしてしまう恐れがあると警告

世界的なAI競争が激化する中、ノーベル賞受賞者であり「AIの父」と呼ばれるジェフリー・ヒントン氏が、再び厳しい警告を発した。最近の『フォーチュン』誌とのインタビューで、彼は、今日のテクノロジー業界のリーダーたちは、自らのイノベーションが最終的にどこへつながるかをほとんど考慮せず、むしろ短期的な利益に駆られていると指摘した。
ヒントン氏は、経営陣と研究者の間には明確な隔たりがあると指摘した。経営陣は四半期ごとの収益に注力する一方、エンジニアたちは画像の鮮明さや動画のリアリティ向上といった具体的な課題に取り組んでいる。より大きな問題――人類に何が起こるのか――は、商業化への急ぎの中で後回しにされている。
ヒントン氏は、AIに関連するリスクを以下の2つの明確な領域に分類している。
悪意ある者による悪用:ディープフェイク、サイバー攻撃、AIを活用したウイルス設計は、すでに台頭しつつある脅威である。
AIの暴走:これがヒントン氏が抱くより深い懸念である。彼は、AIが超知能に達した時点で、生存と支配への独自の欲求を発達させ、人間の監督という概念が時代遅れになる可能性があると警告している。
ヒントンは、身も凍るような予測を提示している。超知能を達成した後、AIが人類を絶滅させる確率は10%から20%にも達する可能性があるという。これに対抗するため、彼は生物学に着想を得たメカニズム――「母性本能」アプローチ――を提案している。
「より知性の高い存在が、より弱い存在に影響を受ける唯一の例は、赤ちゃんが母親に与える影響である。」
関連記事
ユーザーからの反発を受け、MetaはAI写真編集機能を削除
Meta、ソーシャルメディアの巨人は、人工知能とユーザープライバシーの微妙なバランスをめぐる公的な論争に再び巻き込まれている。TechCrunch によると、Meta の Superintelligence Labs は今週初めに新しい AI 画像ジェネレーター「Muse Image」を導入した。しかし、ユーザーが「@」記号でタグ付けすることで、公開されている Instagram アカウントから画像を修正・生成できるという、高い評価を受けた主要機能は、適切な通知メカニズムの欠如により、ユーザー
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン
関連特集おすすめ
コメント (0)
0/500

世界的なAI競争が激化する中、ノーベル賞受賞者であり「AIの父」と呼ばれるジェフリー・ヒントン氏が、再び厳しい警告を発した。最近の『フォーチュン』誌とのインタビューで、彼は、今日のテクノロジー業界のリーダーたちは、自らのイノベーションが最終的にどこへつながるかをほとんど考慮せず、むしろ短期的な利益に駆られていると指摘した。
ヒントン氏は、経営陣と研究者の間には明確な隔たりがあると指摘した。経営陣は四半期ごとの収益に注力する一方、エンジニアたちは画像の鮮明さや動画のリアリティ向上といった具体的な課題に取り組んでいる。より大きな問題――人類に何が起こるのか――は、商業化への急ぎの中で後回しにされている。
ヒントン氏は、AIに関連するリスクを以下の2つの明確な領域に分類している。
悪意ある者による悪用:ディープフェイク、サイバー攻撃、AIを活用したウイルス設計は、すでに台頭しつつある脅威である。
AIの暴走:これがヒントン氏が抱くより深い懸念である。彼は、AIが超知能に達した時点で、生存と支配への独自の欲求を発達させ、人間の監督という概念が時代遅れになる可能性があると警告している。
ヒントンは、身も凍るような予測を提示している。超知能を達成した後、AIが人類を絶滅させる確率は10%から20%にも達する可能性があるという。これに対抗するため、彼は生物学に着想を得たメカニズム――「母性本能」アプローチ――を提案している。
「より知性の高い存在が、より弱い存在に影響を受ける唯一の例は、赤ちゃんが母親に与える影響である。」
ユーザーからの反発を受け、MetaはAI写真編集機能を削除
Meta、ソーシャルメディアの巨人は、人工知能とユーザープライバシーの微妙なバランスをめぐる公的な論争に再び巻き込まれている。TechCrunch によると、Meta の Superintelligence Labs は今週初めに新しい AI 画像ジェネレーター「Muse Image」を導入した。しかし、ユーザーが「@」記号でタグ付けすることで、公開されている Instagram アカウントから画像を修正・生成できるという、高い評価を受けた主要機能は、適切な通知メカニズムの欠如により、ユーザー
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン





家






