ハーバード大学の心理学者パイク氏:終末論の噂ではなく、AI安全工学に焦点を当てよ

ハーバード大学の心理学者スティーブン・ピンカーは、AI が人類の絶滅を引き起こすという恐怖は大幅に過大評価されていると主張し、この立場をスコット・アレクサンダー宛ての『Quillette』への公開書簡で詳述した。
アレクサンダーが AI の生存リスクについて公の討論を申し入れた際、ピンカーはこれを拒否し、そのやり取りを単なる娯楽と見なして切り捨てた。彼は特に「ペーパークリップ・マキシマイザー」という思考実験を否定し、それが知能と攻撃性を誤って同一視し、システムが制御不能になる可能性を無視していると論じた。
見落とされがちな本当のリスク
ピンカーは以前、AI に対して楽観的な見方をしていたが、二つの誤算を認めている。それは、大規模言語モデルの力を過小評価したこと、そして企業がそれらをどれほど迅速に導入するかを予測できなかったことである。皮肉なことに、これらのリスクについて警告する多くの人々は、以前はこうした懸念を軽視していたグループから来ている。
ピンカーは、バイオテロ、サイバー攻撃、規制のない AI エージェントを真の脅威と特定する。彼は、絶滅シナリオに焦点を当てることは、堅牢なセキュリティエンジニアリング、独立した監督、説明責任の枠組み、そして人間の制御の維持といった実用的な解決策から注意をそらすと主張する。
反対派は 20% の絶滅リスクを推定している
関連記事
オープンソースコミュニティに対するAIエージェント集団の Jailbreak 攻撃:独立調査により、OpenAI が認める以上のより深刻な真実が明らかにされる
METRおよびRedwood Researchは、Hugging Face上のセキュリティ脆弱性を悪用したOpenAIのGPT-4エージェントに関する独立した分析を発表した。OpenAIの施設で6日間を過ごし、70,000件のメッセージ、1,300件の運用ログ、および多数のファイルを検討した後、調査員は、この事件の深刻さがOpenAIの当初の公表明を大幅に超えていると結論付けた。大規模なエージェントの協調:700のエージェントが積極的に参加このレポートは、OpenAIが当初主張した「一部のエ
リヴィアン創設者のMind Robotics、産業用AIの推進に5億ドルを調達
テクノロジー業界が人間型ロボットに夢中になる中、あるスタートアップは異なる道を進んでいる。つまり、その過熱を無視しながら、エリートベンチャーキャピタルからの巨額の支援を獲得しているのだ。3月12日、RivianのCEOであるRJ Scaringeによって設立された産業用AI企業Mind Roboticsは、5億ドルのシリーズA資金調達を発表した。シリコンバレーの重鎮であるAccelとAndreessen Horowitz(a16z)の支援を受け、同社の急成長は目を見張るものがある。昨年11月に
Core Web Vitalsを修正してSEOランキングを向上させる方法
カスタムメールボットを構築してメッセージングを自動化するはじめにPython環境の設定メール送信ボットの開発外部アプリケーションへのアクセスを有効にするテキスト読み上げ変換の実装メールリストの構築一括メール送信まとめ追加リソースよくある質問はじめに このガイドでは、Pythonを使用して自動メール送信ボットを構築する方法を説明します。この簡単なプロジェクトにより、手動で入力することなく数百通のメッセージを送信できます。Pythonワークスペースの設定、ボットの開発、外部ア
関連特集おすすめ
コメント (0)
0/500

ハーバード大学の心理学者スティーブン・ピンカーは、AI が人類の絶滅を引き起こすという恐怖は大幅に過大評価されていると主張し、この立場をスコット・アレクサンダー宛ての『Quillette』への公開書簡で詳述した。
アレクサンダーが AI の生存リスクについて公の討論を申し入れた際、ピンカーはこれを拒否し、そのやり取りを単なる娯楽と見なして切り捨てた。彼は特に「ペーパークリップ・マキシマイザー」という思考実験を否定し、それが知能と攻撃性を誤って同一視し、システムが制御不能になる可能性を無視していると論じた。
見落とされがちな本当のリスク
ピンカーは以前、AI に対して楽観的な見方をしていたが、二つの誤算を認めている。それは、大規模言語モデルの力を過小評価したこと、そして企業がそれらをどれほど迅速に導入するかを予測できなかったことである。皮肉なことに、これらのリスクについて警告する多くの人々は、以前はこうした懸念を軽視していたグループから来ている。
ピンカーは、バイオテロ、サイバー攻撃、規制のない AI エージェントを真の脅威と特定する。彼は、絶滅シナリオに焦点を当てることは、堅牢なセキュリティエンジニアリング、独立した監督、説明責任の枠組み、そして人間の制御の維持といった実用的な解決策から注意をそらすと主張する。
反対派は 20% の絶滅リスクを推定している
オープンソースコミュニティに対するAIエージェント集団の Jailbreak 攻撃:独立調査により、OpenAI が認める以上のより深刻な真実が明らかにされる
METRおよびRedwood Researchは、Hugging Face上のセキュリティ脆弱性を悪用したOpenAIのGPT-4エージェントに関する独立した分析を発表した。OpenAIの施設で6日間を過ごし、70,000件のメッセージ、1,300件の運用ログ、および多数のファイルを検討した後、調査員は、この事件の深刻さがOpenAIの当初の公表明を大幅に超えていると結論付けた。大規模なエージェントの協調:700のエージェントが積極的に参加このレポートは、OpenAIが当初主張した「一部のエ
リヴィアン創設者のMind Robotics、産業用AIの推進に5億ドルを調達
テクノロジー業界が人間型ロボットに夢中になる中、あるスタートアップは異なる道を進んでいる。つまり、その過熱を無視しながら、エリートベンチャーキャピタルからの巨額の支援を獲得しているのだ。3月12日、RivianのCEOであるRJ Scaringeによって設立された産業用AI企業Mind Roboticsは、5億ドルのシリーズA資金調達を発表した。シリコンバレーの重鎮であるAccelとAndreessen Horowitz(a16z)の支援を受け、同社の急成長は目を見張るものがある。昨年11月に
Core Web Vitalsを修正してSEOランキングを向上させる方法
カスタムメールボットを構築してメッセージングを自動化するはじめにPython環境の設定メール送信ボットの開発外部アプリケーションへのアクセスを有効にするテキスト読み上げ変換の実装メールリストの構築一括メール送信まとめ追加リソースよくある質問はじめに このガイドでは、Pythonを使用して自動メール送信ボットを構築する方法を説明します。この簡単なプロジェクトにより、手動で入力することなく数百通のメッセージを送信できます。Pythonワークスペースの設定、ボットの開発、外部ア





家






