DeepmindのAGI安全紙は懐疑論者を揺るがすことができません

# deepmind # agi

水曜日に、Google Deepmindは、AGIの安全へのアプローチに深く潜り込んでいる145ページの紙を掘り下げました。 AGI、または人工的な一般情報は、人間ができるあらゆるタスクに取り組むことができるAIのようなものであり、AIの世界ではホットな話題です。一部の人々はそれが単なるファンタジーだと思っていますが、他の人は人類の大きなショットのように、それが曲がりの周りにあると信じており、安全対策をチェックしなければ深刻なトラブルを引き起こす可能性があります。共同設立者のShane Leggの助けを借りて書かれたDeepmindの論文は、Agiが2030年までに現れるかもしれないと考えており、彼らが「深刻な危害」と呼ぶものにつながる可能性があります。彼らはそれを正確に綴っていませんが、「人類を永久に破壊する」可能性のある「実存的リスク」のような恐ろしいフレーズの周りに投げます。 「私たちは、この10年が出る前に、例外的なAGIを見ることに賭けています」と著者は指摘します。 「例外的なAGIは、新しいスキルを学ぶなどのトリッキーなものを含む、多くの非物理的なタスクで、大人の上位1％のスキルに合うことができるシステムです。」最初から、この論文では、AGIリスクを処理するDeepMindの方法と、AnthropicとOpenaiがどのように行うかを比較しています。 「堅牢なトレーニング、監視、セキュリティ」で人類がそれほど大きくないと述べていますが、OpenaiはAlignment Researchと呼ばれるAIの安全研究を「自動化する」ことについてです。この論文はまた、スーパーインテリジェントAIのアイデアにもいくつかの日陰を投げかけます。これは、どの人間よりも仕事に優れています。 （Openaiは最近、AGIからSuperintelligenceに焦点を移していると述べた。）いくつかの大きな新しいブレークスルーがなければ、DeepMindの著者は、すぐに、あるいはおそらくこれまでに緊密なシステムが来ることを購入していない。しかし、彼らは、現在の方法が「再帰的なAIの改善」につながる可能性があると考えています。AIは、さらに賢いAIシステムを作るために独自のAI研究を行っています。そして、彼らは警告すると、非常に危険である可能性があります。全体として、この論文は、悪い俳優をAGIから遠ざけ、AIシステムが何をしているかをよりよく理解し、AIがより安全に動作する環境を作る方法を開発する必要があることを示唆しています。彼らは、これらのアイデアの多くがまだ初期段階にあり、「開かれた研究の問題」を抱えていることを認めていますが、私たちの道が来るかもしれない安全性の問題を無視しないように促しています。 「AGIは驚くべき利益や深刻な害をもたらす可能性がある」と著者は指摘する。 「だから、AGIを正しい方法で構築するには、トップのAI開発者が事前に計画してこれらの大きなリスクに取り組むことが重要です。」しかし、誰もが紙のアイデアに乗っているわけではありません。非営利AI Now InstituteのチーフAI科学者であるHeidy Khlaafは、TechCrunchに、Agiは「科学的に厳密に評価される」ためには概念ではないと考えていると語った。別のAIの研究者であるアルバータ大学のマシュー・グズディアルは、再帰的なAIの改善が現在実行可能であると確信していないと述べました。 「再帰的な改善は、知性の特異性の議論が基づいているものです」とGuzdialはTechCrunchに語った。オックスフォードで技術と規制を研究しているサンドラ・ワッハターは、より差し迫った心配を指摘しています。AIは「不正確な出力」でそれ自体を強化します。 「オンラインでより多くのAIに生成されたコンテンツと実際のデータが置き換えられると、モデルは不正確さや幻覚に満ちた独自の出力から学習しています」と彼女はTechCrunchに語った。 「チャットボットは主に真実を検索して見つけるために使用されているため、私たちは常に非常に説得力のある方法で提示される虚偽の情報を与えられるリスクがあります。」徹底的に、DeepMindの論文はおそらくAGIが実際にどれほどの可能性があるかについての議論を終わらせないでしょう。

関連記事

コメント (45)