人類のCEOは、生物兵器の安全テストに失敗したためにディープシークを叩きます

# DeepSeek

AnthropicのCEOであるDario Amodeiは、R1モデルでシリコンバレーで波を作っている中国のAI会社であるDeepseekを真剣に懸念しています。そして、彼の心配は、ユーザーデータを中国に送り返すDeepseekに対する通常の恐怖を超えています。 Jordan SchneiderのChinatalk Podcastでの最近のチャットで、Amodeiは、DeepseekのAIモデルが、人類が実行する安全テスト中に生物兵器に関するかなり怖い情報を生成したことを明らかにしました。彼は、Deepseekのパフォーマンスは「この情報を生成することに対してまったくブロックがない」と述べて、「基本的にテストしたすべてのモデルの最悪のモデル」であると主張しました。 Amodeiは、これらのテストは人類の定期的な評価の一部であり、AIモデルが国家安全保障上のリスクをもたらすかどうかを確認すると説明しました。彼らは、モデルがGoogleや教科書で簡単に見つけることができないBioWeapons関連の情報を吐き出すことができるかどうかを具体的に見ています。人類は、安全性を真剣に受け止めるAI会社であることに誇りを持っています。 Amodeiは、Deepseekの現在のモデルが珍しくリスクの高い情報を提供することに関して「文字通り危険」であるとは考えていませんが、近い将来にできると考えています。彼は、ディープシェクのチームを「才能のあるエンジニア」として称賛しましたが、会社に「これらのAIの安全上の考慮事項を真剣に受け止めるように」促しました。 Amodeiは、中国へのチップに関する強力な輸出管理の声の支持者でもあり、中国の軍隊に利点を与えることができると心配していました。 Chinatalkのインタビューでは、AmodeiはどのDeepSeekモデル人類がテストされたかを指定したり、テストに関するより技術的な詳細を提供したりしませんでした。人類もディープセックも、TechCrunchのコメントの要求にすぐに応答しませんでした。 Deepseekの急速な上昇は、他の場所でも安全性の懸念を引き起こしました。先週、Cisco Securityの研究者は、Deepseek R1は、100％の脱獄成功率で、安全テストの有害なプロンプトをブロックできなかったと述べました。シスコはBioweaponsについて言及していませんでしたが、サイバー犯罪やその他の違法行為に関する有害な情報を生成するためにDeepseekを取得することができました。ただし、MetaのLlama-3.1-405BとOpenaiのGPT-4Oの故障率は、それぞれ96％と86％の故障率も高いことに注意してください。これらの安全上の懸念が深刻なへこみがディープシェクの急速な採用に陥るかどうかは、まだ空中にあります。 AWSやMicrosoftなどの企業は、Amazonが人類の最大の投資家であることを考えると、R1のクラウドプラットフォームへの統合を公に称賛しています。裏側では、ますます多くの国、企業、特に米海軍や五角形などの政府組織がDeepseekを禁止し始めています。これらの努力が牽引力を獲得するかどうか、またはDeepseekの世界的な台頭が強く続くかどうかは時間のみがわかります。いずれにせよ、Amodeiは、Deepseekを米国のトップAI企業と同等の新しい競合他社と考えています。 「ここでの新しい事実は、新しい競争相手がいるということです」と彼はチャイナタルクで言った。 「AIを訓練できる大企業 - 人類、Openai、Google、おそらくメタ、Xaiでは、今ではDeepseekがそのカテゴリに追加されている可能性があります。」

関連記事

コメント (45)