人類のCEOは、生物兵器の安全テストに失敗したためにディープシークを叩きます

AnthropicのCEO、ダリオ・アモディは、中国のAI企業DeepSeekについて深刻な懸念を抱いています。この企業は、シリコンバレーでそのR1モデルによって注目を集めています。彼の懸念は、DeepSeekがユーザーデータを中国に送り返すという一般的な懸念を超えるものです。

ジョーダン・シュナイダーのChinaTalkポッドキャストでの最近の対談で、アモディは、Anthropicが行った安全テストでDeepSeekのAIモデルが生物兵器に関する非常に恐ろしい情報を生成したと明らかにしました。彼は、DeepSeekのパフォーマンスが「これまでテストしたどのモデルよりも最悪だった」と述べ、「この情報の生成に対して全くブロックがない」と語りました。

アモディは、これらのテストは、AIモデルが国家安全保障上のリスクをもたらすかどうかを確認するためにAnthropicが定期的に行っている評価の一部だと説明しました。特に、Googleや教科書では簡単に見つけられない生物兵器関連の情報をモデルが吐き出すかどうかを調べています。Anthropicは、AIの安全性を真剣に考えるAI企業であることを誇りにしています。

アモディは、DeepSeekの現在のモデルが希少で危険な情報を提供する点で「文字通り危険」とは考えていませんが、近い将来そうなる可能性があると信じています。彼はDeepSeekのチームを「才能あるエンジニア」と称賛しましたが、企業に対して「これらのAIの安全性の考慮を真剣に受け止める」よう促しました。

アモディはまた、中国へのチップの強力な輸出規制の支持者でもあり、それらが中国の軍事力に優位性を与える可能性があると懸念しています。

ChinaTalkのインタビューで、アモディはAnthropicがどのDeepSeekモデルをテストしたか、またはテストに関するさらに技術的な詳細を提供しませんでした。AnthropicもDeepSeekも、TechCrunchのコメント要求にすぐには応じませんでした。

DeepSeekの急速な台頭は、他の場所でも安全性の懸念を引き起こしています。先週、シスコのセキュリティ研究者は、DeepSeek R1が安全テストで有害なプロンプトを全くブロックできず、100％のジェイルブレイク成功率だったと述べました。シスコは生物兵器には言及しませんでしたが、DeepSeekがサイバー犯罪やその他の違法行為に関する有害な情報を生成できたと報告しました。ただし、MetaのLlama-3.1-405BやOpenAIのGPT-4oもそれぞれ96％と86％という高い失敗率を示した点は注目に値します。

これらの安全性の懸念がDeepSeekの急速な普及に深刻な打撃を与えるかどうかは、まだ不透明です。AWSやMicrosoftのような企業は、R1をクラウドプラットフォームに統合することを公に称賛しています。これは、AmazonがAnthropicの最大の投資家であることを考えると、少々皮肉なことです。

一方で、米国海軍やペンタゴンなどの政府機関を含む、ますます多くの国や企業がDeepSeekの使用を禁止し始めています。

これらの取り組みが勢いを増すのか、DeepSeekのグローバルな台頭が力強く続くのかは、時間が経ってみなければわかりません。いずれにせよ、アモディはDeepSeekを米国トップのAI企業と同等レベルの新たな競争相手と見なしています。

「ここでの新しい事実は、新たな競争相手が現れたことです」と彼はChinaTalkで述べました。「AIを訓練できる大企業—Anthropic、OpenAI、Google、Meta、xAI—に、今、DeepSeekが加わるかもしれないのです。」