政府が同社の最強AIの運用を停止したことで、Anthropicの安全警告が裏目に出た

金曜日、米国政府は、国家安全保障上のリスクを理由に、Anthropic社に対し、同社の最先端AIシステムである「Claude Fable 5」と「Claude Mythos 5」へのアクセスを直ちに停止するよう命じた。Anthropic社はXを通じてこの指示に従うことを確認したものの、政府の決定は誤りであるとの見解を示した。

Anthropicによると、この指示は金曜日の午後5時21分（米国東部時間）に届き、当初の輸出規制命令の対象であった外国人だけでなく、全世界のユーザーに対して両モデルの利用を遮断するよう同社に求めた。Anthropicの他のモデルには影響はない。

なぜこれが重要なのか？「Mythos」はAnthropicの最も強力なAIであり、4月上旬にプレビューが公開されたが、ソフトウェアのセキュリティ脆弱性を特定する並外れた能力を持つため、厳重な制限下に置かれていた。 Anthropicの報告によると、Mythosはテストしたすべての主要なオペレーティングシステムおよびウェブブラウザに欠陥を発見した。その結果、同社は広範なリリースを行う代わりに、「Project Glasswing」を立ち上げた。これは、サイバーセキュリティの防御を目的として、Amazon、Apple、Google、Microsoft、CrowdStrikeなど、審査済みの約50の組織にアクセスを限定的に提供する管理されたプログラムである。

わずか3日前にリリースされた「Fable 5」は、サイバーセキュリティや生物学といった高リスク分野での応答をブロックする安全装置を備えたMythosのバージョンを提供することで、商業的な圧力に対応している。Anthropicは、これにより一般利用においても安全であると主張しており、AIの性能を追跡するVals AIによるベンチマークテストでも、これが現在最も高性能な公開AIモデルであることが確認されている。

画像提供：Vals AI /

政府はこれを、海外からのアクセスを制限する輸出管理措置として位置付けているが、Anthropic社は詳細なブログ記事の中で、真の問題はFable 5の「脱獄」が主張されている点にあると論じている。 同社は、政府が提示したのは「限定的で普遍的ではない潜在的な脱獄」に関する口頭での証拠に過ぎないと述べており、これはモデルに特定のコードベースを分析させてソフトウェアの欠陥を探させるプロンプト操作を伴うものである。 Anthropicは、この機能はOpenAIのGPT-5.5など他の公開モデルでもすでに広く利用可能であり、サイバーセキュリティの専門家によって防御目的で日常的に使用されていると指摘している。

Anthropicの主な主張は、同社の最も強力な安全対策が、モデル自体とは独立した分類システムに依存しているという点だ。つまり、たとえユーザーが拒否を迂回したとしても、危険な出力に対する根本的な保護機能は引き続き有効であるということだ。

こうした安全対策があるにもかかわらず、政府は措置を強行し、Anthropic社は公然と不満を表明している。「ごく限られた可能性のある『脱獄』が発見されたというだけで、数億人のユーザーに展開されている商用モデルを回収すべきだという見解には同意できない」と同社は記している。 「もしこの基準が業界全体に適用されれば、すべての最先端モデルプロバイダーによる新規モデルの展開は事実上停止することになると我々は考えている。」

Anthropicは今年中にIPOを推進すると広く予想されており、競合他社に対する「安全性を重視する代替企業」としての地位を確立しようとしている。観測筋は、AnthropicがMythosを制限する際に見せた慎重さ――一般公開するには危険すぎると宣伝していたこと――が、今や同社の事業を混乱させる可能性のある政府の精査を招いてしまったという皮肉を指摘している。

OpenAIのサム・アルトマン氏は、この状況を楽しんでいるようだ。4月、彼はポッドキャスターのアシュリー・ヴァンス氏に対し、AnthropicのMythosへの対応は「恐怖を煽るマーケティング」だと語った。 「『我々は爆弾を作った。それを君の頭上に落とそうとしていた。1億ドルで防空壕を売ってやる』と言うのは、明らかに信じられないほどのマーケティングだ」とアルトマン氏は語った。 自社も近々IPOを計画しているアルトマン氏は、政府による事業停止までは予測していなかったものの、Anthropicの戦略がもたらした結果を指摘した。つまり、自社のAIが他に類を見ないほど危険であると数ヶ月にわたり警告し続けたことで、同社は米国政府の注目を確実に引きつけたのだ。