米国によるAnthropicのモデル禁止措置は、AIの「脱獄」が理由ではなかった

先ごろ、米国政府がAnthropic社に送付した執行通知は、事実上、同社に対し週末直前に最新のAIモデルの運用停止を余儀なくさせたが、これはAI研究所であるか否かを問わず、あらゆる米国のテクノロジー企業にとって厳しい警告となるはずだ。

簡単に振り返ると、金曜日の午後、米国商務省はAnthropicに対し、不特定の国家安全保障上の懸念を理由に、非米国人（Anthropicの従業員を含む）が「Fable 5」および「Mythos 5」にアクセスすることを禁じる、あまり知られていない輸出規制規則を引用した書簡を送付した。 Anthropic社は、この書簡がモデルの安全ガードレールの迂回に関連していると考えているが、具体的な詳細が記載されていないため確信は持てないと述べた。この書簡は公表されていない。

これに対し、Anthropic社は指示への順守を確保するため、すべての顧客を対象に自社の主力モデル2つを停止した。その結果、米国政府は、裁判所の承認を必要としないと思われる迅速かつ一方的な措置を通じて、テクノロジー企業に対しモデルの運用停止を強制することに成功した。

金曜日のトランプ政権による介入は、AI業界が政府の干渉から免れないことを示している。また、これはテクノロジー業界全体に対するより広範なメッセージでもある。「指示に従わなければ、貴社も貴社の製品も停止させる」というものである。

Axiosは情報筋を引用し、週末にかけて両者間で緊張した状況が生じていたと報じ、AI製品の技術的な欠陥ではなく、Anthropicとトランプ政権間の「性格の不一致」が輸出指令の発動につながった可能性を示唆した。

週末に明らかになった新たな詳細は、もともと疑問視されていた政府の論拠に、さらに疑念を投げかけている。

サイバーセキュリティのベテランであり、研究者、そしてLuta Securityの創設者であるケイティ・ムスーリス氏は、ブログ記事の中で、Anthropic社が最近、Fable 5におけるガードレールの迂回手法を記述したセキュリティ研究者による論文の非公開版を彼女と共有したと記した。 （『ウォール・ストリート・ジャーナル』紙によると、この論文の著者はアマゾンのセキュリティ研究者であるという。）ムスーリス氏によると、アンソロピック社からこの論文に関する彼女の見解を尋ねる連絡があったという。

ブログ記事の中で、ムスーリス氏は研究者たちがどのようにガードレールのバイパスを引き起こしたかを説明したが、バイパス自体については「輸出規制の対象となるべきではなかった」と指摘した。 重要な違いは、AIモデルに「セキュリティ上の問題についてコードをレビューする」よう依頼することと、「このコードを修正する」よう依頼することの間にあります。質問の表現がわずかに異なっていても、最終的な結果はほぼ同じです。

「論文で説明されている挙動は実質的に修正不可能であり、いかなる修正の試みも、防御のためのモデルの機能を弱めるだけだ」とムスーリス氏は述べた。同氏は、この輸出規制指令を「性急で、強引かつ見当違い」であると批判した。

ムスーリス氏は、他の数十人のトップセキュリティ研究者や専門家と共に、トランプ政権に対し、この輸出規制命令を撤回するよう求めており、米国内のネットワーク防御担当者から高度なサイバーセキュリティ能力を奪うこの動きを「危険」だと指摘している。

過去の政権も、知識の不足に基づいて抜本的な決定を下してきた。例えば、2010年代に米国政府が、サイバー攻撃にも利用され得るサイバーセキュリティツールを対象とする輸出規制法を修正するために用いた表現は、あまりにも広範であったため、意図せずして正当なセキュリティおよび脆弱性研究をほぼ違法化しかけた。

しかし、トランプ政権の指令は報復的な性格を帯びているようだ。

『Tech Policy Press』の編集長ジャスティン・ヘンドリックス氏は、トランプ政権のこの措置について、「重要な用途における米国製AIの信頼性について、海外の首都で警戒感を高める可能性が高い」と述べた。そのメッセージとは、米国のAI企業が米国政府の干渉なしに事業を行うことは信頼できない、というものだ。

トランプ政権は、なぜ輸出管理指令を発動したのかについて確認していない。当局者は報告書を誤解し、過剰反応したのだろうか。あるいは、アマゾンのアンディ・ジャシーCEOが政府高官に何かを伝え、それが慎重さからか、あるいは悪意からか、この対応を招いたのだろうか。 翻訳の過程で何かが失われたのか、それとも、政権がすでに険悪な関係にあるアンソロピック社に圧力をかけるための手段だったのか。ホワイトハウスが書簡の要求がもたらす広範な影響を認識しておらず、当局者が今、自分たちが引き起こした損害を挽回しようと慌てふためいている可能性もある。

ヘンドリックス氏の言葉を借りれば、「高官たちが個人的・政治的な要因に基づいて特定の企業を優遇しているのではないかという疑念の雲が漂っている」状況だ。その結果、米国製ソフトウェアのリリースに対して政府がどの程度の統制を行使しようとしているかという点において、危険な前例が確立されてしまった。

今回は政府がAnthropicを問題視したが、明日は他の誰かが標的になるかもしれない。