暗号化、スパイウェア、Mythos：歴史が示すように、サイバー関連の輸出規制は機能しない

先週の金曜日、ホワイトハウスは、具体的な内容は明らかにされていない国家安全保障上の懸念を理由に、Anthropic社に対し、同社の高性能AIモデル「Fable」と「Mythos」の、米国外のあらゆる者（米国内の外国人を含む）への輸出を制限するよう命じた。その直後、同社は両モデルのサービスを速やかに停止し、現在、これらのモデルは1週間利用できない状態が続いている。

今回の出来事は、米国政府が輸出規制を用いて最先端のAIを封じ込めることができるかどうかを問う、最初の実質的な試金石となる。これは、以前、暗号化技術やスパイウェアの規制を試みた際（結果はまちまちだったが）と同様の試みである。 大げさに聞こえるかもしれないが、この対立がどのように解決されるかは、Anthropic社の海外市場へのアクセスだけでなく、他のAI研究機関が従わなければならないルールブックにも影響を及ぼす可能性がある。

背景を説明すると、Anthropic社が4月にMythosをリリースして以来、同社はこのモデルを、広範囲に公開されればインターネットに大混乱をもたらしかねない「終末をもたらすサイバーマシン」のようなものとして宣伝してきた。そのため、禁止措置が講じられる前は、審査を通過した約150社の企業および政府機関のみがこれを利用できていた。 その目的は、悪意のある攻撃者が「Mythos」のような能力を手にする前に、防御側が自社のソフトウェアやサービスの安全を確保できるよう支援することにあった。

では、何が禁止措置の引き金となったのか？報道によると、その後相次いだ2つの出来事だ。第一に、Anthropic社が限定パートナープログラムを通じて、ある韓国の通信会社にMythosへのアクセス権を付与したことだ。米国当局は、その企業が中国とつながりがあると疑われると特定し、警戒を強めた。（広くSKテレコムと報じられている同社は、中国とのいかなる関係も否定している。） 第二に、AmazonのCEOアンディ・ジャシー氏は、同社の研究者が「Fable 5」の安全対策を回避する方法を発見したと主張し、政府に警告したと報じられている。Anthropic社は「脱獄」という表現に異議を唱え、これはモデルの安全対策を全面的に無効化したものではなく、限定的で既に修正済みの問題に過ぎないと述べている。

結果は同じだった。商務省が輸出規制指令を発令し、一部の報道によれば、Anthropicは通知を受けてから約90分以内に自社製品へのアクセスを制限するために慌てて対応を迫られたという。

しかし、こうした事態は決して新しいものではない。各国政府は数十年にわたり、自らが危険とみなすサイバー技術の拡散を制限するために輸出規制を活用しようとしてきたが、その実績はせいぜい平凡なものにとどまっている。

1990年代前半から半ばにかけて、米国政府は、おそらくこのアプローチにおける史上最も壮大な失敗の黒幕だった。 当時、コンピュータ科学者たちは、インターネット上を伝送されるデータを保護するための暗号化技術を開発していた。その一つが「Pretty Good Privacy（PGP）」という暗号化製品で、データを暗号化し、たとえ宛先への送信中に傍受されたとしても、復号を事実上不可能にする人気ソフトウェアだった。

米国政府は当初、PGPを危険な武器と見なし、通信回線を通過する電子メールを諜報機関が盗聴できなくなることを懸念した。 その流通を阻止するため、米国税関は、PGPの開発者であるフィル・ジマーマンに対し、武器輸出規制違反の疑いで刑事捜査を開始した。ジマーマンはPGPのソースコードを印刷物として出版することで反撃し、これが後に「クリプト・ウォーズ」として知られる争いの火種となった。

その後、捜査が打ち切られたことで、ジマーマンは重要な戦いに勝利し、シグナルやWhatsAppの数十億人のユーザーが利用しているような、極めて重要なエンドツーエンド暗号化アルゴリズムへの道を開いた。

その後、2010年代初頭にかけて、研究者たちは中東の反体制派に対して使用されていた欧米製のスパイウェアを発見し始めた。これを受けて、いくつかの政府は、民生用と軍事用の両方に利用されるデュアルユースのソフトウェアや技術の輸出を制限する国際条約である「ワッセナー協定」の拡大に合意した。

その狙いは、監視やハッキング用のソフトウェアをデュアルユースに分類し、スパイウェアメーカーが製品を海外で販売する際に輸出許可の取得を義務付けることでした。

お問い合わせ

しかし、ワッセナー協定には常に2つの根本的な弱点があった。世界でも最も活発なスパイウェアメーカーのいくつかが拠点を置くイスラエルを含め、いくつかの国がこの協定を遵守していないのだ。

また、この協定は、各国が独自の裁量で自国領内の企業に適用することに依存しています。一時期、イタリア政府は、当時国内有数のスパイウェアメーカーであったハッキング・チームに対し、そのツールを世界中に輸出するライセンスを許可していました。同社には、ジャーナリストや人権活動家をハッキングするためにスパイウェアを独裁政権に販売してきた実績があったにもかかわらずです。

それ以来、他の欧州諸国もイタリアと同様にスパイウェアメーカーに対して寛容な姿勢をとってきた。数々のスキャンダルにもかかわらず、多くのスパイウェアやハッキングツールメーカーを擁する欧州は、権威主義体制へのスパイウェア輸出を抑制することに一貫して失敗し続けている。 批評家たちは、権威主義国家へのスパイウェア輸出という深刻化する問題に対処するため、27カ国からなるEU全体で最近再開された取り組みについて、「不十分だ」と指摘している。

制裁対象となっているスパイウェア企業コンソーシアム「インテレクサ（Intellexa）」をはじめとする複数のスパイウェアメーカーは、単に輸出規制が緩い国へ事業拠点を移しただけだ。他のスパイウェアメーカーも、同様の理由でサウジアラビアへの事業移転を図った。

一方で、いくつかの成果も見られている。ドイツに拠点を置くスパイウェアメーカー「フィンフィッシャー（FinFisher）」は、輸出許可なしにトルコへスパイウェアを販売した疑いでドイツ検察当局による数年間にわたる捜査を受けた後、2022年に事業を停止した。捜査当局は以前、フィンフィッシャーのスパイウェアがトルコ政府の批判者たちの携帯電話に仕込まれていたことを突き止めていた。

本稿執筆時点で、Anthropic社とトランプ政権との間の膠着状態は続いている。 米国AI企業の国際的な競争力を維持するという観点から、政権が折れて制限を解除する可能性は十分にある。これは、米国の規制にかかわらず、中国を含む海外のAI研究所が同様の能力に到達する可能性が高いことを暗に認めることに等しいだろう。 あるいは、米国のAI企業が海外の顧客にサービスを提供する際、政府の承認を事前に得る必要が生じる可能性もあり、そのコンプライアンス上の負担は必然的に収益を圧迫することになるだろう。

ソフトウェアの普及範囲を政府が制御しようとした過去の事例を踏まえると、悪意ある主体による強力なデュアルユースのサイバー技術の悪用を阻止する上で、政府による輸出規制は適切なアプローチとは言い難い。