Anthropicは、インターネットを守るためか、それとも自社を守るためか、Mythosの利用を制限しているのだろうか？

今週、Anthropic社は、世界中で使用されているソフトウェアのセキュリティ上の欠陥を明らかにする並外れた能力を理由に、最新モデル「Mythos」の公開を制限したと発表した。

このフロンティア・ラボは、「Mythos」を一般に公開するのではなく、Amazon Web ServicesからJPMorgan Chaseに至るまで、重要なオンラインインフラを管理する厳選された大手企業や組織と共有する計画だ。OpenAIも、次期サイバーセキュリティツールについて同様のアプローチを検討していると報じられている。 その理由として挙げられているのは、高度なLLM（大規模言語モデル）を利用してセキュアなソフトウェアに侵入しようとする悪意のある攻撃者に対し、これらの大手企業が常に一歩先を行けるようにするためだ。

しかし、上記の文中の「企業」という言葉は、このリリース戦略が単なるサイバーセキュリティ、あるいはモデルの能力をめぐる誇大宣伝以上のものを含んでいる可能性を示唆している。

AIサイバーセキュリティ研究所「Irregular」のCEOであるダン・ラハヴ氏は、Mythosが公開される前の3月、TechCrunchに対し、AIツールによる脆弱性の発見は重要ではあるものの、攻撃者にとっての脆弱性の真の価値は、それらをどのように組み合わせられるかなど、多くの要因に依存すると語った。

「私が常に念頭に置いている疑問は」とラハヴ氏は語った。「彼らが発見したものが、単独で、あるいは一連の攻撃の一部として、極めて有意義な形で悪用可能なものかどうか、ということです。」

Anthropic社によると、Mythosは同社の前モデルであるOpusよりもはるかに効果的に脆弱性を悪用できるという。しかし、Mythosが真に究極のサイバーセキュリティモデルであるかどうかは依然として不明だ。 AIサイバーセキュリティスタートアップのAisleは、AnthropicがMythosで達成したと主張する成果の多くを、より小規模なオープンウェイトモデルを用いて再現したと主張している。Aisleのチームは、これらの結果が、サイバーセキュリティに唯一のディープラーニングモデルなど存在せず、むしろその有効性は具体的なタスクに依存することを示していると論じている。

「Opus」はすでにサイバーセキュリティ分野におけるゲームチェンジャーと見なされていたことを踏まえると、最先端の研究機関がリリースを大企業に限定するもう一つの理由があるかもしれない。それは、大企業との契約という好循環を生み出すと同時に、競合他社が「蒸留」という手法——最先端モデルを用いて低コストで新しいLLMを学習させる技術——を通じてモデルを模倣することを困難にするためだ。

「これは、トップクラスのモデルが現在、企業契約によってアクセスが制限され、小規模な研究所が蒸留できなくなったという事実を隠すためのマーケティング上の口実だ」と、ソフトウェアエンジニアでありスタートアップexe.devのCEOであるデビッド・クローショー氏は、ソーシャルメディアの投稿で指摘した。 「あなたや私がMythosを使えるようになる頃には、エンタープライズ限定の新しいトップクラスのバージョンが登場しているだろう。この悪循環は、ディスティレーション企業を二流に追いやることで、エンタープライズからの資金（収益の大部分を占める）の流れを維持するのに役立っている」とクローショー氏は述べた。

この分析は、AIエコシステムで我々が目の当たりにしている状況と一致している。すなわち、最大かつ最も高性能なモデルを構築するフロンティア系ラボと、複数のモデルに依存し、オープンソースのLLM（多くの場合中国発で、蒸留を通じて開発されたとされるもの）を経済的優位性への道と見なすAisleのような企業との競争である。

今年に入り、最先端の研究機関はディスティレーションに対してより厳しい姿勢を見せている。Anthropicは、中国企業による自社モデルの模倣の試みと称する事例を公に明らかにしており、ブルームバーグの報道によると、Anthropic、Google、OpenAIという3つの主要研究機関が提携し、ディスティレーションを行う企業を特定してブロックしている。

ディスティレーションは、大規模な資本を投じてスケールアップすることで得られる優位性を無効化するため、最先端の研究機関のビジネスモデルを脅かすものである。ディスティレーションを阻止すること自体、すでに価値ある取り組みだが、この分野が収益性の高い展開の鍵となる中、選択的なリリースというアプローチは、各研究所がエンタープライズ向けサービスを差別化するための手段ともなる。

Mythosやその他の新しいモデルが、インターネットのセキュリティを真に脅かすかどうかは今後の見通し次第であり、この技術を慎重に展開していくことが責任ある対応と言える。

アンソロピック社は、この決定がディスティレーションへの懸念とも関連しているかどうかという当メディアの質問に対し、記事執筆時点では回答しなかったが、同社はインターネット――そして自社の収益――を守るための巧妙な方法を見出したのかもしれない。