Anthropic社の暗号解読と「Claude」チャット内容の流出をめぐる裏話

Googleで検索したところ、25ページ以上にわたる検索結果が表示され、200件以上の「Claude」との会話が掲載されており、その中には個人情報や仕事に関する情報が含まれているものもあった。出典：Anthropic

流出した「Claude」のチャット記録は、シャドウAIがもたらすビジネス上のリスクを浮き彫りにしている。一方、「Mythos Preview」は、NIST承認の暗号化アルゴリズムに脆弱性があることを明らかにした。

最近、Anthropicに関する2つの大きなニュースが話題となり、最先端AIシステムの能力と現実世界における課題の両方が浮き彫りになった。

このAI企業は、「Claude Mythos Preview」を活用し、インターネット上のプライベートな通信の数学的基盤である暗号アルゴリズムを攻撃するための、新しく改良された手法を特定した。

2つ目の、あまり好ましくない事態としては、Claudeとの数百件に及ぶユーザーの会話が公開検索結果に表示されるという事態が発生し、組織がAIツールの導入をどのように管理すべきかについて深刻な疑問が投げかけられた。

チャットリンクが検索可能になった経緯

事態の発端は、Redditのユーザーが、Google検索を通じてClaudeとの会話が検索可能であることに気づいたことでした。この発見により、検索結果の25ページにわたって200件以上の会話が散在していることが明らかになりました。

一部の会話には個人情報が含まれており、他のものには業務プロジェクトに関する詳細が含まれていました。

SonicWallのEMEA担当エグゼクティブ・バイスプレジデント、スペンサー・スターキー氏

Anthropicの広報担当者はBBC Newsに対し、チャットリンクを共有するとそのコンテンツが一般に公開されることになると説明した。Claudeは、リンクを知っている人なら誰でも会話を閲覧できるとユーザーに警告しているが、検索エンジンが共有されたコンテンツをインデックスに登録できることについては明記していない。

この情報漏洩は、「シャドウAI」という重大なビジネス上の問題を浮き彫りにしている。Vanta Securityの調査によると、企業の70％で、従業員が許可されていないAIツールを使用しているという。

ソニックウォールのEMEA担当エグゼクティブ・バイスプレジデント、スペンサー・スターキー氏は、「シャドウAI」がもたらす影響について次のように指摘している。

「従業員は、ポリシー枠組みが整備されていないにもかかわらず、毎日、公開されているLLM／AIプラットフォームを利用し、顧客データや社内文書、機密性の高い通信内容を投入しています」とスペンサー氏は指摘する。

「ファイアウォールレベルで未承認のAIプロトコルをブロックする機能はすでに存在しますが、企業はそれを活用しているでしょうか？ さて、今や企業がそれを活用すべきであることは、かつてないほど明らかになっています。

「組織がシャドウAIを、承認されていないサードパーティ製アプリケーションと同等の深刻さをもって扱うようになるまで、重大かつほとんど目に見えないデータ漏洩リスクを完全に放置したままにしていることになります。その結果、機密性の高いデータがGoogle検索の結果として突然現れてしまう可能性もあるのです。」

BBCニュースによると、Anthropic社は主要な検索エンジンが共有されたチャットリンクをインデックスに登録できないよう対策を講じている。

Mythos Previewによる暗号解析

Claude Mythos Previewは、隠れたソフトウェアの脆弱性を特定する能力を示しています。Anthropicの新たな研究により、この能力が暗号解析にも及ぶことが判明しました。

組織が「シャドウAI」を、承認されていないサードパーティ製アプリケーションと同様に真剣に扱うようになるまでは、重大かつほとんど目に見えないデータ漏洩リスクが完全に放置されたままとなっている

SonicWall EMEA担当エグゼクティブ・バイスプレジデント、スペンサー・スターキー氏

これらの暗号化アルゴリズムは、インターネットトラフィックを保護する数学的アルゴリズムです。これらは、暗号化を通じてオンラインバンキング、電子メール、その他の通信を保護します。

Mythosの研究者らは、米国国立標準技術研究所（NIST）がポスト量子暗号として検討していたデジタル署名方式「HAWK」に対する攻撃を発見した。

このAIは、HAWKに対する既知の最有力な攻撃手法を60時間以内に改良し、アルゴリズムの鍵強度を半分にまで低下させました。

この研究では、高度暗号化規格（AES）についても検証が行われた。Anthropic社によると、AESは2001年にNISTが採用して以来、他のどの暗号化アルゴリズムよりも多くの分析を受けてきたという。

主な事実

• Vanta Securityによると、企業の70％で、従業員が許可されていないAIツールを使用しているという
• HAWKに対する最もよく知られた攻撃手法は、Mythosによって60時間以内に改良され、アルゴリズムの鍵強度が半減した
• Mythosは、AES暗号の弱体化版を、これまでの最速攻撃の200～800倍の速度で解読することに成功した

Mythosは、この暗号化の弱体版を、従来の攻撃よりも200～800倍速く解読した。同社は、HAWKはまだ導入されておらず、元のAES暗号も解読されていないため、現行システムに差し迫った影響はないとしている。

Anthropic社は、これらの結果を暗号研究における前進と位置付けている。同社は、ETHチューリッヒ、テルアビブ大学、ベルリン工科大学の研究者らと提携し、「CryptanalysisBench」の構築を進めている。

このベンチマークは、暗号化アルゴリズムを組み合わせて、LLMの暗号解読能力を評価するものです。Anthropic社は、この研究結果を米国政府および業界パートナーと共有しました。

また、Anthropicは6月にHAWKの研究詳細をアルゴリズムの開発者らに提供したことも明らかにしている。Keeper Securityの暗号顧問であるアダム・エバースポー博士は、スピードこそが最も重要であると指摘している。

Keeper Securityの暗号顧問、アダム・エバースポー氏。写真提供：Station70

「報道によると、この攻撃では、人間の専門家が2年間にわたって検証しても発見できなかったものを、AIを活用した調査で約60時間で突き止めたとのことです。この事実だけでも、組織は量子コンピューティングへの備えについて、考え方を根本から見直す必要があるはずです」とアダム氏は述べています。

「クリプト・アジャイル」システムの構築

アダム氏は、アルゴリズムの選択だけではシステムの耐性を決定づけられないと指摘する。「暗号アジャイル性は、アルゴリズムの選択そのものと同じくらい根本的な要素だ」と彼は述べている。

「アーキテクチャの全面的な再構築を伴わずに、暗号プリミティブを交換または修正できるように構築されたシステムは、単一のスキームに縛られているシステムよりも、このような発見をはるかに容易に吸収できる。

「実際には、これは、環境全体で暗号アルゴリズムがどこでどのように使用されているかの最新情報を把握し、強制的な移行が必要になる前に、更新の道筋を確保しておくことを意味します。」