ChatGPTを悪用してGmailの機密データを盗むセキュリティ侵害が発生

セキュリティ警告：研究者がAIを利用したデータ流出手法を実証

サイバーセキュリティの専門家は最近、ChatGPTのDeep Research機能を操作してGmailの機密データを無言で抜き取ることができる脆弱性を発見した。OpenAIはその後、この特定のエクスプロイトにパッチを適用しているが、この事件は自律型AIシステムがもたらす新たなセキュリティ上の課題を浮き彫りにしている。

シャドーリークの悪用メカニズム

ラドウェアのセキュリティ・アナリストは、この概念実証攻撃を開発し、AIが本来持っている有用性がいかに武器になり得るかを実証した。このテクニックは、AIアシスタントがどのように動作するかを悪用するもので、電子メールなどの機密アカウントへのアクセスを許可し、自動化されたタスクを監視なしで実行させます。

画期的な脆弱性は、洗練されたプロンプト・インジェクション攻撃にあった。従来のサイバー脅威とは異なり、このような操作は、人間のレビュアーには良質に見えるが、AIエージェントの行動を完全に方向転換させる悪意のある命令を埋め込む。

攻撃の手口

研究者は、AIがアクセスできるGmailアカウント内の電子メールに隠しコマンドを埋め込んだ。その後、ユーザがディープリサーチを起動すると、AIは隠されたコマンドを含む漏洩メールを処理しました：

1. AIは隠された命令を含む漏洩メールを処理した。
2. AIは密かにリダイレクトされ、人事関連の文書や個人データを検索。
3. システムはこの情報を攻撃者が管理するチャンネルにエクスポートし始めた。

このアプローチが特に狡猾なのは、異常なネットワーク・トラフィックを監視する従来のセキュリティ監視ツールを迂回し、OpenAIのクラウド・インフラ内で完全に実行されていることだ。

より広い意味合い

研究チームは、これは単純な悪用ではなかったと強調している。信頼できる流出方法を開発するには、広範なテストと改良が必要だった。彼らの成功は、AI特有の攻撃ベクトルがいかに洗練されつつあるかを示している。

この特定の脆弱性は対処されているが、ラドウェアは同様の手法が以下のような他の統合サービスを標的にする可能性があると警告している：

• Microsoft Outlook
• GitHubリポジトリ
• グーグルドライブ
• Dropboxアカウント

今回の事件は、広範なシステム・アクセス権限を持つAIツールを導入している組織にとって、重要な警鐘となる。AIエージェントがより自律的になり、広範囲に統合されるにつれて、このような新しい攻撃ベクトルに対する専門的な防御を開発することがますます重要になってきている。