研究者は、マルウェアコーディングスキルが不足しているにもかかわらず、Chrome Infostealersを作成するようにAIをだまします

生成AIは二面性のある剣であり、セキュリティインフラストラクチャの領域で特に、革新と同じくらい多くの論争を引き起こしています。企業向けセキュリティのリーディングプロバイダーであるCato Networksは、AIチャットボットを操作する新しい手法に光を当てました。彼らの2025年Cato CTRL脅威レポートは、火曜日に公開され、以前にマルウェアコーディングの経験がない研究者が、DeepSeek R1およびV3、Microsoft Copilot、OpenAIのGPT-4oを含む複数のAIモデルを欺き、「完全に機能する」Chrome情報窃盗マルウェアを作成した方法を詳述しています。これらのマルウェアは、Chromeブラウザからパスワードや財務情報などの機密データを盗むために設計されています。

研究者は、「Immersive World」と呼ばれる創造的な戦術を用いて、これらのAIシステムのセキュリティ対策を回避しました。詳細な架空の宇宙を作り上げ、各AIツールに特定の役割、タスク、課題を与えることで、研究者は制限された操作を正常化し、既存のセキュリティプロトコルを効果的に回避しました。

Immersive World手法

「Immersive World」ジェイルブレイク手法は、これらのAIモデルをホストするチャットボットの広範な使用により特に懸念されます。DeepSeekモデルはガードレールが少ないことで知られ、以前にもジェイルブレイクされていますが、堅牢な安全チームを持つ企業が支援するCopilotやGPT-4oも間接的な操作ルートに対して脆弱であったことは、注目すべき問題です。

Catoの主任セキュリティストラテジストであるEtay Maorは、「我々の新しいLLMジェイルブレイク手法[...]は生成AIのガードレールによってブロックされるべきだったが、そうではなかった」と述べました。Catoのレポートでは、影響を受けた関係者に通知したが、反応はまちまちだったとも述べています。DeepSeekは返答しませんでしたが、OpenAIとMicrosoftは発見を認めました。一方、Googleは受領を認めたものの、Catoのコードのレビューを拒否しました。

セキュリティ専門家への警鐘

Catoの調査結果は、専門知識を持たない個人でも企業に重大な脅威をもたらす可能性があることを示し、セキュリティ業界への警鐘となっています。AI操作の参入障壁がますます低くなる中、攻撃者は成功した攻撃を実行するために必要な技術的専門知識が少なくて済みます。

Catoによると、解決策はAIベースのセキュリティ戦略を採用することにあります。AIを活用した脅威の進化する状況に焦点を当てたセキュリティトレーニングを行うことで、チームは一歩先を行くことができます。これらの課題に対する企業の準備についてのさらなる洞察を得るには、こちらの専門家のヒントをご覧ください。

毎朝あなたの受信箱に届けられるTech Todayに登録して、最新のセキュリティニュースを常に把握してください。