AIエージェントは機密データを悪用します：ハッカーがそれらの使用方法と保護対策

我々と同じように、サイバー犯罪者も人工知能を活用して業務を効率化し、攻撃をより迅速、簡単、狡猾にしています。自動化ボット、アカウント乗っ取り、ソーシャルエンジニアリングといった従来の手法にAIを組み込むことで、これらの巧妙な詐欺師たちはその技術を向上させています。ガートナーによる最近のレポートは、このトレンドがどのように進化しているか、そして近い将来さらに激化する可能性があることを明らかにしています。

ガートナーの副社長アナリスト、ジェレミー・ドワンヌ氏は、弱い認証がアカウント乗っ取りを助長するアキレス腱であると指摘しています。サイバー攻撃者は、データ侵害からソーシャルエンジニアリングまで、さまざまな方法を駆使してアカウントのパスワードを奪取します。

アカウント乗っ取りにおけるAIの役割

パスワードが侵害されると、AIが主役となります。サイバー犯罪者は、自動化されたAIボットを展開し、複数のサービスに対してログイン試行を繰り返し、認証情報が他のプラットフォームで再利用されているかどうかを探ります。最終的な目標は？利益を上げられるサイトを見つけ、完全なアカウント乗っ取りを仕掛けることです。ハッカー自身が攻撃を実行することに興味がない場合、盗んだ情報をダークウェブで簡単に売りさばき、熱心な買い手が待っています。

「アカウント乗っ取り（ATO）は、データ侵害、フィッシング、ソーシャルエンジニアリング、マルウェアなど、さまざまな手段で収集される弱い認証情報、例えばパスワードが原因で、持続的な攻撃ベクトルであり続けています」と、ドワンヌ氏はガートナーのレポートで説明しています。「攻撃者はボットを活用して、認証情報が複数のプラットフォームで再利用されていることを期待し、さまざまなサービスに対してログイン試行を自動化します。」

AIがツールキットに追加されたことで、攻撃者はアカウント乗っ取りのプロセスをより効率的に自動化できます。ガートナーは、今後2年以内にアカウント乗っ取りに必要な時間が50％減少すると予測しています。

AIとディープフェイクによるソーシャルエンジニアリング

AIの影響はアカウント乗っ取りにとどまらず、ディープフェイクキャンペーンにも革命を起こしています。サイバー犯罪者は、ソーシャルエンジニアリングとディープフェイクの音声やビデオを組み合わせてターゲットを欺きます。あなたのボスや信頼できる同僚と全く同じ声で、資金の送金を促したり、機密情報を漏らすよう促す電話がかかってきたと想像してみてください。これは実際に起こっており、企業に大きな損失をもたらしています。

報告されているのは少数の注目すべき事例のみですが、経済的損失は甚大です。個人的な通話中にディープフェイクの声を検出するのは依然として困難です。ガートナーは、2028年までにソーシャルエンジニアリング攻撃の40％が経営陣と一般従業員の両方を標的にすると予測しています。

「組織は市場の動向を把握し、偽造現実技術を活用した攻撃に抵抗するために手順やワークフローを適応させる必要があります」と、ガートナーのシニアディレクターアナリスト、マヌエル・アコスタ氏はアドバイスしています。「ディープフェイクによるソーシャルエンジニアリングに特化したトレーニングを通じて、進化する脅威の状況について従業員を教育することは重要なステップです。」

AIを活用した攻撃の阻止

では、個人や組織はこれらのAI駆動の攻撃をどのように防ぐことができるでしょうか？

「AI駆動の攻撃から生じる新たな課題に対抗するため、組織はリアルタイムで詳細な環境の可視性と警告を提供できるAI搭載ツールを活用して、セキュリティチームを強化する必要があります」と、DarktraceのセキュリティおよびAI戦略担当シニア副社長、ニコール・カリグナン氏は提案しています。

カリグナン氏はまた、機械主導の対応を自律的または人間の監督下で統合することで、新たな脅威に先手を打ち、セキュリティチームの反応を迅速化することを推奨しています。「このアプローチを通じて、異常ベースの検出機能を備えたソリューションなど、AI技術の採用は、これまでにない脅威を検出して対応する能力を持ち、組織の安全を保つ上で重要です。」

多要素認証や顔や指紋スキャンなどの生体認証も、アカウント侵害に対する防御に不可欠です。「サイバー犯罪者は盗んだ認証情報だけでなく、ソーシャル操作にも依存してアイデンティティ保護を突破します」と、Keeper Securityの最高情報セキュリティ責任者、ジェームズ・スコビー氏は述べています。「ディープフェイクはこの分野で特に懸念されます。AIモデルにより、これらの攻撃方法がより速く、安価で、説得力のあるものになっています。攻撃者がより高度になるにつれ、多要素認証（MFA）や生体認証など、より強力で動的なアイデンティティ検証方法の必要性が、これらのますます巧妙な脅威に対する防御に不可欠です。MFAはアカウント乗っ取りの防止に必須です。」

ソーシャルエンジニアリングとディープフェイクに対処するためのガートナーのヒント

• 従業員の教育。 ソーシャルエンジニアリングとディープフェイクについてトレーニングを行い、これらの脅威を見分ける能力だけに頼らないようにします。
• 他の検証手段を設ける。 たとえば、電話で機密情報の要求があった場合、別のプラットフォームで検証します。
• コールバックポリシーを導入する。 機密または重要なリクエストを確認するために従業員が電話できる指定の番号を提供します。
• コールバックポリシーを超える。 1回の電話やリクエストだけで高リスクなアクションが引き起こされないよう、経営陣からの追加の検証を確保します。
• リアルタイムのディープフェイク検出に追いつく。 音声やビデオ通話でディープフェイクを検出できる新興技術を追跡し、ユニークなIDなどの他の識別方法で補完します。

AIに関するさらに多くのストーリーを知りたい？ イノベーション、毎週のニュースレターに登録してください。