AI搭載のセキュリティツール：将来のサイバー攻撃に対するあなたの秘密兵器

サイバーセキュリティの世界では、攻撃者は大混乱を引き起こすために1つの脆弱性を見つけるだけである一方で、防御者はあらゆる脅威から保護しなければならないということはよく知られている事実です。このダイナミクスは、AIのサイバーセキュリティへの統合とさらに複雑になり、攻撃者とディフェンダーの両方が強力なAIツールにアクセスできる武器競争に変えます。

ネットワーキング業界の巨人であるシスコは、この戦いの最前線にいて、常にAIを搭載したサイバー攻撃からクライアントを保護するために取り組んでいます。 CiscoのAI製品担当副社長であるAnand RaghavanのZDNETとの独占インタビューで、AIがサイバーセキュリティをどのように再構築し、組織の潜在的な攻撃面を拡大しているかを明らかにします。

ZDNET：簡単に自己紹介をして、シスコでのあなたの役割を説明できますか？

Anand Raghavan： CiscoのAIソフトウェアおよびプラットフォームグループ内のAIの製品担当副社長であるAnand Raghavanです。私のチームは、Ciscoのさまざまな製品チームと協力して、安全で安全なAIを搭載した製品を顧客に開発および保護します。最近、Cisco AIアシスタントを立ち上げました。これにより、自然言語とCisco AIの防御を通じて、製品との顧客のやり取りが簡素化されます。

ZDNET：AIは、企業と政府がネットワークレベルで直面する脅威の性質をどのように変えていますか？

AR： AIはネットワークセキュリティに革命をもたらし、ハッカーがより洗練された効率的な攻撃を実行できるようにしました。彼らは、フィッシングキャンペーンを自動化およびパーソナライズするためにAIを使用しており、従業員がより説得力があり、従業員のために落ちる可能性を高めています。また、従来のセキュリティ対策を回避するために適応できるAIを搭載したマルウェアも見ています。 AIツールがより広くなると、攻撃面を拡張するだけでなく、Shadow Itの問題も増幅します。

企業はAIを活用して革新しますが、悪意のあるアクターは同じテクノロジーを使用して新しい脅威を作成します。これらの新たな脅威を迅速に検出し、軽減するために、最新のAIの進歩を使用することがこれまで以上に重要です。

たとえば、暗号化された可視性エンジンテクノロジーは、ファイアウォール内で悪意のある接続をリアルタイムで停止できます。電子メールの脅威防衛製品は、言語ベースの検出器を使用して不正な電子メールを特定します。 AIアプリケーションが顧客に直面しているため、AIモデルの脆弱性は新しい重要な攻撃面になりました。これらのモデルは、迅速な注入またはサービス拒否攻撃、潜在的に漏れているデータを標的にすることができます。セキュリティ業界は、AIをソリューションに統合して、異常なパターンと疑わしいネットワークアクティビティを検出するために競争しています。

ZDNET：AI主導のツールは、企業がますます洗練されたサイバー敵よりも先を行くのをどのように支援しますか？

AR：今日の動的な脅威の状況では、AIを搭載したセキュリティツールは、手動の取り組みが一致しない規模で継続的かつ自己最適化する監視を提供します。 AIにより、セキュリティチームは組織のエコシステム全体からのデータを分析し、違反を示す可能性のある異常なパターンまたは疑わしいトラフィックを迅速に検出できます。この迅速な分析により、潜在的な脅威に対するリアルタイムに近い応答が可能になります。

AIは、可視性と応答時間を強化することにより、人間のセキュリティの専門家を補完し、「より良い一緒に」シナリオを作成します。一流のセキュリティアナリストが不足している世界では、AIはTier 1およびTier 2アナリストをサポートでき、新しいインシデントと脅威に対処するために必要な時間を大幅に短縮できます。 AIを使用した拡張検出および応答（XDR）のためのワークフローオートメーションは、サイバー敵よりも先を行くための鍵です。

ZDNET：AIの防御を説明し、それが解決することを目指している主な問題は何ですか？

AR： AIアプリケーションの迅速な採用は否定できませんが、組織内では、AIの開発と採用のペースが安全性とセキュリティに関する懸念により遅くなります。 Ciscoの2024 AI Readiness Indexによると、AIの不正な改ざんを検出および防止するために完全に装備されていると感じている組織はわずか29％です。企業はジレンマに直面しています。速すぎてセキュリティを迅速に移動し、ゆっくりと移動しすぎて、競合他社に遅れをとるリスクがあります。

AI防衛は、企業内のAI変換を可能にし、保護することにより、これに対処します。これは、2つの主なリスクに取り組みます。サードパーティAIツールの誤用による機密データの露出と、企業によって開発および展開されたAIモデルのセキュリティです。 AIアクセスソリューションは、サードパーティのAI使用量を可視化し、設定ポリシーがデータ共有を制限したり、認可されていないツールへのアクセスを制限したりすることを可能にします。 AIアプリケーションを開発する企業の場合、AIディフェンスはアルゴリズムレッドチームテクノロジーを使用して脆弱性評価を自動化し、迅速な注入やデータ抽出などの脅威に対するリアルタイムの保護を提供します。

ZDNET：AI防御は、既存のセキュリティフレームワークとどのように区別されますか？

AR： AIは、従来のフレームワークが処理するように設計されていない独自のセキュリティの課題を提示します。 AI防衛は、AIアプリケーションの使用と開発に関連するリスクから企業を保護するために特別に構築されています。これは、CiscoのカスタムAIモデルに基づいており、大規模な継続的なAIの検証と保護に焦点を当てています。

従来のアプリケーションは人間の赤チームによって保護されていますが、このアプローチは非決定的なAIモデルには拡張されていません。 AIディフェンスは、アルゴリズムレッドチームを使用して、脆弱性を継続的に監視し、ガードレールを推奨します。当社のプラットフォームアプローチにより、これらのガードレールがネットワーク全体に配布され、AIフットプリントに対する完全な可視性が提供されます。

ZDNET：AI防御をより広範なエンタープライズセキュリティ戦略と統合するためのシスコのビジョンは何ですか？

AR： Ciscoの2024 AI Readiness Indexは、組織がAIを採用するためのプレッシャー組織が強調していますが、多くはAIのセキュリティリスクに気付いておらず、気付いていません。 AIディフェンスは、組織がマルチクラウドのマルチモデル環境でAIのメリットを安全にロック解除できるように設計されています。 AIアプリケーションの可視性と制御を提供し、開発者がセキュリティを損なうことなく革新を容易にします。

AIの採用ライフサイクルには、可視性、検証、およびランタイム保護が含まれます。 AI Defenseは、従業員の保護のための安全なアクセスまたはSASE製品、およびクラウドアプリケーション向けのCisco Multicloud Defenseなどのクラウド保護スイートアプリケーションを通じて実施が行われ、これらのステップをサポートしています。

ZDNET：AIシステムに対する敵対的な攻撃のリスクを軽減するために、企業はどの戦略を採用すべきですか？

AR： AIアプリケーションは、予測不可能で非決定的な性質のために、新しいセキュリティリスクを導入します。モデルは、幻覚に苦しむか、データ中毒や迅速な注射などの攻撃に対して脆弱である可能性があります。マルチクラウドのマルチモデル環境では、一貫性のない安全性とセキュリティ基準が問題になる可能性があります。

AIの改ざんやデータの漏れを防ぐために、組織はすべてのクラウド、アプリ、モデルにわたって統一されたセキュリティアプローチを必要とします。これは、異なる利害関係者全体で説明責任が断片化される場合に特に重要です。 Miter Atlas、OWASP LLM10、NIST RMFなどの標準で概説されているように、すべてのAIの安全およびセキュリティカテゴリでガードレールを監視および実施する一般的なAIセキュリティ製品が不可欠です。

ZDNET：AI防御が重大なセキュリティ侵害を防ぐことができる現実世界のシナリオやケーススタディを共有できますか？

AR： AI防御は、エンタープライズAIリスクの2つの主要な分野に対処します。サードパーティAIツールの使用と新しいAIアプリケーションの開発です。 1つのシナリオでは、従業員は顧客情報を認可されていないAIアシスタントと共有して、プレゼンテーションを支援する場合があります。このデータは、AIの再訓練データの一部になり、プライバシー違反が危険にさらされる可能性があります。 AIの防御は、このデータ共有を制限するか、ツールへのアクセスを制限して、リスクを軽減できます。

別のシナリオでは、AI開発者はオープンソースモデルを使用してカスタマーサービスアシスタントを作成し、ガードレールを不注意に弱めます。その後、アシスタントは誤った応答の提供を開始し、攻撃に対して脆弱になる可能性があります。 AIの防御は、継続的な監視を通じてこの欠陥を特定し、必要なガードレールを自動的に適用します。

ZDNET：サイバーセキュリティの将来を形作るAIセキュリティの新たな傾向は何ですか？

AR： 1つの重要な傾向は、AIのおかげで、攻撃者による脆弱性の発見と搾取の間の時間の短縮です。組織は、脆弱性をこれまで以上に速く検出してパッチを当てる必要があります。 AIは脆弱性の検出を加速し、リアルタイムの応答を可能にすることができます。

ディープフェイクは、今後5年間のもう1つの大きな懸念事項です。セキュリティ業界は、彼らに対する擁護の準備を始めたばかりですが、彼らは重大なリスクをもたらします。サービス拒否攻撃とランサムウェアが過去に大きな脅威であったように、ディープフェイクは多くのセキュリティの専門家にとって眠れぬ夜になるでしょう。

ZDNET：政府と企業はどのように協力して、堅牢なAIセキュリティ基準を構築することができますか？

AR：政府と民間部門とのコラボレーションは、急速に進化するAIセキュリティ環境でベストプラクティスを開発するために、多様な知識と視点を活用できます。昨年、シスコは、AI関連のセキュリティインシデントに対する集合的な対応を強化するために、業界のリーダーと政府機関を含む、サイバーセキュリティおよびインフラストラクチャセキュリティ庁（CISA）共同サイバー防衛協力（JCDC）と協力しました。

私たちは卓上演習に参加し、AI関連のセキュリティインシデントに対応し、AIシステムの脆弱性に関する情報を共有するための実用的なガイダンスを提供する「AIセキュリティインシデントコラボレーションプレイブック」に貢献しました。このコラボレーションは、AIテクノロジーに関連するセキュリティリスクの認識を高めることができます。

ZDNET：サイバー攻撃の予防とインシデント対応の間のギャップを埋めるAIはどのように見えますか？

AR： AI対応のセキュリティソリューションは、すでに継続的かつスケーラブルな監視を提供しており、人間のセキュリティチームが疑わしい活動と脆弱性を検出するのに役立ちます。 AIは、可視性を高め、インシデント応答の推奨事項を提供する貴重なツールです。

将来、AIは人間の監視下でセキュリティパッチを自動的に展開および実装することができます。利点には、継続的な監視、攻撃面の増加に伴うスケーラビリティ、微妙な指標の検出の精度の向上、および手動のレビューと比較して応答時間が短縮されます。

AIはサイバーセキュリティを変革していますが、企業はそれがもたらすリスクに本当に備えていますか？組織でAI主導のサイバー脅威に遭遇しましたか？ AIを搭載したセキュリティソリューションは、ますます洗練された攻撃に先んじていると思いますか？ AIのバランスはセキュリティツールと潜在的な脆弱性とどのように見ていますか？企業はAIモデルを搾取から確保するのに十分なことをしていますか？以下のコメントでお知らせください。

ソーシャルメディアでの日々のプロジェクトの更新をフォローできます。毎週の更新ニュースレターを購読して、@davidgewirtzのTwitter/x、facebook.com/davidgewirtzの@davidgewirtz、instagram.com/davidgewirtz、 @davidgewirtz.com、youtubeのyoutube.com/davidgewirtztvのTwitter/Xでフォローしてください。