AI驅動的安全工具：您針對未來網絡攻擊的秘密武器

在網絡安全的世界中，眾所周知的事實是，攻擊者只需要找到一種危害破壞的脆弱性，而後衛必須防止一切可能的威脅。通過將AI整合到網絡安全中，這種動態變得更加複雜，將其變成了攻擊者和後衛都可以使用強大的AI工具的軍備競賽。

思科是網絡行業的巨人，在這場戰鬥中處於最前沿，不斷努力保護其客戶免受AI驅動的網絡攻擊。在對ZDNet的獨家採訪中，思科的AI產品副總裁Anand Raghavan闡明了AI如何重塑網絡安全並擴大了組織的潛在攻擊表面。

ZDNET：您能簡要介紹自己並描述您在思科的角色嗎？

Anand Raghavan：我是Anand Raghavan，是Cisco AI軟件和平台組中AI產品的副總裁。我的團隊與Cisco的各種產品團隊合作開發並為客戶開發並提供安全的AI驅動產品。最近，我們啟動了Cisco AI助理，該助理通過自然語言簡化了與我們產品的互動，以及Cisco AI Deficess，可確保為員工和為客戶開發的雲應用程序提供安全的AI使用。

ZDNET：AI如何改變企業和政府在網絡層面上面對的威脅性質？

AR： AI徹底改變了網絡安全性，使黑客能夠執行更複雜和高效的攻擊。他們使用AI來自動化和個性化網絡釣魚活動，使他們更具說服力並增加了員工為他們而墮落的可能性。我們還看到了AI驅動的惡意軟件，可以適應逃避傳統的安全措施。隨著AI工具變得越來越普遍，它們不僅擴大了攻擊表面，還擴大了陰影的問題。

當公司利用AI創新時，惡意演員使用相同的技術來製定新的威脅。現在，使用最新的AI進步來檢測和減輕這些新興威脅的威脅比以往任何時候都至關重要。

例如，我們加密的可見性引擎技術可以在我們的防火牆中實時停止惡意連接，並且我們的電子郵件威脅防禦產品使用基於語言的檢測器來識別欺詐性電子郵件。隨著AI應用程序面對客戶的興起，AI模型中的漏洞已成為一種新的關鍵攻擊表面。這些模型可以通過迅速注入或拒絕服務攻擊來定位，並可能洩漏敏感數據。安全行業正在競爭將AI集成到解決方案中，以檢測異常模式和可疑的網絡活動。

ZDNET：AI驅動的工具如何幫助企業在越來越複雜的網絡對手之前保持領先地位？

AR：在當今的動態威脅環境中，AI驅動的安全工具以手動努力無法匹配的規模提供了連續而自我優化的監視。 AI允許安全團隊分析來自組織的生態系統中的數據，迅速檢測出可能表明違規的異常模式或可疑流量。這種快速分析可以實時對潛在威脅的實時響應。

AI通過增強可見性和響應時間來補充人類安全專業人員，從而創建一個“更好的在一起”場景。在一個稀缺的頂級安全分析師的世界中，AI可以支持第1層和第2級分析師，從而大大減少了應對新事件和威脅所需的時間。使用AI進行擴展檢測和響應（XDR）的工作流程自動化是保持網絡對手領先的關鍵。

ZDNET：解釋AI防禦，其目的是解決什麼主要問題？

AR：不可否認的AI應用程序的迅速採用，但是在組織中，由於對安全和保障的擔憂，AI開發和採用的速度較慢。根據思科的2024年AI準備指數，只有29％的組織感到完全有能力檢測和防止未經授權的AI篡改。公司面臨困境：行動太快，風險安全，或者移動太慢，並有可能落後於競爭對手。

AI防禦通過在企業內實現和維護AI轉換來解決這一問題。它解決了兩個主要風險：通過濫用第三方AI工具來暴露敏感數據，以及由企業開發和部署的AI模型的安全性。我們的AI訪問解決方案提供了第三方AI使用的可見性，並允許設置策略限制數據共享或限制對未批准工具的訪問。對於開發AI應用程序的企業，AI防禦使用算法紅色團隊技術來自動化漏洞評估，並為諸如迅速注射和數據提取之類的威脅提供實時保護。

ZDNET：AI防禦與現有安全框架有何區別？

AR： AI提出了傳統框架不是為處理的獨特安全挑戰。 AI防禦專門為保護企業免受與AI應用程序使用和開發相關的風險而建立的。它基於Cisco的自定義AI模型，重點是持續的AI驗證和大規模保護。

傳統應用是由人類紅色團隊確保的，但是這種方法不能擴展非確定性AI模型。 AI Defense使用算法紅色團隊不斷監控漏洞並推薦護欄。我們的平台方法確保這些護欄分佈在整個網絡上，從而提供了AI足蹟的全部知名度。

ZDNET：Cisco將AI防禦與更廣泛的企業安全策略相結合的願景是什麼？

AR：思科的2024年AI準備就緒指數強調了組織面對採用AI的壓力，但許多人沒有準備好，也沒有意識到AI安全風險。 AI防御旨在幫助組織在多雲的多模型環境中安全地解鎖AI的福利。它提供了對AI應用程序的可見性和控制權，使開發人員更容易在不損害安全性的情況下進行創新。

AI的採用生命週期包括可見性，驗證和運行時保護。 AI防禦支持這些步驟，並通過安全訪問或SASE產品進行執法，以及通過雲保護套件應用程序（例如Cisco Multicloud Defersent for Cloud Applications）進行的雲保護套件應用程序。

ZDNET：企業應採取哪些策略來減輕對AI系統的對抗攻擊的風險？

AR： AI應用程序由於無法預測和非確定性而引入新的安全風險。模型可能會遭受幻覺的困擾，也可能容易受到訓練數據中毒和迅速注射等攻擊。在多雲的多模型環境中，安全和安全標準不一致可能是一個問題。

為了防止AI篡改和數據洩漏，組織需要在所有云，應用程序和模型中採用統一的安全方法。當責任制在不同的利益相關者之間分散時，這尤其至關重要。由Miter Atlas，Owasp LLM10和Nist RMF等標準概述的所有AI安全和安全類別中的通用AI安全產品至關重要。

ZDNET：您能否分享AI防禦能夠防止嚴重安全漏洞的現實情況或案例研究？

AR： AI辯護涉及企業AI風險的兩個主要領域：使用第三方AI工具以及新的AI應用程序的開發。在一種情況下，員工可能會與未經許可的AI助手共享客戶信息，以幫助進行演講。這些數據可能成為AI的再培訓數據的一部分，冒著侵犯隱私的風險。 AI防禦可以限制此數據共享或限制對工具的訪問，從而減輕風險。

在另一種情況下，AI開發人員可能會使用開源模型來創建客戶服務助理，無意中削弱了其護欄。然後，助手可以開始提供不正確的答复，並容易受到攻擊。人工智能防禦將通過連續監控來識別這一缺陷，並自動應用必要的護欄。

ZDNET：AI安全的新興趨勢您預見到網絡安全的未來？

AR：一個重要的趨勢是，由於AI，脆弱性發現與攻擊者的剝削之間的時間減少。組織必須比以往任何時候都更快地檢測和修補漏洞。 AI可以加速脆弱性檢測，從而實現實時響應。

深擊是未來五年的另一個主要問題。安全行業剛剛開始為防禦他們的辯護做準備，但它們會帶來重大風險。正如過去拒絕服務攻擊和勒索軟件是過去的主要威脅一樣，對於許多安全專業人員來說，Deepfakes將是一個不眠之夜。

ZDNET：政府和企業如何合作建立強大的AI安全標準？

AR：政府與私營部門之間的合作可以利用各種知識和觀點來發展快速發展的AI安全環境中的最佳實踐。去年，思科與網絡安全和基礎設施安全局（CISA）聯合網絡國防合作（JCDC）合作，其中包括行業領導人和政府機構，以增強對與AI相關安全事件的集體響應。

我們參加了桌面練習，並為“ AI安全事件協作劇本”做出了貢獻，該劇本為響應與AI相關的安全事件做出了實用的指導，並共享有關AI系統漏洞的信息。這種合作可以提高人們對與AI技術相關的安全風險的認識。

ZDNET：您如何看待AI彌合網絡攻擊和事件響應之間的差距？

AR：支持AI的安全解決方案已經在提供持續可擴展的監控，幫助人類安全團隊發現可疑活動和脆弱性。 AI是一種可增強可見性並為事件響應提供建議的寶貴工具。

將來，AI可以在人類監督下自動部署和實施安全補丁。好處包括連續監測，隨著攻擊表面的增長，與手動審查相比的響應時間更快，可伸縮性提高，檢測微妙指標的準確性和更快的響應時間。

AI正在改變網絡安全，但是為其帶來的風險做好了真正準備的企業嗎？您是否在組織中遇到了AI驅動的網絡威脅？您是否認為AI驅動的安全解決方案可以保持越來越複雜的攻擊？您如何將AI作為安全工具和潛在漏洞之間的平衡？公司是否正在做足夠的工作來保護其AI模型免於剝削？在下面的評論中讓我們知道。

您可以在社交媒體上關注我的日常項目更新。請務必訂閱我的每週更新新聞通訊，並在@davidgewirtz上的Twitter/x上關注我，在Facebook上的 @davidgewirtz，lackigham.com/davidgewirtz上的Facebook.com/davidgewirtz上， @davidgewirtz.com上的Instagram上，在bluesky上，在youtube.com/davidewigne.com/davidewidewignewignewigne.com/davidewiftz.com上。