4個專家安全提示，用於企業在2025年導航AI驅動的網絡威脅

網路犯罪分子現正利用人工智慧（AI）提升其攻擊的每個階段。他們使用大型語言模型（LLMs）創建高度個人化的釣魚電子郵件，從社交媒體和專業網絡中收集個人詳情。與此同時，生成對抗網絡（GANs）被用於製作深度偽造音頻和視頻，這些偽造內容可欺騙多因素身份驗證系統。即使是初級駭客也加入了行動，使用如WormGPT等自動化工具部署多態惡意軟體，這些惡意軟體能改變形態並規避傳統檢測方法。

這些不只是假設性威脅；它們正在發生。不調整安全策略的公司將面臨一波精密的網路威脅，不僅在2025年，而是持續下去。

想在AI時代保持領先？你有兩個選擇：將AI融入你的營運，或使用AI提升你的業務。

為了深入探討AI如何重塑企業安全，我與Island的首席客戶官、資深網路安全專家Bradon Rogers進行了對談。我們討論了數位安全的演變、早期威脅檢測，以及為你的團隊準備應對AI驅動攻擊的策略。但首先，讓我們先提供一些背景來設定討論的基礎。

為何AI網路安全威脅與眾不同

AI為惡意行為者提供了先進工具，使網路攻擊更具針對性、更具說服力且更難被發現。例如，今日的生成式AI系統能篩選大量個人資訊、企業通訊和社交媒體數據，打造看似來自可信來源的釣魚活動。當這些攻擊與能自動適應安全措施的惡意軟體結合時，攻擊的規模和效果顯著提升。

深度偽造技術更進一步，創造出逼真的視頻和音頻內容，從高管冒充詐騙到大規模誤導活動無所不包。我們已見證真實案例，如香港一家公司因深度偽造視頻會議被盜2500萬美元，以及多起AI生成語音片段誘騙人們向詐騙者轉帳的案例。

AI驅動的自動化網路攻擊還引入了“設定後無需管理”的系統，這些系統不斷尋找漏洞、適應對策並在無需人工介入的情況下利用弱點。2024年的AWS漏洞事件是一個顯著案例，當時AI驅動的惡意軟體繪製了網絡地圖，精準定位漏洞，並執行了一場複雜的攻擊，危害了數千個客戶帳戶。

這些事件顯示，AI不僅在增強現有網路威脅；它還催生了全新類型的安全風險。以下是Bradon Rogers建議的應對方法。

1. 實施零信任架構

面對AI增強的威脅，舊有的安全邊界模型已不足以應對。零信任架構遵循“永不信任，始終驗證”的原則，確保每個用戶、設備和應用程式在存取資源前都必須經過身份驗證和授權。這種方法最大程度降低了未授權存取的風險，即使攻擊者成功進入網絡。

“公司需要驗證每個用戶、設備和應用程式——包括AI——才能接觸關鍵數據或功能，”Rogers強調，這是最佳防禦策略。通過持續驗證身份並實施嚴格的存取控制，企業能縮小攻擊面並限制被入侵帳戶的損害。

雖然AI帶來了新挑戰，但它也提供了強大的防禦工具。AI驅動的安全解決方案能即時分析海量數據，發現異常和潛在威脅，這些是傳統方法可能忽略的。這些系統能適應新的攻擊模式，提供針對AI驅動網路攻擊的動態防禦。

Rogers警告說，AI在網路防禦中不應僅被視為另一項功能。“資訊安全長和安全領導者需要從基礎上將AI融入系統，”他說。通過將AI整合進安全基礎架構，組織能提升快速檢測和回應事件的能力，縮小攻擊者的機會窗口。

2. 教育與培訓員工應對AI驅動威脅

通過培養安全意識文化並設定使用AI工具的明確指南，公司能降低內部漏洞的風險。畢竟，人是複雜的，通常簡單的解決方案最有效。

“這不僅是抵禦外部攻擊，還要為員工使用AI作為‘生產力捷徑’設定界限，”Rogers解釋。

人為錯誤仍是網路安全的主要弱點。隨著AI生成的釣魚和社交工程攻擊變得更具說服力，教育員工認識這些不斷演變的威脅至關重要。定期培訓能幫助他們發現可疑活動，如意外的電子郵件或違反正常程序的異常請求。

3. 監控與規範員工的AI使用

AI技術在企業中被廣泛採用，但未經授權或未監控的使用——即所謂的“影子AI”——可能帶來嚴重的安全風險。員工可能無意中使用缺乏適當安全性的AI應用，導致數據洩露或合規問題。

“我們不能讓企業數據自由流入未經授權的AI環境，因此需要找到平衡，”Rogers指出。制定管理AI工具的政策、定期審計，以及確保所有AI應用符合公司安全標準，是管理這些風險的關鍵。

4. 與AI和網路安全專家合作

AI驅動威脅的複雜性意味著公司需要與AI和網路安全專家合作。與外部公司合作能讓組織獲得最新的威脅情報、尖端防禦技術，以及內部可能缺乏的專業技能。

AI驅動的攻擊需要傳統安全工具往往無法提供的精密防禦。AI增強的威脅檢測平台、安全瀏覽器和零信任存取控制能分析用戶行為、檢測異常，並阻止惡意行為者獲得未授權存取。

Rogers指出，創新的企業解決方案“是零信任安全拼圖中缺失的一塊。這些工具提供深入、細緻的安全控制，保護公共和私有網絡中的任何應用或資源。”

這些工具使用機器學習監控網絡活動，標記可疑模式並自動化事件回應，降低AI生成攻擊滲透企業系統的風險。