AI代理利用機密數據：黑客如何使用它們和保護措施

就像我們其他人一樣，網絡犯罪分子正在轉向人工智能來簡化他們的操作，使他們的攻擊更快、更容易且更狡猾。通過將AI整合到他們慣用的伎倆中，如自動化機器人、帳戶接管和社交工程，這些精明的騙子正在提升他們的遊戲水平。Gartner最近的一份報告揭示了這一趨勢的演變，並警告說在不久的將來這種情況可能會加劇。

Gartner副總裁分析師Jeremy D'Hoinne指出，弱身份驗證是推動帳戶接管的致命弱點。網絡攻擊者利用各種方法來竊取帳戶密碼，從數據洩露到社交工程。

AI在帳戶接管中的角色

一旦密碼被洩露，AI便登場了。網絡犯罪分子部署自動化AI機器人，向多個服務發起大量登錄嘗試，試圖發現這些憑證是否在不同平台上被重複使用。最終目標？找到一個有利可圖的網站，在那裡他們可以策劃完整的帳戶接管。如果駭客對自己執行攻擊不感興趣，他們可以輕鬆地在暗網上出售竊取的信息，那裡有急切的買家在等待。

“帳戶接管（ATO）仍然是一個持續的攻擊途徑，因為弱身份驗證憑證（如密碼）通過多種方式被收集，包括數據洩露、釣魚、社交工程和惡意軟件，”D'Hoinne在Gartner報告中解釋道。“攻擊者然後利用機器人自動化對多種服務進行大量登錄嘗試，希望這些憑證在多個平台上被重複使用。”

有了AI作為他們的工具，攻擊者可以更有效地自動化接管帳戶的過程。Gartner預測，在未來兩年內，完成帳戶接管所需的時間將減少50%。

AI與深度偽造社交工程

AI的影響不僅限於帳戶接管；它還在革新深度偽造活動。網絡犯罪分子將社交工程與深度偽造音頻和視頻相結合來欺騙目標。想像一下接到一個電話，聲音聽起來完全像你的老闆或可信的同事，催促你轉帳或洩露敏感信息。這種情況正在發生，並且對公司造成了巨大的經濟損失。

雖然只有少數高調案例被報導，但財務損失已相當可觀。在個人通話中檢測深度偽造聲音仍然很困難。Gartner預測，到2028年，40%的社交工程攻擊將針對高管和更廣泛的員工群體。

“組織必須跟上市場的步伐，調整程序和工作流程，以更好地抵禦利用偽造現實技術的攻擊，”Gartner高級總監分析師Manuel Acosta建議道。“通過針對社交工程和深度偽造的特定培訓來教育員工關於不斷演變的威脅形勢是一個關鍵步驟。”

抵禦AI驅動的攻擊

那麼，個人和組織如何抵禦這些AI驅動的攻擊呢？

“為了應對AI驅動攻擊帶來的新挑戰，組織必須利用AI驅動的工具，這些工具可以提供細粒度的實時環境可視性和警報，以增強安全團隊的能力，”Darktrace安全與AI策略高級副總裁Nicole Carignan建議道。

Carignan還建議通過整合機器驅動的響應（自主或有人類監督）來提前應對新威脅，以加速安全團隊的反應。“通過這種方法，採用AI技術——如具有基於異常檢測能力的解決方案，能夠檢測和應對從未見過的威脅——對於保持組織安全至關重要。”

多因素身份驗證和生物識別驗證，如面部或指紋掃描，對於防範帳戶洩露也至關重要。“網絡犯罪分子不僅依賴竊取的憑證，還利用社交操控來突破身份保護，”Keeper Security首席信息安全官James Scobey說。“深度偽造在這方面尤其令人擔憂，因為AI模型使這些攻擊方法更快、更便宜且更具說服力。隨著攻擊者變得越來越複雜，對更強大、更動態的身份驗證方法——如多因素身份驗證（MFA）和生物識別——的需求將至關重要，以防禦這些日益細緻的威脅。MFA對於防止帳戶接管是必不可少的。”

Gartner應對社交工程和深度偽造的建議

• 教育員工。 對他們進行社交工程和深度偽造的培訓，但不要僅依靠他們識別這些威脅的能力。
• 設置其他驗證措施。 例如，在另一個平台上驗證電話請求機密信息的任何嘗試。
• 使用回撥政策。 提供一個指定的號碼，員工可以撥打以確認敏感或機密請求。
• 超越回撥政策。 確保單一電話或請求無法在沒有高級管理層額外驗證的情況下觸發高風險行動。
• 跟上實時深度偽造檢測的步伐。 關注能夠檢測音頻和視頻通話中深度偽造的新興技術，並補充其他識別方法，如唯一ID。

想要更多關於AI的故事？請訂閱我們的每周新聞簡報Innovation。