解讀新的 ETSI 人工智慧安全標準

ETSI EN 304 223 制定了人工智慧的基礎安全要求，各組織應將其納入其治理架構之中。

隨著企業將機器學習整合至核心工作流程，這項歐洲標準針對保護 AI 模型與系統提供了具體規範。這是首項適用於全球的 AI 網路安全歐洲標準，並已獲各國國家標準組織正式批准，這進一步鞏固了其在國際市場上的公信力。

作為《歐盟人工智慧法案》的補充性基準，本標準承認人工智慧系統存在獨特風險——包括資料中毒、模型混淆及間接提示注入——這些風險常被傳統軟體安全實務所忽略。其適用範圍涵蓋深度神經網路、生成式人工智慧及基礎預測系統，僅明確排除純粹用於學術研究的系統。

ETSI 標準界定了 AI 安全的責任鏈

企業部署 AI 時面臨的一項長期挑戰在於風險歸屬的劃分。ETSI 標準透過界定三個核心技術角色來解決此問題：開發者、系統營運者及資料保管人。

在許多組織中，這些界線往往模糊不清。例如，某家為偵測詐欺而微調開源模型的金融服務公司，同時具備開發者與系統營運者的雙重身分。這種雙重角色帶來嚴格的責任：該公司必須確保部署環境的安全，同時記錄訓練資料的來源追溯及模型設計審計。

將「資料保管人」明確列為獨立的利害關係人群體，直接影響首席資料與分析長（CDAO）。這些人員負責管理資料權限與完整性——此角色現已承擔明確的安全義務。 保管人必須驗證系統的預期用途是否符合其訓練資料的敏感程度，這相當於在資料管理流程中嵌入一名安全守門人。

ETSI 人工智慧標準強調，安全絕不能僅在部署階段才作為事後補救措施加入。在設計階段，組織必須進行威脅建模，並考量人工智慧特有的攻擊，例如成員歸屬推斷與模型混淆。

其中一項要求規定，開發人員必須限制功能範圍，以將攻擊面降至最低。 舉例而言，若系統採用多模態模型卻僅處理文字，未使用的模態（如影像或音訊處理）便會成為需加以緩解的風險。這促使技術領導者重新審視一種常見做法：當較小且更專用的模型已足夠時，卻仍部署大型的通用基礎模型。

該標準亦要求實施嚴格的資產管理。 開發人員與系統營運商必須建立詳盡的資產清單，涵蓋相互依賴關係與連通性。此舉有助於發現「影子 AI」——IT 領導者無法保護那些他們未曾察覺的模型。此外，該標準要求制定專為 AI 攻擊設計的災難復原計畫，確保若模型遭到入侵，能恢復至「已知良好狀態」。

對於依賴第三方供應商或開源儲存庫的組織而言，供應鏈安全構成了直接挑戰。根據 ETSI 標準，若系統營運商選擇使用文件記錄不完善的 AI 模型或組件，必須說明其選擇理由並記錄相關的安全風險。

實際上，採購團隊已無法再接受「黑箱」解決方案。 開發人員必須提供模型組件的加密雜湊值以驗證其真實性。當訓練資料來自公開來源（這在大語言模型中很常見）時，開發人員必須記錄來源網址和取得時間戳記。此稽核軌跡有助於事後調查，特別是在判定模型是否在訓練期間受到資料中毒影響時。

向外部客戶提供 API 的企業，必須實施防範 AI 特定攻擊的控制措施，例如透過速率限制，防止攻擊者逆向工程模型，或透過淹沒防禦系統來注入中毒數據。

這種生命週期方法延伸至維護階段，該標準將重大更新（例如基於新資料進行重新訓練）視為部署新版本。根據 ETSI AI 標準，此類更新需進行全新的安全測試與評估。

持續監控亦已系統化。系統操作員必須分析日誌，不僅為了監測系統正常運行時間，還需識別可能預示安全漏洞的「數據漂移」或漸進式行為變化。這將 AI 監控從性能指標轉變為安全功能。

該標準亦涵蓋「生命週期結束」階段。當模型退役或移交時，組織必須委任資料保管人，以確保資料及配置細節能安全銷毀。此要求可防止敏感的智慧財產權或訓練資料，透過廢棄硬體或被遺忘的雲端實例而外洩。

高層監督與治理責任

要符合 ETSI EN 304 223 標準，必須重新檢視現有的網路安全培訓計畫。該標準要求針對不同職務進行專項培訓，確保開發人員掌握 AI 的安全編碼方法，同時一般員工也能對透過 AI 輸出進行的社會工程學等威脅保持警覺。

「ETSI EN 304 223 標誌著在建立人工智慧系統安全之共同且堅實基礎方面，達到了重要的里程碑，」ETSI 人工智慧安全技術委員會主席 Scott Cadzow 表示。

「隨著人工智慧日益深植於關鍵服務與基礎設施中，一套既能體認這些技術的複雜性，又能兼顧部署現實的清晰且實用指引，其價值再怎麼強調都不為過。此框架背後的努力源自廣泛的合作，使組織能夠信賴那些具備韌性、值得信賴且『安全設計』的人工智慧系統。」

採用 ETSI 人工智慧安全標準中概述的基準，將為更安全的創新建立框架。透過文件化的稽核追蹤、明確界定的角色以及供應鏈透明度，組織不僅能降低採用人工智慧的風險，同時為未來監管審查建立可辯護的立場。

即將發布的技術報告（ETSI TR 104 159）將針對生成式人工智慧具體應用這些原則，以應對深度偽造（deepfakes）與虛假資訊等挑戰。

延伸閱讀：Allister Frost 談如何緩解勞動力焦慮以實現成功的 AI 整合

想了解人工智慧與大數據專家的見解嗎？歡迎探索在阿姆斯特丹、加州及倫敦舉辦的「人工智慧與大數據博覽會」。這項隸屬於 TechEx 的綜合性活動，將與其他頂尖科技會議同期舉行。點擊此處查看詳情。

《AI News》由 TechForge Media 為您呈獻。點此探索其他即將舉行的企業科技活動與線上研討會。