解读新的ETSI人工智能安全标准

ETSI EN 304 223 确立了人工智能的基础安全要求，各组织应将其纳入其治理架构中。

随着企业将机器学习融入核心工作流程，该欧洲标准为保护人工智能模型和系统提供了具体规定。这是首个适用于全球的人工智能网络安全欧洲标准，已获得各国国家标准化机构的正式批准，从而增强了其在国际市场上的公信力。

作为《欧盟人工智能法案》的补充基准，该标准承认人工智能系统存在独特风险——包括数据中毒、模型混淆和间接提示注入——而这些风险常被传统软件安全实践所忽视。该标准适用于深度神经网络、生成式人工智能和基础预测系统，仅明确排除仅用于学术研究的系统。

ETSI标准界定了AI安全的责任链

企业部署AI时面临的一个长期挑战是风险责任的归属。ETSI标准通过界定三个核心技术角色——开发者、系统运营商和数据保管人——来解决这一问题。

在许多组织中，这些界限往往模糊不清。例如，一家对开源模型进行微调以实现欺诈检测的金融服务公司，既属于开发者，也属于系统运营商。这种双重角色带来了严格的责任：该公司必须保障部署环境的安全，同时记录训练数据的溯源信息并完成模型设计审计。

将“数据保管人”明确列为独立的利益相关方群体，直接影响了首席数据与分析官（CDAO）。这些人员负责管理数据权限和完整性——这一角色如今承担着明确的安全义务。 保管人必须核实系统的预期用途是否与其训练数据的敏感程度相匹配，这实际上是在数据管理流程中嵌入了一名安全守门人。

ETSI人工智能标准强调，安全绝不能仅在部署阶段作为事后补救措施。在设计阶段，组织必须进行威胁建模，并考虑针对人工智能的特定攻击，例如成员资格推断和模型混淆。

其中一项要求规定，开发者必须限制功能范围，以最大限度地缩小攻击面。 例如，如果一个系统采用了多模态模型但仅处理文本，那么未使用的模态（如图像或音频处理）就会成为需要缓解的风险。这促使技术领导者重新思考一种常见做法：即在较小、更专业化的模型足以满足需求时，却仍部署大型的通用基础模型。

该标准还要求实施严格的资产管理。 开发人员和系统运营商必须建立详细的资产清单，涵盖相互依赖关系和连接性。这有助于发现“影子AI”——IT领导者无法保护他们未知的模型。此外，该标准要求制定专门针对AI攻击的灾难恢复计划，确保在模型遭到破坏时能够恢复到“已知良好状态”。

对于依赖第三方供应商或开源仓库的组织而言，供应链安全构成直接挑战。根据 ETSI 标准，如果系统运营商选择使用文档不完善的 AI 模型或组件，必须说明选择理由并记录相关的安全风险。

实际上，采购团队已无法再接受“黑箱”解决方案。 开发者必须提供模型组件的加密哈希值以验证其真实性。当训练数据来自公开来源（大型语言模型中很常见）时，开发者必须记录来源 URL 和获取时间戳。这一审计轨迹有助于事后调查，特别是在确定模型在训练期间是否受到数据中毒影响时。

向外部客户提供API的企业必须实施控制措施以应对针对AI的特定攻击，例如通过速率限制防止攻击者逆向工程模型，或通过限制访问量防止防御系统被淹没从而注入中毒数据。

这种生命周期方法延续至维护阶段，该标准将重大更新（如基于新数据进行重新训练）视为部署新版本。根据ETSI AI标准，此类更新需要进行全新的安全测试和评估。

持续监控也已系统化。系统运维人员不仅需分析日志以监测系统运行时间，还需识别可能预示安全漏洞的“数据漂移”或渐进式行为变化。这将人工智能监控从性能指标转变为安全职能。

该标准还涵盖了“生命周期结束”阶段。当模型退役或移交时，组织必须委托数据保管人确保数据及配置细节得到安全处置。这一要求可防止敏感的知识产权或训练数据通过废弃硬件或被遗忘的云实例泄露。

高管监督与治理职责

要符合 ETSI EN 304 223 标准，必须重新审视现有的网络安全培训计划。该标准要求开展针对不同角色的专项培训，确保开发人员掌握 AI 安全编码规范，同时让普通员工对通过 AI 输出实施的社会工程学等威胁保持警惕。

“ETSI EN 304 223标志着在构建人工智能系统安全共同坚实基础方面迈出了重要一步，”ETSI人工智能安全技术委员会主席斯科特·卡佐（Scott Cadzow）表示。

“随着人工智能日益深入地融入关键服务和基础设施，既能体现这些技术复杂性，又能兼顾部署现实情况的清晰、实用指导，其价值再怎么强调都不为过。该框架背后的努力源于广泛的合作，使组织能够信赖那些具有弹性、值得信赖且设计上就具备安全性的AI系统。”

采用ETSI人工智能安全标准中概述的基准，将为更安全的创新建立框架。通过记录在案的审计追踪、明确界定的角色以及供应链透明度，组织既能降低采用人工智能的风险，又能为未来的监管审查建立可辩护的立场。

即将发布的技术报告（ETSI TR 104 159）将把这些原则具体应用于生成式人工智能，以应对深度伪造和虚假信息等挑战。

另请阅读：Allister Frost谈如何缓解员工焦虑以实现成功的人工智能整合

想了解人工智能和大数据专家的见解吗？欢迎探索在阿姆斯特丹、加利福尼亚和伦敦举办的“人工智能与大数据博览会”。作为TechEx系列活动的一部分，这场综合性盛会将与其他领先的技术会议同期举行。点击此处查看详情。

《AI News》由 TechForge Media 为您呈现。点击此处了解其他即将举办的企业技术活动和网络研讨会。