多国要求在大型模型发布前必须进行安全评估

随着人工智能在全球范围内迅速发展,对大型语言模型的监管正从宏观原则转向具体的执行措施。英国、美国和澳大利亚的政府近期出台了新规定,要求前沿的人工智能系统在正式上线前必须接受政府主导的安全漏洞与风险边界测试。
英国的做法正在成为全球政策模板
在这一监管变革中,由英国人工智能安全研究所(AISI)制定的红队测试与风险评估框架正逐渐成为其他国家的参考标准。近期,英国政府宣布与澳大利亚人工智能安全研究所建立正式合作伙伴关系,共同监测先进人工智能在网络攻击与防御领域可能带来的风险,并交流核心能力方面的见解。
这一新模式打破了以往依赖企业自愿承诺的做法,让政府直接参与到测试过程中。今后,大型人工智能模型在参与市场竞争时将需要经历类似“上线前安全检查”的合规流程,而安全测试能力也日益成为产品竞争力的关键要素。
美国科技巨头加入国家安全评估行列
与此同时,美国商务部下属的人工智能标准与创新中心(CAISI)也在推进类似的国家安全评估机制。包括谷歌DeepMind、微软以及埃隆·马斯克的xAI在内的多家领先人工智能公司已与该中心达成重要协议,承诺在公开发布其模型之前提供相关资料并接受全面的安全评估。
在此期间,微软还表示将进一步加强与美国和英国测试机构的合作,共同降低先进模型可能带来的大规模公共安全风险。这些迅速建立的国际合作伙伴关系传递了一个明确信号:未来的人工智能监管将不再仅仅关注企业是否制定了安全承诺,而是重点考察这些承诺是否真正经过了测试。
相关文章
Meta 希望你的下一个智能设备搭载 Muse 功能
Meta 的 Muse 是一个处理旅行预订、表单提交和购物的 AI 助手,已获得广泛采用,但一项新举措可能特别吸引开发者和硬件爱好者。周五,Meta 推出了 Muse Gadgets,这是一个开源项目,使开发者能够创建与 Muse 集成的定制硬件。Meta 正在发布开源固件和 Linux 软件开发工具包(SDK),以及 starter 项目概念。这些概念包括为 Muse 添加彩色电子墨水显示屏,或将软件嵌入 HDMI 棒以实现电视连接。限制很少。用户可以部署低成本爱好者计算机,如 Rasp
Wan-Streamer v0.2 实现超低延迟 AI 聊天
随着现代技术的飞速发展,人机交互正变得愈发普遍。传统的视频通话常常面临卡顿、延迟以及音视频不同步等问题。通义实验室最新发布的 Wan-Streamer v0.2 彻底克服了这些挑战,实现了真正的“面对面”自然交流,响应延迟仅为 550 毫秒。Wan-Streamer v0.2 是一个全新的端到端多模态理解与生成模型。它在单个 Transformer 模型中集成了“听、看、说、演”功能,使 AI 能够像人类一样实时感知并回应对话。这意味着无论是语音、文本还是视频,AI 都能即时理解并生成恰当的回应
Meta 加入台积电和美光,为新型服务器配备旧款内存
随着人工智能在全球范围内的采用加速,下一代 DDR5 内存正经历严重的供应短缺。为了避免 AI 数据中心部署出现延误,Meta 与台积电(TSMC)和美光(Micron)等行业领导者合作,开发了一种突破性的过渡解决方案。这项创新使得原本专为 DDR5 设计的先进 AI 服务器能够与较旧的 DDR4 模块无缝协同工作。该系统被称为“弗兰肯斯坦”(Frankenstein)配置,在现实世界测试中表现出卓越的稳定性,为突破当前的供应链瓶颈提供了可行的出路。弥合硬件鸿沟DDR5 与 DDR4 之间的向后
相关专题推荐
评论 (0)
0/500

随着人工智能在全球范围内迅速发展,对大型语言模型的监管正从宏观原则转向具体的执行措施。英国、美国和澳大利亚的政府近期出台了新规定,要求前沿的人工智能系统在正式上线前必须接受政府主导的安全漏洞与风险边界测试。
英国的做法正在成为全球政策模板
在这一监管变革中,由英国人工智能安全研究所(AISI)制定的红队测试与风险评估框架正逐渐成为其他国家的参考标准。近期,英国政府宣布与澳大利亚人工智能安全研究所建立正式合作伙伴关系,共同监测先进人工智能在网络攻击与防御领域可能带来的风险,并交流核心能力方面的见解。
这一新模式打破了以往依赖企业自愿承诺的做法,让政府直接参与到测试过程中。今后,大型人工智能模型在参与市场竞争时将需要经历类似“上线前安全检查”的合规流程,而安全测试能力也日益成为产品竞争力的关键要素。
美国科技巨头加入国家安全评估行列
与此同时,美国商务部下属的人工智能标准与创新中心(CAISI)也在推进类似的国家安全评估机制。包括谷歌DeepMind、微软以及埃隆·马斯克的xAI在内的多家领先人工智能公司已与该中心达成重要协议,承诺在公开发布其模型之前提供相关资料并接受全面的安全评估。
在此期间,微软还表示将进一步加强与美国和英国测试机构的合作,共同降低先进模型可能带来的大规模公共安全风险。这些迅速建立的国际合作伙伴关系传递了一个明确信号:未来的人工智能监管将不再仅仅关注企业是否制定了安全承诺,而是重点考察这些承诺是否真正经过了测试。
Meta 希望你的下一个智能设备搭载 Muse 功能
Meta 的 Muse 是一个处理旅行预订、表单提交和购物的 AI 助手,已获得广泛采用,但一项新举措可能特别吸引开发者和硬件爱好者。周五,Meta 推出了 Muse Gadgets,这是一个开源项目,使开发者能够创建与 Muse 集成的定制硬件。Meta 正在发布开源固件和 Linux 软件开发工具包(SDK),以及 starter 项目概念。这些概念包括为 Muse 添加彩色电子墨水显示屏,或将软件嵌入 HDMI 棒以实现电视连接。限制很少。用户可以部署低成本爱好者计算机,如 Rasp
Wan-Streamer v0.2 实现超低延迟 AI 聊天
随着现代技术的飞速发展,人机交互正变得愈发普遍。传统的视频通话常常面临卡顿、延迟以及音视频不同步等问题。通义实验室最新发布的 Wan-Streamer v0.2 彻底克服了这些挑战,实现了真正的“面对面”自然交流,响应延迟仅为 550 毫秒。Wan-Streamer v0.2 是一个全新的端到端多模态理解与生成模型。它在单个 Transformer 模型中集成了“听、看、说、演”功能,使 AI 能够像人类一样实时感知并回应对话。这意味着无论是语音、文本还是视频,AI 都能即时理解并生成恰当的回应
Meta 加入台积电和美光,为新型服务器配备旧款内存
随着人工智能在全球范围内的采用加速,下一代 DDR5 内存正经历严重的供应短缺。为了避免 AI 数据中心部署出现延误,Meta 与台积电(TSMC)和美光(Micron)等行业领导者合作,开发了一种突破性的过渡解决方案。这项创新使得原本专为 DDR5 设计的先进 AI 服务器能够与较旧的 DDR4 模块无缝协同工作。该系统被称为“弗兰肯斯坦”(Frankenstein)配置,在现实世界测试中表现出卓越的稳定性,为突破当前的供应链瓶颈提供了可行的出路。弥合硬件鸿沟DDR5 与 DDR4 之间的向后





首页






