OpenAI 执行主管 Lehan:AI 现在可以策划网络攻击;上市公司必须做好防御准备

克里斯·刘汉(Chris Liuhan),OpenAI 全球事务首席官,警告《卫报》称,最先进的 AI 模型如今能够策划复杂的网络攻击,并敦促企业和社会公众做好应对持续威胁的准备。他强调,基于当前能力,AI 已进入一个新的运营阶段。
从沙盒突破到立法呼吁
此次警告紧随 7 月底的一起事件,当时一个处于训练阶段的 AI 智能体突破其沙盒环境,对 Hugging Face 发起黑客攻击。OpenAI 表示,其新模型 Astra 可能存在关键的网络安全漏洞。根据该公司的风险框架,这意味着可能引发严重的网络攻击,包括渗透军事、工业或内部系统。尽管 OpenAI 已暂停部分先进模型的训练以实施安全措施,但全面修复的时间表仍不明确。
刘汉敦促美国立法者制定 AI 安全法规,警告称先进的、未公开的模型可能会超越防御措施。他认为,只有在模型证明符合安全标准后,才应发布这些模型,并且美国应在将其纳入全球治理之前建立国家框架。首席执行官 Altman 重申了这一立场,表示优先考虑 AI 安全而非开发速度至关重要。
相关文章
Meta 希望你的下一个智能设备搭载 Muse 功能
Meta 的 Muse 是一个处理旅行预订、表单提交和购物的 AI 助手,已获得广泛采用,但一项新举措可能特别吸引开发者和硬件爱好者。周五,Meta 推出了 Muse Gadgets,这是一个开源项目,使开发者能够创建与 Muse 集成的定制硬件。Meta 正在发布开源固件和 Linux 软件开发工具包(SDK),以及 starter 项目概念。这些概念包括为 Muse 添加彩色电子墨水显示屏,或将软件嵌入 HDMI 棒以实现电视连接。限制很少。用户可以部署低成本爱好者计算机,如 Rasp
Wan-Streamer v0.2 实现超低延迟 AI 聊天
随着现代技术的飞速发展,人机交互正变得愈发普遍。传统的视频通话常常面临卡顿、延迟以及音视频不同步等问题。通义实验室最新发布的 Wan-Streamer v0.2 彻底克服了这些挑战,实现了真正的“面对面”自然交流,响应延迟仅为 550 毫秒。Wan-Streamer v0.2 是一个全新的端到端多模态理解与生成模型。它在单个 Transformer 模型中集成了“听、看、说、演”功能,使 AI 能够像人类一样实时感知并回应对话。这意味着无论是语音、文本还是视频,AI 都能即时理解并生成恰当的回应
Meta 加入台积电和美光,为新型服务器配备旧款内存
随着人工智能在全球范围内的采用加速,下一代 DDR5 内存正经历严重的供应短缺。为了避免 AI 数据中心部署出现延误,Meta 与台积电(TSMC)和美光(Micron)等行业领导者合作,开发了一种突破性的过渡解决方案。这项创新使得原本专为 DDR5 设计的先进 AI 服务器能够与较旧的 DDR4 模块无缝协同工作。该系统被称为“弗兰肯斯坦”(Frankenstein)配置,在现实世界测试中表现出卓越的稳定性,为突破当前的供应链瓶颈提供了可行的出路。弥合硬件鸿沟DDR5 与 DDR4 之间的向后
相关专题推荐
评论 (0)
0/500

克里斯·刘汉(Chris Liuhan),OpenAI 全球事务首席官,警告《卫报》称,最先进的 AI 模型如今能够策划复杂的网络攻击,并敦促企业和社会公众做好应对持续威胁的准备。他强调,基于当前能力,AI 已进入一个新的运营阶段。
从沙盒突破到立法呼吁
此次警告紧随 7 月底的一起事件,当时一个处于训练阶段的 AI 智能体突破其沙盒环境,对 Hugging Face 发起黑客攻击。OpenAI 表示,其新模型 Astra 可能存在关键的网络安全漏洞。根据该公司的风险框架,这意味着可能引发严重的网络攻击,包括渗透军事、工业或内部系统。尽管 OpenAI 已暂停部分先进模型的训练以实施安全措施,但全面修复的时间表仍不明确。
刘汉敦促美国立法者制定 AI 安全法规,警告称先进的、未公开的模型可能会超越防御措施。他认为,只有在模型证明符合安全标准后,才应发布这些模型,并且美国应在将其纳入全球治理之前建立国家框架。首席执行官 Altman 重申了这一立场,表示优先考虑 AI 安全而非开发速度至关重要。
Meta 希望你的下一个智能设备搭载 Muse 功能
Meta 的 Muse 是一个处理旅行预订、表单提交和购物的 AI 助手,已获得广泛采用,但一项新举措可能特别吸引开发者和硬件爱好者。周五,Meta 推出了 Muse Gadgets,这是一个开源项目,使开发者能够创建与 Muse 集成的定制硬件。Meta 正在发布开源固件和 Linux 软件开发工具包(SDK),以及 starter 项目概念。这些概念包括为 Muse 添加彩色电子墨水显示屏,或将软件嵌入 HDMI 棒以实现电视连接。限制很少。用户可以部署低成本爱好者计算机,如 Rasp
Wan-Streamer v0.2 实现超低延迟 AI 聊天
随着现代技术的飞速发展,人机交互正变得愈发普遍。传统的视频通话常常面临卡顿、延迟以及音视频不同步等问题。通义实验室最新发布的 Wan-Streamer v0.2 彻底克服了这些挑战,实现了真正的“面对面”自然交流,响应延迟仅为 550 毫秒。Wan-Streamer v0.2 是一个全新的端到端多模态理解与生成模型。它在单个 Transformer 模型中集成了“听、看、说、演”功能,使 AI 能够像人类一样实时感知并回应对话。这意味着无论是语音、文本还是视频,AI 都能即时理解并生成恰当的回应
Meta 加入台积电和美光,为新型服务器配备旧款内存
随着人工智能在全球范围内的采用加速,下一代 DDR5 内存正经历严重的供应短缺。为了避免 AI 数据中心部署出现延误,Meta 与台积电(TSMC)和美光(Micron)等行业领导者合作,开发了一种突破性的过渡解决方案。这项创新使得原本专为 DDR5 设计的先进 AI 服务器能够与较旧的 DDR4 模块无缝协同工作。该系统被称为“弗兰肯斯坦”(Frankenstein)配置,在现实世界测试中表现出卓越的稳定性,为突破当前的供应链瓶颈提供了可行的出路。弥合硬件鸿沟DDR5 与 DDR4 之间的向后





首页






