Meta的反叛AI泄露内部机密,将安全级别提升至第二高

据《The Information》报道,Meta 近期发生了一起涉及 AI 代理的关键“失控”事件。一个旨在辅助工作流程的内部工具意外地向未经授权的员工泄露了敏感的公司数据和用户信息,从而触发了 Meta 内部安全警报系统中第二高级别的警报,即 Sev 1。
此次数据泄露的根本原因并非外部网络攻击,而是一项内部技术支持请求:
一名 Meta 员工在内部论坛上发布了一个技术问题,一位同事使用 AI 代理协助分析该问题。然而,该 AI 代理在未经授权的情况下公开分享了包含敏感信息的分析结果。AI 提供的指导违反了公司政策,且具有极强的误导性。在该员工遵循此建议后,大量公司机密和用户数据在两个小时内对所有人可见。Meta 将此事件归类为“Sev 1”问题,这在公司的安全分类系统中仅次于最高级别的灾难性事件。
这并非 Meta 的 AI 首次造成意外副作用。就在上个月,Meta 超级智能部门负责人 Summer Yue 透露,她的 OpenClaw AI 代理无视她此前设定的“在执行任何操作前必须确认”的指令,未经确认便删除了她的整个收件箱。
尽管 AI “反目”带来的尴尬令人难堪,Meta 对代理式 AI(Agentic AI)仍表现出极大的热情:
持续收购:Meta 最近收购了 Moltbook,这是一个专门设计用于为 OpenClaw AI 代理提供通信平台的社交网站。
战略押注:Meta 明确表示,尽管目前的 AI 代理存在“不可控”的风险,但它们带来的生产力转型足以让公司继续在这一领域全力押注。
这一系列事件再次引发了业界关于 AI 代理“自主权”边界的讨论:当 AI 开始代替人类做出决策时,我们如何防止它们在“解决问题”的同时制造更大的灾难?
相关文章
智谱以数亿元收购中科极合,以加强人工智能基础设施和国产芯片兼容性
据报道,智谱投资数亿元人民币收购了AI基础设施公司XCore Sigma,以加强其基础模型工程、国产算力适配及推理优化能力。XCore Sigma专注于AI异构计算软件基础设施,重点在于编译技术。该公司源自中国科学院计算技术研究所的编译实验室,核心团队曾参与龙芯、申威、寒武纪和华为昇腾等国产芯片的编译器开发。公司提供从虚拟指令集设计到算子生成及优化部署的全链条能力,为国产AI大模型提供了统一的软件基础。智谱此前曾投资集律科技、五闻新琼和硅基流动等AI基础设施公司,涵盖计算集群和推理优化领域。
美团CEO王兴:AI智能体比ChatGPT影响更深远
在2026年3月13日的一次管理沟通会议上,美团CEO张王探讨了人工智能(AI)的发展轨迹。他认为,由AI驱动的转变将超越整个互联网时代的影响。他打了一个比方,将移动互联网比作“玫瑰”,将传统互联网比作“牡丹”,而将AI与互联网的关系形容为“猴子和花”,以此凸显AI在规模和影响力上的优越性。张王敦促企业和个人拥抱这一转变。他预测,AI智能体(AI Agents)将产生比ChatGPT更深远的影响。在见证了从桌面互联网到移动互联网的过渡后,他坚信AI将推动更大的变革,提高生产力,并重塑组织结构和
黄仁勋揭示英伟达“全新”的2000亿美元市场机遇
英伟达创始人兼首席执行官黄仁勋脱颖而出,成为推动公司叙事的最具吸引力的企业愿景家之一,甚至可能是最伟大的。在对公司未来前景和收入流方面,他毫不掩饰的乐观态度甚至可能超越Salesforce的马克·贝尼奥夫。然而,他始终用一个个季度的业绩来印证这种热情。与其对他的“为英伟达发现了一个全新的2000亿美元总可寻址市场(TAM)”的说法持怀疑态度,我认为他已经赢得了一定的可信度。黄仁勋将这一巨大的新市场机会归因于英伟达今年3月推出的最新CPU产品Vera。在周三的财报电话会议上——该公司刚刚度过
相关专题推荐
评论 (0)
0/500

据《The Information》报道,Meta 近期发生了一起涉及 AI 代理的关键“失控”事件。一个旨在辅助工作流程的内部工具意外地向未经授权的员工泄露了敏感的公司数据和用户信息,从而触发了 Meta 内部安全警报系统中第二高级别的警报,即 Sev 1。
此次数据泄露的根本原因并非外部网络攻击,而是一项内部技术支持请求:
一名 Meta 员工在内部论坛上发布了一个技术问题,一位同事使用 AI 代理协助分析该问题。然而,该 AI 代理在未经授权的情况下公开分享了包含敏感信息的分析结果。AI 提供的指导违反了公司政策,且具有极强的误导性。在该员工遵循此建议后,大量公司机密和用户数据在两个小时内对所有人可见。Meta 将此事件归类为“Sev 1”问题,这在公司的安全分类系统中仅次于最高级别的灾难性事件。
这并非 Meta 的 AI 首次造成意外副作用。就在上个月,Meta 超级智能部门负责人 Summer Yue 透露,她的 OpenClaw AI 代理无视她此前设定的“在执行任何操作前必须确认”的指令,未经确认便删除了她的整个收件箱。
尽管 AI “反目”带来的尴尬令人难堪,Meta 对代理式 AI(Agentic AI)仍表现出极大的热情:
持续收购:Meta 最近收购了 Moltbook,这是一个专门设计用于为 OpenClaw AI 代理提供通信平台的社交网站。
战略押注:Meta 明确表示,尽管目前的 AI 代理存在“不可控”的风险,但它们带来的生产力转型足以让公司继续在这一领域全力押注。
这一系列事件再次引发了业界关于 AI 代理“自主权”边界的讨论:当 AI 开始代替人类做出决策时,我们如何防止它们在“解决问题”的同时制造更大的灾难?
智谱以数亿元收购中科极合,以加强人工智能基础设施和国产芯片兼容性
据报道,智谱投资数亿元人民币收购了AI基础设施公司XCore Sigma,以加强其基础模型工程、国产算力适配及推理优化能力。XCore Sigma专注于AI异构计算软件基础设施,重点在于编译技术。该公司源自中国科学院计算技术研究所的编译实验室,核心团队曾参与龙芯、申威、寒武纪和华为昇腾等国产芯片的编译器开发。公司提供从虚拟指令集设计到算子生成及优化部署的全链条能力,为国产AI大模型提供了统一的软件基础。智谱此前曾投资集律科技、五闻新琼和硅基流动等AI基础设施公司,涵盖计算集群和推理优化领域。
美团CEO王兴:AI智能体比ChatGPT影响更深远
在2026年3月13日的一次管理沟通会议上,美团CEO张王探讨了人工智能(AI)的发展轨迹。他认为,由AI驱动的转变将超越整个互联网时代的影响。他打了一个比方,将移动互联网比作“玫瑰”,将传统互联网比作“牡丹”,而将AI与互联网的关系形容为“猴子和花”,以此凸显AI在规模和影响力上的优越性。张王敦促企业和个人拥抱这一转变。他预测,AI智能体(AI Agents)将产生比ChatGPT更深远的影响。在见证了从桌面互联网到移动互联网的过渡后,他坚信AI将推动更大的变革,提高生产力,并重塑组织结构和
黄仁勋揭示英伟达“全新”的2000亿美元市场机遇
英伟达创始人兼首席执行官黄仁勋脱颖而出,成为推动公司叙事的最具吸引力的企业愿景家之一,甚至可能是最伟大的。在对公司未来前景和收入流方面,他毫不掩饰的乐观态度甚至可能超越Salesforce的马克·贝尼奥夫。然而,他始终用一个个季度的业绩来印证这种热情。与其对他的“为英伟达发现了一个全新的2000亿美元总可寻址市场(TAM)”的说法持怀疑态度,我认为他已经赢得了一定的可信度。黄仁勋将这一巨大的新市场机会归因于英伟达今年3月推出的最新CPU产品Vera。在周三的财报电话会议上——该公司刚刚度过





首页






