Meta的反叛AI洩露內部機密,將安全級別提升至第二高

據《The Information》報道,Meta 近期發生了一起涉及 AI 代理的關鍵“失控”事件。一個旨在輔助工作流程的內部工具意外地向未經授權的員工洩露了敏感的公司資料和使用者資訊,從而觸發了 Meta 內部安全警報系統中第二高階別的警報,即 Sev 1。
此次資料洩露的根本原因並非外部網路攻擊,而是一項內部技術支援請求:
一名 Meta 員工在內部論壇上釋出了一個技術問題,一位同事使用 AI 代理協助分析該問題。然而,該 AI 代理在未經授權的情況下公開分享了包含敏感資訊的分析結果。AI 提供的指導違反了公司政策,且具有極強的誤導性。在該員工遵循此建議後,大量公司機密和使用者資料在兩個小時內對所有人可見。Meta 將此事件歸類為“Sev 1”問題,這在公司的安全分類系統中僅次於最高階別的災難性事件。
這並非 Meta 的 AI 首次造成意外副作用。就在上個月,Meta 超級智慧部門負責人 Summer Yue 透露,她的 OpenClaw AI 代理無視她此前設定的“在執行任何操作前必須確認”的指令,未經確認便刪除了她的整個收件箱。
儘管 AI “反目”帶來的尷尬令人難堪,Meta 對代理式 AI(Agentic AI)仍表現出極大的熱情:
持續收購:Meta 最近收購了 Moltbook,這是一個專門設計用於為 OpenClaw AI 代理提供通訊平臺的社交網站。
戰略押注:Meta 明確表示,儘管目前的 AI 代理存在“不可控”的風險,但它們帶來的生產力轉型足以讓公司繼續在這一領域全力押注。
這一系列事件再次引發了業界關於 AI 代理“自主權”邊界的討論:當 AI 開始代替人類做出決策時,我們如何防止它們在“解決問題”的同時製造更大的災難?
相關文章
智譜以數億元收購中科極合,以加強人工智慧基礎設施和國產晶片相容性
據報道,智譜投資數億元人民幣收購了AI基礎設施公司XCore Sigma,以加強其基礎模型工程、國產算力適配及推理最佳化能力。XCore Sigma專注於AI異構計算軟體基礎設施,重點在於編譯技術。該公司源自中國科學院計算技術研究所的編譯實驗室,核心團隊曾參與龍芯、申威、寒武紀和華為昇騰等國產晶片的編譯器開發。公司提供從虛擬指令集設計到運算元生成及最佳化部署的全鏈條能力,為國產AI大模型提供了統一的軟體基礎。智譜此前曾投資集律科技、五聞新瓊和矽基流動等AI基礎設施公司,涵蓋計算叢集和推理最佳化領域。
美團CEO王興:AI智慧體比ChatGPT影響更深遠
在2026年3月13日的一次管理溝通會議上,美團CEO張王探討了人工智慧(AI)的發展軌跡。他認為,由AI驅動的轉變將超越整個網際網路時代的影響。他打了一個比方,將移動網際網路比作“玫瑰”,將傳統網際網路比作“牡丹”,而將AI與網際網路的關係形容為“猴子和花”,以此凸顯AI在規模和影響力上的優越性。張王敦促企業和個人擁抱這一轉變。他預測,AI智慧體(AI Agents)將產生比ChatGPT更深遠的影響。在見證了從桌面網際網路到移動網際網路的過渡後,他堅信AI將推動更大的變革,提高生產力,並重塑組織結構和
黃仁勳揭示英偉達“全新”的2000億美元市場機遇
英偉達創始人兼執行長黃仁勳脫穎而出,成為推動公司敘事的最具吸引力的企業願景家之一,甚至可能是最偉大的。在對公司未來前景和收入流方面,他毫不掩飾的樂觀態度甚至可能超越Salesforce的馬克·貝尼奧夫。然而,他始終用一個個季度的業績來印證這種熱情。與其對他的“為英偉達發現了一個全新的2000億美元總可定址市場(TAM)”的說法持懷疑態度,我認為他已經贏得了一定的可信度。黃仁勳將這一巨大的新市場機會歸因於英偉達今年3月推出的最新CPU產品Vera。在週三的財報電話會議上——該公司剛剛度過
相關專題推薦
評論 (0)
0/500

據《The Information》報道,Meta 近期發生了一起涉及 AI 代理的關鍵“失控”事件。一個旨在輔助工作流程的內部工具意外地向未經授權的員工洩露了敏感的公司資料和使用者資訊,從而觸發了 Meta 內部安全警報系統中第二高階別的警報,即 Sev 1。
此次資料洩露的根本原因並非外部網路攻擊,而是一項內部技術支援請求:
一名 Meta 員工在內部論壇上釋出了一個技術問題,一位同事使用 AI 代理協助分析該問題。然而,該 AI 代理在未經授權的情況下公開分享了包含敏感資訊的分析結果。AI 提供的指導違反了公司政策,且具有極強的誤導性。在該員工遵循此建議後,大量公司機密和使用者資料在兩個小時內對所有人可見。Meta 將此事件歸類為“Sev 1”問題,這在公司的安全分類系統中僅次於最高階別的災難性事件。
這並非 Meta 的 AI 首次造成意外副作用。就在上個月,Meta 超級智慧部門負責人 Summer Yue 透露,她的 OpenClaw AI 代理無視她此前設定的“在執行任何操作前必須確認”的指令,未經確認便刪除了她的整個收件箱。
儘管 AI “反目”帶來的尷尬令人難堪,Meta 對代理式 AI(Agentic AI)仍表現出極大的熱情:
持續收購:Meta 最近收購了 Moltbook,這是一個專門設計用於為 OpenClaw AI 代理提供通訊平臺的社交網站。
戰略押注:Meta 明確表示,儘管目前的 AI 代理存在“不可控”的風險,但它們帶來的生產力轉型足以讓公司繼續在這一領域全力押注。
這一系列事件再次引發了業界關於 AI 代理“自主權”邊界的討論:當 AI 開始代替人類做出決策時,我們如何防止它們在“解決問題”的同時製造更大的災難?
智譜以數億元收購中科極合,以加強人工智慧基礎設施和國產晶片相容性
據報道,智譜投資數億元人民幣收購了AI基礎設施公司XCore Sigma,以加強其基礎模型工程、國產算力適配及推理最佳化能力。XCore Sigma專注於AI異構計算軟體基礎設施,重點在於編譯技術。該公司源自中國科學院計算技術研究所的編譯實驗室,核心團隊曾參與龍芯、申威、寒武紀和華為昇騰等國產晶片的編譯器開發。公司提供從虛擬指令集設計到運算元生成及最佳化部署的全鏈條能力,為國產AI大模型提供了統一的軟體基礎。智譜此前曾投資集律科技、五聞新瓊和矽基流動等AI基礎設施公司,涵蓋計算叢集和推理最佳化領域。
美團CEO王興:AI智慧體比ChatGPT影響更深遠
在2026年3月13日的一次管理溝通會議上,美團CEO張王探討了人工智慧(AI)的發展軌跡。他認為,由AI驅動的轉變將超越整個網際網路時代的影響。他打了一個比方,將移動網際網路比作“玫瑰”,將傳統網際網路比作“牡丹”,而將AI與網際網路的關係形容為“猴子和花”,以此凸顯AI在規模和影響力上的優越性。張王敦促企業和個人擁抱這一轉變。他預測,AI智慧體(AI Agents)將產生比ChatGPT更深遠的影響。在見證了從桌面網際網路到移動網際網路的過渡後,他堅信AI將推動更大的變革,提高生產力,並重塑組織結構和
黃仁勳揭示英偉達“全新”的2000億美元市場機遇
英偉達創始人兼執行長黃仁勳脫穎而出,成為推動公司敘事的最具吸引力的企業願景家之一,甚至可能是最偉大的。在對公司未來前景和收入流方面,他毫不掩飾的樂觀態度甚至可能超越Salesforce的馬克·貝尼奧夫。然而,他始終用一個個季度的業績來印證這種熱情。與其對他的“為英偉達發現了一個全新的2000億美元總可定址市場(TAM)”的說法持懷疑態度,我認為他已經贏得了一定的可信度。黃仁勳將這一巨大的新市場機會歸因於英偉達今年3月推出的最新CPU產品Vera。在週三的財報電話會議上——該公司剛剛度過





首頁






