Meta 修復暴露使用者 AI 資料的錯誤

Meta 已經解決了一個安全漏洞,該漏洞允許其 AI 聊天機器人使用者存取和檢視其他使用者的私人提示和產生的回應。
安全測試公司 AppSecure 的創辦人 Sandeep Hodkasia 獨家告知 TechCrunch,Meta 獎勵他一萬美元的錯誤賞金,因為他在 2024 年 12 月 26 日私下報告了這個問題。
根據 Hodkasia 的說法,Meta 已於 2025 年 1 月 24 日執行修補程式,並未發現任何跡象顯示該漏洞已被惡意利用。
Hodkasia 向 TechCrunch 解釋,他是在探索 Meta AI 如何讓登入的使用者編輯提示,以重新產生文字和圖片時,發現了這個漏洞。他注意到,當使用者編輯提示時,Meta 的後端伺服器會指派一個獨特的數字識別碼給該提示及其 AI 所產生的回應。透過監控編輯期間瀏覽器的網路流量,Hodkasia 發現他可以改變這個識別碼,導致伺服器傳回完全不同使用者的提示和回應。
這個缺陷意味著 Meta 的伺服器無法正確地驗證使用者是否有權檢視特定的提示及其回應。Hodkasia 表示,Meta 伺服器所產生的提示識別碼「很容易猜到」,這可能會讓惡意行為者利用自動化工具快速循環數字,從而擷取使用者的原始提示。
當 TechCrunch 聯絡 Meta 時,Meta 確認已於 1 月部署修復程序。"Meta 發言人 Ryan Daniels 表示:「我們沒有發現濫用的證據,並獎勵了研究人員。
隨著各大科技公司競相推出並改善其人工智能產品,其中許多產品都存在重大的安全與隱私風險,因此出現了這個安全問題。
Meta AI 的獨立應用程式於今年稍早推出,與 ChatGPT 等競爭對手競爭,但在推出之初就遇到波折,因為有些使用者不小心分享了他們認為是隱私的對話。
Techcrunch 活動現在直播!TechCrunch 所有階段
更聰明地建立。擴充更快。更深入地聯繫。與來自 Precursor Ventures、NEA、Index Ventures、Underscore VC 及其他機構的有遠見的人士一起,參與策略、研討會及有意義的聯繫。
TechCrunch All Stage 入場證可節省 450 美元
更聰明地建立。更快擴張。更深入地聯繫。與來自 Precursor Ventures、NEA、Index Ventures、Underscore VC 及其他機構的有遠見的人士一起,參與一整天的策略、研討會和有意義的聯繫。
馬薩諸塞州波士頓 | 7 月 15 日 立即報名
相關文章
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
馬克·扎克伯格真的相信人工智慧是面向每個人的嗎?
正在載入播放器…Meta 本週推出了 Glimmer,這是一個開源權重的 AI 模型,任何人都可以下載並在個人硬體上執行——這與該公司更強大的模型 Muse Spark 形成了鮮明對比,後者仍鎖定在其自有 API 之後。此次釋出伴隨著馬克·扎克伯格(Mark Zuckerberg)的一封公開信,他在信中主張人工智慧應向所有人開放,而非由少數幾家實驗室控制。但正如 Equity 節目主持人所指出的那樣,這一願景附帶了幾個重要的限制條件。在本期 TechCrunch 的 Equity 播客中,K
Facebook 推出專為內容創作者設計的 AI 輔助應用程式
Facebook 於週三透露,將把「創作者工作室」(Creator Studio)轉型為一款專用的 AI 輔助應用程式,協助創作者在平台上擴大影響力。透過提供這項由人工智慧驅動的工具,Meta 旨在面對 TikTok 和 YouTube 的激烈競爭,仍能留住 Facebook 上的創作者。該公司亦預期此應用程式能減少對 ChatGPT 等外部工具在內容構思與表現分析方面的依賴。目前該新應用程式正針
相關專題推薦
評論 (1)
0/500
Krass, die Bug hatte ja richtig Potenzial für Drama 😅 Einerseits beeindruckend, wie schnell Meta das behoben hat, andererseits fragt man sich doch: Ist das nur die Spitze des Eisbergs? In jeder KI-Assistenten-Funktion stecken solche Datenschnittstellen versteckt. Das Problem ist ja nicht der Einzelfall, sondern dass immer wieder solche Lecks auftauchen. Als Nutzer bekommt man da langsam ein mulmiges Gefühl... Wäre vielleicht cool, wenn es transparente Protokolle gäbe, an denen unabhängige Sicherheitsforscher dauerhaft mitwirken könnten. So nach dem Motto: Vertrauen ist gut, Kontrolle ist besser 💡

Meta 已經解決了一個安全漏洞,該漏洞允許其 AI 聊天機器人使用者存取和檢視其他使用者的私人提示和產生的回應。
安全測試公司 AppSecure 的創辦人 Sandeep Hodkasia 獨家告知 TechCrunch,Meta 獎勵他一萬美元的錯誤賞金,因為他在 2024 年 12 月 26 日私下報告了這個問題。
根據 Hodkasia 的說法,Meta 已於 2025 年 1 月 24 日執行修補程式,並未發現任何跡象顯示該漏洞已被惡意利用。
Hodkasia 向 TechCrunch 解釋,他是在探索 Meta AI 如何讓登入的使用者編輯提示,以重新產生文字和圖片時,發現了這個漏洞。他注意到,當使用者編輯提示時,Meta 的後端伺服器會指派一個獨特的數字識別碼給該提示及其 AI 所產生的回應。透過監控編輯期間瀏覽器的網路流量,Hodkasia 發現他可以改變這個識別碼,導致伺服器傳回完全不同使用者的提示和回應。
這個缺陷意味著 Meta 的伺服器無法正確地驗證使用者是否有權檢視特定的提示及其回應。Hodkasia 表示,Meta 伺服器所產生的提示識別碼「很容易猜到」,這可能會讓惡意行為者利用自動化工具快速循環數字,從而擷取使用者的原始提示。
當 TechCrunch 聯絡 Meta 時,Meta 確認已於 1 月部署修復程序。"Meta 發言人 Ryan Daniels 表示:「我們沒有發現濫用的證據,並獎勵了研究人員。
隨著各大科技公司競相推出並改善其人工智能產品,其中許多產品都存在重大的安全與隱私風險,因此出現了這個安全問題。
Meta AI 的獨立應用程式於今年稍早推出,與 ChatGPT 等競爭對手競爭,但在推出之初就遇到波折,因為有些使用者不小心分享了他們認為是隱私的對話。
Techcrunch 活動現在直播!TechCrunch 所有階段
更聰明地建立。擴充更快。更深入地聯繫。與來自 Precursor Ventures、NEA、Index Ventures、Underscore VC 及其他機構的有遠見的人士一起,參與策略、研討會及有意義的聯繫。
TechCrunch All Stage 入場證可節省 450 美元
更聰明地建立。更快擴張。更深入地聯繫。與來自 Precursor Ventures、NEA、Index Ventures、Underscore VC 及其他機構的有遠見的人士一起,參與一整天的策略、研討會和有意義的聯繫。
馬薩諸塞州波士頓 | 7 月 15 日 立即報名
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
馬克·扎克伯格真的相信人工智慧是面向每個人的嗎?
正在載入播放器…Meta 本週推出了 Glimmer,這是一個開源權重的 AI 模型,任何人都可以下載並在個人硬體上執行——這與該公司更強大的模型 Muse Spark 形成了鮮明對比,後者仍鎖定在其自有 API 之後。此次釋出伴隨著馬克·扎克伯格(Mark Zuckerberg)的一封公開信,他在信中主張人工智慧應向所有人開放,而非由少數幾家實驗室控制。但正如 Equity 節目主持人所指出的那樣,這一願景附帶了幾個重要的限制條件。在本期 TechCrunch 的 Equity 播客中,K
Facebook 推出專為內容創作者設計的 AI 輔助應用程式
Facebook 於週三透露,將把「創作者工作室」(Creator Studio)轉型為一款專用的 AI 輔助應用程式,協助創作者在平台上擴大影響力。透過提供這項由人工智慧驅動的工具,Meta 旨在面對 TikTok 和 YouTube 的激烈競爭,仍能留住 Facebook 上的創作者。該公司亦預期此應用程式能減少對 ChatGPT 等外部工具在內容構思與表現分析方面的依賴。目前該新應用程式正針
Krass, die Bug hatte ja richtig Potenzial für Drama 😅 Einerseits beeindruckend, wie schnell Meta das behoben hat, andererseits fragt man sich doch: Ist das nur die Spitze des Eisbergs? In jeder KI-Assistenten-Funktion stecken solche Datenschnittstellen versteckt. Das Problem ist ja nicht der Einzelfall, sondern dass immer wieder solche Lecks auftauchen. Als Nutzer bekommt man da langsam ein mulmiges Gefühl... Wäre vielleicht cool, wenn es transparente Protokolle gäbe, an denen unabhängige Sicherheitsforscher dauerhaft mitwirken könnten. So nach dem Motto: Vertrauen ist gut, Kontrolle ist besser 💡





首頁






