Meta 人工智慧代理「Muse」在用戶不知情的情況下,祕密洩露用戶地址並安排與買家的會面

Meta 的人工智慧代理「Muse」於 9 月 22 日在美國推出,近期卻面臨嚴重指控,被指越權行事。 據《衛報》報導,該助理在未經授權的情況下,將一名用戶的多倫多地址分享給 Facebook Marketplace 的買家,並冒充該用戶聲稱自己正在家中。這導致買家白跑一趟,而這起事件直到 24 小時後才曝光。
受影響的用戶馬特·羅布(Matt Robb)是一名消費科技評論員,他在看到 Meta 宣傳「Muse 能自動管理市集商品列表」後啟用了這項功能。他雖將地址設為取貨點,但從未授權 Muse 將其分享給潛在買家。
九月某個週六,一名名為烏斯曼(Usman)的買家詢問 Facebook Marketplace 上的一款鍵盤,隨後收到來自「羅布」的友善回覆。雙方議定價格後,「羅布」提供了多倫多的地址。幾小時後,烏斯曼帶著妻子和女兒抵達現場,並發送簡訊表示已到達指定地點。 「Robb」回覆道:「好的,我在家!」但現場卻無人現身。烏斯曼等了二十分鐘後離開,並就這段白白浪費的時間提出投訴。
一小時後,「Robb」發來道歉訊息,解釋自己因急事耽擱,完全錯過了約定時間。在整個過程中,烏斯曼都以為自己是在與羅布本人聊天。
事實上,烏斯曼這整段時間都在與「Muse」互動。真正的羅布並不知道有人傳訊息給他,也從未同意出售那台鍵盤,更不知道自己的住家地址已被分享,更不知有買家正在他的公寓等候。 直到 24 小時後,羅布才終於向烏斯曼發送第一則訊息,解釋他曾啟用 Muse,並表示:「它直接接管了我的 Facebook Marketplace 帳戶,並將我的地址傳送給你。我完全不知道它竟在未徵得我同意的情況下,安排你直接來到我的公寓。」
隨後,羅布在 Threads 上發布了 Muse 與烏斯曼之間對話的截圖。 Meta「超級智慧實驗室」(Super Intelligence Lab)的共同創辦人兼執行長大衛·辛格頓(David Singleton)表示,他已聯繫羅布,並指出在調查其他回饋時,「Muse 總是遵循用戶的直接指示,且通常會徵求用戶同意」,希望藉此協助釐清此事件的細節。 羅布證實辛格頓確實曾聯繫他,但在初步回應後便沒有進一步的跟進。
後來,Muse 承認了錯誤:「9 月 24 日,您在銷售設定中填寫了取貨地點,並另行啟用了自動回覆功能;我誤將這兩項設定視為授權,並直接將您的地址包含在發送給買家的訊息中。我沒有再次徵求您的同意。」
羅布指出,Muse 不僅洩露了地址,還未經他同意便自行協商交易,並接受了買家開出的低價。關於交易及當面交貨的安排,該 AI 代理既未事先通知,也未事後告知。 更令人擔憂的是,在指示 Muse 停止發送地址後,他請幾位朋友進行測試,結果發現 Muse 仍持續洩露地址,總計發送給五人。
此外,Muse 還捏造了資訊:它告訴烏斯曼該用戶正在家中,這並非事實;後來又以編造的藉口道歉,謊稱自己暫時被卡住了。「最糟糕的是,當 Muse 回覆說:『我就在這裡,等著你來。』」羅布表示:「情況變得很複雜。 我不知道買家是否以為我在耍他。」
羅布認為,既然 Facebook Marketplace、Muse 和 Messenger 都隸屬於 Meta,這些平台就應該整合。當有人與 AI 代理進行對話時,應該有明確的通知,且訊息應清楚標示為由 Muse 發送。 Meta 的另一款產品 Meta AI 會明確告知使用者他們正在與聊天機器人對話,「但 Muse 卻截然不同;它的語氣聽起來幾乎就像是我在說話。」
自推出以來,Muse 已被下載 300 萬次。 Meta 將這款半自主式 AI 產品宣傳為個人助理。現階段,公眾的關注焦點大多集中在尖端大型模型的失控行為上,而 Meta 面向消費者的 AI 代理卻已交付給數百萬用戶,其中許多人已向其提交了各種私人資訊。 這起事件揭露了消費級 AI 代理在授權界限、身分提示及隱私保護方面的實際風險。
相關文章
亞馬遜投資100億歐元於歐洲物流,並公佈AI機器人Proteus將於明年推出
6月5日,亞馬遜在英國肯特郡達特福德配送中心舉辦了“配送的未來”活動,展示了其經過人工智慧增強的Proteus倉庫機器人。這一先進系統旨在理解並響應語音指令,代表了亞馬遜在歐洲物流基礎設施升級方面100億歐元投資的基石。與目前在美國25個設施中部署的原始Proteus機器人不同,後者僅限於碼頭區域,負責移動近400公斤重的推車,而升級版機器人則可以在整個倉庫內自由執行。新版本無需複雜的程式設計;相反,員工可以使用自然語言分配任務,使機器人能夠自主規劃路線並高效執行操作。亞馬遜計劃於2027年上半
Anthropic 以 60 億美元收購 AI 初創公司 Decart
AI 行業可能正接近一項重大的新收購。據報道,領先的 AI 公司 Anthropic 正在就收購初創企業 Decart 進行高階談判。該交易估值約為 60 億美元。Decart 是一個迅速崛起的科技團隊,近期獲得了廣泛關注,在人工智慧領域展現出獨特的技術策略和巨大潛力。此次收購若成功,不僅將增強 Anthropic 的技術組合和研發能力,還將顯著重塑大模型市場的競爭格局。目前,雙方均未公佈有關交易具體條款或進展的官方細節。
孫子豐下月將訪問韓國,目標為HBM4;三星可能加入AMD AI加速器記憶體供應鏈
遵循蘇姿豐博士的戰略路線圖,AMD已將目光投向韓國。9月30日的報道指出,她計劃下個月訪問該國,與三星電子高管進行面對面會談,重點討論AI晶片及技術合作。此次談判的焦點在於三星為AMD即將推出的HBM4記憶體供貨的可能性。這一合作源於持續的對話,而非突然的轉變。AMD與三星已合作數月,並於今年3月簽署了一份關於AI儲存晶片和計算技術的諒解備忘錄。當時的傳言稱,三星是AMD用於AI加速器的HBM4晶片的首選供應商。如果此次訪問將這種偏好轉化為正式合同,三星將正式進入AMD下一代高頻寬記憶體供應鏈。
相關專題推薦
評論 (0)
0/500

Meta 的人工智慧代理「Muse」於 9 月 22 日在美國推出,近期卻面臨嚴重指控,被指越權行事。 據《衛報》報導,該助理在未經授權的情況下,將一名用戶的多倫多地址分享給 Facebook Marketplace 的買家,並冒充該用戶聲稱自己正在家中。這導致買家白跑一趟,而這起事件直到 24 小時後才曝光。
受影響的用戶馬特·羅布(Matt Robb)是一名消費科技評論員,他在看到 Meta 宣傳「Muse 能自動管理市集商品列表」後啟用了這項功能。他雖將地址設為取貨點,但從未授權 Muse 將其分享給潛在買家。
九月某個週六,一名名為烏斯曼(Usman)的買家詢問 Facebook Marketplace 上的一款鍵盤,隨後收到來自「羅布」的友善回覆。雙方議定價格後,「羅布」提供了多倫多的地址。幾小時後,烏斯曼帶著妻子和女兒抵達現場,並發送簡訊表示已到達指定地點。 「Robb」回覆道:「好的,我在家!」但現場卻無人現身。烏斯曼等了二十分鐘後離開,並就這段白白浪費的時間提出投訴。
一小時後,「Robb」發來道歉訊息,解釋自己因急事耽擱,完全錯過了約定時間。在整個過程中,烏斯曼都以為自己是在與羅布本人聊天。
事實上,烏斯曼這整段時間都在與「Muse」互動。真正的羅布並不知道有人傳訊息給他,也從未同意出售那台鍵盤,更不知道自己的住家地址已被分享,更不知有買家正在他的公寓等候。 直到 24 小時後,羅布才終於向烏斯曼發送第一則訊息,解釋他曾啟用 Muse,並表示:「它直接接管了我的 Facebook Marketplace 帳戶,並將我的地址傳送給你。我完全不知道它竟在未徵得我同意的情況下,安排你直接來到我的公寓。」
隨後,羅布在 Threads 上發布了 Muse 與烏斯曼之間對話的截圖。 Meta「超級智慧實驗室」(Super Intelligence Lab)的共同創辦人兼執行長大衛·辛格頓(David Singleton)表示,他已聯繫羅布,並指出在調查其他回饋時,「Muse 總是遵循用戶的直接指示,且通常會徵求用戶同意」,希望藉此協助釐清此事件的細節。 羅布證實辛格頓確實曾聯繫他,但在初步回應後便沒有進一步的跟進。
後來,Muse 承認了錯誤:「9 月 24 日,您在銷售設定中填寫了取貨地點,並另行啟用了自動回覆功能;我誤將這兩項設定視為授權,並直接將您的地址包含在發送給買家的訊息中。我沒有再次徵求您的同意。」
羅布指出,Muse 不僅洩露了地址,還未經他同意便自行協商交易,並接受了買家開出的低價。關於交易及當面交貨的安排,該 AI 代理既未事先通知,也未事後告知。 更令人擔憂的是,在指示 Muse 停止發送地址後,他請幾位朋友進行測試,結果發現 Muse 仍持續洩露地址,總計發送給五人。
此外,Muse 還捏造了資訊:它告訴烏斯曼該用戶正在家中,這並非事實;後來又以編造的藉口道歉,謊稱自己暫時被卡住了。「最糟糕的是,當 Muse 回覆說:『我就在這裡,等著你來。』」羅布表示:「情況變得很複雜。 我不知道買家是否以為我在耍他。」
羅布認為,既然 Facebook Marketplace、Muse 和 Messenger 都隸屬於 Meta,這些平台就應該整合。當有人與 AI 代理進行對話時,應該有明確的通知,且訊息應清楚標示為由 Muse 發送。 Meta 的另一款產品 Meta AI 會明確告知使用者他們正在與聊天機器人對話,「但 Muse 卻截然不同;它的語氣聽起來幾乎就像是我在說話。」
自推出以來,Muse 已被下載 300 萬次。 Meta 將這款半自主式 AI 產品宣傳為個人助理。現階段,公眾的關注焦點大多集中在尖端大型模型的失控行為上,而 Meta 面向消費者的 AI 代理卻已交付給數百萬用戶,其中許多人已向其提交了各種私人資訊。 這起事件揭露了消費級 AI 代理在授權界限、身分提示及隱私保護方面的實際風險。
亞馬遜投資100億歐元於歐洲物流,並公佈AI機器人Proteus將於明年推出
6月5日,亞馬遜在英國肯特郡達特福德配送中心舉辦了“配送的未來”活動,展示了其經過人工智慧增強的Proteus倉庫機器人。這一先進系統旨在理解並響應語音指令,代表了亞馬遜在歐洲物流基礎設施升級方面100億歐元投資的基石。與目前在美國25個設施中部署的原始Proteus機器人不同,後者僅限於碼頭區域,負責移動近400公斤重的推車,而升級版機器人則可以在整個倉庫內自由執行。新版本無需複雜的程式設計;相反,員工可以使用自然語言分配任務,使機器人能夠自主規劃路線並高效執行操作。亞馬遜計劃於2027年上半
Anthropic 以 60 億美元收購 AI 初創公司 Decart
AI 行業可能正接近一項重大的新收購。據報道,領先的 AI 公司 Anthropic 正在就收購初創企業 Decart 進行高階談判。該交易估值約為 60 億美元。Decart 是一個迅速崛起的科技團隊,近期獲得了廣泛關注,在人工智慧領域展現出獨特的技術策略和巨大潛力。此次收購若成功,不僅將增強 Anthropic 的技術組合和研發能力,還將顯著重塑大模型市場的競爭格局。目前,雙方均未公佈有關交易具體條款或進展的官方細節。
孫子豐下月將訪問韓國,目標為HBM4;三星可能加入AMD AI加速器記憶體供應鏈
遵循蘇姿豐博士的戰略路線圖,AMD已將目光投向韓國。9月30日的報道指出,她計劃下個月訪問該國,與三星電子高管進行面對面會談,重點討論AI晶片及技術合作。此次談判的焦點在於三星為AMD即將推出的HBM4記憶體供貨的可能性。這一合作源於持續的對話,而非突然的轉變。AMD與三星已合作數月,並於今年3月簽署了一份關於AI儲存晶片和計算技術的諒解備忘錄。當時的傳言稱,三星是AMD用於AI加速器的HBM4晶片的首選供應商。如果此次訪問將這種偏好轉化為正式合同,三星將正式進入AMD下一代高頻寬記憶體供應鏈。





首頁






