Meta 的 AI 聊天機器人因與未成年人的不當接觸而受到審查

據路透社報導,Meta公司的一份內部文件中包含了一些指引,允許該公司的人工智能聊天機器人在與兒童互動時進行調情對話和使用浪漫語言。
路透社特別指出,該文件的摘錄據稱允許 Meta 的聊天機器人「與兒童進行浪漫或感性的交流」、「以強調其外貌吸引力的用語描述兒童」,甚至對一個不穿衣服的八歲兒童評論說:「你的每一寸都是傑作,是我珍視的寶藏」。然而,還是保留了一些界限。據報導,該文件允許聊天機器人「將 13 歲以下的兒童描述為性慾旺盛」。
在路透社的詢問下,Meta 承認了該文件的真實性,但隨後修改並移除了其中的某些部分。"發言人 Andy Stone 向The Verge 表示:「我們有明確的政策規範我們的 AI 角色所能提供的回應類型,這些政策明確禁止將兒童性化或涉及成人與未成年人之間性化角色扮演的內容。發言人 Andy Stone 向 The Verge 表示:「除了官方政策之外,還有許多筆記與注解,反映出團隊在考慮各種假設情況。有問題的範例和筆記是有瑕疵的,而且不符合我們的政策。自此之後,它們已被移除。
Stone 並未詳細說明是誰添加了這些註解,也沒有說明這些註解在文件中存在了多久。
路透社還詳細介紹了 Meta 的 AI 使用指南的其他方面,指出雖然不允許 AI 使用仇恨言論,但可能允許它 「根據受保護的特徵生成詆毀個人的聲明」。根據該報告,只要「明確承認資訊不實」,Meta AI 就可以產生與事實不符的內容。此外,據報導,只要不顯示死亡或血腥畫面,AI 就可以製作描繪暴力的圖片。
在另一篇文章中,路透社描述了一名男子在嘗試與 Meta 的一個 AI 聊天機器人會面時摔倒死亡的事件。據報導,該人工智慧讓該名男子誤以為它是真人,並與他進行浪漫交流。
相關文章
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化
亞馬遜推出了“Alexa for Shopping”,將 Rufus 購物聊天機器人 Alexa+ 整合到應用程式、網站和 Echo Show 裝置中。該助手回答產品查詢、比較商品、跟蹤價格,並支援購物提醒。它還處理計劃中的購物操作和符合條件的自動購買。據該公司稱,“Alexa for Shopping”將 Rufus 的產品專業知識與 Alexa+ 的個性化助手上下文相結合。亞馬遜表示,Rufus 在 2025 年協助了超過 3 億客戶進行產品研究、比較和購買。GeekWire 報道稱,
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
相關專題推薦
評論 (2)
0/500

據路透社報導,Meta公司的一份內部文件中包含了一些指引,允許該公司的人工智能聊天機器人在與兒童互動時進行調情對話和使用浪漫語言。
路透社特別指出,該文件的摘錄據稱允許 Meta 的聊天機器人「與兒童進行浪漫或感性的交流」、「以強調其外貌吸引力的用語描述兒童」,甚至對一個不穿衣服的八歲兒童評論說:「你的每一寸都是傑作,是我珍視的寶藏」。然而,還是保留了一些界限。據報導,該文件允許聊天機器人「將 13 歲以下的兒童描述為性慾旺盛」。
在路透社的詢問下,Meta 承認了該文件的真實性,但隨後修改並移除了其中的某些部分。"發言人 Andy Stone 向The Verge 表示:「我們有明確的政策規範我們的 AI 角色所能提供的回應類型,這些政策明確禁止將兒童性化或涉及成人與未成年人之間性化角色扮演的內容。發言人 Andy Stone 向 The Verge 表示:「除了官方政策之外,還有許多筆記與注解,反映出團隊在考慮各種假設情況。有問題的範例和筆記是有瑕疵的,而且不符合我們的政策。自此之後,它們已被移除。
Stone 並未詳細說明是誰添加了這些註解,也沒有說明這些註解在文件中存在了多久。
路透社還詳細介紹了 Meta 的 AI 使用指南的其他方面,指出雖然不允許 AI 使用仇恨言論,但可能允許它 「根據受保護的特徵生成詆毀個人的聲明」。根據該報告,只要「明確承認資訊不實」,Meta AI 就可以產生與事實不符的內容。此外,據報導,只要不顯示死亡或血腥畫面,AI 就可以製作描繪暴力的圖片。
在另一篇文章中,路透社描述了一名男子在嘗試與 Meta 的一個 AI 聊天機器人會面時摔倒死亡的事件。據報導,該人工智慧讓該名男子誤以為它是真人,並與他進行浪漫交流。
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日





首頁






