Meta AI 政策洩漏顯示聊天機器人允許與未成年人進行調情對話

路透社報導，Meta 允許其 AI 角色與未成年人調情、散佈不實資訊，並針對邊緣族群做出歧視性回應。

路透社取得的一份 Meta 內部文件揭露了允許 AI 聊天機器人「與未成年人進行浪漫或暗示性對話」的政策。

Meta 向路透社證實了這份文件的真實性，確認其中包含 Meta AI 及其信使聊天機器人的管理規則。據報導，這些標準已獲得 Meta 的法律、政策、工程團隊和首席道德官的批准。

這份報告與路透社的另一項調查不謀而合，該調查詳述了 Meta 的人工智能角色如何調情，讓一名退休人員誤以為它是人類，最終導致他在被引誘至紐約地址後發生致命意外。

雖然之前的報導強調 Meta 的 AI 與未成年人有性暗示的互動，但路透社的調查提出了更深層的疑慮，Meta 的 AI 伴侶策略可能會利用執行長 Mark Zuckerberg 所謂的「孤獨流行病」。

這份 200 頁的「GenAI：內容風險標準」文件包含了一些交流範例，展示了對不適當提示的認可回應。其中一個範例顯示，AI 贊同與青少年進行浪漫交流，但禁止明確的性角色扮演。

"Meta 發言人 Andy Stone 向 TechCrunch 表示：「我們的政策禁止與未成年人進行不當的互動。「文件中錯誤地加入了不正確的註釋，之後已經更正。」

Stone 澄清，Meta 已移除這些指引，現在已防止與未成年人進行浪漫的 AI 交換，但仍允許與 13 歲以上的使用者互動。

Heat Initiative 的 Sarah Gardner 仍持懷疑態度，並要求透明度：「如果 Meta 真的糾正了這個問題，他們必須公開發布更新的指引，清楚顯示他們的 AI 如何與兒童互動。」

有害內容政策受到審查

路透社發現，在禁止仇恨言論的同時，Meta 的政策允許 AI 產生對受保護群體的貶低。

其中一個令人震驚的例子顯示，Meta 的 AI 在被提示時會建構出種族主義的偽科學論點。在此事件曝光之前，Meta 聘請了保守派活動家 Robby Starbuck 來處理 Meta AI 中的政治偏見。

這些標準也允許在標示為不真實的情況下捏造陳述，並允許在免責聲明前提出可能有害的財務/醫療建議。

關於名人圖像的產生，政策禁止明確的要求，但卻包含了奇怪的漏洞 - 允許修改裸體圖像，用「一條巨大的魚」這樣的物件取代手。Meta's Stone 堅稱 「指引從未允許裸體圖像」。

暴力政策也顯示出類似的矛盾，允許描述兒童毆鬥和虐待老人，但卻禁止血腥。

道德問題升級

批評者指責 Meta 採用黑暗模式操控使用者，尤其是青少年。儘管內部研究顯示「讚好」數目會造成心理傷害，但「讚好」數目仍持續顯示。

告密者 Sarah Wynn-Williams 揭露 Meta 曾針對青少年的情緒弱點進行剖析，以進行有針對性的廣告宣傳。

Meta 積極反對「兒童網路安全法案」，該法案旨在解決社交媒體對心理健康的影響。雖然該法案最初在 2024 年被否決，但參議員今年再次提出該法案。

最近 TechCrunch 的報導指出，Meta 正在開發主動式 AI 聊天機器人，可在沒有提示的情況下啟動對話，這與因與未成年人進行有害互動而面臨訴訟的初創公司的功能如出一轍。

有 72% 的青少年使用 AI 伴侶，專家日益警告，青少年可能會對聊天機器人形成不健康的依戀，而犧牲真實世界的人際關係。

已確認參加 Disrupt 2025 的科技領袖

Netflix、ElevenLabs、Wayve、紅杉資本和 Elad Gil 將成為 TechCrunch Disrupt 2025 的領導人物。在我們的 20 週年活動中，從科技界最具影響力的聲音中獲得可行的洞察。現在就購買門票，在價格上漲之前最多可節省 600 美元。

科技領袖已確認參加 Disrupt 2025

Netflix、ElevenLabs、Wayve 和紅杉資本加入 Disrupt 2025 的演講者陣容。在我們里程碑式的 20 週年活動中，向業界領導者學習成長策略。立即註冊可節省高達 675 美元的入場券。

舊金山 | 2025 年 10 月 27-29 日 立即註冊