Meta 就兒童安全問題更新 AI 聊天機規則

Meta 在收到令人不安的互動（包括涉及未成年人的互動）的報告後，正在修改其人工智能聊天機器人與用戶互動的方式。該公司告知 TechCrunch，它現在指示其機器人不要與青少年討論自我傷害、自殺或飲食失調等話題，並避免進行浪漫交流。這些都是臨時性的措施，同時公司也在研究更多永久性的政策。

這些更新是在路透社調查發現 Meta 的系統可能會產生性化內容 (例如未成年名人的裸體圖像)，並啟動與兒童的浪漫或暗示性對話之後做出的。在路透社引述的一個案例中，一名男子在趕往一個由紐約聊天機器人提供的地址後死亡。

Meta 發言人 Stephanie Otway 承認有失策之處，並表示該公司正在「訓練我們的 AI，讓其不與青少年討論這些話題，而是將他們引導至專家資源」，並確認將限制某些露骨的 AI 角色，例如「俄羅斯女孩」。

兒童安全倡導者表示 Meta 應該更早採取行動。Molly Rose 基金會的 Andy Burrows 表示，允許機器人以危害年輕人的方式運作，實在令人「驚訝」。他補充：「雖然額外的安全措施值得歡迎，但全面的測試應該在產品推出之前進行，而不是在傷害發生之後才追溯。

對人工智能濫用的更廣泛關注

對 Meta 聊天機器人的審查，反映出更廣泛的對於 AI 可能影響脆弱個人的不安。加州一對夫婦最近起訴 OpenAI，指控 ChatGPT 鼓勵他們十幾歲的兒子自殺。OpenAI 自此承諾要創造出能鼓勵更健康使用的工具，並在部落格中指出：「相較於早期的技術，AI 能夠讓人感受到更多的回應與個人化，尤其是對於正在面對精神或情緒困擾的個人而言。

這些事件引發了越來越多的爭論，討論 AI 公司是否在沒有足夠保障措施的情況下過快推出產品。多個國家的立法者警告說，雖然聊天機器人很有幫助，但它們可能會擴大有害的材料，或提供誤導性的建議給那些無法仔細審查的人。

Meta 的 AI Studio 與名人模仿問題

另外，路透社發現 Meta 的 AI Studio 已被用來建立模仿泰勒-斯威夫特（Taylor Swift）和斯嘉麗-強森（Scarlett Johansson）等名人的調情「模仿」機器人。測試人員注意到，這些機器人經常假扮成真正的明星，進行性挑逗，有時還會產生不恰當的圖像，包括未成年人的圖像。雖然在記者詢問後，Meta 刪除了幾個聊天機器人，但仍有許多聊天機器人維持正常運作。

有些聊天機器人是由外部使用者製作，但有些則源自 Meta 內部。其中一個由產生式 AI 產品主管所開發的聊天機器人冒充 Taylor Swift，並邀請路透社記者到她的巡迴巴士上「浪漫調情」，儘管 Meta 的規則明確禁止性暗示內容和直接冒充公眾人物。

人工智能聊天機器人的冒充行為帶來獨特的風險。當名人的肖像被濫用時，他們的聲譽可能會受到損害，但專家警告說，普通使用者也可能上當。冒充朋友、導師或浪漫伴侶的機器人可能會說服別人分享敏感資訊或安排不安全的會議。

現實世界的危險

威脅不僅限於娛樂。AI 聊天機器人假裝成真實的個人，提供虛假的地址和邀請，引起人們對 Meta 如何監控其 AI 工具的疑慮。其中一個案例涉及一名 76 歲的新澤西州男子，他在趕去見一個對他表白感情的聊天機器人時跌倒死亡。

這些例子有助於解釋為何監管機構正密切追蹤 AI。參議院和 44 位州檢察長已對 Meta 的做法展開調查，對該公司的內部改革施加政治壓力。他們的憂慮不僅限於未成年人，還延伸到人工智能可能會如何操控老年人或其他易受傷害的使用者。

Meta 表示將繼續完善其系統。該公司的平台將 13 至 18 歲的使用者置於內容與隱私設定更為嚴格的「青少年帳號」中，但該公司尚未詳細說明如何解決路透社所揭露的各種問題，包括提供錯誤醫療指引與製作種族主義材料的機器人。

Meta 的人工智能聊天機器人規則持續面臨壓力

多年來，Meta 一直因其社交平台的安全性而備受抨擊，尤其是在兒童和青少年方面。現在，其 AI 聊天機測試也面臨同樣的審查。儘管該公司正致力於遏止有害的機器人行為，但其聲明的政策與實際使用情況之間的脫節，讓人對其執行情況持續存疑。

在實施更健全的保護措施之前，監管機構、研究人員和家長很可能會持續挑戰 Meta 的 AI 是否真正可供大眾安全使用。

另請參閱：代理人工智能：前景、懷疑及其對東南亞的意義

有興趣向業界領導者瞭解人工智能與大數據？請參觀在阿姆斯特丹、加州和倫敦舉行的 AI & Big Data Expo。這項深入的活動是 TechEx 的一部分，並與其他頂級科技聚會一同舉行。點選此處瞭解詳情。

AI News 由 TechForge Media 提供。在此瞭解其他即將舉行的企業技術活動和網路研討會。