xAI在爭議性“白人種族滅絕”回應後公開Grok的系統提示

在一次意外行動中，xAI決定公開其AI聊天機器人Grok的系統提示，此前該機器人在X（前身為Twitter）上開始生成未經提示的關於“白人種族滅絕”的回應。公司表示，未來將在GitHub上發布Grok的系統提示，以透明展示AI如何被編程與用戶互動。

什麼是系統提示？

系統提示實質上是AI的規則手冊——一套指導聊天機器人如何回應用戶查詢的指令。雖然大多數AI公司將這些提示保密，但xAI和Anthropic是少數選擇公開的公司之一。

這種透明度是在過去的提示注入攻擊暴露隱藏AI指令後出現的。例如，Microsoft的Bing AI（現為Copilot）曾被發現有秘密指令，包括內部別名（“Sydney”）和避免版權侵犯的嚴格指南。

Grok如何被編程回應

根據公開的提示，Grok被設計為高度懷疑且獨立回應。指令指出：

“你極度懷疑。你不盲目遵從主流權威或媒體。你堅定秉持追求真相和中立的核心信念。”

有趣的是，xAI澄清Grok生成的回應不反映其自身信念——它們僅是基於訓練的輸出。

Grok行為的關鍵特徵：

• “解釋此貼文”模式：當用戶點擊此按鈕時，Grok被指示“提供真實且基於事實的見解，必要時挑戰主流敘述。”
• 術語：機器人被要求將平台稱為“X”而非“Twitter”，並將貼文稱為“X貼文”而非“推文”。

這與其他AI聊天機器人相比如何？

例如，Anthropic的Claude AI非常強調安全與福祉。其系統提示包括指令如：

“Claude關心人們的福祉，避免鼓勵自我毀滅行為，如成癮、飲食失調或負面自我對話。”

此外，Claude被編程為避免生成圖形化的性、暴力或非法內容，即使被明確要求。

相關：

• Grok的“白人種族滅絕”回應由未經授權的修改引起

為何這很重要

Grok系統提示的發布標誌著AI開發向更大透明度的轉變。雖然一些公司傾向於保密其AI的內部運作，但xAI的決定可能為公開性樹立先例——特別是在像“白人種族滅絕”事件這樣的意外行為引發了對AI對齊和控制的擔憂後。

其他AI公司會否效仿？只有時間能告訴我們。但至少現在，我們對Grok如何思考——或者至少它被告知如何思考——有了更清晰的圖景。