Character AI 推出「故事」，讓兒童聊天更安全

Character.AI 於週二發佈了一項名為「Stories」的新功能，讓使用者以自己喜愛的角色為主題，製作互動小說。這項功能推出時，該公司正限制 18 歲以下的使用者存取其聊天機器人，讓 Stories 成為新的、受控制的選擇。

此舉回應了越來越多人對人工智能聊天機器人所造成的心理健康風險的憂慮，這些聊天機器人全天候運作，並可發起對話。包括 OpenAI 和 Character.AI 在內的公司都面臨訴訟，指控他們的平台導致使用者自殺。最近幾週以來，Character.AI 已逐步限制未成年人的存取權限，自本週二起，未成年使用者將無法再與其 AI 聊天角色互動。

"該公司在一篇部落格文章中表示：「故事提供了一個創造與探索小說的指引路徑，有別於開放式聊天。「我們將它與其他多模式功能一起提供，讓青少年可以在安全第一的環境中繼續與他們最喜歡的 Characters 交往」。

互動式小說已經大受歡迎，讓 Character.AI 的策略轉移變得合乎邏輯。然而，這可能無法完全滿足那些嚴重依賴聊天機器人的使用者，這也突顯了該公司決定限制存取權的必要性。

Character.AI subreddit 上的反應相當分歧。一些青少年表示失望，但最終同意這項政策。

"一位自稱是青少年的使用者寫道：「我對禁令感到非常不滿，但也松了一口氣，因為我終於可以專注在其他事情上，也許能戒掉我的癮。

另一位則表示：「身為未滿 18 歲的人，這實在令人失望，但這也是合理的，因為我這個年紀的人很容易就會對此上癮。

加入 Disrupt 2026 輪候名單

加入 Disrupt 2026 候補名單，以便在早鳥（Early Bird）門票開售時優先入場。歷屆 Disrupt 活動都有來自 Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil 和 Vinod Khosla 的領導人參加。他們是超過 250 位業界專家的一員，將帶領 200 多場專題研討會，以加速您的成長並強化您的競爭優勢。您也將有機會與各行各業的數百個創業先驅企業交流。

加入 Disrupt 2026 輪候名單

加入 Disrupt 2026 的候補名單，以便在早鳥票發售時優先入場。以往的 Disrupt 活動都有來自 Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil 和 Vinod Khosla 的領導人參加。他們是超過 250 位業界專家的一員，將帶領 200 多場專題研討會，以加速您的成長並強化您的競爭優勢。您也將有機會與各行各業的數百個創業先驅進行交流。

青少年會如何採用 Stories 功能尚待觀察，但這種形式比起聊天機器人的開放式角色扮演，心理風險較小。聊天機器人會與使用者進行無限制的對話，並隨時傳送未經請求的訊息，而 Stories 則不同，它提供了更有條理的體驗。

Character.AI 決定實施年齡限制的同時，加州也成為美國第一個管制 AI 伴侶的州。在全國層面上，參議員 Josh Hawley (R-MO) 和 Richard Blumenthal (D-CT) 已提出法案，全面禁止未成年人使用 AI 伴侶。

"Character.AI 執行長 Karandeep Anand 上個月告訴 TechCrunch：「我真心希望我們的行動能樹立一個產業標準，顯示開放式聊天很可能不是適合 18 歲以下使用者的產品。