Character AI führt Geschichten für sicherere Kinderchats ein

Character.AI hat am Dienstag eine neue Funktion namens "Stories" angekündigt, ein Format, mit dem Nutzer interaktive Geschichten mit ihren Lieblingscharakteren erstellen können. Diese Einführung fällt mit der Beschränkung des Zugangs zu seinen Chatbots für Nutzer unter 18 Jahren zusammen, wodurch Stories zu einer neuen, kontrollierten Alternative wird.

Dieser Schritt ist eine Reaktion auf die zunehmende Besorgnis über die Risiken für die psychische Gesundheit, die von KI-Chatbots ausgehen, die rund um die Uhr in Betrieb sind und Unterhaltungen initiieren können. Unternehmen wie OpenAI und Character.AI wurden mit Klagen konfrontiert, in denen behauptet wurde, ihre Plattformen hätten zu Selbstmorden von Nutzern beigetragen. In den letzten Wochen hat Character.AI den Zugang für Minderjährige schrittweise eingeschränkt. Seit Dienstag können minderjährige Nutzer nicht mehr mit den KI-Charakteren im Chat interagieren.

"Geschichten bieten einen geführten Weg, um Fiktion zu erschaffen und zu erforschen, im Gegensatz zu einem Chat mit offenem Ende", erklärte das Unternehmen in einem Blog-Post. "Wir bieten sie neben unseren anderen multimodalen Funktionen an, damit Jugendliche weiterhin mit ihren Lieblingscharakteren in einer sicheren Umgebung interagieren können."

Interaktive Belletristik erfreut sich immer größerer Beliebtheit, so dass der Strategiewechsel von Character.AI nur logisch ist. Allerdings wird sie die Nutzer, die sich stark auf die Chatbots verlassen haben, möglicherweise nicht ganz zufriedenstellen - was die Notwendigkeit der Entscheidung des Unternehmens unterstreicht, diesen Zugang zu beschränken.

Die Reaktionen auf dem Character.AI Subreddit sind geteilt. Einige Teenager äußerten sich enttäuscht, stimmten aber letztlich mit der Politik überein.

"Ich bin wirklich verärgert über das Verbot, aber auch erleichtert, weil ich mich endlich auf andere Dinge konzentrieren kann und vielleicht meine Sucht durchbrechen kann", schrieb ein Nutzer, der sich als Teenager zu erkennen gab.

Ein anderer kommentierte: "Als jemand unter 18 Jahren ist das enttäuschend, aber es ist auch gerechtfertigt, weil Leute in meinem Alter leicht süchtig werden können."

Kommen Sie auf die Warteliste für die Disrupt 2026

Setzen Sie sich auf die Warteliste für die Disrupt 2026 und erhalten Sie bevorzugten Zugang, wenn die Early Bird-Tickets in den Verkauf gehen. An früheren Disrupt-Veranstaltungen nahmen führende Vertreter von Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla teil. Sie sind Teil von über 250 Branchenexperten, die mehr als 200 Sessions leiten, um Ihr Wachstum zu beschleunigen und Ihren Wettbewerbsvorteil zu verbessern. Außerdem haben Sie die Möglichkeit, mit Hunderten von bahnbrechenden Start-ups aus allen Branchen in Kontakt zu treten.

Kommen Sie auf die Warteliste für die Disrupt 2026

Tragen Sie sich in die Warteliste für die Disrupt 2026 ein und erhalten Sie bevorzugten Zugang, wenn die Early Bird-Tickets in den Verkauf gehen. An früheren Disrupt-Veranstaltungen nahmen führende Vertreter von Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla teil. Sie sind Teil von über 250 Branchenexperten, die mehr als 200 Sessions leiten, um Ihr Wachstum zu beschleunigen und Ihren Wettbewerbsvorteil zu verbessern. Außerdem haben Sie die Möglichkeit, mit Hunderten von bahnbrechenden Start-ups aus allen Branchen in Kontakt zu treten.

Es bleibt abzuwarten, wie Teenager die Stories-Funktion annehmen werden, aber das Format birgt weniger psychologische Risiken als offene Rollenspiele mit Chatbots. Im Gegensatz zu Chatbots, die Nutzer in unbegrenzte Unterhaltungen verwickeln und jederzeit unaufgefordert Nachrichten senden können, bieten Stories ein begrenzteres Erlebnis.

Die Entscheidung von Character.AI, eine Altersbeschränkung einzuführen, kommt zu dem Zeitpunkt, als Kalifornien der erste US-Bundesstaat wurde, der KI-Begleiter reguliert. Auf nationaler Ebene haben die Senatoren Josh Hawley (R-MO) und Richard Blumenthal (D-CT) einen Gesetzesentwurf vorgelegt, der KI-Begleiter für Minderjährige vollständig verbieten soll.

"Ich hoffe wirklich, dass unsere Aktion einen Industriestandard setzt und zeigt, dass Chats mit offenem Ende wahrscheinlich nicht das geeignete Produkt für Nutzer unter 18 Jahren sind", sagte Karandeep Anand, CEO von Character.AI, letzten Monat gegenüber TechCrunch.