Character AI lança 'Stories' para um bate-papo mais seguro com crianças

A Character.AI anunciou na terça-feira um novo recurso chamado "Stories", um formato que permite aos usuários criar ficção interativa com seus personagens favoritos. Esse lançamento coincide com o fato de a empresa restringir o acesso a seus chatbots para usuários menores de 18 anos, tornando o Stories uma nova alternativa controlada.

Essa medida responde às crescentes preocupações sobre os riscos à saúde mental representados pelos chatbots de IA que operam 24 horas por dia, 7 dias por semana e podem iniciar conversas. Empresas, incluindo a OpenAI e a Character.AI, enfrentaram processos judiciais alegando que suas plataformas contribuíram para o suicídio de usuários. Nas últimas semanas, a Character.AI vem limitando progressivamente o acesso de menores e, a partir de terça-feira, os usuários menores de idade não poderão mais interagir com seus personagens de IA no bate-papo.

"As histórias oferecem um caminho guiado para criar e explorar a ficção, ao contrário do bate-papo aberto", declarou a empresa em um post no blog. "Estamos oferecendo isso junto com nossos outros recursos multimodais, permitindo que os adolescentes continuem a se envolver com seus personagens favoritos em um ambiente que prioriza a segurança."

A ficção interativa cresceu significativamente em popularidade, tornando lógica a mudança estratégica da Character.AI. No entanto, ela pode não satisfazer totalmente os usuários que desenvolveram uma forte dependência dos chatbots - o que ressalta a necessidade da decisão da empresa de limitar esse acesso.

As reações no subreddit Character.AI estão divididas. Alguns adolescentes expressaram desapontamento, mas acabaram concordando com a política.

"Estou muito chateado com a proibição, mas também aliviado porque finalmente posso me concentrar em outras coisas e talvez acabar com meu vício", escreveu um usuário que se identificou como adolescente.

Outro comentou: "Como alguém com menos de 18 anos, isso é decepcionante, mas também é justificável porque as pessoas da minha idade podem facilmente ficar viciadas nisso".

Entre na lista de espera do Disrupt 2026

Entre na lista de espera do Disrupt 2026 para ter acesso prioritário quando os ingressos antecipados forem colocados à venda. Os eventos anteriores do Disrupt contaram com a participação de líderes do Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla. Eles fazem parte dos mais de 250 especialistas do setor que conduzem mais de 200 sessões criadas para acelerar seu crescimento e aprimorar sua vantagem competitiva. Você também terá a chance de se conectar com centenas de startups pioneiras de todos os setores.

Entre na lista de espera do Disrupt 2026

Faça parte da lista de espera do Disrupt 2026 para ter acesso prioritário quando os ingressos antecipados forem colocados à venda. Os eventos anteriores do Disrupt contaram com a participação de líderes do Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla. Eles fazem parte dos mais de 250 especialistas do setor que conduzem mais de 200 sessões criadas para acelerar seu crescimento e aprimorar sua vantagem competitiva. Você também terá a chance de se conectar com centenas de startups pioneiras de todos os setores.

Ainda não se sabe como os adolescentes adotarão o recurso Stories, mas o formato traz menos riscos psicológicos do que o roleplay aberto com chatbots. Ao contrário dos chatbots, que envolvem os usuários em conversas ilimitadas e podem enviar mensagens não solicitadas a qualquer momento, os Stories oferecem uma experiência mais contida.

A decisão da Character.AI de implementar restrições de idade ocorre no momento em que a Califórnia se tornou o primeiro estado dos EUA a regulamentar os acompanhantes de IA. Em nível nacional, os senadores Josh Hawley (R-MO) e Richard Blumenthal (D-CT) propuseram um projeto de lei para proibir completamente os acompanhantes de IA para menores de idade.

"Espero sinceramente que nossa ação estabeleça um padrão para o setor, mostrando que bate-papos abertos provavelmente não são o produto adequado para usuários menores de 18 anos", disse Karandeep Anand, CEO da Character.AI, ao TechCrunch no mês passado.