A Meta restringe o acesso de adolescentes a personagens de IA antes da atualização

A Meta anunciou uma suspensão global do acesso de adolescentes às suas personagens de IA em todos os seus aplicativos. A empresa esclareceu ao TechCrunch que isso não significa o abandono do recurso, mas sim um passo rumo ao desenvolvimento de uma versão atualizada projetada especificamente para usuários mais jovens.

Essa decisão surge poucos dias antes do início de um julgamento no Novo México, onde a Meta enfrenta acusações de não proteger crianças contra a exploração sexual em suas plataformas. Uma reportagem recente da Wired também destacou os esforços da Meta para limitar a divulgação de informações legais relacionadas ao impacto das redes sociais na saúde mental dos adolescentes.

Em outubro passado, a Meta apresentou uma prévia dos controles parentais para seus personagens de IA, permitindo que os responsáveis monitorassem tópicos e bloqueassem o acesso a personagens específicos, com a opção de desativar totalmente os chats. Embora esses recursos estivessem previstos para lançamento este ano, a Meta está agora desativando temporariamente todo o acesso a personagens de IA para adolescentes enquanto trabalha na nova versão.

A empresa afirmou que o feedback dos pais, que buscavam maior compreensão e controle sobre as interações de seus filhos adolescentes com a IA, influenciou diretamente essa mudança de política.

A Meta vem reforçando progressivamente as restrições à exposição de adolescentes a conteúdos de IA. Também em outubro, ela introduziu controles parentais no Instagram, inspirados nas classificações de filmes PG-13, para personalizar a experiência dos adolescentes com a IA, restringindo o acesso a temas como violência extrema, nudez e uso explícito de drogas.

“A partir das próximas semanas, os adolescentes não poderão mais acessar personagens de IA em nossos aplicativos até que a experiência atualizada esteja pronta. Isso se aplicará a qualquer pessoa que tenha nos informado uma data de nascimento de adolescente, bem como a pessoas que afirmam ser adultas, mas que suspeitamos serem adolescentes com base em nossa tecnologia de previsão de idade”, disse a empresa em uma postagem atualizada no blog.

A Meta acrescentou que os próximos personagens de IA incluirão controles parentais integrados. Esses novos personagens foram projetados para fornecer respostas adequadas à idade, com foco em temas apropriados, como educação, esportes e hobbies.

As plataformas de mídia social estão enfrentando intenso escrutínio regulatório. Além do caso do Novo México, a Meta se prepara para outro julgamento na próxima semana, no qual é acusada de contribuir para o vício em mídias sociais. Espera-se que o CEO Mark Zuckerberg preste depoimento assim que o julgamento tiver início.

A pressão se estende além das redes sociais às empresas de IA, que também ajustaram seus serviços para usuários mais jovens após processos judiciais. Em outubro, a Character.AI, que permite aos usuários conversar com vários avatares de IA, baniu conversas abertas com chatbots para usuários menores de 18 anos, anunciando posteriormente planos para histórias interativas para crianças. Recentemente, a OpenAI implementou novas regras de segurança para adolescentes no ChatGPT e começou a usar a previsão de idade para aplicar restrições de conteúdo.

Correção: esta publicação foi atualizada para esclarecer que a nova versão dos personagens de IA estará acessível a todos, não apenas aos adolescentes, quando for lançada. Ela incluirá controles parentais.