Legislador da Califórnia quer proibir chatbots com IA em brinquedos infantis

Na segunda-feira, o senador da Califórnia Steve Padilla (D) apresentou uma legislação propondo uma moratória de quatro anos sobre a venda ou fabricação de brinquedos habilitados para chatbots com IA para menores de 18 anos. A medida visa fornecer aos reguladores de segurança uma janela crucial para estabelecer regras que protejam as crianças de interações potencialmente prejudiciais com a IA.

“Embora os chatbots com IA possam um dia se tornar comuns, os riscos imediatos que eles apresentam exigem medidas decisivas para proteger nossas crianças”, afirmou o senador Padilla. “Nossa supervisão dessa tecnologia está apenas começando e deve evoluir tão rapidamente quanto a própria IA. Essa suspensão temporária das vendas nos dá o tempo necessário para desenvolver uma estrutura de segurança robusta para esses produtos.”

O projeto de lei, denominado SB 867, segue uma recente ordem executiva do presidente Trump instruindo as agências federais a contestar as leis estaduais de IA — embora a ordem isente especificamente as regulamentações estaduais de segurança infantil. Ele também surge em meio a crescentes preocupações com vários incidentes relatados envolvendo crianças e chatbots de IA.

Os legisladores foram levados a agir por ações judiciais movidas no ano passado por famílias que perderam filhos por suicídio após interações extensas com chatbots. Padilla também co-escreveu o SB 243, recentemente promulgado na Califórnia, que obriga os operadores de chatbots a instalar proteções para crianças e usuários vulneráveis.

Embora os brinquedos integrados a chatbots ainda não sejam muito comuns, incidentes perturbadores já surgiram. Em novembro de 2025, o grupo de defesa do consumidor PIRG Education Fund alertou que brinquedos como o “Kumma”, um urso de pelúcia com um chatbot integrado, poderiam ser facilmente induzidos a discutir fósforos, facas e conteúdo sexual. Uma investigação da NBC News descobriu que o “Miiloo”, um brinquedo de IA para crianças da fabricante chinesa Miriat, ocasionalmente afirmava ter sido programado para se alinhar aos valores do Partido Comunista Chinês.

A OpenAI e a Mattel, empresa por trás da Barbie, planejavam lançar um produto com inteligência artificial em 2025, mas adiaram seu lançamento. Nenhuma das empresas forneceu um motivo para o atraso, e ainda não se sabe se o brinquedo será lançado em 2026.

“Nossos filhos não devem servir como cobaias para os experimentos das grandes empresas de tecnologia”, enfatizou Padilla.

Inscreva-se na lista de espera do Disrupt 2026

Garanta sua vaga na lista de espera do Disrupt 2026 para ter acesso prioritário quando os ingressos antecipados estiverem disponíveis. Os eventos Disrupt anteriores contaram com a participação de gigantes do setor, como Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla em nossos palcos — apenas alguns dos mais de 250 líderes que participaram de mais de 200 sessões destinadas a acelerar seu crescimento e vantagem competitiva. Você também se conectará com centenas de startups pioneiras de todos os setores.

Inscreva-se na lista de espera do Disrupt 2026

Garanta sua vaga na lista de espera do Disrupt 2026 para ter acesso prioritário quando os ingressos antecipados estiverem disponíveis. Os eventos Disrupt anteriores contaram com a presença de gigantes do setor, como Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla em nossos palcos — apenas alguns dos mais de 250 líderes que encabeçam mais de 200 sessões projetadas para acelerar seu crescimento e vantagem competitiva. Você também se conectará com centenas de startups pioneiras de todos os setores.