Un législateur californien cherche à interdire les chatbots IA dans les jouets pour enfants

Lundi, le sénateur californien Steve Padilla (D) a présenté un projet de loi proposant un moratoire de quatre ans sur la vente ou la fabrication de jouets équipés de chatbots IA destinés aux mineurs de moins de 18 ans. Cette mesure vise à donner aux autorités de réglementation en matière de sécurité un délai crucial pour établir des règles protégeant les enfants contre les interactions potentiellement dangereuses avec l'IA.

« Même si les chatbots IA pourraient un jour devenir monnaie courante, les risques immédiats qu'ils présentent exigent des mesures décisives pour protéger nos enfants », a déclaré le sénateur Padilla. « Notre surveillance de cette technologie n'en est qu'à ses débuts et doit évoluer aussi rapidement que l'IA elle-même. Ce moratoire temporaire sur les ventes nous donne le temps nécessaire pour développer un cadre de sécurité solide pour ces produits. »

Le projet de loi, intitulé SB 867, fait suite à un récent décret du président Trump enjoignant aux agences fédérales de contester les lois des États sur l'IA, bien que ce décret exempte spécifiquement les réglementations des États en matière de sécurité des enfants. Il intervient également dans un contexte d'inquiétudes croissantes liées à plusieurs incidents signalés impliquant des enfants et des chatbots IA.

Les législateurs ont été incités à agir par les poursuites judiciaires intentées au cours de l'année dernière par des familles qui ont perdu des enfants qui se sont suicidés après avoir longuement interagi avec des chatbots. M. Padilla a également co-rédigé le projet de loi SB 243 récemment adopté en Californie, qui oblige les opérateurs de chatbots à mettre en place des protections pour les enfants et les utilisateurs vulnérables.

Bien que les jouets intégrant des chatbots ne soient pas encore très répandus, des incidents inquiétants ont déjà été signalés. En novembre 2025, le groupe de défense des consommateurs PIRG Education Fund a averti que des jouets tels que « Kumma », un ours en peluche équipé d'un chatbot intégré, pouvaient facilement être amenés à discuter de matches, de couteaux et de contenus à caractère sexuel. Une enquête de NBC News a révélé que « Miiloo », un jouet IA pour enfants du fabricant chinois Miriat, déclarait parfois qu'il était programmé pour s'aligner sur les valeurs du Parti communiste chinois.

OpenAI et Mattel, la société à l'origine de Barbie, avaient prévu de lancer un produit alimenté par l'IA en 2025, mais ont reporté sa sortie. Aucune des deux entreprises n'a fourni de raison pour ce retard, et il n'est pas certain que le jouet fasse ses débuts en 2026.

« Nos enfants ne doivent pas servir de cobayes pour les expériences des géants de la technologie », a souligné M. Padilla.

Inscrivez-vous sur la liste d'attente Disrupt 2026

Réservez votre place sur la liste d'attente Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets en prévente seront disponibles. Les précédentes éditions de Disrupt ont accueilli sur scène des géants du secteur tels que Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla, pour ne citer que quelques-uns des plus de 250 leaders qui ont animé plus de 200 sessions conçues pour accélérer votre croissance et renforcer votre avantage concurrentiel. Vous pourrez également entrer en contact avec des centaines de start-ups pionnières issues de tous les secteurs.

Inscrivez-vous sur la liste d'attente Disrupt 2026

Réservez votre place sur la liste d'attente Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets en prévente seront disponibles. Les précédentes éditions de Disrupt ont accueilli sur nos scènes des géants du secteur tels que Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla, pour ne citer que quelques-uns des plus de 250 leaders qui ont animé plus de 200 sessions conçues pour accélérer votre croissance et renforcer votre avantage concurrentiel. Vous pourrez également entrer en contact avec des centaines de start-ups pionnières issues de tous les secteurs.