Kalifornischer Gesetzgeber will KI-Chatbots in Kinderspielzeug verbieten

Am Montag legte der kalifornische Senator Steve Padilla (D) einen Gesetzentwurf vor, der ein vierjähriges Moratorium für den Verkauf oder die Herstellung von KI-Chatbot-fähigen Spielzeugen für Minderjährige unter 18 Jahren vorsieht. Die Maßnahme soll den Sicherheitsbehörden einen entscheidenden Spielraum verschaffen, um Regeln zum Schutz von Kindern vor potenziell schädlichen KI-Interaktionen festzulegen.

„Auch wenn KI-Chatbots eines Tages alltäglich sein mögen, erfordern die unmittelbaren Risiken, die sie mit sich bringen, entschlossene Maßnahmen zum Schutz unserer Kinder“, erklärte Senator Padilla. „Unsere Aufsicht über diese Technologie steht noch am Anfang und muss sich ebenso schnell weiterentwickeln wie die KI selbst. Diese vorübergehende Verkaufssperre verschafft uns die notwendige Zeit, um ein robustes Sicherheitsframework für diese Produkte zu entwickeln.“

Der Gesetzentwurf mit der Bezeichnung SB 867 folgt auf eine kürzlich erlassene Verordnung von Präsident Trump, in der er die Bundesbehörden anweist, gegen staatliche KI-Gesetze vorzugehen – wobei die Verordnung ausdrücklich staatliche Vorschriften zur Kindersicherheit ausnimmt. Er kommt auch inmitten wachsender Besorgnis über mehrere gemeldete Vorfälle mit Kindern und KI-Chatbots.

Der Gesetzgeber wurde durch Klagen von Familien zum Handeln veranlasst, die im vergangenen Jahr ihre Kinder durch Selbstmord verloren haben, nachdem diese ausgiebig mit Chatbots interagiert hatten. Padilla war auch Mitverfasser des kürzlich in Kalifornien verabschiedeten Gesetzes SB 243, das Chatbot-Betreiber verpflichtet, Schutzmaßnahmen für Kinder und schutzbedürftige Nutzer zu installieren.

Obwohl Spielzeug mit integrierten Chatbots noch nicht weit verbreitet ist, sind bereits beunruhigende Vorfälle bekannt geworden. Im November 2025 warnte die Verbraucherorganisation PIRG Education Fund, dass Spielzeuge wie „Kumma”, ein Plüschbär mit integriertem Chatbot, leicht dazu gebracht werden könnten, über Feuerzeug, Messer und sexuelle Inhalte zu sprechen. Eine Untersuchung von NBC News ergab, dass „Miiloo”, ein KI-Spielzeug für Kinder des chinesischen Herstellers Miriat, gelegentlich angab, es sei so programmiert, dass es den Werten der Kommunistischen Partei Chinas entspricht.

OpenAI und Mattel, das Unternehmen hinter Barbie, hatten geplant, 2025 ein KI-gestütztes Produkt auf den Markt zu bringen, aber die Veröffentlichung verschoben. Keines der beiden Unternehmen gab einen Grund für die Verzögerung an, und es bleibt ungewiss, ob das Spielzeug 2026 auf den Markt kommen wird.

„Unsere Kinder dürfen nicht als Versuchskaninchen für die Experimente der Big Tech dienen”, betonte Padilla.

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Sichern Sie sich Ihren Platz auf der Warteliste für Disrupt 2026, um vorrangigen Zugang zu erhalten, sobald Early-Bird-Tickets verfügbar sind. Bei früheren Disrupt-Veranstaltungen waren Branchenriesen wie Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla auf unseren Bühnen vertreten – nur einige der über 250 Führungskräfte, die in über 200 Sessions auftraten, um Ihr Wachstum und Ihren Wettbewerbsvorteil zu beschleunigen. Außerdem können Sie Kontakte zu Hunderten von wegweisenden Start-ups aus allen Branchen knüpfen.

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Sichern Sie sich Ihren Platz auf der Warteliste für Disrupt 2026, um bevorzugten Zugang zu erhalten, sobald Early-Bird-Tickets verfügbar sind. Bei früheren Disrupt-Veranstaltungen waren Branchenriesen wie Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla auf unseren Bühnen vertreten – nur einige der über 250 Führungskräfte, die in über 200 Vorträgen Ihr Wachstum und Ihren Wettbewerbsvorteil beschleunigen werden. Außerdem können Sie sich mit Hunderten von wegweisenden Start-ups aus allen Branchen vernetzen.