Законодатель из Калифорнии хочет запретить использование чат-ботов с искусственным интеллектом в детских игрушках

В понедельник сенатор от Калифорнии Стив Падилья (Д) представил законопроект, предлагающий четырехлетний мораторий на продажу или производство игрушек с искусственным интеллектом для детей до 18 лет. Эта мера направлена на то, чтобы предоставить органам безопасности важную возможность для установления правил, защищающих детей от потенциально опасного взаимодействия с искусственным интеллектом.

«Хотя чат-боты с искусственным интеллектом могут однажды стать обычным явлением, непосредственные риски, которые они представляют, требуют решительных мер для защиты наших детей», — заявил сенатор Падилья. «Наш надзор за этой технологией только начинается и должен развиваться так же быстро, как и сам искусственный интеллект. Это временное приостановление продаж дает нам необходимое время для разработки надежной системы безопасности для этих продуктов».

Законопроект, обозначенный как SB 867, следует за недавним указом президента Трампа, предписывающим федеральным агентствам оспаривать законы штатов об ИИ, хотя указ специально исключает государственные правила безопасности детей. Он также появляется на фоне растущей обеспокоенности по поводу нескольких зарегистрированных инцидентов с участием детей и чат-ботов с ИИ.

Законодатели были вынуждены принять меры в связи с исками, поданными в течение последнего года семьями, которые потеряли детей в результате самоубийства после длительного общения с чат-ботами. Падилья также является соавтором недавно принятого в Калифорнии закона SB 243, который обязывает операторов чат-ботов устанавливать средства защиты для детей и уязвимых пользователей.

Хотя игрушки с интегрированными чат-ботами еще не получили широкого распространения, уже произошли тревожные инциденты. В ноябре 2025 года группа по защите прав потребителей PIRG Education Fund предупредила, что игрушки, такие как «Kumma», плюшевый медведь со встроенным чат-ботом, можно легко подтолкнуть к обсуждению спичек, ножей и сексуального контента. Расследование NBC News показало, что «Miiloo», игрушка с искусственным интеллектом для детей от китайского производителя Miriat, иногда заявляла, что она запрограммирована в соответствии с ценностями Коммунистической партии Китая.

OpenAI и Mattel, компания, стоящая за Barbie, планировали выпустить продукт на базе искусственного интеллекта в 2025 году, но отложили его выпуск. Ни одна из компаний не назвала причину задержки, и остается неясным, будет ли игрушка представлена в 2026 году.

«Наши дети не должны служить подопытными для экспериментов крупных технологических компаний», — подчеркнул Падилья.

Присоединяйтесь к списку ожидания Disrupt 2026

Зарезервируйте себе место в списке ожидания Disrupt 2026, чтобы получить приоритетный доступ, когда появятся билеты по ранней продаже. На предыдущих мероприятиях Disrupt на наших сценах выступали такие гиганты индустрии, как Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла — и это лишь некоторые из более чем 250 лидеров, которые выступили на более чем 200 сессиях, призванных ускорить ваш рост и усилить конкурентные преимущества. Вы также сможете пообщаться с сотнями передовых стартапов из всех отраслей.

Присоединяйтесь к списку ожидания Disrupt 2026

Зарезервируйте себе место в списке ожидания Disrupt 2026, чтобы получить приоритетный доступ, когда появятся билеты по ранней продаже. На предыдущих мероприятиях Disrupt на наших сценах выступили такие гиганты индустрии, как Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла — и это лишь некоторые из более чем 250 лидеров, которые выступят на более чем 200 сессиях, призванных ускорить ваш рост и укрепить конкурентные преимущества. Вы также сможете пообщаться с сотнями передовых стартапов из всех отраслей.