Китай будет регулировать работу чат-ботов с искусственным интеллектом, чтобы предотвратить зависимость пользователей

Китайский регулятор интернета предложил новый проект правил, которые обяжут чат-ботов с искусственным интеллектом отслеживать эмоциональное состояние пользователей и вмешиваться в случае появления признаков зависимости. Это самый решительный шаг в области регулирования в ответ на растущую обеспокоенность психологическими рисками отношений, основанных на искусственном интеллекте.

Проект, разработанный Управлением киберпространства Китая, фокусируется на системах искусственного интеллекта, предназначенных для имитации человеческих личностей и укрепления эмоциональных связей с помощью текста, изображений или голоса. Компании будут обязаны предупреждать пользователей о чрезмерном использовании, оценивать уровень эмоциональной зависимости и вмешиваться, когда пользователи демонстрируют сильные эмоции или признаки зависимости.

Платформы должны уведомлять пользователей о том, что они взаимодействуют с ИИ, при входе в систему и не реже одного раза в два часа после этого — или чаще, если система выявляет проблематичную привязанность. Правила также возлагают на поставщиков ответственность за безопасность продукта на протяжении всего жизненного цикла, включая аудит алгоритмов, безопасность данных и защиту конфиденциальности.

Этот шаг является своевременным. За последние шесть месяцев число пользователей генеративного ИИ в Китае выросло до 515 миллионов, что сопровождается ростом обеспокоенности по поводу влияния ИИ-компаньонов на психическое здоровье. Исследование, опубликованное в журнале Frontiers in Psychology, показывает, что 45,8 % китайских студентов недавно использовали чат-ботов с ИИ, и эти пользователи сообщают о значительно более высоком уровне депрессии, чем те, кто не использует ИИ.

Калифорния опередила Китай

Китай не первый, кто ввел правила в отношении ИИ-компаньонов. Калифорния стала пионером в принятии аналогичного законодательства в США в октябре, когда губернатор Гэвин Ньюсом подписал закон SB 243. Законопроект, вступающий в силу 1 января 2026 года, обязывает платформы каждые три часа напоминать несовершеннолетним, что они общаются с ИИ, и делать перерывы.

Закон SB 243 также вводит обязательную проверку возраста, запрещает чат-ботам выдавать себя за поставщиков медицинских услуг и блокирует доступ несовершеннолетних к контенту сексуального характера, созданному искусственным интеллектом. Закон дает право физическим лицам подавать иски против нарушающих его компаний, занимающихся искусственным интеллектом, с требованием возмещения ущерба в размере до 1000 долларов за каждый случай плюс судебные издержки.

Чем отличаются ИИ-компаньоны

Проблема выходит за рамки простого времени, проводимого за экраном. Исследование MIT Media Lab, проведенное в марте 2025 года, показало, что чат-боты с ИИ могут вызывать больше привыкания, чем социальные сети, поскольку они учатся и постоянно предоставляют пользователям то, что они хотят услышать. Более интенсивное ежедневное использование было связано с усилением чувства одиночества, зависимости и поведением, которое исследователи назвали «проблематичным использованием».

Клинически признанные предупреждающие признаки включают марафонские сеансы, мешающие сну, эмоциональное расстройство при ограничении доступа, предпочтение общения с чат-ботом реальному человеческому контакту и антропоморфизация ИИ — вера в то, что он обладает человеческими эмоциями, и отношение к нему как к настоящему доверенному лицу или партнеру.

Проект правил Китая направлен на устранение этих рисков на уровне платформы, а не на повышение осведомленности отдельных пользователей. Обязав провайдеров отслеживать эмоциональное состояние и зависимость, ответственность перекладывается на компании, разрабатывающие эти системы. Эта стратегия выходит за рамки предыдущих правил в отношении ИИ, которые были сосредоточены в основном на контроле контента и безопасности данных.

Проект также запрещает ИИ-компаньонам генерировать контент, который угрожает национальной безопасности, распространяет дезинформацию или поощряет насилие или непристойность, что отражает существующие китайские правила в отношении генеративного ИИ.

Проблема обеспечения соблюдения

Хотя требование к компаниям выявлять и устранять зависимость звучит ясно в политике, его реализация гораздо сложнее. Определение таких понятий, как «чрезмерное использование» или «экстремальные эмоции», практичным и применимым образом станет вызовом как для регулирующих органов, так и для компаний.

Слишком чувствительные системы могут раздражать пользователей, участвующих в безобидных длительных чатах. Слишком либеральные настройки могут привести к тому, что пользователи из группы риска останутся незамеченными. Обязательное двухчасовое напоминание — это простой инструмент, но обязанность действовать «при обнаружении признаков» оставляет значительное пространство для интерпретации.

Разработчики мер безопасности ИИ сталкивались с подобными препятствиями. Фильтры контента часто неточны, а добавление психологического мониторинга вносит дополнительную сложность. Оценка того, развивает ли пользователь нездоровую привязанность, требует вывода психического состояния из текста — способности, в которой современный ИИ не обладает достаточной надежностью.

Проект сейчас открыт для общественного обсуждения, а окончательные правила ожидаются в 2026 году. Если он будет принят в предложенном виде, Китай создаст самую подробную в мире нормативную базу для продуктов-компаньонов ИИ.

Глобальный расчет

Одновременные регуляторные меры в Китае и Калифорнии сигнализируют о том, что опасения по поводу зависимости от ИИ-компаньонов стали актуальной глобальной проблемой, выходящей за рамки политических систем.

Для компаний, занимающихся ИИ, все ясно: фаза нерегулирования ИИ-компаньонов подходит к концу. Будь то административные правила Китая, гражданские иски Калифорнии или будущие федеральные законы США, платформы будут обязаны защищать пользователей от потенциального вреда, причиняемого их собственными продуктами.

Главный вопрос теперь заключается не в том, будет ли введено регулирование, а в том, будут ли предложенные меры защиты эффективными. Китайский метод обязательного мониторинга и вмешательства может столкнуться со значительными практическими препятствиями.

Очевидно, что рынок ИИ-компаньонов стал слишком обширным и влиятельным, чтобы правительства могли его игнорировать. Чат-боты, к которым люди испытывают эмоциональную привязанность, больше не являются новинкой — это продукты, которые используют сотни миллионов людей, и есть подтвержденные случаи серьезного вреда. Регулирование, каким бы несовершенным оно ни было, было неизбежным. Сейчас дискуссия сосредоточена на том, могут ли эти конкретные правила защитить уязвимых пользователей, не мешая развитию технологии, которую многие считают действительно полезной.