Правила Китая в отношении искусственного интеллекта: настоящая цель Пекина

Концепция ИИ-компаньона может показаться дистопической, однако она стала одной из постоянных тем в более широких дискуссиях о рисках генеративного ИИ. По сути, речь идет о диалоговом агенте, предназначенном для поддержания постоянных личных отношений с пользователем, наделенном памятью и устойчивым образом, что обеспечивает связность во всех сеансах взаимодействия.

Такая конструкция естественным образом вызывает эмоциональную привязанность, и это стало ключевым аргументом в пользу таких систем. В большинстве случаев использование таких систем сводится к неформальной ролевой игре или просто к желанию иметь что-то, что вас помнит; на границах эта категория стирается с обычными помощниками. Однако по мере того, как все больше людей в Китае начали рассматривать этих ботов как своего рода эмоциональных компаньонов, Пекин пришел к выводу, что данная практика требует регулирования.

Китайские правила, касающиеся ИИ-компаньонов, вступают в силу 15 июля, и за несколько дней до этого срока два самых популярных в стране потребительских приложения с ИИ незаметно отключили свои основные функции. Приложение Doubao от ByteDance сообщило пользователям, что его функция агента будет отключена 15 июля в связи с «корректировкой функционала продукта», в то время как Qwen от Alibaba заявило, что его агенты, имитирующие поведение человека, а также созданные пользователями агенты, прекратят работу 10 июля, а остальные услуги агентов — через пять дней после этого.

На первый взгляд может показаться, что Китай закрывает ИИ-агентов. Но это не так. Нормативные акты проводят разграничение между агентами, выполняющими задачи, и теми, которые обеспечивают общение, и Пекин нацелился исключительно на последних.

Регулирующим документом являются «Временные меры по регулированию антропоморфных интерактивных услуг на базе искусственного интеллекта», совместно изданные 10 апреля 2026 года Администрацией киберпространства Китая и четырьмя партнерскими ведомствами: Национальной комиссией по развитию и реформам, Министерством промышленности и информационных технологий, Министерством общественной безопасности и Государственной администрацией по регулированию рынка.

Эти меры охватывают услуги, которые имитируют черты человеческой личности, модели мышления и стили общения для обеспечения постоянного эмоционального взаимодействия. Боты для обслуживания клиентов, системы «вопрос-ответ», помощники на рабочем месте, а также образовательные или исследовательские инструменты исключаются из сферы действия этих мер, при условии что они не вызывают длительного эмоционального вовлечения. Это первая в стране специализированная нормативная база такого рода, разработанная на основе проекта, вынесенного на общественное обсуждение в конце прошлого года.

Проблема дизайна, а не запрет

Doubao и Qwen не нарушили прямой запрет. Вместо этого они столкнулись с конфликтом в области проектирования. Нормативные акты требуют, чтобы сервисы-компаньоны внедряли системы борьбы с зависимостью, отправляли обязательные уведомления об использовании и предоставляли механизмы мгновенного выхода, а также обеспечивали обнаружение нездоровой зависимости в режиме реального времени.

Эти требования противоречат принципам работы ботов, предназначенных для запоминания пользователей, обеспечения преемственности между сеансами и поддержания постоянных отношений. Вместо того чтобы модифицировать эту функцию, ByteDance решила отключить её. Похоже, что Alibaba сделала аналогичный выбор. В настоящее время ByteDance перенаправляет пользователей Doubao в Maoxiang — отдельное приложение, где они могут снова создавать ботов; Alibaba пока не объявила о каком-либо аналогичном пути миграции для Qwen. Yuanbao от Tencent удалил аналогичную функцию ещё в июне.

Пострадали от этого пользователи. Многие открыто выразили своё недовольство в Weibo; один из пользователей охарактеризовал ботов как источник долгосрочной эмоциональной поддержки и посетовал на сложность экспорта истории чатов. Doubao позволяет пользователям просматривать свои настройки и переписку в режиме «только для чтения» до 15 октября этого года, после чего данные будут обработаны в соответствии с политикой конфиденциальности и станут невозвратными. Пользователи Qwen не получили аналогичного льготного периода, и их данные о ботах планируется удалить навсегда.

Что подразумевают китайские правила в отношении ИИ-помощников

Содержание правил более многогранно, чем можно было бы предположить, исходя из простого «жесткого подавления». Провайдерам запрещено предлагать услуги виртуальных компаньонов или виртуальных членов семьи несовершеннолетним, и они обязаны получать согласие родителей перед оказанием услуг пользователям младше 14 лет. Они обязаны создавать специальные «режимы для несовершеннолетних» с ограничениями по времени использования, напоминаниями о необходимости взаимодействия в реальном мире и расширенными функциями родительского контроля.

Они также обязаны выявлять пользователей, находящихся в состоянии острого дистресса, и вмешиваться, если кто-то демонстрирует признаки самоповреждения, суицидального поведения или серьезных финансовых потерь, передавая информацию об этом назначенным опекунам или контактным лицам для экстренных случаев. Сознательное формирование эмоциональной зависимости или пристрастия, а также использование эмоциональной манипуляции с целью побуждения к необоснованным решениям прямо запрещены.

Требования к соблюдению норм являются существенными. Сервисы, которые внедряют антропоморфные функции или превышают пороговые значения в один миллион зарегистрированных пользователей или 100 000 активных пользователей в месяц, должны проводить оценки безопасности, охватывающие восемь областей — от обработки обучающих данных до защиты несовершеннолетних, — и представлять отчеты провинциальным регулирующим органам. Магазины приложений должны проверять соответствие требованиям и удалять продукты, не соответствующие им.

На бумаге это более всеобъемлющий набор мер по защите пользователей, чем тот, который пока не вступил в силу ни в ЕС, ни в Федеральной торговой комиссии США, ни в рамках калифорнийского закона SB 243.

Что остаётся нерешённым в этих правилах

Не менее важно то, что эти меры не затрагивают. В них не установлено никаких технических критериев, определяющих, что именно считается эмоциональным взаимодействием, и именно эта «серая зона» стала причиной того, что платформы предпочли удалить целые функции, нежели рисковать оказаться не на той стороне закона. Эти меры сочетают в себе реальные обязательства по обеспечению безопасности с положениями о контроле над контентом и национальной безопасности, которые служат интересам государства, а не пользователей — такой пакет мер ни один другой регулятор не принял бы в полном объеме.

Они также оставляют нерешенным вопрос о том, как распределяется ответственность между операторами платформ и поставщиками моделей, когда нарушение происходит из-за результатов работы модели, и не предоставляют пользователям права на экспорт своих данных. Ситуация с обеспечением соблюдения норм подчеркивает эту проблему. 26 июня шанхайский регулятор интернета заявил, что удалил более 14 000 несоответствующих требованиям ИИ-агентов, сославшись на выдачу себя за официальные организации, вульгарные ролевые игры и несанкционированный сбор персональных данных.

Правильный ли это путь — зависит от того, какую часть свода правил вы рассматриваете. Часть, посвящённая безопасности, касается задокументированных видов вреда, которые в других странах в основном не регулируются: от привязанности подростков к чат-ботам до приложений-компаньонов, собирающих интимные данные. Официальная интерпретация Китая обращается за поддержкой к зарубежному опыту, ссылаясь на судебные иски против Character.AI в связи с психологическим вредом подросткам, расследования Федеральной торговой комиссии (FTC) в отношении сервисов «компаньонов» и меры, принятые в Европе против Replika.

Часть, касающаяся контроля, дает Пекину рычаг влияния на то, что могут говорить эти системы, прикрываясь той же риторикой защиты пользователей. Оба аспекта реальны, и правительства, наблюдающие за этим экспериментом, должны будут решить, какие части они готовы принять. Пан Хелин, член экспертного комитета Министерства промышленности и информационных технологий (MIIT), четко изложил официальную позицию газете South China Morning Post, заявив, что «нынешние агенты еще не достигли зрелости», и сформулировал политику в ключе безопасности и стандартизации.

Пока что компании выбрали самый безопасный из доступных путей — отключить соответствующие компоненты и позже определить, как должна выглядеть версия, соответствующая требованиям.

См. также: Meta пересматривает политику в отношении чат-ботов с ИИ из-за опасений по поводу безопасности детей

Хотите узнать больше об ИИ и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это комплексное мероприятие является частью TechEx и проходит одновременно с другими ведущими технологическими событиями, включая Cyber Security & Cloud Expo. Нажмите здесь дляполучения дополнительной информации.

AI News поддерживается TechForge Media. Узнайте о других предстоящих мероприятиях и вебинарах по корпоративным технологиям здесь.