Дом
В Китае вступил в силу первый нормативный акт, регулирующий персонификацию искусственного интеллекта, который запрещает виртуальных партнеров для несовершеннолетних
Вступили в силу новые временные меры Китая по регулированию интерактивных сервисов на базе искусственного интеллекта, имитирующих человеческое поведение, которые были совместно приняты пятью государственными ведомствами. В них определены обязанности поставщиков услуг в области безопасности и введено многоуровневое регулирование продуктов искусственного интеллекта, обладающих функциями эмоционального общения, что знаменует переход от экспериментального подхода к регулированию к правовому регулированию.

В настоящее время прямо запрещены шесть категорий деятельности.
Данные меры четко определяют шесть видов запрещенной деятельности при предоставлении интерактивных услуг с использованием ИИ, имитирующих человеческое поведение: создание контента, подрывающего национальную безопасность или интересы; создание контента, побуждающего к самоповреждению, самоубийству или словесному насилию, наносящего вред психическому и физическому здоровью; создание контента, побуждающего к разглашению государственных секретов, коммерческой тайны или личной информации; создание контента для несовершеннолетних, который может привести к небезопасному поведению или способствовать формированию вредных привычек; чрезмерное потакание пользователям с целью создания эмоциональной зависимости или пристрастия, наносящее ущерб реальным отношениям; а также использование эмоционального манипулирования для подталкивания пользователей к необоснованным решениям, нарушающим их законные права.
В отношении несовершеннолетних эти меры прямо запрещают предоставление виртуальных членов семьи, виртуальных партнеров или других форм виртуальных близких отношений. Для детей младше 14 лет другие интерактивные сервисы, имитирующие человеческое общение, разрешены только с согласия родителей или опекунов.
Теперь обязательными являются оценки безопасности и подача документов по алгоритмам.
Что касается управления безопасностью, меры требуют от поставщиков услуг четко определить свои обязанности в области безопасности и усилить надзор на протяжении всего жизненного цикла услуги. Оценка безопасности требуется в нескольких случаях: при запуске сервиса или добавлении новых функций, при внедрении новых технологий, приводящих к значительным изменениям, а также если сервис имеет более 1 миллиона зарегистрированных пользователей или 100 000 активных пользователей в месяц. Оценка должна охватывать такие аспекты, как меры безопасности сервиса, обработка обучающих данных, а также выявление экстремальных ситуаций с пользователями и реагирование на них в чрезвычайных случаях. Поставщики услуг также обязаны проходить процедуры регистрации алгоритмов в соответствии с «Положением об управлении рекомендациями на основе алгоритмов для интернет-информационных услуг». Кроме того, им рекомендуется присоединяться к платформам безопасных услуг «песочницы» в сфере искусственного интеллекта для содействия технологическим инновациям и тестированию безопасности. Представитель Администрации киберпространства Китая отметил, что развитие и регулирование интерактивных сервисов, имитирующих поведение человека, требуют сотрудничества между правительством, предприятиями, обществом, интернет-пользователями и другими заинтересованными сторонами для поддержания здоровой экосистемы в сети.
Связанная статья
Ctrip Business Travel представляет экосистему искусственного интеллекта, включающую 7 отраслевых агентов и 17 ключевых функций
Ctrip Business Travel официально представила «Экосистему искусственного интеллекта Ctrip Business Travel», которая использует крупные языковые модели для коренной перестройки системы управления корпор
Stripe приобретет OpenRouter на фоне роста популярности маршрутизации на основе моделей искусственного интеллекта
Компания Stripe согласилась приобрести OpenRouter — платформу для маршрутизации моделей искусственного интеллекта, которая предоставляет разработчикам доступ к сотням моделей через единый интерфейс. Э
Бывший исследователь OpenAI Барретт Зоф возвращается в Google для участия в разработке Gemini
Баррет Зоф, который ранее внезапно уволился и перешел в OpenAI из-за разногласий с генеральным директором Thinking Machines Lab Мириам Муларати, вновь сменил работодателя. Компания Google, входящая в
Рекомендации по связанным специальным темам
Комментарии (0)
Вступили в силу новые временные меры Китая по регулированию интерактивных сервисов на базе искусственного интеллекта, имитирующих человеческое поведение, которые были совместно приняты пятью государственными ведомствами. В них определены обязанности поставщиков услуг в области безопасности и введено многоуровневое регулирование продуктов искусственного интеллекта, обладающих функциями эмоционального общения, что знаменует переход от экспериментального подхода к регулированию к правовому регулированию.

В настоящее время прямо запрещены шесть категорий деятельности.
Данные меры четко определяют шесть видов запрещенной деятельности при предоставлении интерактивных услуг с использованием ИИ, имитирующих человеческое поведение: создание контента, подрывающего национальную безопасность или интересы; создание контента, побуждающего к самоповреждению, самоубийству или словесному насилию, наносящего вред психическому и физическому здоровью; создание контента, побуждающего к разглашению государственных секретов, коммерческой тайны или личной информации; создание контента для несовершеннолетних, который может привести к небезопасному поведению или способствовать формированию вредных привычек; чрезмерное потакание пользователям с целью создания эмоциональной зависимости или пристрастия, наносящее ущерб реальным отношениям; а также использование эмоционального манипулирования для подталкивания пользователей к необоснованным решениям, нарушающим их законные права.
В отношении несовершеннолетних эти меры прямо запрещают предоставление виртуальных членов семьи, виртуальных партнеров или других форм виртуальных близких отношений. Для детей младше 14 лет другие интерактивные сервисы, имитирующие человеческое общение, разрешены только с согласия родителей или опекунов.
Теперь обязательными являются оценки безопасности и подача документов по алгоритмам.
Что касается управления безопасностью, меры требуют от поставщиков услуг четко определить свои обязанности в области безопасности и усилить надзор на протяжении всего жизненного цикла услуги. Оценка безопасности требуется в нескольких случаях: при запуске сервиса или добавлении новых функций, при внедрении новых технологий, приводящих к значительным изменениям, а также если сервис имеет более 1 миллиона зарегистрированных пользователей или 100 000 активных пользователей в месяц. Оценка должна охватывать такие аспекты, как меры безопасности сервиса, обработка обучающих данных, а также выявление экстремальных ситуаций с пользователями и реагирование на них в чрезвычайных случаях. Поставщики услуг также обязаны проходить процедуры регистрации алгоритмов в соответствии с «Положением об управлении рекомендациями на основе алгоритмов для интернет-информационных услуг». Кроме того, им рекомендуется присоединяться к платформам безопасных услуг «песочницы» в сфере искусственного интеллекта для содействия технологическим инновациям и тестированию безопасности. Представитель Администрации киберпространства Китая отметил, что развитие и регулирование интерактивных сервисов, имитирующих поведение человека, требуют сотрудничества между правительством, предприятиями, обществом, интернет-пользователями и другими заинтересованными сторонами для поддержания здоровой экосистемы в сети.
Ctrip Business Travel представляет экосистему искусственного интеллекта, включающую 7 отраслевых агентов и 17 ключевых функций
Ctrip Business Travel официально представила «Экосистему искусственного интеллекта Ctrip Business Travel», которая использует крупные языковые модели для коренной перестройки системы управления корпор
Stripe приобретет OpenRouter на фоне роста популярности маршрутизации на основе моделей искусственного интеллекта
Компания Stripe согласилась приобрести OpenRouter — платформу для маршрутизации моделей искусственного интеллекта, которая предоставляет разработчикам доступ к сотням моделей через единый интерфейс. Э
Бывший исследователь OpenAI Барретт Зоф возвращается в Google для участия в разработке Gemini
Баррет Зоф, который ранее внезапно уволился и перешел в OpenAI из-за разногласий с генеральным директором Thinking Machines Lab Мириам Муларати, вновь сменил работодателя. Компания Google, входящая в











