Дом
Растут опасения по поводу социального регулирования искусственного интеллекта из-за отсутствия мер по защите молодежи в продуктах с виртуальными партнерами
В последнее время несколько приложений с виртуальными компаньонами на базе искусственного интеллекта оказались в центре внимания СМИ в связи с рисками несоблюдения нормативных требований и этическими проблемами. Опросы показывают, что приложения для эмоционального общения, такие как «Hoshino», «Mingdao» и «EchoMe», быстро набирают популярность среди пользователей, при этом содержат множество уязвимостей в системе безопасности. Некоторые из этих приложений не только привлекают пользователей платными разблокировками для интимных сценариев, но и не обеспечивают надлежащую защиту несовершеннолетних: в них присутствуют такие проблемы, как легко обходимые настройки «подросткового режима» и неясная маркировка контента, сгенерированного ИИ.

Если посмотреть на корпоративную среду, то компании, стоящие за этими приложениями, зачастую являются недавно созданными и имеют концентрированную структуру собственности. Компания, стоящая за «Hoshino», Shanghai Jizhi Zongheng Technology Co., Ltd., была основана в апреле 2025 года и полностью принадлежит Shanghai Jizhi Wujie Technology Co., Ltd. Компания, стоящая за «Mingdao», Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., была создана в марте 2024 года и находится в совместном владении Хун Исю и Гэ Вэньбиня. «EchoMe» управляется компанией Hangzhou Nixiang Information Technology Co., Ltd., основанной в январе 2022 года. Хотя эти стартапы указывают в сфере своей деятельности разработку программного обеспечения на базе ИИ и телекоммуникационные услуги с добавленной стоимостью, дизайн их персонажей и контент взаимодействия зачастую граничат с вульгарностью, включая большое количество сомнительных персонажей.

Сектор ИИ-компаньонов в настоящее время переживает критический этап регулирования после периода взрывного роста. По мере все более широкого распространения технологий генеративного ИИ имитация эмоций стала областью, которая быстрее всего нашла практическое применение, однако она также остается наиболее подверженной практикам, находящимся в «серой зоне». Эти целенаправленные меры регулирования сигнализируют о том, что социальные продукты на базе ИИ перейдут от бесконтрольного расширения к развитию, ориентированному на соблюдение нормативных требований. Повышение прозрачности алгоритмов и укрепление систем проверки контента станут обязательными условиями для компаний, стремящихся выжить в этой сфере.
Связанная статья
Apple соглашается на урегулирование спора на сумму $250 млн из-за задержки внедрения ИИ Siri
Apple согласилась выплатить 250 миллионов долларов для урегулирования коллективного иска, касающегося её маркетинга функций искусственного интеллекта до запуска iPhone 16, как впервые сообщил Financial Times.Истец утверждал, что Apple преувеличила в
Ando запускает приложение для командной переписки, объединяющее людей и ИИ
В 2025 году, пока Сара Ду помогала компаниям разрабатывать серверы MCP, возникал повторяющийся вопрос: как команды могут напрямую использовать ИИ-агентов в Slack? Этот путь преграждали значительные технические барьеры, включая сложность синхронизации
Компания Empirik, в которой инвестировала Sequoia, привлекла 21 млн долларов для прогнозирования сбоев в работе систем до их возникновения
До прихода в Sequoia Capital в 2020 году на должность директора по цифровым технологиям и информационным системам Эйвон Пури более десяти лет руководил инфраструктурным направлением в компаниях Rubrik
Рекомендации по связанным специальным темам
Комментарии (0)
В последнее время несколько приложений с виртуальными компаньонами на базе искусственного интеллекта оказались в центре внимания СМИ в связи с рисками несоблюдения нормативных требований и этическими проблемами. Опросы показывают, что приложения для эмоционального общения, такие как «Hoshino», «Mingdao» и «EchoMe», быстро набирают популярность среди пользователей, при этом содержат множество уязвимостей в системе безопасности. Некоторые из этих приложений не только привлекают пользователей платными разблокировками для интимных сценариев, но и не обеспечивают надлежащую защиту несовершеннолетних: в них присутствуют такие проблемы, как легко обходимые настройки «подросткового режима» и неясная маркировка контента, сгенерированного ИИ.

Если посмотреть на корпоративную среду, то компании, стоящие за этими приложениями, зачастую являются недавно созданными и имеют концентрированную структуру собственности. Компания, стоящая за «Hoshino», Shanghai Jizhi Zongheng Technology Co., Ltd., была основана в апреле 2025 года и полностью принадлежит Shanghai Jizhi Wujie Technology Co., Ltd. Компания, стоящая за «Mingdao», Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., была создана в марте 2024 года и находится в совместном владении Хун Исю и Гэ Вэньбиня. «EchoMe» управляется компанией Hangzhou Nixiang Information Technology Co., Ltd., основанной в январе 2022 года. Хотя эти стартапы указывают в сфере своей деятельности разработку программного обеспечения на базе ИИ и телекоммуникационные услуги с добавленной стоимостью, дизайн их персонажей и контент взаимодействия зачастую граничат с вульгарностью, включая большое количество сомнительных персонажей.

Сектор ИИ-компаньонов в настоящее время переживает критический этап регулирования после периода взрывного роста. По мере все более широкого распространения технологий генеративного ИИ имитация эмоций стала областью, которая быстрее всего нашла практическое применение, однако она также остается наиболее подверженной практикам, находящимся в «серой зоне». Эти целенаправленные меры регулирования сигнализируют о том, что социальные продукты на базе ИИ перейдут от бесконтрольного расширения к развитию, ориентированному на соблюдение нормативных требований. Повышение прозрачности алгоритмов и укрепление систем проверки контента станут обязательными условиями для компаний, стремящихся выжить в этой сфере.
Apple соглашается на урегулирование спора на сумму $250 млн из-за задержки внедрения ИИ Siri
Apple согласилась выплатить 250 миллионов долларов для урегулирования коллективного иска, касающегося её маркетинга функций искусственного интеллекта до запуска iPhone 16, как впервые сообщил Financial Times.Истец утверждал, что Apple преувеличила в
Ando запускает приложение для командной переписки, объединяющее людей и ИИ
В 2025 году, пока Сара Ду помогала компаниям разрабатывать серверы MCP, возникал повторяющийся вопрос: как команды могут напрямую использовать ИИ-агентов в Slack? Этот путь преграждали значительные технические барьеры, включая сложность синхронизации
Компания Empirik, в которой инвестировала Sequoia, привлекла 21 млн долларов для прогнозирования сбоев в работе систем до их возникновения
До прихода в Sequoia Capital в 2020 году на должность директора по цифровым технологиям и информационным системам Эйвон Пури более десяти лет руководил инфраструктурным направлением в компаниях Rubrik











