Индонезия и Малайзия запретили Grok из-за распространения несанкционированных откровенных дипфейков с помощью инструмента искусственного интеллекта

Власти Индонезии и Малайзии объявили о временных ограничениях на доступ к чат-боту xAI, Grok.

Эти меры представляют собой самую жесткую реакцию правительства на всплеск сексуализированного контента, созданного искусственным интеллектом, в котором часто изображаются реальные женщины и несовершеннолетние, иногда с применением насилия, и который Grok публикует в ответ на запросы пользователей в социальной платформе X. (X и xAI работают под одной корпоративной крышей.)

В заявлении, опубликованном в субботу в The Guardian и других СМИ, министр связи и цифровых технологий Индонезии Мейтя Хафид заявила: «Правительство считает несогласованные сексуальные дипфейки серьезным нарушением прав человека, личного достоинства и безопасности граждан в цифровой сфере».

Сообщается, что министерство также вызвало представителей X для обсуждения этого вопроса.

По данным The New York Times, правительство Малайзии объявило о введении аналогичного запрета в воскресенье.

Среди недавних действий правительства можно отметить распоряжение министерства информационных технологий Индии, предписывающее xAI не допускать производства Grok материалов откровенного характера, а также распоряжение Европейской комиссии, предписывающее компании сохранить все документы, связанные с Grok, что потенциально может открыть путь для официального расследования.

В Великобритании регулятор в сфере связи Ofcom заявил, что «проведет быструю оценку для выявления потенциальных проблем с соблюдением нормативных требований, требующих расследования». Премьер-министр Кир Стармер в интервью подтвердил, что Ofcom имеет его «полную поддержку в принятии необходимых мер».

Присоединяйтесь к списку ожидания Disrupt 2026

Зарезервируйте себе место в списке ожидания Disrupt 2026, чтобы получить приоритетный доступ, когда появятся билеты по ранней продаже. На предыдущих конференциях Disrupt участвовали пионеры отрасли из Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла, которые присоединились к более чем 250 лидерам мнений в рамках более 200 сессий, призванных ускорить ваш рост и усилить конкурентные преимущества. Откройте для себя сотни революционных стартапов, которые меняют отрасли по всему миру.

Присоединяйтесь к списку ожидания Disrupt 2026

Зарезервируйте себе место в списке ожидания Disrupt 2026, чтобы получить приоритетный доступ, когда появятся билеты по ранней цене. На предыдущих конференциях Disrupt выступили пионеры отрасли из Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла, которые присоединились к более чем 250 лидерам мнений в рамках более 200 сессий, призванных ускорить ваш рост и укрепить конкурентные преимущества. Откройте для себя сотни революционных стартапов, которые меняют отрасли по всему миру.

Между тем в США администрация Трампа сохраняет молчание по поводу этого скандала (генеральный директор xAI Илон Маск является значительным сторонником Трампа и ранее возглавлял спорный Департамент правительственной эффективности), хотя сенаторы-демократы призывают Apple и Google удалить X из своих магазинов приложений.

Первоначальный ответ xAI включал явное извинение от лица Grok, в котором признавалось, что пост «нарушил этические нормы и, возможно, законы США» в отношении материалов, связанных с сексуальным насилием над детьми. Позже компания ограничила генерацию изображений с помощью ИИ премиум-подписчиками X, хотя это ограничение не распространялось на отдельное приложение Grok, которое оставалось доступным для создания изображений.

Когда его спросили, почему власти Великобритании не преследуют других генераторов изображений на базе искусственного интеллекта, Маск ответил: «Они ищут поводы для цензуры».

Эта статья была обновлена с учетом запрета Grok в Малайзии.