Индия обязывает X's Grok AI соблюдать требования после спора о «непристойном» контенте

Индия поручила компании Elon Musk's X внести немедленные технические и процедурные изменения в свой чат-бот Grok на базе искусственного интеллекта. Это произошло после появления сообщений от пользователей и законодателей о генерации «непристойного» контента, в том числе измененных с помощью искусственного интеллекта изображений женщин, созданных с помощью этого инструмента.

В пятницу министерство информационных технологий Индии издало директиву, предписывающую компании X принять меры по исправлению ситуации с Grok. Это включает ограничение генерации контента, содержащего «обнаженные тела, сексуализацию, откровенно сексуальные или иные незаконные» материалы. Министерство также дало платформе 72 часа на представление отчета с подробным описанием мер, принятых для предотвращения размещения или распространения контента, считающегося «непристойным, порнографическим, вульгарным, неприличным, откровенно сексуальным, педофильским или иным образом незаконным».

В приказе, проанализированном TechCrunch, содержится предупреждение о том, что несоблюдение может привести к потере защиты X в рамках «безопасной гавани». Этот правовой щит обычно предоставляет иммунитет от ответственности за пользовательский контент в соответствии с индийским законодательством.

Действия Индии последовали после того, как пользователи поделились примерами того, как Grok предлагал изменить изображения людей, в основном женщин, чтобы они выглядели так, как будто они носят бикини. Это вызвало официальную жалобу от индийского парламентария Приянки Чатурведи. Кроме того, в недавних отчетах были отмечены случаи, когда чат-бот с искусственным интеллектом генерировал сексуализированные изображения с участием несовершеннолетних. X признал в пятницу, что эти упущения были вызваны сбоем в системе безопасности, и изображения были впоследствии удалены.

Однако TechCrunch обнаружил, что измененные с помощью ИИ изображения, на которых женщины выглядели так, как будто они были в бикини, сгенерированные Grok, оставались доступными на X на момент публикации.

Эта последняя директива следует за более широким рекомендательным письмом, направленным в понедельник индийским министерством информационных технологий социальным медиа-платформам. В этом письме, также проанализированном TechCrunch, компаниям напомнили, что соблюдение законов, запрещающих непристойный и откровенно сексуальный контент, является необходимым условием для сохранения юридического иммунитета в отношении постов пользователей. В нем платформы призывали усилить внутренние меры безопасности, предупреждая, что невыполнение этого требования может привести к судебному преследованию в соответствии с индийским законодательством в области информационных технологий и уголовным законодательством.

«Повторно подчеркивается, что несоблюдение вышеуказанных требований будет рассматриваться как серьезное нарушение и может привести к строгим правовым последствиям для вашей платформы, ее ответственных должностных лиц и пользователей платформы, нарушающих закон, без какого-либо дополнительного уведомления», — говорится в приказе.

Присоединяйтесь к списку ожидания Disrupt 2026

Зарезервируйте себе место в списке ожидания Disrupt 2026, чтобы получить первоочередной доступ к билетам Early Bird. В предыдущих мероприятиях Disrupt принимали участие лидеры отрасли из Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil и Vinod Khosla, а также более 250 экспертов, которые провели более 200 сессий, посвященных вопросам роста. Вы также сможете пообщаться с сотнями инновационных стартапов из всех отраслей.

Включитесь в список ожидания Disrupt 2026

Зарезервируйте себе место в списке ожидания Disrupt 2026, чтобы получить первоочередной доступ к билетам Early Bird. В предыдущих мероприятиях Disrupt приняли участие лидеры отрасли из Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла, а также более 250 экспертов, которые провели более 200 сессий, посвященных вопросам роста. Вы также сможете пообщаться с сотнями инновационных стартапов из всех отраслей.

Индийское правительство заявило, что несоблюдение требований может привести к судебному преследованию X в соответствии с законом страны об информационных технологиях и уголовным законодательством.

Являясь одним из крупнейших цифровых рынков в мире, Индия стала ключевым тестом для того, как правительства регулируют контент, созданный с помощью искусственного интеллекта. Более строгое применение закона в стране может создать прецедент с глобальными последствиями для технологических компаний, работающих в нескольких юрисдикциях.

Этот приказ был выдан в то время, когда X продолжает оспаривать в судебном порядке некоторые аспекты индийских правил модерации контента, argumenting that government takedown powers risk overreach. Платформа выполнила большинство приказов о блокировке, оспаривая при этом другие. Между тем, Grok все чаще используется пользователями X для проверки фактов в режиме реального времени и комментирования новостей, что делает его результаты более заметными — и политически чувствительными — чем результаты отдельных инструментов искусственного интеллекта.

X и xAI не сразу ответили на запросы о комментарии относительно распоряжения индийского правительства.