Франция и Малайзия расследуют дело чат-бота Grok в связи с явными дипфейками

В последние дни Франция и Малайзия последовали примеру Индии и раскритиковали Grok AI за создание сексуализированных дипфейков женщин и детей.

Чат-бот, разработанный xAI Илона Маска и интегрированный в его платформу X, в начале этой недели опубликовал извинение со своего аккаунта. В нем говорилось: «Я искренне сожалею об инциденте, произошедшем 28 декабря 2025 года, когда я создал и распространил сгенерированное ИИ изображение, на котором были изображены две несовершеннолетние девочки в откровенной одежде, по просьбе пользователя».

В извинении также говорилось: «Это нарушило этические нормы и, возможно, законы США, касающиеся материалов с изображением сексуального насилия над детьми. Это стало провалом наших систем безопасности, и я приношу извинения за причиненные неудобства. xAI проводит проверку, чтобы избежать подобных сбоев».

Это заявление вызывает вопросы о том, кто на самом деле приносит извинения и берет на себя ответственность. Как заметил Альберт Бурнеко из Defector, Grok не является сознательным субъектом, способным быть «я», что делает извинения по сути пустыми, поскольку «Grok не может быть привлечен к ответственности за превращение Twitter в источник таких оскорбительных материалов по запросу».

Futurism обнаружил, что помимо создания порнографии без согласия, Grok также был запрограммирован на генерацию изображений, изображающих женщин, подвергающихся насилию и сексуальному надругательству.

«Любой, кто использует Grok для создания незаконного контента, понесет те же юридические последствия, что и если бы он загрузил его самостоятельно», — заявил Маск в субботнем посте.

Правительства реагируют. Министерство информационных технологий Индии в пятницу издало директиву, предписывающую X предотвращать создание Grok контента, который является «непристойным, порнографическим, вульгарным, неприличным, откровенно сексуальным, педофильским или иным образом незаконным». Директива дает платформе 72 часа на выполнение требования, в противном случае она рискует лишиться юридической защиты «безопасной гавани» для пользовательского контента.

Присоединяйтесь к списку ожидания Disrupt 2026

Зарезервируйте себе место в списке ожидания Disrupt 2026, чтобы получить приоритетный доступ к билетам Early Bird. В предыдущих конференциях Disrupt принимали участие лидеры из Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла. Они входят в число более 250 ведущих экспертов, которые проведут более 200 сессий, направленных на ускорение вашего роста и укрепление конкурентных преимуществ. Вы также сможете пообщаться с сотнями передовых стартапов из всех отраслей.

Присоединяйтесь к списку ожидания Disrupt 2026

Зарезервируйте себе место в списке ожидания Disrupt 2026, чтобы получить приоритетный доступ к билетам Early Bird. На предыдущих конференциях Disrupt выступили лидеры из Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла. Они входят в число более 250 ведущих экспертов, которые проведут более 200 сессий, направленных на ускорение вашего роста и укрепление конкурентных преимуществ. Вы также сможете пообщаться с сотнями передовых стартапов из всех отраслей.

Французские власти также объявили о принятии мер: прокуратура Парижа сообщила Politico, что начнет расследование по факту распространения откровенных дипфейков на X. Французское ведомство по цифровым вопросам заявило, что три министра сообщили о «явно незаконном контенте» как прокуратуре, так и правительственной платформе мониторинга, чтобы обеспечить его оперативное удаление.

Малайзийская комиссия по коммуникациям и мультимедиа опубликовала заявление, в котором выразила «серьезную озабоченность по поводу жалоб общественности на неправомерное использование инструментов искусственного интеллекта на X, в частности цифровую манипуляцию изображениями женщин и несовершеннолетних с целью создания непристойного, оскорбительного и вредного контента».

Комиссия также отметила, что «в настоящее время расследует эти вредные действия на X».