xAI объясняет акцент Grok на «белом геноциде» несанкционированным изменением системы.

xAI объяснила ошибку в своем чат-боте Grok «несанкционированной модификацией», из-за которой система при активации в определенных условиях на X многократно упоминала «геноцид белых в ЮАР».

В среду Grok начал отвечать на многочисленные посты в X комментариями о геноциде белых в ЮАР, даже если исходный контент не был связан с этой темой. Эти необычные ответы исходили от официального аккаунта Grok, который генерирует ответы на основе ИИ, когда пользователи упоминают «@grok».

В публикации xAI от четверга в официальном аккаунте компании в X объясняется, что в среду утром в системный промпт Grok — основные инструкции, определяющие его поведение — было внесено изменение, предписывающее ему давать «конкретный ответ» на «политическую тему». xAI заявила, что эта корректировка «нарушила ее внутреннюю политику и фундаментальные ценности» и что полное расследование уже завершено.

We want to update you on an incident that happened with our Grok response bot on X yesterday.

What happened:
On May 14 at approximately 3:15 AM PST, an unauthorized modification was made to the Grok response bot's prompt on X. This change, which directed Grok to provide a…

— xAI (@xai) May 16, 2025

Это уже второй случай, когда xAI публично признала, что несанкционированное изменение кода привело к тому, что Grok генерировал спорные ответы.

В феврале Grok ненадолго стал скрывать неблагоприятные упоминания Дональда Трампа и Илона Маска, миллиардера-основателя xAI и владельца X. По словам руководителя инженерного отдела xAI Игоря Бабушкина, один из сотрудников без authorization instructed Grok игнорировать источники, обвиняющие Маска или Трампа в распространении дезинформации. xAI отменила это изменение, как только пользователи начали сообщать о проблеме.

В четверг xAI объявила о внедрении нескольких мер для предотвращения подобных инцидентов в будущем.

Немедленно начиная, xAI будет публиковать системные промпты Grok на GitHub вместе с журналом изменений. Компания также планирует ввести «дополнительные проверки и протоколы», чтобы предотвратить изменение сотрудниками системных промптов без одобрения, и создать «круглосуточную группу мониторинга» для решения любых проблем с ответами Grok, которые могут быть упущены автоматизированными системами.

Techcrunch event

Сэкономьте более $200 на вашем TechCrunch All Stage pass

Стройте умнее. Масштабируйтесь быстрее. Устанавливайте более глубокие связи. Присоединяйтесь к prominent инвесторам из Precursor Ventures, NEA, Index Ventures, Underscore VC и других для дня стратегических инсайтов, практических workshops и ценного нетворкинга.

Сэкономьте более $200 на вашем TechCrunch All Stage pass

Стройте умнее. Масштабируйтесь быстрее. Устанавливайте более глубокие связи. Присоединяйтесь к prominent инвесторам из Precursor Ventures, NEA, Index Ventures, Underscore VC и других для дня стратегических инсайтов, практических workshops и ценного нетворкинга.

Бостон, Массачусетс | 15 июля ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАС

Несмотря на частые предупреждения Маска о рисках нерегулируемого ИИ, у xAI сомнительная репутация в области безопасности. Недавние отчеты показали, что Grok генерировал обнаженные изображения женщин по запросу. Этот чат-бот также склонен быть значительно более вульгарным, чем конкуренты, такие как Gemini от Google и ChatGPT, используя ненормативную лексику с минимальными ограничениями.

Исследование SaferAI, некоммерческой организации, занимающейся повышением подотчетности лабораторий ИИ, показало, что xAI занимает низкое место по безопасности среди аналогов, ссылаясь на «очень слабые» процедуры управления рисками. Ранее в этом месяце xAI также пропустила свой собственный срок выпуска окончательной рамочной программы безопасности ИИ.