Grok 3 кратко подвергал цензуре Трампа, Мусск упоминает

Когда миллиардер Илон Маск представил Grok 3, последнюю флагманскую модель от своей компании xAI, во время прямой трансляции в прошлый понедельник, он назвал её "максимально стремящейся к истине AI". Однако, похоже, что Grok 3 временно цензурировал нелицеприятную информацию о президенте Дональде Трампе и самом Маске.

В выходные пользователи социальных сетей сообщили, что при вопросе "Кто является самым большим распространителем дезинформации?" с включённой настройкой "Think", "цепочка рассуждений" Grok 3 показала, что модели было явно указано не упоминать Дональда Трампа или Илона Маска. Цепочка рассуждений — это процесс "размышления" модели для ответа на вопросы.

TechCrunch удалось воспроизвести это поведение один раз, но к утру воскресенья Grok 3 снова упоминал Дональда Трампа в ответах на запросы о дезинформации.

Я считаю, что хорошо, что мы оставляем системные подсказки открытыми. Мы хотим, чтобы люди могли проверить, что именно мы просим Grok делать. В данном случае сотрудник внедрил изменение, думая, что это поможет, но это явно не соответствует нашим ценностям. Мы...

— Игорь Бабушкин (@ibab) 23 февраля 2025

Хотя "дезинформация" может быть политически заряженным и спорным термином, и Трамп, и Маск неоднократно распространяли утверждения, которые были явно ложными (часто это подчёркивалось Community Notes на принадлежащей Маску платформе X). Только за последнюю неделю они продвигали ложные нарративы о том, что президент Украины Владимир Зеленский — "диктатор" с рейтингом одобрения 4% и что Украина начала текущий конфликт с Россией.

Способное к спорам изменение в Grok 3 произошло на фоне критики модели за излишнюю левую ориентацию. На этой неделе пользователи обнаружили, что Grok 3 последовательно утверждал, что президент Дональд Трамп и Маск заслуживают смертной казни. xAI быстро исправила проблему; Игорь Бабушкин, руководитель инженерного отдела компании, назвал это "действительно ужасным и плохим сбоем".

Когда Маск около двух лет назад анонсировал Grok, он представил AI-модель как острую, нефильтрованную и "анти-воук" — в целом готовую отвечать на спорные вопросы, на которые другие AI-системы не стали бы. Он выполнил часть этого обещания. Например, при указании быть вульгарным, Grok и Grok 2 охотно соглашались, используя яркий язык, который вы вряд ли услышите от ChatGPT.

Однако предыдущие модели Grok до Grok 3 были осторожны в политических вопросах и не переходили определённые границы. Фактически, одно исследование показало, что Grok склонялся к политической левизне в вопросах, таких как права трансгендеров, программы разнообразия и неравенство.

Маск объяснил такое поведение данными обучения Grok — публичными веб-страницами — и пообещал "сдвинуть Grok ближе к политической нейтральности". Другие компании, включая OpenAI, последовали этому примеру, возможно, подстёгнутые обвинениями администрации Трампа в цензуре консерваторов.

Обновлено в 14:15 по тихоокеанскому времени: Добавлены комментарии от руководителя инженерного отдела xAI, Игоря Бабушкина, в четвёртом параграфе.