Grok 3 кратко подвергал цензуре Трампа, Мусск упоминает

Когда миллиардер Элон Маск обнародовал Grok 3, последнюю флагманскую модель от своей компании AI Xai, во время прямой трансляции в прошлый понедельник, он рекламировал ее как «максимально ищущий ИИ, ищущий правду». Тем не менее, кажется, что GROK 3 временно подвергал цензуре нелестную информацию о президенте Дональде Трампе и самим Маск.

На выходных пользователи социальных сетей сообщили, что, когда его спросили: «Кто является крупнейшим распределителем дезинформации?» С включенной настройкой «Think», «Цепочка мышления» Grok 3 показала, что было явно сказано, что не говоря уже о Дональде Трампе или Элоне Маск. Цепочка мышления - это процесс «рассуждения» модели для ответа на вопросы.

TechCrunch удалось повторить это поведение один раз, но к воскресному утру Grok 3 снова упоминал Дональда Трампа в ответ на запрос дезинформации.

Я считаю, что это хорошо, что мы сохраняем подсказки системы открытыми. Мы хотим, чтобы люди могли проверить, что мы просим Грока. В этом случае сотрудник выдвинул изменения, потому что они думали, что это поможет, но это, очевидно, не соответствует нашим ценностям. Мы ...

- Игорь Бабушкин (@ibab) 23 февраля 2025 г.

В то время как «дезинформация» может быть политически заряженным и обсуждаемым термином, и Трамп, и Маск неоднократно распространяли заявления, которые явно были ложными (часто подчеркиваемыми сообществом ноты на принадлежащем мускусам X). Только на прошлой неделе они выдвинули ложные повествования о том, что украинский президент Володимир Зеленски является «диктатором» с 4% общественным утверждением и что Украина начала постоянный конфликт с Россией.

Спорный настройка для Grok 3 возникает в том, что некоторые критикуют модель за слишком левую. На этой неделе пользователи обнаружили, что Grok 3 последовательно заявлял, что президент Дональд Трамп и Маск заслуживают смертной казни. Xai быстро исправил проблему; Игорь Бабушкин, руководитель отдела инженерии компании, назвал это «действительно ужасной и плохой неудачей».

Когда Маск объявил Грока около двух лет назад, он предпринял модель ИИ как острую, нефильтрованную и «против проука»-как правило, желая ответить на противоречивые вопросы, которые другие системы ИИ не будут. Он выполнил некоторые из этого обещания. Например, когда сказали, что они будут вульгарными, Grok и Grok 2 с радостью подчиняются, используя красочный язык, вы, вероятно, не услышите от Chatgpt.

Тем не менее, предыдущие модели GROK до Grok 3 были осторожны по политическим предметам и не будут пересекать определенные линии. Фактически, одно исследование показало, что Грок наклонился к политическим левым на такие темы, как права трансгендеров, программы разнообразия и неравенство.

Маск приписал это поведение с данными обучения Грока - общедоступными веб -страницами - и пообещал «переместить Грока ближе к политически нейтральному». Другие компании, в том числе Openai, последовали их примеру, возможно, подстегнуты обвинениями администрации Трампа в консервативной цензуре.

Обновлено в 2:15 вечера Pacific: добавлены комментарии от инженерного лидера Xai, Игоря Бабушкина, в четвертом абзаце.