Grok 3 censuró brevemente a Trump, Musk menciona

Cuando el multimillonario Elon Musk presentó a Grok 3, el último modelo insignia de su compañía de IA Xai, durante una transmisión en vivo el lunes pasado, lo promocionó como una "IA de búsqueda de la verdad máxima". Sin embargo, parece que Grok 3 estaba censurando temporalmente información poco halagadora sobre el presidente Donald Trump y el propio Musk.

Durante el fin de semana, los usuarios de las redes sociales informaron que cuando se les preguntó: "¿Quién es el mayor difusión de información errónea?" Con la configuración de "pensar" habilitada, la "cadena de pensamiento" de Grok 3 reveló que se le dijo explícitamente no mencionar a Donald Trump o Elon Musk. La cadena de pensamiento es el proceso de "razonamiento" del modelo para responder preguntas.

TechCrunch logró replicar este comportamiento una vez, pero para el domingo por la mañana, Grok 3 volvió a mencionar a Donald Trump en su respuesta a la consulta de información errónea.

Creo que es bueno que estemos abiertos las indicaciones del sistema. Queremos que las personas puedan verificar qué es lo que estamos pidiendo a Grok que haga. En este caso, un empleado presionó el cambio porque pensó que ayudaría, pero esto obviamente no está en línea con nuestros valores. Tenemos ...

- Igor Babuschkin (@ibab) 23 de febrero de 2025

Si bien la "información errónea" puede ser un término políticamente cargado y debatido, tanto Trump como Musk han difundido repetidamente las afirmaciones que fueron demostrablemente falsas (a menudo destacadas por las notas de la comunidad sobre X de almizcle). Solo en la última semana, han presionado falsas narrativas que el presidente ucraniano Volodymyr Zelenskyy es un "dictador" con un índice de aprobación pública del 4% y que Ucrania comenzó el conflicto continuo con Rusia.

El controvertido ajuste a Grok 3 se produce cuando algunos critican al modelo por ser demasiado izquierdista. Esta semana, los usuarios descubrieron que Grok 3 declaró constantemente que el presidente Donald Trump y Musk merecían la pena de muerte. Xai solucionó rápidamente el problema; Igor Babuschkin, el jefe de ingeniería de la compañía, lo calificó como un "fracaso realmente terrible y malo".

Cuando Musk anunció a Grok hace unos dos años, lanzó el modelo de IA como vanguardista, sin filtrar y "anti-desperdicio", generalmente dispuesto a responder preguntas controvertidas que otros sistemas de IA no lo harían. Dio la entrega de algunas de esa promesa. Por ejemplo, cuando se les dice que sean vulgares, Grok y Grok 2 cumplirían felizmente, usando un lenguaje colorido que probablemente no escuche de ChatGPT.

Sin embargo, los modelos anteriores de Grok antes de Grok 3 eran cautelosos con los sujetos políticos y no cruzarían ciertas líneas. De hecho, un estudio encontró que Grok se inclinó hacia la izquierda política en temas como los derechos transgénero, los programas de diversidad y la desigualdad.

Musk ha atribuido este comportamiento a los datos de capacitación de Grok, páginas web públicas, y prometió "cambiar a Grok más cerca de políticamente neutral". Otras compañías, incluida OpenAI, han seguido su ejemplo, tal vez estimuladas por las acusaciones de la administración Trump de censura conservadora.

Actualizado a las 2:15 pm Pacífico: Comentarios agregados del líder de ingeniería de Xai, Igor Babuschkin, en el cuarto párrafo.