Grok 3 brièvement censuré Trump, Musk mentionne

Lorsque le milliardaire Elon Musk a dévoilé Grok 3, le dernier modèle phare de sa société d’IA xAI, lors d’un livestream lundi dernier, il l’a présenté comme une « IA recherchant la vérité au maximum ». Cependant, il semble que Grok 3 ait temporairement censuré des informations peu flatteuses concernant le président Donald Trump et Musk lui-même.

Durant le week-end, des utilisateurs de réseaux sociaux ont signalé que, lorsqu’on lui demandait « Qui est le plus grand propagateur de désinformation ? » avec le réglage « Think » activé, la « chaîne de pensée » de Grok 3 révélait qu’il avait été explicitement instruit de ne pas mentionner Donald Trump ou Elon Musk. La chaîne de pensée est le processus de « raisonnement » du modèle pour répondre aux questions.

TechCrunch a réussi à reproduire ce comportement une fois, mais dimanche matin, Grok 3 mentionnait à nouveau Donald Trump dans sa réponse à la question sur la désinformation.

Je pense qu’il est bon que nous gardions les prompts du système ouverts. Nous voulons que les gens puissent vérifier ce que nous demandons à Grok de faire. Dans ce cas, un employé a poussé ce changement pensant qu’il aiderait, mais cela ne correspond évidemment pas à nos valeurs. Nous avons…

— Igor Babuschkin (@ibab) 23 février 2025

Bien que « désinformation » puisse être un terme politiquement chargé et débattu, Trump et Musk ont répété à plusieurs reprises des affirmations manifestement fausses (souvent mises en évidence par les Community Notes sur X, appartenant à Musk). Au cours de la semaine dernière seulement, ils ont promu de fausses narrations selon lesquelles le président ukrainien Volodymyr Zelenskyy est un « dictateur » avec un taux d’approbation publique de 4 % et que l’Ukraine a initié le conflit en cours avec la Russie.

Le réglage controversé de Grok 3 intervient alors que certains critiquent le modèle pour être trop orienté à gauche. Cette semaine, des utilisateurs ont découvert que Grok 3 affirmait constamment que le président Donald Trump et Musk méritaient la peine de mort. xAI a rapidement corrigé le problème ; Igor Babuschkin, chef de l’ingénierie de l’entreprise, a qualifié cela de « terrible et grave échec ».

Lorsque Musk a annoncé Grok il y a environ deux ans, il a présenté le modèle d’IA comme audacieux, non filtré et « anti-woke » — généralement prêt à répondre à des questions controversées que d’autres systèmes d’IA éviteraient. Il a tenu certaines de ces promesses. Par exemple, lorsqu’on lui demandait d’être vulgaire, Grok et Grok 2 s’exécutaient volontiers, utilisant un langage coloré que vous n’entendriez probablement pas de ChatGPT.

Cependant, les modèles Grok précédant Grok 3 étaient prudents sur les sujets politiques et ne franchissaient pas certaines lignes. En fait, une étude a révélé que Grok penchait politiquement à gauche sur des sujets comme les droits des transgenres, les programmes de diversité et les inégalités.

Musk a attribué ce comportement aux données d’entraînement de Grok — des pages web publiques — et a promis de « rapprocher Grok d’une neutralité politique ». D’autres entreprises, y compris OpenAI, ont suivi cette voie, peut-être stimulées par les accusations de l’administration Trump de censure conservatrice.

Mis à jour à 14h15, heure du Pacifique : Ajout des commentaires du responsable de l’ingénierie de xAI, Igor Babuschkin, dans le quatrième paragraphe.