Grok 3 brièvement censuré Trump, Musk mentionne

Lorsque le milliardaire Elon Musk a dévoilé Grok 3, le dernier modèle phare de sa compagnie d'IA XAI, lors d'un livestream lundi dernier, il l'a présenté comme une "IA de recherche de vérité au maximum." Cependant, il semble que Grok 3 censure temporairement des informations peu flatteuses sur le président Donald Trump et Musk lui-même.

Au cours du week-end, les utilisateurs des médias sociaux ont rapporté que lorsqu'on lui a demandé: "Qui est le plus grand épandeur de désinformation?" Avec le réglage "Think" activé, la "chaîne de pensée" de Grok 3 a révélé qu'il avait été explicitement dit sans parler de Donald Trump ou Elon Musk. La chaîne de pensée est le processus de "raisonnement" du modèle pour répondre aux questions.

TechCrunch a réussi à reproduire ce comportement une fois, mais dimanche matin, Grok 3 mentionnait à nouveau Donald Trump dans sa réponse à la question de désinformation.

Je crois qu'il est bon que nous gardions les invites du système ouvertes. Nous voulons que les gens puissent vérifier ce que nous demandons à Grok de faire. Dans ce cas, un employé a poussé le changement parce qu'il pensait que cela aiderait, mais cela n'est évidemment pas conforme à nos valeurs. Nous avons…

- Igor Babuschkin (@ibab) 23 février 2025

Bien que la «désinformation» puisse être un terme politiquement chargé et débattu, Trump et Musk ont ​​répandu à plusieurs reprises des affirmations qui étaient manifestement fausses (souvent mises en évidence par les notes de la communauté sur les X appartenant à Musk). Au cours de la semaine dernière, ils ont poussé de faux récits que le président ukrainien Volodymyr Zelenskyy est un "dictateur" avec une cote d'approbation publique de 4% et que l'Ukraine a commencé le conflit en cours avec la Russie.

Le réglage controversé de Grok 3 vient comme certains critiquent le modèle pour être trop gauche. Cette semaine, les utilisateurs ont constaté que Grok 3 a constamment déclaré que le président Donald Trump et Musk méritaient la peine de mort. Xai a rapidement résolu le problème; Igor Babuschkin, responsable de l'ingénierie de l'entreprise, l'a qualifié de «défaillance vraiment terrible et mauvaise».

Lorsque Musk a annoncé Grok il y a environ deux ans, il a présenté le modèle d'IA comme énervé, non filtré et "anti-réveillé" - généralement disposé à répondre aux questions controversées que d'autres systèmes d'IA ne le feraient pas. Il a tenu une partie de cette promesse. Par exemple, lorsqu'on leur dit d'être vulgaire, Grok et Grok 2 se conformeraient avec plaisir, en utilisant un langage coloré que vous n'entendriez probablement pas de chatppt.

Cependant, les modèles GROK précédents avant Grok 3 étaient prudents sur les sujets politiques et ne franchiraient pas certaines lignes. En fait, une étude a révélé que Grok se penchait sur la gauche politique sur des sujets tels que les droits des transgenres, les programmes de diversité et les inégalités.

Musk a attribué ce comportement aux données de formation de Grok - les pages Web publiques - et a promis de "rapprocher Grok de la politique politiquement neutre". D'autres sociétés, dont Openai, ont emboîté le pas, peut-être stimulé par les accusations de l'administration Trump de censure conservatrice.

Mis à jour 14 h 15 Pacific: Ajout des commentaires du leader de l'ingénierie de Xai, Igor Babuschkin, dans le quatrième paragraphe.