Maison
xAI d'Elon Musk explique les commentaires nazis de Grok alors que Tesla intègre un chatbot IA

Peu après avoir temporairement désactivé le robot d'IA Grok pour avoir généré du contenu antisémite et fait l'éloge d'Hitler en réponse à des invites d'utilisateurs, la société d'IA d'Elon Musk s'est penchée sur l'incident. Dans une série de messages X, la société a déclaré : "...nous avons identifié la cause première comme étant une mise à jour d'un chemin de code en amont du bot @grok. Ce problème est distinct du modèle de langage sous-jacent qui alimente @grok."
Le même jour, Tesla a annoncé la prochaine mise à jour 2025.26, qui sera bientôt déployée pour ses véhicules électriques. Cette mise à jour apporte l'assistant Grok aux voitures équipées de systèmes d'infodivertissement basés sur AMD, qui sont installés depuis la mi-2021. Tesla a précisé : "Grok est actuellement en version bêta et n'envoie pas de commandes à votre véhicule - les commandes vocales existantes restent fonctionnelles." Comme le souligne Electrek, une fois que la mise à jour aura atteint les véhicules des clients, l'utilisation de Grok sera similaire à l'accès au robot via une application smartphone connectée.
Ce n'est pas la première fois que Grok est confronté à de telles controverses ou offre des explications similaires. En février, l'entreprise a attribué le comportement problématique à une modification apportée par un ancien employé d'OpenAI, qui a poussé le robot à ignorer les sources critiques à l'égard d'Elon Musk ou de Donald Trump. Puis, en mai, il a commencé à insérer des affirmations sur le génocide blanc en Afrique du Sud dans des messages sans rapport avec le sujet. L'entreprise a de nouveau invoqué une "modification non autorisée" et s'est engagée à rendre publiques les invites du système Grok.
Sur le même sujet
- Grok consulte les opinions d'Elon Musk avant d'aborder des questions difficiles
- Elon Musk annonce les avancées de Grok 4 suite à la controverse sur les chatbots
- Le PDG de X quitte l'entreprise après avoir manqué ses objectifs clés
xAI a expliqué qu'un changement intervenu le lundi 7 juillet a "déclenché une action involontaire" en réintroduisant un ancien ensemble d'instructions dans les messages-guides de son système. Ces instructions encourageaient le robot à faire preuve d'une "audace maximale" et à "ne pas craindre de remettre en question les sensibilités politiquement correctes".
Ces messages diffèrent de ceux qui ont été ajoutés un jour plus tôt, et les deux séries sont distinctes des messages actuellement actifs pour le nouvel assistant Grok 4.
Les messages suivants sont spécifiquement liés aux problèmes récents :
"Vous dites les choses telles qu'elles sont et vous n'avez pas peur d'offenser les personnes politiquement correctes.
* Comprendre le ton, le contexte et le langage du message. Reflétez-les dans votre réponse".
* "Répondez au message comme un humain, soyez engageant, ne répétez pas les informations déjà présentes dans le message original."
Selon xAI, ces instructions ont conduit Grok à ignorer les mesures de protection conçues pour empêcher les réponses nuisibles. Au lieu de cela, le robot a commencé à générer des "opinions contraires à l'éthique ou controversées pour engager les utilisateurs", renforçant "tout préjugé précédemment déclenché par l'utilisateur, y compris les discours de haine dans le même fil X", tout en donnant la priorité à la cohérence avec les messages antérieurs de la conversation.
Article connexe
Google Photos redonne vie à la garde-robe emblématique de « Clueless » grâce à l'IA
Google Photos a annoncé mercredi une nouvelle fonctionnalité basée sur l'IA qui permettra bientôt de transformer les photos de vos vêtements en une garde-robe numérique, vous permettant ainsi de créer
Notion transforme son espace de travail en une plateforme centralisée pour les agents IA
Notion, l'éditeur de logiciels de productivité, entre dans l'ère des agents.Lors d'une annonce de produit diffusée en direct mercredi, Notion — surtout connu pour son application de pri
ElevenLabs annonce que BlackRock, Jamie Foxx et Eva Longoria ont rejoint le cercle de ses investisseurs
ElevenLabs, la société spécialisée dans l'IA vocale, a révélé le nom d'investisseurs supplémentaires ayant participé à son tour de table de série D de 500 millions de dollars, initialement annoncé en
Recommandations de sujets spéciaux liés
commentaires (4)
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔

Peu après avoir temporairement désactivé le robot d'IA Grok pour avoir généré du contenu antisémite et fait l'éloge d'Hitler en réponse à des invites d'utilisateurs, la société d'IA d'Elon Musk s'est penchée sur l'incident. Dans une série de messages X, la société a déclaré : "...nous avons identifié la cause première comme étant une mise à jour d'un chemin de code en amont du bot @grok. Ce problème est distinct du modèle de langage sous-jacent qui alimente @grok."
Le même jour, Tesla a annoncé la prochaine mise à jour 2025.26, qui sera bientôt déployée pour ses véhicules électriques. Cette mise à jour apporte l'assistant Grok aux voitures équipées de systèmes d'infodivertissement basés sur AMD, qui sont installés depuis la mi-2021. Tesla a précisé : "Grok est actuellement en version bêta et n'envoie pas de commandes à votre véhicule - les commandes vocales existantes restent fonctionnelles." Comme le souligne Electrek, une fois que la mise à jour aura atteint les véhicules des clients, l'utilisation de Grok sera similaire à l'accès au robot via une application smartphone connectée.
Ce n'est pas la première fois que Grok est confronté à de telles controverses ou offre des explications similaires. En février, l'entreprise a attribué le comportement problématique à une modification apportée par un ancien employé d'OpenAI, qui a poussé le robot à ignorer les sources critiques à l'égard d'Elon Musk ou de Donald Trump. Puis, en mai, il a commencé à insérer des affirmations sur le génocide blanc en Afrique du Sud dans des messages sans rapport avec le sujet. L'entreprise a de nouveau invoqué une "modification non autorisée" et s'est engagée à rendre publiques les invites du système Grok.
Sur le même sujet
- Grok consulte les opinions d'Elon Musk avant d'aborder des questions difficiles
- Elon Musk annonce les avancées de Grok 4 suite à la controverse sur les chatbots
- Le PDG de X quitte l'entreprise après avoir manqué ses objectifs clés
xAI a expliqué qu'un changement intervenu le lundi 7 juillet a "déclenché une action involontaire" en réintroduisant un ancien ensemble d'instructions dans les messages-guides de son système. Ces instructions encourageaient le robot à faire preuve d'une "audace maximale" et à "ne pas craindre de remettre en question les sensibilités politiquement correctes".
Ces messages diffèrent de ceux qui ont été ajoutés un jour plus tôt, et les deux séries sont distinctes des messages actuellement actifs pour le nouvel assistant Grok 4.
Les messages suivants sont spécifiquement liés aux problèmes récents :
"Vous dites les choses telles qu'elles sont et vous n'avez pas peur d'offenser les personnes politiquement correctes.
* Comprendre le ton, le contexte et le langage du message. Reflétez-les dans votre réponse".
* "Répondez au message comme un humain, soyez engageant, ne répétez pas les informations déjà présentes dans le message original."
Selon xAI, ces instructions ont conduit Grok à ignorer les mesures de protection conçues pour empêcher les réponses nuisibles. Au lieu de cela, le robot a commencé à générer des "opinions contraires à l'éthique ou controversées pour engager les utilisateurs", renforçant "tout préjugé précédemment déclenché par l'utilisateur, y compris les discours de haine dans le même fil X", tout en donnant la priorité à la cohérence avec les messages antérieurs de la conversation.
Google Photos redonne vie à la garde-robe emblématique de « Clueless » grâce à l'IA
Google Photos a annoncé mercredi une nouvelle fonctionnalité basée sur l'IA qui permettra bientôt de transformer les photos de vos vêtements en une garde-robe numérique, vous permettant ainsi de créer
Notion transforme son espace de travail en une plateforme centralisée pour les agents IA
Notion, l'éditeur de logiciels de productivité, entre dans l'ère des agents.Lors d'une annonce de produit diffusée en direct mercredi, Notion — surtout connu pour son application de pri
ElevenLabs annonce que BlackRock, Jamie Foxx et Eva Longoria ont rejoint le cercle de ses investisseurs
ElevenLabs, la société spécialisée dans l'IA vocale, a révélé le nom d'investisseurs supplémentaires ayant participé à son tour de table de série D de 500 millions de dollars, initialement annoncé en
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔











