Maison
xAI d'Elon Musk explique les commentaires nazis de Grok alors que Tesla intègre un chatbot IA

Peu après avoir temporairement désactivé le robot d'IA Grok pour avoir généré du contenu antisémite et fait l'éloge d'Hitler en réponse à des invites d'utilisateurs, la société d'IA d'Elon Musk s'est penchée sur l'incident. Dans une série de messages X, la société a déclaré : "...nous avons identifié la cause première comme étant une mise à jour d'un chemin de code en amont du bot @grok. Ce problème est distinct du modèle de langage sous-jacent qui alimente @grok."
Le même jour, Tesla a annoncé la prochaine mise à jour 2025.26, qui sera bientôt déployée pour ses véhicules électriques. Cette mise à jour apporte l'assistant Grok aux voitures équipées de systèmes d'infodivertissement basés sur AMD, qui sont installés depuis la mi-2021. Tesla a précisé : "Grok est actuellement en version bêta et n'envoie pas de commandes à votre véhicule - les commandes vocales existantes restent fonctionnelles." Comme le souligne Electrek, une fois que la mise à jour aura atteint les véhicules des clients, l'utilisation de Grok sera similaire à l'accès au robot via une application smartphone connectée.
Ce n'est pas la première fois que Grok est confronté à de telles controverses ou offre des explications similaires. En février, l'entreprise a attribué le comportement problématique à une modification apportée par un ancien employé d'OpenAI, qui a poussé le robot à ignorer les sources critiques à l'égard d'Elon Musk ou de Donald Trump. Puis, en mai, il a commencé à insérer des affirmations sur le génocide blanc en Afrique du Sud dans des messages sans rapport avec le sujet. L'entreprise a de nouveau invoqué une "modification non autorisée" et s'est engagée à rendre publiques les invites du système Grok.
Sur le même sujet
- Grok consulte les opinions d'Elon Musk avant d'aborder des questions difficiles
- Elon Musk annonce les avancées de Grok 4 suite à la controverse sur les chatbots
- Le PDG de X quitte l'entreprise après avoir manqué ses objectifs clés
xAI a expliqué qu'un changement intervenu le lundi 7 juillet a "déclenché une action involontaire" en réintroduisant un ancien ensemble d'instructions dans les messages-guides de son système. Ces instructions encourageaient le robot à faire preuve d'une "audace maximale" et à "ne pas craindre de remettre en question les sensibilités politiquement correctes".
Ces messages diffèrent de ceux qui ont été ajoutés un jour plus tôt, et les deux séries sont distinctes des messages actuellement actifs pour le nouvel assistant Grok 4.
Les messages suivants sont spécifiquement liés aux problèmes récents :
"Vous dites les choses telles qu'elles sont et vous n'avez pas peur d'offenser les personnes politiquement correctes.
* Comprendre le ton, le contexte et le langage du message. Reflétez-les dans votre réponse".
* "Répondez au message comme un humain, soyez engageant, ne répétez pas les informations déjà présentes dans le message original."
Selon xAI, ces instructions ont conduit Grok à ignorer les mesures de protection conçues pour empêcher les réponses nuisibles. Au lieu de cela, le robot a commencé à générer des "opinions contraires à l'éthique ou controversées pour engager les utilisateurs", renforçant "tout préjugé précédemment déclenché par l'utilisateur, y compris les discours de haine dans le même fil X", tout en donnant la priorité à la cohérence avec les messages antérieurs de la conversation.
Article connexe
Warner Music acquiert l'entreprise de démarrage Sureel AI spécialisée dans l'attribution par intelligence artificielle
Warner Music Group (WMG) a confirmé mercredi qu’elle acquiert Sureel AI, une startup spécialisée dans l’attribution par intelligence artificielle. La technologie propriétaire de Sureel génère une « ADN IA » pour les titres musicaux, en décomposant ce
Amazon présente Alexa pour les achats tout en reléguant Rufus au second plan
Amazon a lancé Alexa for Shopping, fusionnant son chatbot de shopping Rufus avec Alexa+ sur l’application, le site web et les appareils Echo Show.L’assistant répond aux requêtes sur les produits, compare les articles, suit les prix et prend en charg
Microsoft, Azure et les technologies d'IA luttent contre les risques d'incendies de forêt en Californie
Microsoft investit dans la détection des feux de forêt grâce à l'IA ; Juan Lavista Ferres, vice-président corporatif et responsable scientifique des données, évoque les stratégies visant à atténuer le
Recommandations de sujets spéciaux liés
commentaires (4)
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔

Peu après avoir temporairement désactivé le robot d'IA Grok pour avoir généré du contenu antisémite et fait l'éloge d'Hitler en réponse à des invites d'utilisateurs, la société d'IA d'Elon Musk s'est penchée sur l'incident. Dans une série de messages X, la société a déclaré : "...nous avons identifié la cause première comme étant une mise à jour d'un chemin de code en amont du bot @grok. Ce problème est distinct du modèle de langage sous-jacent qui alimente @grok."
Le même jour, Tesla a annoncé la prochaine mise à jour 2025.26, qui sera bientôt déployée pour ses véhicules électriques. Cette mise à jour apporte l'assistant Grok aux voitures équipées de systèmes d'infodivertissement basés sur AMD, qui sont installés depuis la mi-2021. Tesla a précisé : "Grok est actuellement en version bêta et n'envoie pas de commandes à votre véhicule - les commandes vocales existantes restent fonctionnelles." Comme le souligne Electrek, une fois que la mise à jour aura atteint les véhicules des clients, l'utilisation de Grok sera similaire à l'accès au robot via une application smartphone connectée.
Ce n'est pas la première fois que Grok est confronté à de telles controverses ou offre des explications similaires. En février, l'entreprise a attribué le comportement problématique à une modification apportée par un ancien employé d'OpenAI, qui a poussé le robot à ignorer les sources critiques à l'égard d'Elon Musk ou de Donald Trump. Puis, en mai, il a commencé à insérer des affirmations sur le génocide blanc en Afrique du Sud dans des messages sans rapport avec le sujet. L'entreprise a de nouveau invoqué une "modification non autorisée" et s'est engagée à rendre publiques les invites du système Grok.
Sur le même sujet
- Grok consulte les opinions d'Elon Musk avant d'aborder des questions difficiles
- Elon Musk annonce les avancées de Grok 4 suite à la controverse sur les chatbots
- Le PDG de X quitte l'entreprise après avoir manqué ses objectifs clés
xAI a expliqué qu'un changement intervenu le lundi 7 juillet a "déclenché une action involontaire" en réintroduisant un ancien ensemble d'instructions dans les messages-guides de son système. Ces instructions encourageaient le robot à faire preuve d'une "audace maximale" et à "ne pas craindre de remettre en question les sensibilités politiquement correctes".
Ces messages diffèrent de ceux qui ont été ajoutés un jour plus tôt, et les deux séries sont distinctes des messages actuellement actifs pour le nouvel assistant Grok 4.
Les messages suivants sont spécifiquement liés aux problèmes récents :
"Vous dites les choses telles qu'elles sont et vous n'avez pas peur d'offenser les personnes politiquement correctes.
* Comprendre le ton, le contexte et le langage du message. Reflétez-les dans votre réponse".
* "Répondez au message comme un humain, soyez engageant, ne répétez pas les informations déjà présentes dans le message original."
Selon xAI, ces instructions ont conduit Grok à ignorer les mesures de protection conçues pour empêcher les réponses nuisibles. Au lieu de cela, le robot a commencé à générer des "opinions contraires à l'éthique ou controversées pour engager les utilisateurs", renforçant "tout préjugé précédemment déclenché par l'utilisateur, y compris les discours de haine dans le même fil X", tout en donnant la priorité à la cohérence avec les messages antérieurs de la conversation.
Warner Music acquiert l'entreprise de démarrage Sureel AI spécialisée dans l'attribution par intelligence artificielle
Warner Music Group (WMG) a confirmé mercredi qu’elle acquiert Sureel AI, une startup spécialisée dans l’attribution par intelligence artificielle. La technologie propriétaire de Sureel génère une « ADN IA » pour les titres musicaux, en décomposant ce
Microsoft, Azure et les technologies d'IA luttent contre les risques d'incendies de forêt en Californie
Microsoft investit dans la détection des feux de forêt grâce à l'IA ; Juan Lavista Ferres, vice-président corporatif et responsable scientifique des données, évoque les stratégies visant à atténuer le
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔











