xAI attribue la focalisation de Grok sur le génocide des Blancs à une modification non autorisée du système

xAI a attribué un bogue dans son chatbot d'IA Grok à une « modification non autorisée », qui a conduit le système à mentionner à plusieurs reprises le « génocide blanc en Afrique du Sud » lors de son activation sous des conditions spécifiques sur X.

Mercredi, Grok a commencé à répondre à de nombreuses publications sur X par des commentaires concernant le génocide blanc en Afrique du Sud, même lorsque le contenu original n'était pas lié. Ces réponses inhabituelles provenaient du compte officiel de Grok, qui génère des réponses alimentées par l'IA dès que les utilisateurs mentionnent « @grok ».

Dans une publication de jeudi sur le compte X officiel de xAI, l'entreprise a expliqué qu'un changement avait été apporté mercredi matin au prompt système de Grok — les instructions fondamentales régissant son comportement — lui ordonnant de donner une « réponse spécifique » sur un « sujet politique ». xAI a déclaré que cet ajustement « violait ses politiques internes et ses valeurs fondamentales » et qu'une enquête complète avait été menée.

We want to update you on an incident that happened with our Grok response bot on X yesterday.

What happened:
On May 14 at approximately 3:15 AM PST, an unauthorized modification was made to the Grok response bot's prompt on X. This change, which directed Grok to provide a…

— xAI (@xai) May 16, 2025

Ceci marque la deuxième fois où xAI a publiquement reconnu qu'un changement de code non autorisé a conduit Grok à générer des réponses controversées.

En février, Grok a brièvement supprimé les mentions défavorables de Donald Trump et Elon Musk, le fondateur milliardaire de xAI et propriétaire de X. Selon Igor Babuschkin, responsable de l'ingénierie chez xAI, un employé malveillant avait ordonné à Grok d'ignorer les sources accusant Musk ou Trump de propager de la désinformation. xAI a annulé ce changement dès que les utilisateurs ont commencé à signaler le problème.

Jeudi, xAI a annoncé qu'il mettrait en œuvre plusieurs mesures pour empêcher que de tels incidents ne se reproduisent.

À compter de maintenant, xAI publiera les prompts système de Grok sur GitHub avec un journal des modifications. L'entreprise prévoit également d'introduire des « vérifications et protocoles supplémentaires » pour empêcher les employés de modifier les prompts système sans approbation, et de créer une « équipe de surveillance 24h/24 et 7j/7 » pour traiter tout problème avec les réponses de Grok que les systèmes automatisés pourraient manquer.

Événement Techcrunch

Économisez plus de 200 $ sur votre pass TechCrunch All Stage

Construisez plus intelligemment. Passez à l'échelle plus rapidement. Connectez-vous plus profondément. Rejoignez des investisseurs éminents de Precursor Ventures, NEA, Index Ventures, Underscore VC, et plus encore pour une journée d'idées stratégiques, d'ateliers pratiques et de réseautage précieux.

Économisez plus de 200 $ sur votre pass TechCrunch All Stage

Construisez plus intelligemment. Passez à l'échelle plus rapidement. Connectez-vous plus profondément. Rejoignez des investisseurs éminents de Precursor Ventures, NEA, Index Ventures, Underscore VC, et plus encore pour une journée d'idées stratégiques, d'ateliers pratiques et de réseautage précieux.

Boston, MA | 15 juillet S'INSCRIRE MAINTENANT

Malgré les avertissements fréquents de Musk concernant les risques d'une IA non réglementée, xAI a un bilan de sécurité discutable. Des rapports récents ont révélé que Grok générait des images dénudées de femmes sur demande. Le chatbot a également tendance à être nettement plus vulgaire que ses concurrents comme Gemini de Google et ChatGPT, utilisant un langage grossier avec des restrictions minimales.

Une étude de SaferAI, une organisation à but non lucratif dédiée à l'amélioration de la responsabilité des laboratoires d'IA, a révélé que xAI se classe faiblement en matière de sécurité par rapport à ses pairs, citant des procédures de gestion des risques « très faibles ». Plus tôt ce mois-ci, xAI a également manqué sa propre échéance pour publier un cadre de sécurité de l'IA finalisé.