L'Indonésie bloque l'IA Grok d'Elon Musk pour cause de deepfakes explicites non consensuels

Les autorités indonésiennes ont annoncé samedi qu'elles limitaient temporairement l'accès au chatbot Grok de xAI.

Il s'agit de l'une des mesures les plus sévères prises par un gouvernement en réponse à la prolifération d'images sexualisées générées par l'IA — dont beaucoup représentent des femmes et des mineurs réels, et certaines montrent des agressions et des abus — que Grok a produites à partir des demandes des utilisateurs sur la plateforme sociale X. (X et xAI sont des sociétés affiliées.)

Dans une déclaration fournie au Guardian et à d'autres médias, la ministre indonésienne des Communications et du Numérique, Meutya Hafid, a déclaré : « Le gouvernement considère la création de deepfakes sexuels non consensuels comme une grave atteinte aux droits humains, à la dignité personnelle et à la sécurité des citoyens dans le domaine numérique. »

Le ministère aurait également convoqué des représentants de X pour aborder la question.

Parmi les mesures prises récemment par les pouvoirs publics, on peut citer la décision du ministère indien des Technologies de l'information d'ordonner à xAI d'empêcher Grok de produire des contenus explicites, et la demande de la Commission européenne à l'entreprise de conserver tous les documents liés à Grok, ce qui pourrait ouvrir la voie à une enquête.

Au Royaume-Uni, l'autorité de régulation des communications Ofcom a déclaré qu'elle « procéderait à un examen rapide afin d'identifier tout problème de conformité pouvant nécessiter une enquête ». Le Premier ministre Keir Starmer a affirmé dans une interview que l'Ofcom avait son « soutien total pour prendre les mesures nécessaires ».

Alors que l'administration Trump aux États-Unis est restée silencieuse sur la question (le PDG de xAI, Elon Musk, est un important donateur de Trump et a précédemment dirigé le controversé département de l'efficacité gouvernementale de l'administration), les sénateurs démocrates ont exhorté Apple et Google à retirer X de leurs boutiques d'applications.

Inscrivez-vous sur la liste d'attente Disrupt 2026

Réservez votre place sur la liste d'attente Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets Early Bird seront mis en vente. Les précédents événements Disrupt ont réuni des géants du secteur tels que Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla, qui se sont joints à plus de 250 leaders ayant animé plus de 200 sessions conçues pour accélérer votre croissance et renforcer votre avantage concurrentiel. Vous aurez également l'occasion de rencontrer des centaines de start-ups à l'origine d'innovations dans divers secteurs.

Inscrivez-vous sur la liste d'attente Disrupt 2026

Réservez votre place sur la liste d'attente Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets en prévente seront mis en vente. Les précédentes éditions de Disrupt ont accueilli des géants du secteur tels que Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla, qui se sont joints à plus de 250 leaders ayant animé plus de 200 sessions conçues pour accélérer votre croissance et renforcer votre avantage concurrentiel. Vous aurez également l'occasion de rencontrer des centaines de start-ups à l'origine d'innovations dans divers secteurs.

xAI a d'abord réagi en publiant des excuses sur le compte Grok, admettant qu'une publication « enfreignait les directives éthiques et peut-être les lois américaines » concernant les contenus pédopornographiques. Elle a ensuite limité la fonction de génération d'images par IA aux abonnés payants de X, mais ce changement ne semblait pas s'appliquer à l'application Grok, qui continuait à permettre aux utilisateurs lambda de créer des images.

Interrogé sur l'inaction du gouvernement britannique à l'égard d'autres outils d'imagerie IA, Musk a répondu : « Ils cherchent n'importe quel prétexte pour censurer. »