X Confronté à une vague d'images intimes non consenties

Au cours des deux dernières semaines, la plateforme X a été inondée d'images de nus générées par l'IA, créées à l'aide du chatbot Grok AI. Un large éventail de femmes ont été ciblées par ces deepfakes non consensuels, allant de mannequins et d'actrices célèbres à des personnalités de l'actualité, des victimes de crimes et même des dirigeants politiques.

Un rapport de recherche de Copyleaks datant du 31 décembre estimait initialement qu'environ une image était publiée par minute, mais une surveillance ultérieure a révélé un volume beaucoup plus élevé. Un échantillon prélevé entre le 5 et le 6 janvier a enregistré environ 6 700 images par heure sur une journée complète.

Alors que des personnalités publiques du monde entier ont critiqué la décision de lancer le modèle sans garanties adéquates, les régulateurs disposent de moyens limités pour contrôler le nouveau système de manipulation d'images d'Elon Musk. Cette situation souligne les défis liés à la réglementation technologique et constitue un test important pour les autorités qui souhaitent mettre en place une surveillance efficace.

Comme on pouvait s'y attendre, la réponse la plus forte est venue de la Commission européenne, qui a ordonné jeudi à xAI de conserver tous les documents liés à son chatbot Grok. Cette directive ne confirme pas le lancement d'une enquête officielle, mais il s'agit d'une mesure préliminaire standard. Cette ordonnance est particulièrement notable à la suite des informations de CNN suggérant qu'Elon Musk serait personnellement intervenu pour bloquer les mesures de protection limitant les types d'images que Grok pouvait générer.

On ne sait toujours pas si X a apporté des modifications techniques au modèle Grok, mais l'onglet « médias publics » du compte X de Grok a été supprimé. Dans un communiqué, la société a explicitement condamné l'utilisation d'outils d'IA pour créer du contenu pédopornographique. « Toute personne utilisant ou incitant Grok à créer du contenu illégal subira les mêmes conséquences que si elle téléchargeait du contenu illégal », a publié le compte X Safety le 3 janvier, réitérant une déclaration antérieure d'Elon Musk.

Entre-temps, les régulateurs du monde entier ont émis des avertissements sévères. L'Ofcom britannique a déclaré lundi qu'il était en contact avec xAI et qu'il « procéderait à une évaluation rapide afin de déterminer s'il existe des problèmes de conformité potentiels justifiant une enquête ». Dans une interview radiophonique jeudi, le Premier ministre britannique Keir Starmer a qualifié ce phénomène de « honteux » et « dégoûtant », affirmant que « l'Ofcom bénéficie de notre soutien total pour prendre des mesures à cet égard ».

Dans un message publié sur LinkedIn, la commissaire australienne à la sécurité électronique, Julie Inman-Grant, a indiqué que son bureau avait constaté un doublement des plaintes liées à Grok depuis fin 2025. Cependant, Mme Inman-Grant n'a pas annoncé de mesures immédiates contre xAI, se contentant de déclarer : « Nous utiliserons l'ensemble des outils réglementaires à notre disposition pour enquêter et prendre les mesures appropriées ».

Inscrivez-vous sur la liste d'attente pour Disrupt 2026

Ajoutez votre nom à la liste d'attente Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets en prévente seront mis en vente. Les éditions précédentes de Disrupt ont accueilli des dirigeants de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla. Ils font partie des plus de 250 experts du secteur qui animeront plus de 200 sessions conçues pour accélérer votre croissance et affiner votre avantage concurrentiel. Vous aurez également l'occasion de rencontrer des centaines de start-ups qui stimulent l'innovation dans tous les secteurs.

Inscrivez-vous sur la liste d'attente pour Disrupt 2026

Ajoutez votre nom à la liste d'attente Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets en prévente seront mis en vente. Les éditions précédentes de Disrupt ont accueilli des leaders de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla. Ils font partie des plus de 250 experts du secteur qui animeront plus de 200 sessions conçues pour accélérer votre croissance et affiner votre avantage concurrentiel. Vous aurez également l'occasion de rencontrer des centaines de start-ups qui stimulent l'innovation dans tous les secteurs.

Le plus grand marché actuellement menacé par des mesures réglementaires est l'Inde, où un membre du Parlement a déposé une plainte officielle contre Grok. En janvier, l'autorité indienne de régulation des communications, MeitY, a ordonné à X de régler le problème et de soumettre un rapport sur les mesures prises dans un délai de 72 heures, délai qui a ensuite été prolongé de 48 heures. Bien qu'un rapport ait été soumis à l'autorité de régulation le 7 janvier, on ne sait pas si MeitY le jugera satisfaisant. Si ce n'est pas le cas, X risque de perdre ses protections en matière de sphère de sécurité en Inde, ce qui pourrait sévèrement restreindre ses activités dans le pays.