Des sénateurs américains font pression sur X, Meta et Alphabet au sujet des deepfakes à caractère sexuel

La crise que traverse le secteur technologique face aux « deepfakes » sexualisés et réalisés sans le consentement des personnes concernées s'étend désormais bien au-delà de X.

Dans une lettre adressée aux dirigeants de X, Meta, Alphabet, Snap, Reddit et TikTok, plusieurs sénateurs américains exigent la preuve que ces entreprises ont mis en place des « mesures de protection et des politiques solides », ainsi qu’une explication claire de la manière dont elles comptent endiguer la propagation des deepfakes à caractère sexuel sur leurs plateformes.

Les sénateurs exigent également que toutes les entreprises conservent l’ensemble des documents et informations relatifs à la création, la détection, la modération et la monétisation des images à caractère sexuel générées par l’IA, ainsi que toutes les politiques associées.

Cette lettre intervient quelques heures seulement après que X a annoncé avoir mis à jour Grok afin d’interdire les modifications représentant des personnes réelles dans des tenues suggestives, et d’avoir restreint la création et la modification d’images via Grok aux abonnés payants. (X et xAI opèrent sous l’égide de la même société.)

S'appuyant sur des reportages médiatiques détaillant la facilité et la fréquence avec lesquelles Grok générait des images à caractère sexuel et de nudité représentant des femmes et des enfants, les sénateurs ont souligné que les mesures de protection existantes des plateformes, destinées à empêcher les utilisateurs de publier des images à caractère sexuel non consensuelles, pourraient s’avérer insuffisantes.

« Nous reconnaissons que de nombreuses entreprises ont mis en place des politiques contre les images intimes non consenties et l’exploitation sexuelle, et que de nombreux systèmes d’IA prétendent bloquer la pornographie explicite. Dans la pratique, cependant, comme le montrent les exemples ci-dessus, les utilisateurs trouvent des moyens de contourner ces mesures de protection. Ou bien ces mesures de protection sont inefficaces », indique la lettre.

Grok — et par extension X — a essuyé de vives critiques pour avoir favorisé cette tendance, mais d’autres plateformes ne sont pas épargnées.

Inscrivez-vous sur la liste d’attente de Disrupt 2026

Inscrivez-vous sur la liste d’attente de Disrupt 2026 pour bénéficier d’un accès prioritaire dès que les billets en prévente seront disponibles. Les éditions précédentes de Disrupt ont accueilli Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla sur scène — parmi une sélection de plus de 250 leaders du secteur animant plus de 200 sessions conçues pour stimuler votre croissance et affiner votre avantage concurrentiel. De plus, rencontrez des centaines de start-ups innovantes dans tous les secteurs.

Inscrivez-vous sur la liste d’attente de Disrupt 2026

Inscrivez-vous sur la liste d’attente de Disrupt 2026 pour bénéficier d’un accès prioritaire dès que les billets en prévente seront disponibles. Les éditions précédentes de Disrupt ont accueilli sur scène Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla sur scène — parmi plus de 250 leaders du secteur animant plus de 200 sessions conçues pour stimuler votre croissance et renforcer votre avantage concurrentiel. De plus, venez rencontrer des centaines de start-ups innovantes issues de tous les secteurs.

Les deepfakes ont d’abord fait parler d’eux sur Reddit, où une page présentant des vidéos pornographiques synthétiques mettant en scène des célébrités est devenue virale avant que la plateforme ne la supprime en 2018. Depuis, les deepfakes à caractère sexuel ciblant des célébrités et des personnalités politiques se sont multipliés sur TikTok et YouTube, bien qu’ils proviennent généralement d’ailleurs.

L’année dernière, le comité de surveillance de Meta a mis en avant deux cas d’images explicites générées par IA représentant des personnalités féminines publiques, et la plateforme a autorisé des applications de « nudification » à diffuser des publicités sur ses services — bien qu’elle ait par la suite poursuivi en justice une entreprise appelée CrushAI. De nombreux cas d’enfants diffusant des deepfakes de leurs camarades de classe sur Snapchat ont été signalés. Et Telegram, qui ne figure pas sur la liste des sénateurs, s’est également fait connaître pour héberger des bots conçus pour déshabiller des femmes sur des photos.

En réponse à cette lettre, X a renvoyé à son communiqué concernant la mise à jour de Grok.

« Nous n’autorisons pas et n’autoriserons jamais de contenus intimes non consensuels (NCIM) sur Reddit, nous ne proposons aucun outil permettant de les créer et nous prenons des mesures proactives pour les repérer et les supprimer », a déclaré un porte-parole de Reddit dans un communiqué envoyé par e-mail. « Reddit interdit strictement les NCIM, y compris les représentations falsifiées ou générées par l’IA. Nous interdisons également de solliciter ce type de contenu auprès d’autrui, de partager des liens vers des applications permettant de “déshabiller” des personnes, ou de discuter de la manière de créer ce contenu sur d’autres plateformes », a ajouté le porte-parole.

Alphabet, Snap, TikTok et Meta n’ont pas immédiatement répondu aux demandes de commentaires.

La lettre exige que les entreprises fournissent :

• Des définitions dans leurs politiques des termes « contenu deepfake », « images intimes non consensuelles » ou de termes similaires.
• Des descriptions des politiques de chaque entreprise et de leur approche en matière d’application de la règle concernant les deepfakes non consensuels générés par IA représentant le corps de personnes, les photos non dénudées, les vêtements modifiés et le « déshabillage virtuel ».
• Des descriptions des politiques actuelles en matière de contenu concernant les médias modifiés et les contenus explicites, ainsi que des directives internes fournies aux modérateurs.
• La manière dont les politiques actuelles régissent les outils d’IA et les générateurs d’images en ce qui concerne les contenus suggestifs ou intimes.
• Quels filtres, garde-fous ou mesures ont été mis en place pour empêcher la création et la diffusion de deepfakes.
• Quels mécanismes les entreprises utilisent-elles pour identifier les contenus de type « deepfake » et empêcher leur remise en ligne ?
• Comment elles empêchent les utilisateurs de tirer profit de ce type de contenu.
• Comment les plateformes s’empêchent-elles de monétiser des contenus générés par l’IA sans consentement ?
• Comment les conditions d’utilisation des entreprises leur permettent d’exclure ou de suspendre les utilisateurs qui publient des deepfakes.
• Quelles mesures les entreprises prennent-elles pour informer les victimes de deepfakes à caractère sexuel non consensuels ?

La lettre est signée par les sénateurs Lisa Blunt Rochester (D-Del.), Tammy Baldwin (D-Wis.), Richard Blumenthal (D-Conn.), Kirsten Gillibrand (D-N.Y.), Mark Kelly (D-Arizona), Ben Ray Luján (D-Nouveau-Mexique), Brian Schatz (D-Hawaï) et Adam Schiff (D-Californie).

Cette initiative intervient juste un jour après qu’Elon Musk, propriétaire de xAI, a déclaré qu’il n’avait « pas connaissance d’images de mineurs nus générées par Grok ». Plus tard dans la journée de mercredi, le procureur général de Californie a ouvert une enquête sur le chatbot de xAI, suite à la pression croissante exercée par les gouvernements du monde entier, frustrés par l’absence de mesures de protection autour de Grok qui a permis de tels incidents.

xAI a affirmé prendre des mesures pour supprimer « les contenus illégaux sur X, y compris [le matériel pédopornographique] et la nudité non consentie », bien que ni l’entreprise ni M. Musk n’aient expliqué pourquoi Grok avait été autorisé à générer de telles modifications au départ.

Le problème ne se limite pas non plus aux images sexualisées manipulées sans consentement. Si tous les services de génération et de retouche d’images basés sur l’IA ne permettent pas aux utilisateurs de « déshabiller » des personnes, ils facilitent néanmoins la création de deepfakes. Par exemple, Sora 2 d’OpenAI aurait permis aux utilisateurs de créer des vidéos explicites mettant en scène des enfants ; Nano Banana de Google aurait généré une image de Charlie Kirk se faisant tirer dessus ; et des vidéos racistes réalisées à l’aide du modèle vidéo IA de Google enregistrent des millions de vues sur les réseaux sociaux.

La question se complique encore davantage lorsque les générateurs d’images et de vidéos chinois entrent en scène. De nombreuses entreprises technologiques et applications chinoises — en particulier celles liées à ByteDance — proposent des moyens simples de modifier des visages, des voix et des vidéos, et ces contenus se sont répandus sur les plateformes sociales occidentales. La Chine impose des exigences plus strictes en matière d’étiquetage des contenus synthétiques, exigences qui n’existent pas au niveau fédéral aux États-Unis, où les utilisateurs dépendent plutôt de politiques fragmentées et appliquées de manière incohérente par les plateformes elles-mêmes.

Les législateurs américains ont déjà adopté certaines lois visant à lutter contre la pornographie « deepfake », mais leur impact a été limité. La loi « Take It Down Act », entrée en vigueur au niveau fédéral en mai, vise à criminaliser la création et la diffusion d’images à caractère sexuel non consensuelles. Cependant, plusieurs dispositions de cette loi rendent difficile la mise en cause de la responsabilité des plateformes génératrices d’images, car la majeure partie du contrôle repose plutôt sur les utilisateurs individuels.

Parallèlement, un certain nombre d’États tentent de prendre les choses en main pour protéger les consommateurs et les élections. Cette semaine, la gouverneure de New York, Kathy Hochul, a proposé des lois qui exigeraient que les contenus générés par l’IA soient étiquetés comme tels, et interdiraient les deepfakes non consensuels pendant certaines périodes précédant les élections, y compris les représentations de candidats de l’opposition.