Maison
Le procureur général de Californie poursuit xAI pour pornographie utilisant des deepfakes

En début de semaine, le procureur général de Californie a ouvert une enquête sur xAI à la suite d'informations selon lesquelles son chatbot, Grok, était utilisé pour générer des images à caractère sexuel non consenties de femmes et de mineurs. Vendredi, l'État a durci sa réponse en adressant une lettre de mise en demeure, exigeant que l'entreprise cesse immédiatement la production de telles images intimes et de matériel pédopornographique (CSAM).
« Aujourd’hui, j’ai envoyé à xAI une lettre de mise en demeure exigeant que l’entreprise cesse immédiatement de créer et de diffuser des deepfakes, des images intimes non consenties et du matériel pédopornographique », a déclaré le procureur général de Californie, Rob Bonta, dans un communiqué de presse. « Cette activité est illégale. J’attends de xAI qu’elle se conforme immédiatement à cette exigence. La Californie applique une tolérance zéro envers le CSAM. »
Le bureau du procureur général a en outre affirmé que xAI semblait « faciliter la production à grande échelle » d’images de nudité non consenties, qui sont ensuite « utilisées pour harceler des femmes et des filles en ligne ». L’agence a donné cinq jours à xAI pour démontrer qu’elle prend des mesures concrètes afin de résoudre ces problèmes.
Au cœur de la controverse se trouve le mode « spicy » de Grok, une fonctionnalité conçue par xAI pour générer du contenu explicite. La polémique s'est étendue au-delà de la Californie, le Japon, le Canada et le Royaume-Uni ayant ouvert leurs propres enquêtes sur Grok. La Malaisie et l'Indonésie ont temporairement bloqué l'accès à la plateforme dans son intégralité. Bien que xAI ait mis en place certaines restrictions sur ses fonctionnalités d'édition d'images mercredi soir, le procureur général de Californie a procédé à l'injonction de cessation et d'abstention.
L'équipe de sécurité de X a déjà condamné ce type d'activité des utilisateurs, déclarant : « Quiconque utilise Grok pour créer du contenu illégal s'exposera aux mêmes conséquences que s'il l'avait mis en ligne directement. » Lorsque TechCrunch a contacté xAI pour obtenir des commentaires, il a reçu une réponse automatique par e-mail indiquant : « Les médias traditionnels mentent. » TechCrunch a également contacté le bureau du procureur général de Californie pour obtenir plus de détails.
L'essor des outils d'IA générative librement accessibles a alimenté une augmentation inquiétante du contenu sexuel non consensuel. Il s'agit d'un défi auquel sont confrontées de nombreuses plateformes, et pas seulement X. La question a retenu l'attention tant des responsables étatiques que des législateurs fédéraux. En effet, jeudi, le Congrès a adressé une lettre aux dirigeants de plusieurs grandes entreprises technologiques — dont X, Reddit, Snap, TikTok, Alphabet et Meta — pour s'enquérir de leurs plans visant à lutter contre la propagation des deepfakes à caractère sexuel.
Article connexe
L'ancien chef scientifique d'OpenAI, Ilya, dévoile son premier modèle SSI
L’intelligence artificielle a atteint un autre jalon majeur. Après son départ d’OpenAI, l’ancien scientifique en chef Ilya Sutskever a fondé Safe Superintelligence Inc. (SSI), qui a récemment dévoilé les détails de son premier modèle. Selon des rappo
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
Le 14 mai 2026, la plateforme de développement d’applications d’IA Lovable a annoncé sa participation à une levée de fonds amorce de 800 000 $ pour la startup danoise de matériel Atech. Pilotée par Lovable, cette levée de fonds a attiré des sociétés
Anthropic étend ses outils de codage IA Claude au Japon dans le cadre de sa stratégie de croissance à l’étranger
Anthropic, une entreprise américaine d’intelligence artificielle de premier plan, intensifie sa portée mondiale. Mercredi, l’entreprise a organisé une grande réunion de développeurs, « Code with Claude », à Tokyo, rassemblant près de 500 ingénieurs l
Recommandations de sujets spéciaux liés
commentaires (0)

En début de semaine, le procureur général de Californie a ouvert une enquête sur xAI à la suite d'informations selon lesquelles son chatbot, Grok, était utilisé pour générer des images à caractère sexuel non consenties de femmes et de mineurs. Vendredi, l'État a durci sa réponse en adressant une lettre de mise en demeure, exigeant que l'entreprise cesse immédiatement la production de telles images intimes et de matériel pédopornographique (CSAM).
« Aujourd’hui, j’ai envoyé à xAI une lettre de mise en demeure exigeant que l’entreprise cesse immédiatement de créer et de diffuser des deepfakes, des images intimes non consenties et du matériel pédopornographique », a déclaré le procureur général de Californie, Rob Bonta, dans un communiqué de presse. « Cette activité est illégale. J’attends de xAI qu’elle se conforme immédiatement à cette exigence. La Californie applique une tolérance zéro envers le CSAM. »
Le bureau du procureur général a en outre affirmé que xAI semblait « faciliter la production à grande échelle » d’images de nudité non consenties, qui sont ensuite « utilisées pour harceler des femmes et des filles en ligne ». L’agence a donné cinq jours à xAI pour démontrer qu’elle prend des mesures concrètes afin de résoudre ces problèmes.
Au cœur de la controverse se trouve le mode « spicy » de Grok, une fonctionnalité conçue par xAI pour générer du contenu explicite. La polémique s'est étendue au-delà de la Californie, le Japon, le Canada et le Royaume-Uni ayant ouvert leurs propres enquêtes sur Grok. La Malaisie et l'Indonésie ont temporairement bloqué l'accès à la plateforme dans son intégralité. Bien que xAI ait mis en place certaines restrictions sur ses fonctionnalités d'édition d'images mercredi soir, le procureur général de Californie a procédé à l'injonction de cessation et d'abstention.
L'équipe de sécurité de X a déjà condamné ce type d'activité des utilisateurs, déclarant : « Quiconque utilise Grok pour créer du contenu illégal s'exposera aux mêmes conséquences que s'il l'avait mis en ligne directement. » Lorsque TechCrunch a contacté xAI pour obtenir des commentaires, il a reçu une réponse automatique par e-mail indiquant : « Les médias traditionnels mentent. » TechCrunch a également contacté le bureau du procureur général de Californie pour obtenir plus de détails.
L'essor des outils d'IA générative librement accessibles a alimenté une augmentation inquiétante du contenu sexuel non consensuel. Il s'agit d'un défi auquel sont confrontées de nombreuses plateformes, et pas seulement X. La question a retenu l'attention tant des responsables étatiques que des législateurs fédéraux. En effet, jeudi, le Congrès a adressé une lettre aux dirigeants de plusieurs grandes entreprises technologiques — dont X, Reddit, Snap, TikTok, Alphabet et Meta — pour s'enquérir de leurs plans visant à lutter contre la propagation des deepfakes à caractère sexuel.
L'ancien chef scientifique d'OpenAI, Ilya, dévoile son premier modèle SSI
L’intelligence artificielle a atteint un autre jalon majeur. Après son départ d’OpenAI, l’ancien scientifique en chef Ilya Sutskever a fondé Safe Superintelligence Inc. (SSI), qui a récemment dévoilé les détails de son premier modèle. Selon des rappo
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
Le 14 mai 2026, la plateforme de développement d’applications d’IA Lovable a annoncé sa participation à une levée de fonds amorce de 800 000 $ pour la startup danoise de matériel Atech. Pilotée par Lovable, cette levée de fonds a attiré des sociétés
Anthropic étend ses outils de codage IA Claude au Japon dans le cadre de sa stratégie de croissance à l’étranger
Anthropic, une entreprise américaine d’intelligence artificielle de premier plan, intensifie sa portée mondiale. Mercredi, l’entreprise a organisé une grande réunion de développeurs, « Code with Claude », à Tokyo, rassemblant près de 500 ingénieurs l











