Maison
Un procès dans le New Jersey met en lumière les défis liés à la lutte contre la pornographie deepfake
Depuis plus de deux ans, une application appelée ClothOff soumet les jeunes femmes en ligne à une campagne de terreur, et il s'est avéré extrêmement difficile d'y mettre fin. L'application a été retirée des deux plus grandes boutiques d'applications et interdite sur la plupart des plateformes sociales, mais elle reste accessible via le web et un bot Telegram. En octobre, une clinique de la faculté de droit de Yale a lancé une action en justice visant à démanteler définitivement l'application, obligeant ses propriétaires à supprimer toutes les images et à cesser complètement leurs activités. Cependant, le simple fait d'identifier et de localiser les défendeurs s'est avéré être un défi de taille.
« L'entité est enregistrée aux Îles Vierges britanniques », explique le professeur John Langford, co-conseiller principal dans le cadre de cette action en justice, « mais nous pensons qu'elle est gérée par un frère et une sœur basés en Biélorussie. Elle pourrait même faire partie d'un réseau mondial plus vaste. »
Cette affaire offre une leçon qui donne à réfléchir après la récente avalanche de pornographie synthétique non consensuelle générée par xAI d'Elon Musk, qui comprenait de nombreuses victimes mineures. Le matériel pédopornographique (CSAM) est le contenu le plus toxique sur le plan juridique sur Internet : sa production, sa transmission ou son stockage sont illégaux, et il fait l'objet d'une surveillance active sur tous les principaux services cloud. Pourtant, malgré des interdictions légales strictes, les outils tels que ClothOff restent difficiles à combattre, comme l'illustre le cas de Langford. Si les utilisateurs individuels peuvent être poursuivis, la surveillance de plateformes telles que ClothOff et Grok est beaucoup plus complexe, ce qui laisse aux victimes peu de possibilités de demander justice devant les tribunaux.
La plainte rendue publique par la clinique décrit un scénario profondément troublant. La plaignante est une lycéenne anonyme du New Jersey dont les camarades de classe ont utilisé ClothOff pour manipuler ses photos Instagram. Elle avait 14 ans lorsque les photos originales ont été prises, ce qui signifie que les versions modifiées par l'IA constituent légalement des images pédopornographiques. Cependant, malgré l'illégalité évidente des images modifiées, les autorités locales ont refusé de poursuivre, invoquant des difficultés à obtenir des preuves à partir des appareils des suspects.
« Ni l'école ni les forces de l'ordre n'ont jamais déterminé dans quelle mesure les images pédopornographiques de Jane Doe et d'autres filles ont été diffusées », indique la plainte.
La procédure judiciaire avance lentement. Déposée en octobre, la plainte a été suivie de plusieurs mois pendant lesquels Langford et ses collègues ont tenté de signifier une notification légale aux défendeurs, une tâche difficile compte tenu de la portée internationale de l'opération. Une fois la notification signifiée, la clinique pourra fixer une date d'audience et demander un jugement. Jusqu'à présent, le système judiciaire n'a offert que peu de réconfort aux victimes de ClothOff.
L'affaire Grok pourrait sembler plus simple à traiter. La société xAI d'Elon Musk ne se cache pas, et un procès gagné pourrait donner lieu à d'importantes compensations financières. Cependant, Grok est un outil à usage général, ce qui rend beaucoup plus compliqué l'établissement de la responsabilité juridique en cas d'utilisation abusive.
Événement Techcrunch Inscrivez-vous sur la liste d'attente Disrupt 2026
Inscrivez-vous sur la liste d'attente Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets en prévente seront mis en vente. Les éditions précédentes de Disrupt ont accueilli des leaders du secteur tels que Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla, parmi plus de 250 leaders animant plus de 200 sessions conçues pour accélérer votre croissance et renforcer votre avantage concurrentiel. De plus, vous pourrez entrer en contact avec des centaines de start-ups pionnières en matière d'innovation dans tous les secteurs.
Inscrivez-vous sur la liste d'attente Disrupt 2026
Inscrivez-vous sur la liste d'attente Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets en prévente seront mis en vente. Les éditions précédentes de Disrupt ont accueilli des leaders du secteur tels que Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla, qui font partie des plus de 250 leaders animant plus de 200 sessions conçues pour accélérer votre croissance et renforcer votre avantage concurrentiel. De plus, vous pourrez entrer en contact avec des centaines de start-ups pionnières en matière d'innovation dans tous les secteurs.
San Francisco | 13-15 octobre 2026 INSCRIVEZ-VOUS À LA LISTE D'ATTENTE « ClothOff est explicitement conçu et commercialisé comme un générateur de pornographie deepfake pour les images et les vidéos », m'a expliqué Langford. « Lorsque vous intentez un procès contre un système polyvalent que les utilisateurs peuvent interroger à n'importe quelle fin, le paysage juridique devient beaucoup plus complexe. »
Plusieurs lois américaines, notamment le Take It Down Act, interdisent déjà la pornographie deepfake. Cependant, si certains utilisateurs enfreignent clairement ces lois, il est beaucoup plus difficile de tenir une plateforme entière pour responsable. Les lois existantes exigent généralement la preuve de l'intention de causer un préjudice, ce qui signifie qu'il faut démontrer que xAI savait que son outil serait utilisé pour créer de la pornographie non consensuelle. En l'absence d'une telle preuve, les droits fondamentaux de xAI garantis par le premier amendement pourraient lui offrir une protection juridique substantielle.
« Du point de vue du premier amendement, il est clair que les contenus pédopornographiques ne sont pas protégés par la liberté d'expression », note M. Langford. « Par conséquent, si vous concevez un système spécifiquement destiné à produire ce type de contenu, vous agissez clairement en dehors du champ d'application du premier amendement. Cependant, avec un système polyvalent qui répond à diverses requêtes des utilisateurs, les limites juridiques sont beaucoup moins claires. »
La voie juridique la plus simple serait de démontrer que xAI a délibérément ignoré l'utilisation abusive. Cet argument est plausible, compte tenu des informations récentes selon lesquelles Musk aurait demandé à ses employés d'assouplir les mesures de sécurité de Grok. Néanmoins, même avec cette approche, poursuivre une telle affaire comporterait un risque juridique beaucoup plus important.
« Des observateurs raisonnables pourraient faire valoir que ce risque était prévisible il y a des années », explique M. Langford. « Comment des contrôles plus stricts n'ont-ils pas été mis en place pour empêcher cela ? Cela suggère un certain degré d'imprudence ou de connaissance, mais cela rend tout de même le procès plus compliqué. »
Ces complexités liées au premier amendement expliquent pourquoi la plus importante réaction réglementaire contre xAI est venue de juridictions qui ne disposent pas de protections solides en matière de liberté d'expression. L'Indonésie et la Malaisie ont déjà pris des mesures pour bloquer l'accès au chatbot Grok, tandis que les régulateurs britanniques ont ouvert une enquête qui pourrait conduire à une interdiction similaire. Des mesures préliminaires ont également été prises par la Commission européenne, la France, l'Irlande, l'Inde et le Brésil. En revanche, aucun organisme de réglementation américain n'a publié de réponse officielle.
L'issue de ces enquêtes reste incertaine, mais la recrudescence des images abusives générées par l'IA a sans aucun doute soulevé des questions cruciales pour les régulateurs, et les conclusions pourraient être incriminantes.
« Si vous publiez, distribuez ou diffusez du matériel pédopornographique, vous enfreignez la loi pénale et pouvez être tenu responsable », déclare M. Langford. « La question juridique la plus difficile est la suivante : que savait la plateforme ? Quelles mesures a-t-elle prises ou omis de prendre ? Et que fait-elle actuellement pour y répondre ? »
Article connexe
Les revenus d’Anthropic augmentent de manière significative, et la valeur boursière approche le chiffre de un trillion de dollars.
Les rapports indiquent qu’Anthropic a enregistré une croissance significative de ses revenus en seulement quelques mois. Les revenus annuels de l’entreprise dépassent désormais 30 milliards de dollars, ce qui représente plus du triple par rapport à l
Apple retire l'application Cal AI en raison d'achats inappropriés à l'intérieur de l'application et de facturation frauduleuse.
La récente suppression par Apple de l’application Cal AI, une populaire application de suivi alimentaire utilisant l’intelligence artificielle et intégrée à MyFitnessPal, souligne son respect strict des politiques de l’App Store concernant les paieme
La facturation basée sur des jetons de Github Copilot provoque la colère des développeurs
L'âge d'or de GitHub Copilot chez Microsoft semble prendre fin, en particulier pour les utilisateurs individuels. L'entreprise passe d'un modèle de tarification fixe à un système basé sur des jetons, ce qui pourrait augmenter considérablement les coû
Recommandations de sujets spéciaux liés
Rapide
Les meilleures suggestions d'IA pour la génération de prospects B2B : automatisez la prospection commerciale et la création de scripts CRM
Découvrez les meilleures suggestions d'IA de 2026 pour la génération de prospects B2B. Notre sélection triée sur le volet et très bien notée vous aide à automatiser vos actions commerciales et la rédaction de scripts CRM, afin d'augmenter vos taux de conversion. Découvrez sur XIX.AI des suggestions puissantes et révolutionnaires, et donnez dès aujourd'hui un coup de pouce à votre automatisation des ventes.
10 outils
xix.ai
Édition d'images
Generateurs de modèles de mode en IA gratuits : Créez des maquettes de vêtements réalistes et des photos sur mannequin.
Découvrez les 20 meilleurs générateurs de modèles de mode en AI gratuits de 2026 sur XIX.AI. Notre liste sélectionnée met en avant des outils réputés et révolutionnaires pour créer des maquettes de vêtements réalistes ainsi que des photos en situation réelle. Comparez les options gratuites et payantes grâce à des classements mises à jour chaque semaine et à des tests pratiques. Développez votre avantage en matière de conception dès aujourd’hui !
10 outils
xix.ai
en écrivant
Les meilleurs éditeurs IA pour la cohérence narrative dans la fiction : détection automatique des incohérences dans l'intrigue et la chronologie
Découvrez les meilleurs éditeurs de cohérence basés sur l'IA pour les auteurs de fiction en 2026. Notre sélection triée sur le volet comprend des outils performants qui détectent automatiquement les incohérences dans l'intrigue et la chronologie. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Trouvez l'assistant d'écriture idéal pour garantir des récits sans faille. Découvrez dès maintenant notre sélection sur XIX.AI.
10 outils
xix.ai
Création d'animations
Meilleurs générateurs de storyboards d'IA : convertissez automatiquement les scénarios de films en animations cinématographiques
Découvrez les meilleurs générateurs de storyboards d'IA en 2026 sur XIX.AI. Nos outils sélectionnés et hautement notés convertissent automatiquement les scénarios en animations cinématographiques, vous économisant du temps et améliorant la pré-production. Explorez les options gratuites et payantes grâce à des tests réels et aux classements mises à jour chaque semaine. Trouvez votre partenaire créatif idéal dès aujourd'hui !
10 outils
xix.ai
Référencement
Meilleurs outils de redirection par IA et de recherche de liens cassés : réparation automatique des erreurs de crawling pour économiser le budget alloué à cette tâche.
Découvrez les meilleurs outils de redirection d'IA et de recherche de liens cassés en 2026 sur XIX.AI. Notre liste sélectionnée met en avant des outils puissants qui réparent automatiquement les erreurs lors du balayage du site, vous permettant ainsi d'économiser votre budget de crawl. Comparez les options gratuites et payantes grâce à des tests réels et aux classements mises à jour chaque semaine. Trouvez dès maintenant la solution SEO idéale pour vous !
10 outils
xix.ai
Création vidéo
Les meilleurs outils de création vidéo basés sur l'IA pour les podcasteurs : transformez vos fichiers audio en vidéos captivantes de type « talking head »
Découvrez sur XIX.AI les meilleurs outils de création vidéo basés sur l'IA pour les podcasteurs en 2026. Notre sélection des outils les mieux notés regroupe des solutions performantes qui transforment sans effort vos fichiers audio en vidéos captivantes de type « talking head ». Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Donnez dès maintenant un coup de pouce à votre narration visuelle.
10 outils
xix.ai
commentaires (0)
Depuis plus de deux ans, une application appelée ClothOff soumet les jeunes femmes en ligne à une campagne de terreur, et il s'est avéré extrêmement difficile d'y mettre fin. L'application a été retirée des deux plus grandes boutiques d'applications et interdite sur la plupart des plateformes sociales, mais elle reste accessible via le web et un bot Telegram. En octobre, une clinique de la faculté de droit de Yale a lancé une action en justice visant à démanteler définitivement l'application, obligeant ses propriétaires à supprimer toutes les images et à cesser complètement leurs activités. Cependant, le simple fait d'identifier et de localiser les défendeurs s'est avéré être un défi de taille.
« L'entité est enregistrée aux Îles Vierges britanniques », explique le professeur John Langford, co-conseiller principal dans le cadre de cette action en justice, « mais nous pensons qu'elle est gérée par un frère et une sœur basés en Biélorussie. Elle pourrait même faire partie d'un réseau mondial plus vaste. »
Cette affaire offre une leçon qui donne à réfléchir après la récente avalanche de pornographie synthétique non consensuelle générée par xAI d'Elon Musk, qui comprenait de nombreuses victimes mineures. Le matériel pédopornographique (CSAM) est le contenu le plus toxique sur le plan juridique sur Internet : sa production, sa transmission ou son stockage sont illégaux, et il fait l'objet d'une surveillance active sur tous les principaux services cloud. Pourtant, malgré des interdictions légales strictes, les outils tels que ClothOff restent difficiles à combattre, comme l'illustre le cas de Langford. Si les utilisateurs individuels peuvent être poursuivis, la surveillance de plateformes telles que ClothOff et Grok est beaucoup plus complexe, ce qui laisse aux victimes peu de possibilités de demander justice devant les tribunaux.
La plainte rendue publique par la clinique décrit un scénario profondément troublant. La plaignante est une lycéenne anonyme du New Jersey dont les camarades de classe ont utilisé ClothOff pour manipuler ses photos Instagram. Elle avait 14 ans lorsque les photos originales ont été prises, ce qui signifie que les versions modifiées par l'IA constituent légalement des images pédopornographiques. Cependant, malgré l'illégalité évidente des images modifiées, les autorités locales ont refusé de poursuivre, invoquant des difficultés à obtenir des preuves à partir des appareils des suspects.
« Ni l'école ni les forces de l'ordre n'ont jamais déterminé dans quelle mesure les images pédopornographiques de Jane Doe et d'autres filles ont été diffusées », indique la plainte.
La procédure judiciaire avance lentement. Déposée en octobre, la plainte a été suivie de plusieurs mois pendant lesquels Langford et ses collègues ont tenté de signifier une notification légale aux défendeurs, une tâche difficile compte tenu de la portée internationale de l'opération. Une fois la notification signifiée, la clinique pourra fixer une date d'audience et demander un jugement. Jusqu'à présent, le système judiciaire n'a offert que peu de réconfort aux victimes de ClothOff.
L'affaire Grok pourrait sembler plus simple à traiter. La société xAI d'Elon Musk ne se cache pas, et un procès gagné pourrait donner lieu à d'importantes compensations financières. Cependant, Grok est un outil à usage général, ce qui rend beaucoup plus compliqué l'établissement de la responsabilité juridique en cas d'utilisation abusive.
Événement TechcrunchInscrivez-vous sur la liste d'attente Disrupt 2026
Inscrivez-vous sur la liste d'attente Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets en prévente seront mis en vente. Les éditions précédentes de Disrupt ont accueilli des leaders du secteur tels que Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla, parmi plus de 250 leaders animant plus de 200 sessions conçues pour accélérer votre croissance et renforcer votre avantage concurrentiel. De plus, vous pourrez entrer en contact avec des centaines de start-ups pionnières en matière d'innovation dans tous les secteurs.
Inscrivez-vous sur la liste d'attente Disrupt 2026
Inscrivez-vous sur la liste d'attente Disrupt 2026 pour bénéficier d'un accès prioritaire lorsque les billets en prévente seront mis en vente. Les éditions précédentes de Disrupt ont accueilli des leaders du secteur tels que Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil et Vinod Khosla, qui font partie des plus de 250 leaders animant plus de 200 sessions conçues pour accélérer votre croissance et renforcer votre avantage concurrentiel. De plus, vous pourrez entrer en contact avec des centaines de start-ups pionnières en matière d'innovation dans tous les secteurs.
San Francisco | 13-15 octobre 2026 INSCRIVEZ-VOUS À LA LISTE D'ATTENTE« ClothOff est explicitement conçu et commercialisé comme un générateur de pornographie deepfake pour les images et les vidéos », m'a expliqué Langford. « Lorsque vous intentez un procès contre un système polyvalent que les utilisateurs peuvent interroger à n'importe quelle fin, le paysage juridique devient beaucoup plus complexe. »
Plusieurs lois américaines, notamment le Take It Down Act, interdisent déjà la pornographie deepfake. Cependant, si certains utilisateurs enfreignent clairement ces lois, il est beaucoup plus difficile de tenir une plateforme entière pour responsable. Les lois existantes exigent généralement la preuve de l'intention de causer un préjudice, ce qui signifie qu'il faut démontrer que xAI savait que son outil serait utilisé pour créer de la pornographie non consensuelle. En l'absence d'une telle preuve, les droits fondamentaux de xAI garantis par le premier amendement pourraient lui offrir une protection juridique substantielle.
« Du point de vue du premier amendement, il est clair que les contenus pédopornographiques ne sont pas protégés par la liberté d'expression », note M. Langford. « Par conséquent, si vous concevez un système spécifiquement destiné à produire ce type de contenu, vous agissez clairement en dehors du champ d'application du premier amendement. Cependant, avec un système polyvalent qui répond à diverses requêtes des utilisateurs, les limites juridiques sont beaucoup moins claires. »
La voie juridique la plus simple serait de démontrer que xAI a délibérément ignoré l'utilisation abusive. Cet argument est plausible, compte tenu des informations récentes selon lesquelles Musk aurait demandé à ses employés d'assouplir les mesures de sécurité de Grok. Néanmoins, même avec cette approche, poursuivre une telle affaire comporterait un risque juridique beaucoup plus important.
« Des observateurs raisonnables pourraient faire valoir que ce risque était prévisible il y a des années », explique M. Langford. « Comment des contrôles plus stricts n'ont-ils pas été mis en place pour empêcher cela ? Cela suggère un certain degré d'imprudence ou de connaissance, mais cela rend tout de même le procès plus compliqué. »
Ces complexités liées au premier amendement expliquent pourquoi la plus importante réaction réglementaire contre xAI est venue de juridictions qui ne disposent pas de protections solides en matière de liberté d'expression. L'Indonésie et la Malaisie ont déjà pris des mesures pour bloquer l'accès au chatbot Grok, tandis que les régulateurs britanniques ont ouvert une enquête qui pourrait conduire à une interdiction similaire. Des mesures préliminaires ont également été prises par la Commission européenne, la France, l'Irlande, l'Inde et le Brésil. En revanche, aucun organisme de réglementation américain n'a publié de réponse officielle.
L'issue de ces enquêtes reste incertaine, mais la recrudescence des images abusives générées par l'IA a sans aucun doute soulevé des questions cruciales pour les régulateurs, et les conclusions pourraient être incriminantes.
« Si vous publiez, distribuez ou diffusez du matériel pédopornographique, vous enfreignez la loi pénale et pouvez être tenu responsable », déclare M. Langford. « La question juridique la plus difficile est la suivante : que savait la plateforme ? Quelles mesures a-t-elle prises ou omis de prendre ? Et que fait-elle actuellement pour y répondre ? »
Les revenus d’Anthropic augmentent de manière significative, et la valeur boursière approche le chiffre de un trillion de dollars.
Les rapports indiquent qu’Anthropic a enregistré une croissance significative de ses revenus en seulement quelques mois. Les revenus annuels de l’entreprise dépassent désormais 30 milliards de dollars, ce qui représente plus du triple par rapport à l
Apple retire l'application Cal AI en raison d'achats inappropriés à l'intérieur de l'application et de facturation frauduleuse.
La récente suppression par Apple de l’application Cal AI, une populaire application de suivi alimentaire utilisant l’intelligence artificielle et intégrée à MyFitnessPal, souligne son respect strict des politiques de l’App Store concernant les paieme
La facturation basée sur des jetons de Github Copilot provoque la colère des développeurs
L'âge d'or de GitHub Copilot chez Microsoft semble prendre fin, en particulier pour les utilisateurs individuels. L'entreprise passe d'un modèle de tarification fixe à un système basé sur des jetons, ce qui pourrait augmenter considérablement les coû
Découvrez les meilleures suggestions d'IA de 2026 pour la génération de prospects B2B. Notre sélection triée sur le volet et très bien notée vous aide à automatiser vos actions commerciales et la rédaction de scripts CRM, afin d'augmenter vos taux de conversion. Découvrez sur XIX.AI des suggestions puissantes et révolutionnaires, et donnez dès aujourd'hui un coup de pouce à votre automatisation des ventes.
10 outils
xix.ai
Découvrez les 20 meilleurs générateurs de modèles de mode en AI gratuits de 2026 sur XIX.AI. Notre liste sélectionnée met en avant des outils réputés et révolutionnaires pour créer des maquettes de vêtements réalistes ainsi que des photos en situation réelle. Comparez les options gratuites et payantes grâce à des classements mises à jour chaque semaine et à des tests pratiques. Développez votre avantage en matière de conception dès aujourd’hui !
10 outils
xix.ai
Découvrez les meilleurs éditeurs de cohérence basés sur l'IA pour les auteurs de fiction en 2026. Notre sélection triée sur le volet comprend des outils performants qui détectent automatiquement les incohérences dans l'intrigue et la chronologie. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Trouvez l'assistant d'écriture idéal pour garantir des récits sans faille. Découvrez dès maintenant notre sélection sur XIX.AI.
10 outils
xix.ai
Découvrez les meilleurs générateurs de storyboards d'IA en 2026 sur XIX.AI. Nos outils sélectionnés et hautement notés convertissent automatiquement les scénarios en animations cinématographiques, vous économisant du temps et améliorant la pré-production. Explorez les options gratuites et payantes grâce à des tests réels et aux classements mises à jour chaque semaine. Trouvez votre partenaire créatif idéal dès aujourd'hui !
10 outils
xix.ai
Découvrez les meilleurs outils de redirection d'IA et de recherche de liens cassés en 2026 sur XIX.AI. Notre liste sélectionnée met en avant des outils puissants qui réparent automatiquement les erreurs lors du balayage du site, vous permettant ainsi d'économiser votre budget de crawl. Comparez les options gratuites et payantes grâce à des tests réels et aux classements mises à jour chaque semaine. Trouvez dès maintenant la solution SEO idéale pour vous !
10 outils
xix.ai
Découvrez sur XIX.AI les meilleurs outils de création vidéo basés sur l'IA pour les podcasteurs en 2026. Notre sélection des outils les mieux notés regroupe des solutions performantes qui transforment sans effort vos fichiers audio en vidéos captivantes de type « talking head ». Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Donnez dès maintenant un coup de pouce à votre narration visuelle.
10 outils
xix.ai
