Réglementation chinoise sur les assistants IA : la véritable cible de Pékin

Le concept d’un compagnon IA peut sembler dystopique, mais il est devenu un thème récurrent dans les débats plus larges sur les risques liés à l’IA générative. Il s’agit essentiellement d’un agent conversationnel conçu pour entretenir une relation personnelle et continue avec un utilisateur, doté d’une mémoire et d’une personnalité cohérente qui garantit la cohérence d’une session à l’autre.

Un attachement émotionnel naît naturellement d’une telle conception, et c’est devenu un argument de vente majeur. Une grande partie de l’utilisation consiste en des jeux de rôle informels ou simplement en le désir d’avoir quelque chose qui se souvienne de soi ; à la limite, cette catégorie se confond avec celle des assistants ordinaires. Cependant, alors que de plus en plus de Chinois ont commencé à considérer ces bots comme une forme de compagnon émotionnel, Pékin a désormais décidé que cette pratique devait être réglementée.

La réglementation chinoise sur les compagnons IA entrera en vigueur le 15 juillet, et dans les jours précédant cette date butoir, les deux applications d’IA grand public les plus populaires du pays ont discrètement désactivé leurs fonctionnalités principales. Doubao, de ByteDance, a informé ses utilisateurs que sa fonction d’agent serait mise hors ligne le 15 juillet, invoquant des « ajustements des fonctionnalités du produit », tandis que Qwen, d’Alibaba, a déclaré que ses agents anthropomorphes et créés par les utilisateurs cesseraient de fonctionner le 10 juillet, ses services d’agents plus généraux suivant cinq jours plus tard.

À première vue, on pourrait croire que la Chine met fin aux agents IA. Ce n’est pas le cas. La réglementation établit une distinction entre les agents qui effectuent des tâches et ceux qui offrent un accompagnement, et Pékin ne vise que ces derniers.

La réglementation en question est constituée des « Mesures provisoires relatives à la gestion des services interactifs anthropomorphiques basés sur l’IA », publiées conjointement le 10 avril 2026 par l’Administration chinoise du cyberespace et quatre agences partenaires : la Commission nationale du développement et de la réforme, le ministère de l’Industrie et des Technologies de l’information, le ministère de la Sécurité publique et l’Administration d’État chargée de la régulation du marché.

Ces mesures concernent les services qui simulent des traits de personnalité, des schémas de pensée et des styles de communication humains afin de proposer une interaction émotionnelle continue. Les robots de service client, les systèmes de questions-réponses, les assistants professionnels et les outils éducatifs ou de recherche sont exemptés, à condition qu’ils évitent tout engagement émotionnel prolongé. Il s’agit du premier cadre national dédié de ce type, issu d’un projet soumis à consultation publique publié à la fin de l’année dernière.

Un défi de conception, pas une interdiction

Doubao et Qwen n’ont pas enfreint d’interdiction directe. Ils se sont plutôt heurtés à un conflit de conception. La réglementation exige que les services d’accompagnement mettent en œuvre des systèmes de lutte contre la dépendance, envoient des notifications d’utilisation obligatoires et fournissent des mécanismes de sortie immédiate, ainsi qu’une détection en temps réel de toute dépendance malsaine.

Ces exigences sont en contradiction avec des agents conçus pour se souvenir des utilisateurs, assurer la cohérence d’une session à l’autre et entretenir une relation continue. Plutôt que de modifier la fonctionnalité a posteriori, ByteDance a décidé de la désactiver. Alibaba semble avoir fait un choix similaire. ByteDance redirige désormais les utilisateurs de Doubao vers Maoxiang, une application distincte où ils peuvent recréer des agents ; Alibaba n’a annoncé aucune solution de migration équivalente pour Qwen. Yuanbao, de Tencent, avait supprimé une fonctionnalité comparable dès le mois de juin.

Ce sont les utilisateurs qui en font les frais. Beaucoup ont ouvertement exprimé leur déception sur Weibo ; l’un d’entre eux a notamment décrit ces assistants comme un soutien émotionnel à long terme et a déploré la difficulté d’exporter l’historique des conversations. Doubao permet aux utilisateurs de consulter leurs paramètres et leurs conversations en mode lecture seule jusqu’au 15 octobre de cette année, date après laquelle les données seront traitées conformément à sa politique de confidentialité et deviendront irrécupérables. Les utilisateurs de Qwen n’ont bénéficié d’aucun délai de grâce similaire, et leurs données d’agents sont programmées pour être définitivement supprimées.

Ce qu’impliquent les réglementations chinoises sur les assistants IA

Le contenu de la réglementation est plus nuancé que ne le laisserait supposer une simple répression. Il est interdit aux fournisseurs de proposer des services de compagnon virtuel ou de membre de famille virtuel à des mineurs, et ils doivent obtenir le consentement parental avant de fournir des services à des utilisateurs de moins de 14 ans. Ils sont tenus de créer des « modes mineurs » dédiés, comprenant des limites de temps d’utilisation, des rappels invitant à des interactions dans le monde réel et des contrôles parentaux renforcés.

Ils doivent également détecter les utilisateurs en situation de détresse aiguë et intervenir si une personne présente des signes d’automutilation, de comportement suicidaire ou de pertes financières graves, en signalant la situation aux tuteurs désignés ou aux contacts d’urgence. Il est explicitement interdit de susciter une dépendance émotionnelle ou une addiction, ainsi que d’utiliser la manipulation émotionnelle pour induire des décisions déraisonnables.

Les exigences de conformité sont considérables. Les services qui introduisent des fonctionnalités anthropomorphiques ou dépassent les seuils d’un million d’utilisateurs enregistrés ou de 100 000 utilisateurs actifs par mois doivent réaliser des évaluations de sécurité couvrant huit domaines, allant du traitement des données d’entraînement à la protection des mineurs, et soumettre les rapports aux autorités de régulation provinciales. Les boutiques d’applications doivent vérifier la conformité et retirer les produits non conformes.

Sur le papier, il s’agit d’un ensemble de mesures de protection des utilisateurs plus complet que celui que l’Union européenne, la Commission fédérale du commerce des États-Unis ou la loi californienne SB 243 n’ont pas encore mis en œuvre.

Ce que la réglementation laisse en suspens

Ce que ces mesures ne traitent pas est tout aussi important. Elles ne fixent aucun seuil technique définissant ce qui constitue une interaction émotionnelle, et c’est précisément cette zone d’ombre qui a poussé les plateformes à supprimer des fonctionnalités entières plutôt que de prendre le risque de se retrouver du mauvais côté de la loi. Elles associent de véritables responsabilités en matière de sécurité à des dispositions relatives au contrôle des contenus et à la sécurité nationale qui servent les intérêts de l’État plutôt que ceux de l’utilisateur — un ensemble de mesures qu’aucun autre régulateur n’adopterait tel quel.

Elles laissent également en suspens la question de la répartition de la responsabilité entre les opérateurs de plateformes et les fournisseurs de modèles en amont lorsqu’une infraction trouve son origine dans les résultats générés par le modèle, et elles n’accordent aux utilisateurs aucun droit d’exporter leurs données. Le contexte de la mise en application met en évidence ce problème. Le 26 juin, l’autorité de régulation de l’Internet de Shanghai a déclaré avoir supprimé plus de 14 000 agents d’IA non conformes, invoquant l’usurpation d’identité d’entités officielles, des jeux de rôle vulgaires et la collecte non autorisée de données à caractère personnel.

La question de savoir s’il s’agit là de la bonne voie dépend de la partie du règlement que l’on examine. La partie consacrée à la sécurité traite des préjudices avérés qui sont largement non réglementés ailleurs, allant de l’attachement des adolescents aux chatbots aux applications de compagnie collectant des données intimes. L’interprétation officielle de la Chine s’appuie sur des exemples étrangers, citant les poursuites judiciaires intentées contre Character.AI pour préjudice psychologique causé à des adolescents, les enquêtes de la FTC sur les services de compagnie et les mesures prises en Europe à l’encontre de Replika.

La partie relative au contrôle donne à Pékin un moyen d’influencer ce que ces systèmes peuvent dire, sous le couvert du même discours de protection des utilisateurs. Ces deux aspects sont bien réels, et les gouvernements qui observent cette expérience devront décider quelles parties ils sont prêts à adopter. Pan Helin, membre du comité d’experts du MIIT, a clairement présenté la position officielle au South China Morning Post, déclarant que « les agents actuels ne sont pas encore au point » et axant la politique sur la sécurité et la normalisation.

Pour l’instant, les entreprises ont choisi la voie la plus sûre, qui consiste à désactiver ces fonctionnalités et à définir ultérieurement à quoi ressemblera une version conforme.

Voir aussi : Meta revoit ses politiques relatives aux chatbots IA face aux inquiétudes concernant la sécurité des enfants

Vous souhaitez en savoir plus sur l’IA et le big data auprès des leaders du secteur ? Découvrez l’AI & Big Data Expo qui se tiendra à Amsterdam, en Californie et à Londres. Cet événement complet fait partie de TechEx et se déroule en parallèle d’autres événements technologiques de premier plan, notamment le Cyber Security & Cloud Expo. Cliquez ici pour plus d’informations.

AI News est proposé par TechForge Media. Découvrez ici d’autres événements et webinaires à venir consacrés aux technologies d’entreprise.