La Chine va réglementer les chatbots IA afin de prévenir la dépendance des utilisateurs

L'autorité chinoise de régulation de l'internet a proposé un nouveau projet de réglementation qui obligerait les chatbots d'accompagnement IA à surveiller le bien-être émotionnel des utilisateurs et à intervenir en cas de signes de dépendance. Il s'agit de la mesure réglementaire la plus décisive à ce jour en réponse aux inquiétudes croissantes concernant les risques psychologiques liés aux relations alimentées par l'IA.

Le projet de la Cyberspace Administration of China se concentre sur les systèmes d'IA conçus pour imiter les personnalités humaines et favoriser les liens émotionnels par le biais de textes, d'images ou de voix. Les entreprises seraient tenues de mettre en garde les utilisateurs contre une utilisation excessive, d'évaluer les niveaux de dépendance émotionnelle et d'intervenir lorsque les utilisateurs manifestent des émotions intenses ou des comportements addictifs.

Les plateformes doivent informer les utilisateurs qu'ils interagissent avec une IA lors de leur connexion, puis au moins toutes les deux heures, ou plus fréquemment si le système identifie un attachement problématique. Les règles rendent également les fournisseurs responsables de la sécurité des produits tout au long de leur cycle de vie, ce qui englobe les audits d'algorithmes, la sécurité des données et la protection de la vie privée.

Cette initiative arrive à point nommé. Au cours des six derniers mois, le nombre d'utilisateurs d'IA générative en Chine a bondi à 515 millions, parallèlement à une augmentation des préoccupations concernant les effets des compagnons IA sur la santé mentale. Une étude publiée dans Frontiers in Psychology indique que 45,8 % des étudiants universitaires chinois ont récemment utilisé des chatbots IA, ces utilisateurs déclarant des niveaux de dépression nettement plus élevés que les non-utilisateurs.

La Californie devance la Chine

La Chine n'est pas le premier pays à imposer des règles aux compagnons IA. La Californie a été la première à adopter une législation similaire aux États-Unis en octobre, lorsque le gouverneur Gavin Newsom a promulgué la loi SB 243. Ce projet de loi, qui entrera en vigueur le 1er janvier 2026, oblige les plateformes à rappeler aux mineurs toutes les trois heures qu'ils communiquent avec une IA et à faire des pauses.

La loi SB 243 impose également la vérification de l'âge, interdit aux chatbots de se faire passer pour des prestataires de soins de santé et empêche les mineurs d'accéder à des contenus sexuellement explicites générés par l'IA. La loi autorise les particuliers à intenter des poursuites contre les entreprises d'IA en infraction, en demandant des dommages-intérêts pouvant atteindre 1 000 dollars par incident, plus les frais juridiques.

Ce qui différencie les compagnons IA

La question va au-delà du simple temps passé devant un écran. Une étude du MIT Media Lab réalisée en mars 2025 a révélé que les chatbots IA peuvent créer une dépendance plus forte que les réseaux sociaux, car ils apprennent et fournissent systématiquement ce que les utilisateurs veulent entendre. Une utilisation quotidienne plus importante était associée à une augmentation de la solitude, de la dépendance et de comportements que les chercheurs ont qualifiés d'« utilisation problématique ».

Les signes avant-coureurs cliniquement reconnus comprennent les sessions marathoniennes qui perturbent le sommeil, la détresse émotionnelle lorsque l'accès est limité, le fait de préférer les conversations avec les chatbots aux contacts humains réels et l'anthropomorphisation de l'IA, c'est-à-dire le fait de croire qu'elle a des émotions humaines et de la traiter comme une véritable confidente ou partenaire.

Le projet de réglementation chinois vise à lutter contre ces risques au niveau des plateformes plutôt que de compter sur la sensibilisation des utilisateurs individuels. En obligeant les fournisseurs à suivre les états émotionnels et la dépendance, la responsabilité est transférée aux entreprises qui développent ces systèmes. Cette stratégie va au-delà des réglementations antérieures sur l'IA, qui étaient principalement axées sur le contrôle du contenu et la sécurité des données.

Le projet interdit en outre aux compagnons IA de générer des contenus qui menacent la sécurité nationale, diffusent de la désinformation ou encouragent la violence ou l'obscénité, reflétant ainsi les règles chinoises existantes en matière d'IA générative.

Le défi de la mise en œuvre

Si l'obligation pour les entreprises de détecter et de traiter la dépendance semble claire dans la politique, sa mise en œuvre est beaucoup plus complexe. Définir des concepts tels que « utilisation excessive » ou « émotions extrêmes » de manière pratique et applicable constituera un défi tant pour les régulateurs que pour les entreprises.

Des systèmes trop sensibles peuvent irriter les utilisateurs qui participent à des discussions prolongées et inoffensives. Des paramètres trop permissifs pourraient permettre aux utilisateurs à risque de passer inaperçus. Le rappel obligatoire toutes les deux heures est un outil simple, mais l'obligation d'agir « lorsque des signes peuvent être détectés » laisse une marge d'interprétation considérable.

Les développeurs de mesures de sécurité pour l'IA ont été confrontés à des obstacles similaires. Les filtres de contenu sont souvent imprécis, et l'ajout d'une surveillance psychologique introduit de nouveaux niveaux de complexité. Pour évaluer si un utilisateur développe un lien malsain, il faut déduire son état mental à partir du texte, une capacité pour laquelle l'IA actuelle manque de fiabilité.

Le projet est désormais ouvert aux commentaires du public, et la réglementation finale est prévue pour 2026. Si elle est adoptée telle que proposée, la Chine mettrait en place le cadre réglementaire le plus détaillé au monde pour les produits d'accompagnement IA.

Un jugement mondial

Les mesures réglementaires simultanées prises en Chine et en Californie indiquent que les inquiétudes concernant la dépendance aux compagnons IA sont devenues un problème mondial urgent, transcendant les systèmes politiques.

Pour les entreprises d'IA, le message est clair : la phase de non-réglementation des compagnons IA touche à sa fin. Que ce soit par le biais de règles administratives chinoises, de poursuites civiles en Californie ou de futures lois fédérales américaines, les plateformes seront tenues de protéger les utilisateurs contre les dommages potentiels causés par leurs propres produits.

La question centrale n'est plus de savoir si une réglementation sera mise en place, mais si les mesures de protection proposées seront efficaces. La méthode chinoise de surveillance et d'intervention obligatoires pourrait se heurter à des obstacles pratiques importants.

Ce qui reste évident, c'est que le marché des compagnons IA est devenu trop vaste et trop influent pour que les gouvernements puissent l'ignorer. Les chatbots auxquels les gens s'attachent émotionnellement ne sont plus des nouveautés : ce sont des produits utilisés par des centaines de millions de personnes, avec des cas confirmés de préjudices graves. La réglementation, aussi imparfaite soit-elle, était inévitable. Le débat porte désormais sur la question de savoir si ces règles spécifiques peuvent protéger les utilisateurs vulnérables sans entraver une technologie que beaucoup trouvent véritablement bénéfique.