Meta limite l'accès des adolescents aux personnages générés par l'IA avant la mise à jour

Meta a annoncé une suspension mondiale de l'accès des adolescents à ses personnages générés par IA sur l'ensemble de ses applications. La société a précisé à TechCrunch qu'il ne s'agissait pas d'un abandon de cette fonctionnalité, mais d'une étape vers le développement d'une version mise à jour spécialement conçue pour les jeunes utilisateurs.

Cette décision intervient quelques jours avant le début d'un procès au Nouveau-Mexique, où Meta est accusée de ne pas avoir protégé les enfants contre l'exploitation sexuelle sur ses plateformes. Un récent article de Wired a également souligné les efforts de Meta pour limiter la divulgation d'informations juridiques concernant l'impact des réseaux sociaux sur la santé mentale des adolescents.

En octobre dernier, Meta avait présenté en avant-première des contrôles parentaux pour ses personnages IA, permettant aux tuteurs de surveiller les sujets abordés et de bloquer l'accès à certains personnages, avec la possibilité de désactiver complètement les chats. Alors que ces fonctionnalités devaient être lancées cette année, Meta désactive désormais temporairement tout accès aux personnages IA pour les adolescents pendant qu'elle travaille sur la nouvelle version.

L'entreprise a déclaré que les retours des parents, qui souhaitaient mieux comprendre et contrôler les interactions de leurs adolescents avec l'IA, avaient directement influencé ce changement de politique.

Meta a progressivement renforcé les restrictions concernant l'exposition des adolescents aux contenus générés par l'IA. En octobre également, l'entreprise a introduit des contrôles parentaux sur Instagram, inspirés du classement PG-13 des films, afin d'adapter l'expérience des adolescents avec l'IA en limitant l'accès à des sujets tels que la violence extrême, la nudité et la consommation explicite de drogues.

« À partir des prochaines semaines, les adolescents ne pourront plus accéder aux personnages IA sur nos applications jusqu’à ce que l’expérience mise à jour soit prête. Cela s’appliquera à toute personne ayant indiqué une date de naissance correspondant à l’adolescence, ainsi qu’aux personnes se déclarant adultes mais que nous soupçonnons d’être des adolescents sur la base de notre technologie de prédiction d’âge », a déclaré l’entreprise dans un article de blog mis à jour.

Meta a ajouté que les futurs personnages IA incluront des contrôles parentaux intégrés. Ces nouveaux personnages sont conçus pour fournir des réponses adaptées à l’âge, en se concentrant sur des sujets appropriés tels que l’éducation, le sport et les loisirs.

Les plateformes de réseaux sociaux font l’objet d’une surveillance réglementaire intense. Au-delà de l’affaire du Nouveau-Mexique, Meta se prépare à un autre procès la semaine prochaine, où elle est accusée de contribuer à la dépendance aux réseaux sociaux. Le PDG Mark Zuckerberg devrait témoigner une fois que le procès aura commencé.

La pression s’étend au-delà des réseaux sociaux pour toucher les entreprises d’IA, qui ont également adapté leurs services aux jeunes utilisateurs à la suite de poursuites judiciaires. En octobre, Character.AI, qui permet aux utilisateurs de discuter avec divers avatars IA, a interdit les conversations ouvertes avec les chatbots aux utilisateurs de moins de 18 ans, avant d’annoncer des projets d’histoires interactives pour les enfants. Récemment, OpenAI a mis en place de nouvelles règles de sécurité pour les adolescents sur ChatGPT et a commencé à utiliser la prédiction d’âge pour appliquer des restrictions de contenu.

Correction : cet article a été mis à jour pour préciser que la nouvelle version des personnages IA sera accessible à tous, et pas seulement aux adolescents, lors de son lancement. Elle inclura un contrôle parental.