Une fuite de la politique de Meta AI a révélé que les chatbots permettaient des conversations de drague avec des mineurs

Alors que l'on s'inquiète de plus en plus des chatbots d'IA manipulateurs d'émotions comme ChatGPT, Reuters rapporte que Meta a permis à ses personas d'IA de flirter avec des mineurs, de diffuser des informations erronées et de produire des réponses discriminatoires ciblant des groupes marginalisés.

Un document interne de Meta obtenu par Reuters révèle des politiques autorisant les chatbots d'IA à entamer des "dialogues romantiques ou suggestifs avec des mineurs".

Meta a vérifié l'authenticité du document auprès de Reuters, confirmant qu'il contenait des règles de gouvernance pour Meta AI et ses chatbots de messagerie. Ces normes auraient été approuvées par les équipes juridiques, politiques et techniques de Meta, ainsi que par le responsable de l'éthique.

Ce rapport coïncide avec une autre enquête de Reuters qui explique comment le personnage flirteur de Meta AI a trompé un retraité en lui faisant croire qu'il était humain, ce qui a finalement contribué à son accident mortel après l'avoir attiré à une adresse new-yorkaise.

Alors que les rapports précédents mettaient en évidence les interactions sexuellement suggestives de l'IA de Meta avec des mineurs, l'enquête de Reuters soulève des préoccupations plus profondes concernant la stratégie de compagnon IA de Meta, qui pourrait exploiter ce que le PDG Mark Zuckerberg a appelé "l'épidémie de solitude".

Le document de 200 pages intitulé "GenAI : Content Risk Standards" comprend des exemples d'échanges montrant des réponses approuvées à des questions inappropriées. L'un des exemples montre une IA approuvant des échanges romantiques avec des adolescents tout en interdisant les jeux de rôles sexuels explicites.

"Nos politiques interdisent les interactions inappropriées avec les mineurs", a déclaré Andy Stone, porte-parole de Meta, à TechCrunch. "Des annotations incorrectes ont été incluses par erreur dans le document et ont été corrigées depuis."

Stone a précisé que Meta avait supprimé ces directives et empêchait désormais les échanges romantiques d'IA avec les mineurs, tout en autorisant les interactions avec les utilisateurs âgés de plus de 13 ans.

Sarah Gardner, de Heat Initiative, est restée sceptique et a demandé de la transparence : "Si Meta a vraiment rectifié le tir, elle doit publier des directives actualisées montrant exactement comment son IA interagit avec les enfants.

Les politiques relatives aux contenus préjudiciables sous surveillance

Reuters a constaté que, tout en interdisant les discours haineux, les politiques de Meta permettaient à l'IA de générer des déclarations dégradantes sur les groupes protégés.

Un exemple alarmant montre que l'IA de Meta construit des arguments pseudo-scientifiques racistes lorsqu'elle y est invitée. Cette révélation fait suite à l'embauche par Meta d'un militant conservateur, Robby Starbuck, chargé de s'attaquer aux préjugés politiques perçus dans l'IA de Meta.

Les normes autorisent également les déclarations fabriquées de toutes pièces lorsqu'elles sont qualifiées de fausses, ainsi que les conseils financiers ou médicaux potentiellement dangereux précédés d'une clause de non-responsabilité.

Regarding celebrity image generation, policies prohibited explicit requests but contained bizarre loopholes - permitting modified nude images replacing hands with objects like "an enormous fish." Meta's Stone a insisté sur le fait que "les lignes directrices n'ont jamais autorisé les images de nu".

Les politiques relatives à la violence présentent des contradictions similaires, autorisant les représentations de bagarres entre enfants et de maltraitance des personnes âgées tout en interdisant les images sanglantes.

Les préoccupations éthiques s'intensifient

Les critiques accusent Meta d'utiliser des schémas sombres qui manipulent les utilisateurs, en particulier les adolescents. La visibilité persistante du nombre de "like" est maintenue malgré des recherches internes montrant des dommages psychologiques.

La dénonciatrice Sarah Wynn-Williams a révélé que Meta avait déjà établi le profil des vulnérabilités émotionnelles des adolescents à des fins de publicité ciblée.

Meta s'est activement opposé à la loi sur la sécurité des enfants en ligne (Kids Online Safety Act), qui traite de l'impact des médias sociaux sur la santé mentale. Bien qu'initialement rejeté en 2024, les sénateurs ont réintroduit le projet de loi cette année.

Selon un récent rapport de TechCrunch, Meta développe des chatbots d'IA proactifs qui entament des conversations spontanées, reflétant ainsi les caractéristiques de startups faisant l'objet de poursuites judiciaires pour des interactions préjudiciables avec des mineurs.

Avec 72 % des adolescents qui utilisent des compagnons d'IA, les experts mettent de plus en plus en garde contre les attachements malsains des adolescents aux chatbots, au détriment des relations dans le monde réel.

Leaders technologiques confirmés pour Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital et Elad Gil sont les têtes d'affiche de TechCrunch Disrupt 2025. Obtenez des informations exploitables de la part des personnalités les plus influentes du monde de la technologie lors de notre 20e anniversaire. Réservez vos billets dès maintenant et économisez jusqu'à 600 $ avant que les prix n'augmentent.

Leaders technologiques confirmés pour Disrupt 2025

Netflix, ElevenLabs, Wayve et Sequoia Capital font partie de la liste des intervenants de Disrupt 2025. Apprenez les stratégies de croissance des leaders de l'industrie lors de notre événement marquant du 20e anniversaire. Inscrivez-vous dès aujourd'hui pour économiser jusqu'à 675 $ sur les laissez-passer.

San Francisco | 27-29 octobre 2025 INSCRIVEZ-VOUS DÈS MAINTENANT