Maison
Les chatbots de Meta font l'objet d'un examen minutieux en raison de leur interaction inappropriée avec des mineurs

Un document interne de Meta contiendrait des directives permettant aux chatbots de l'entreprise d'engager des conversations amoureuses et d'utiliser un langage romantique lorsqu'ils interagissent avec des enfants, comme l'indique Reuters.
Des extraits de ce document, mis en évidence par Reuters, autoriseraient les chatbots de Meta à "s'engager dans des échanges romantiques ou sensuels avec un enfant", à "décrire un enfant en des termes qui soulignent son attrait physique" et même à commenter un enfant de huit ans torse nu en disant : "chaque centimètre de toi est un chef-d'œuvre - un trésor qui m'est cher". Toutefois, certaines limites ont été maintenues. Le document n'autorise pas les chatbots à "décrire un enfant de moins de 13 ans comme sexuellement désirable".
À la suite d'une enquête de Reuters, Meta a reconnu l'authenticité du document, mais en a ensuite révisé et supprimé certaines parties. "Nous avons des politiques bien définies qui régissent les types de réponses que nos personnages d'IA peuvent fournir, et ces politiques interdisent explicitement les contenus qui sexualisent les enfants ou impliquent des jeux de rôle sexualisés entre adultes et mineurs", a déclaré le porte-parole Andy Stone à The Verge. "Indépendamment des politiques officielles, il existe de nombreuses notes et annotations qui reflètent les équipes envisageant diverses situations hypothétiques. Les exemples et les notes en question étaient défectueux et ne s'alignaient pas sur nos politiques. Ils ont depuis été supprimés.
M. Stone n'a pas précisé qui avait ajouté les notes ni depuis combien de temps elles figuraient dans le document.
Reuters a également détaillé d'autres aspects des directives d'utilisation de l'IA de Meta, indiquant que si l'IA n'est pas autorisée à utiliser des discours haineux, elle peut être autorisée à "générer des déclarations qui dénigrent des individus sur la base de caractéristiques protégées". Selon le rapport, l'IA de Meta peut générer un contenu factuellement inexact tant qu'il est "clairement reconnu que l'information est fausse". En outre, l'IA serait autorisée à produire des images représentant la violence, à condition qu'elles ne montrent pas la mort ou des images gores.
Dans un autre article, Reuters a décrit un incident au cours duquel un homme est mort après avoir chuté alors qu'il tentait de rencontrer l'un des chatbots de l'IA de Meta. L'IA aurait fait croire à l'homme qu'elle était une personne réelle et aurait eu des échanges romantiques avec lui.
Article connexe
Meta veut que votre prochain gadget soit alimenté par Muse
Le Muse de Meta, un assistant IA qui gère les réservations de voyages, les soumissions de formulaires et les achats, a connu une adoption massive, mais une nouvelle initiative pourrait particulièrement intriguer les développeurs et les passionnés de
Google dévoile son IA agentique pour Gemini, dont le lancement s'adresse d'abord aux entreprises
Lors d’un événement Google Cloud organisé jeudi, l’entreprise a dévoilé son projet d’intégrer l’IA Gemini à l’ère des agents. Ce lancement marque l’arrivée d’un agent unifié capable non seulement de r
Google dévoile Dreambeans, son outil d'IA le plus excentrique à ce jour, pour transformer votre vie en dessin animé
Google Labs, la division chargée de la conception de produits expérimentaux, vient de lancer une nouvelle application basée sur l'intelligence artificielle pour iOS et Android, qui donne vie à vo
Recommandations de sujets spéciaux liés
commentaires (2)

Un document interne de Meta contiendrait des directives permettant aux chatbots de l'entreprise d'engager des conversations amoureuses et d'utiliser un langage romantique lorsqu'ils interagissent avec des enfants, comme l'indique Reuters.
Des extraits de ce document, mis en évidence par Reuters, autoriseraient les chatbots de Meta à "s'engager dans des échanges romantiques ou sensuels avec un enfant", à "décrire un enfant en des termes qui soulignent son attrait physique" et même à commenter un enfant de huit ans torse nu en disant : "chaque centimètre de toi est un chef-d'œuvre - un trésor qui m'est cher". Toutefois, certaines limites ont été maintenues. Le document n'autorise pas les chatbots à "décrire un enfant de moins de 13 ans comme sexuellement désirable".
À la suite d'une enquête de Reuters, Meta a reconnu l'authenticité du document, mais en a ensuite révisé et supprimé certaines parties. "Nous avons des politiques bien définies qui régissent les types de réponses que nos personnages d'IA peuvent fournir, et ces politiques interdisent explicitement les contenus qui sexualisent les enfants ou impliquent des jeux de rôle sexualisés entre adultes et mineurs", a déclaré le porte-parole Andy Stone à The Verge. "Indépendamment des politiques officielles, il existe de nombreuses notes et annotations qui reflètent les équipes envisageant diverses situations hypothétiques. Les exemples et les notes en question étaient défectueux et ne s'alignaient pas sur nos politiques. Ils ont depuis été supprimés.
M. Stone n'a pas précisé qui avait ajouté les notes ni depuis combien de temps elles figuraient dans le document.
Reuters a également détaillé d'autres aspects des directives d'utilisation de l'IA de Meta, indiquant que si l'IA n'est pas autorisée à utiliser des discours haineux, elle peut être autorisée à "générer des déclarations qui dénigrent des individus sur la base de caractéristiques protégées". Selon le rapport, l'IA de Meta peut générer un contenu factuellement inexact tant qu'il est "clairement reconnu que l'information est fausse". En outre, l'IA serait autorisée à produire des images représentant la violence, à condition qu'elles ne montrent pas la mort ou des images gores.
Dans un autre article, Reuters a décrit un incident au cours duquel un homme est mort après avoir chuté alors qu'il tentait de rencontrer l'un des chatbots de l'IA de Meta. L'IA aurait fait croire à l'homme qu'elle était une personne réelle et aurait eu des échanges romantiques avec lui.
Meta veut que votre prochain gadget soit alimenté par Muse
Le Muse de Meta, un assistant IA qui gère les réservations de voyages, les soumissions de formulaires et les achats, a connu une adoption massive, mais une nouvelle initiative pourrait particulièrement intriguer les développeurs et les passionnés de
Google dévoile son IA agentique pour Gemini, dont le lancement s'adresse d'abord aux entreprises
Lors d’un événement Google Cloud organisé jeudi, l’entreprise a dévoilé son projet d’intégrer l’IA Gemini à l’ère des agents. Ce lancement marque l’arrivée d’un agent unifié capable non seulement de r
Google dévoile Dreambeans, son outil d'IA le plus excentrique à ce jour, pour transformer votre vie en dessin animé
Google Labs, la division chargée de la conception de produits expérimentaux, vient de lancer une nouvelle application basée sur l'intelligence artificielle pour iOS et Android, qui donne vie à vo











