Maison
Meta déploie de nouveaux systèmes de modération des contenus basés sur l'IA tout en réduisant sa dépendance vis-à-vis des prestataires tiers
Meta a annoncé jeudi qu'elle commençait à déployer des systèmes d'IA plus sophistiqués pour la modération des contenus, dans le but de réduire sa dépendance vis-à-vis des prestataires externes. Ces systèmes seront chargés de tâches telles que l'identification et la suppression des contenus liés au terrorisme, à l'exploitation des enfants, à la drogue, à la fraude et aux escroqueries.
L'entreprise a déclaré que ces outils d'IA avancés seront intégrés à l'ensemble de ses applications dès qu'ils auront démontré une efficacité supérieure à celle des méthodes actuelles de contrôle des contenus. Parallèlement, Meta prévoit de réduire sa dépendance vis-à-vis des prestataires tiers pour ces tâches de modération.
« Même si les modérateurs humains continueront de faire partie du processus, ces systèmes se chargeront des tâches mieux adaptées à la technologie, telles que les examens répétitifs de contenus explicites ou les domaines dans lesquels les acteurs malveillants adaptent fréquemment leurs tactiques, comme la vente de drogues illicites ou les escroqueries », a expliqué Meta dans un article de blog.
Meta affirme que ces systèmes d’IA peuvent détecter davantage d’infractions avec une plus grande précision, mieux prévenir les escroqueries, réagir plus rapidement aux événements du monde réel et réduire les mesures de modération excessives.
Les premiers tests des systèmes d’IA ont donné des résultats prometteurs : ils ont détecté deux fois plus de contenus illicites liés à la sollicitation sexuelle d’adultes que les équipes de modération humaines, tout en réduisant le taux d’erreur de plus de 60 %. Ces systèmes identifient et préviennent également davantage de comptes d’usurpation d’identité impliquant des célébrités et d’autres personnalités de premier plan, et contribuent à empêcher les prises de contrôle de comptes en détectant des signaux tels que des connexions depuis de nouveaux emplacements, des changements de mot de passe ou des modifications de profil.
De plus, Meta a déclaré que ces systèmes peuvent identifier et neutraliser environ 5 000 tentatives d’escroquerie par jour, au cours desquelles des escrocs tentent de piéger les utilisateurs pour leur soutirer leurs identifiants de connexion.
« Des experts concevront, formeront, superviseront et évalueront nos systèmes d’IA, en mesurant leurs performances et en prenant les décisions les plus complexes et les plus lourdes de conséquences », a écrit Meta dans son article de blog. « Par exemple, les humains continueront à jouer un rôle clé dans la prise des décisions les plus risquées et les plus critiques, telles que les recours contre la suspension d’un compte ou les signalements aux forces de l’ordre. »

Cette initiative fait suite à l’assouplissement récent des règles de modération des contenus opéré par Meta au cours de l’année écoulée, qui a coïncidé avec le retour au pouvoir du président Donald Trump. L’année dernière, l’entreprise a mis fin à son programme de vérification des faits par des tiers au profit d’un modèle de type « Community Notes », similaire à celui de X. Elle a également levé les restrictions sur les « sujets faisant partie du discours dominant » et encouragé les utilisateurs à adopter une approche « personnalisée » vis-à-vis des contenus politiques.
Cette évolution intervient alors que Meta et d’autres grandes entreprises technologiques font face à de multiples poursuites judiciaires visant à tenir les plateformes de réseaux sociaux responsables des préjudices causés aux enfants et aux jeunes utilisateurs.
Meta a également annoncé jeudi le lancement d’un assistant d’assistance basé sur l’IA, offrant aux utilisateurs un accès à l’assistance 24 h/24 et 7 j/7. Cet assistant est déployé à l’échelle mondiale sur les applications Facebook et Instagram pour iOS et Android, ainsi que dans le Centre d’aide de Facebook et d’Instagram pour les utilisateurs d’ordinateurs de bureau.
Article connexe
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr
Mark Zuckerberg croit-il vraiment que l'IA est pour tout le monde ?
Chargement du lecteur…Meta a présenté Glimmer cette semaine, un modèle d’IA à poids ouverts que tout le monde peut télécharger et exécuter sur du matériel personnel, un contraste marqué avec Muse Spark, le modèle plus puissant de l’entreprise, qui r
Facebook lance une application d'assistance basée sur l'IA destinée aux créateurs
Facebook a annoncé mercredi qu’il transformait son Creator Studio en une application compagnon dédiée à l’IA, permettant ainsi aux créateurs d’élargir leur audience sur la plateforme.En proposant cet
Recommandations de sujets spéciaux liés
commentaires (0)
Meta a annoncé jeudi qu'elle commençait à déployer des systèmes d'IA plus sophistiqués pour la modération des contenus, dans le but de réduire sa dépendance vis-à-vis des prestataires externes. Ces systèmes seront chargés de tâches telles que l'identification et la suppression des contenus liés au terrorisme, à l'exploitation des enfants, à la drogue, à la fraude et aux escroqueries.
L'entreprise a déclaré que ces outils d'IA avancés seront intégrés à l'ensemble de ses applications dès qu'ils auront démontré une efficacité supérieure à celle des méthodes actuelles de contrôle des contenus. Parallèlement, Meta prévoit de réduire sa dépendance vis-à-vis des prestataires tiers pour ces tâches de modération.
« Même si les modérateurs humains continueront de faire partie du processus, ces systèmes se chargeront des tâches mieux adaptées à la technologie, telles que les examens répétitifs de contenus explicites ou les domaines dans lesquels les acteurs malveillants adaptent fréquemment leurs tactiques, comme la vente de drogues illicites ou les escroqueries », a expliqué Meta dans un article de blog.
Meta affirme que ces systèmes d’IA peuvent détecter davantage d’infractions avec une plus grande précision, mieux prévenir les escroqueries, réagir plus rapidement aux événements du monde réel et réduire les mesures de modération excessives.
Les premiers tests des systèmes d’IA ont donné des résultats prometteurs : ils ont détecté deux fois plus de contenus illicites liés à la sollicitation sexuelle d’adultes que les équipes de modération humaines, tout en réduisant le taux d’erreur de plus de 60 %. Ces systèmes identifient et préviennent également davantage de comptes d’usurpation d’identité impliquant des célébrités et d’autres personnalités de premier plan, et contribuent à empêcher les prises de contrôle de comptes en détectant des signaux tels que des connexions depuis de nouveaux emplacements, des changements de mot de passe ou des modifications de profil.
De plus, Meta a déclaré que ces systèmes peuvent identifier et neutraliser environ 5 000 tentatives d’escroquerie par jour, au cours desquelles des escrocs tentent de piéger les utilisateurs pour leur soutirer leurs identifiants de connexion.
« Des experts concevront, formeront, superviseront et évalueront nos systèmes d’IA, en mesurant leurs performances et en prenant les décisions les plus complexes et les plus lourdes de conséquences », a écrit Meta dans son article de blog. « Par exemple, les humains continueront à jouer un rôle clé dans la prise des décisions les plus risquées et les plus critiques, telles que les recours contre la suspension d’un compte ou les signalements aux forces de l’ordre. »

Cette initiative fait suite à l’assouplissement récent des règles de modération des contenus opéré par Meta au cours de l’année écoulée, qui a coïncidé avec le retour au pouvoir du président Donald Trump. L’année dernière, l’entreprise a mis fin à son programme de vérification des faits par des tiers au profit d’un modèle de type « Community Notes », similaire à celui de X. Elle a également levé les restrictions sur les « sujets faisant partie du discours dominant » et encouragé les utilisateurs à adopter une approche « personnalisée » vis-à-vis des contenus politiques.
Cette évolution intervient alors que Meta et d’autres grandes entreprises technologiques font face à de multiples poursuites judiciaires visant à tenir les plateformes de réseaux sociaux responsables des préjudices causés aux enfants et aux jeunes utilisateurs.
Meta a également annoncé jeudi le lancement d’un assistant d’assistance basé sur l’IA, offrant aux utilisateurs un accès à l’assistance 24 h/24 et 7 j/7. Cet assistant est déployé à l’échelle mondiale sur les applications Facebook et Instagram pour iOS et Android, ainsi que dans le Centre d’aide de Facebook et d’Instagram pour les utilisateurs d’ordinateurs de bureau.
Frontier AI Labs refuse de dévoiler ses stratégies de confinement des modèles indésirables
Des recherches récentes indiquent que très peu de grands laboratoires spécialisés dans l’IA ont publié ou présenté des plans d’intervention en cas de défaillance. Un plan d’intervention définit les pr
Mark Zuckerberg croit-il vraiment que l'IA est pour tout le monde ?
Chargement du lecteur…Meta a présenté Glimmer cette semaine, un modèle d’IA à poids ouverts que tout le monde peut télécharger et exécuter sur du matériel personnel, un contraste marqué avec Muse Spark, le modèle plus puissant de l’entreprise, qui r
Facebook lance une application d'assistance basée sur l'IA destinée aux créateurs
Facebook a annoncé mercredi qu’il transformait son Creator Studio en une application compagnon dédiée à l’IA, permettant ainsi aux créateurs d’élargir leur audience sur la plateforme.En proposant cet











