Cette semaine, OpenAI a lancé ChatGPT for Kids, en restreignant certaines fonctionnalités au moyen d’un système de reconnaissance d’âge. Les experts en sécurité des enfants s’inquiètent de la transparence et de l’efficacité de ce mécanisme, exigeant des tests indépendants approfondis avant que celui-ci ne soit recommandé aux parents et aux adolescents. Selon eux, le système manque de responsabilisation, son précision n’a pas été vérifiée (il n’existe aucune donnée publique concernant les taux de faux positifs ou de faux négatifs), et il pourrait échouer à bloquer des contenus nocifs, comme cela s’est déjà produit lors de tentatives antérieures. Les experts remettent également en question la fiabilité de l’outil de reconnaissance d’âge ainsi que l’affirmation d’OpenAI selon laquelle tous les contenus signalés sont examinés dans l’heure, demandant des informations plus détaillées sur les processus d’examen. Ils préconisent que des fonctionnalités de protection automatique soient intégrées dès la conception du produit, plutôt que de compter sur les utilisateurs pour mettre en place manuellement des contrôles complexes.