Maison
Le ChatGPT pour adolescents d’OpenAI suscite le scepticisme des experts quant à ses mécanismes de sécurité

Le déploiement récent par OpenAI de ChatGPT pour les enfants, assorti de restrictions basées sur l’âge, a suscité de vives critiques de la part des défenseurs de la sécurité des enfants, qui remettent en question la transparence et l’efficacité de ses mesures de protection.
Les experts en sécurité soulignent que des tests indépendants sont essentiels avant que la plateforme ne soit recommandée aux familles. Robbie Tynjala, de Common Sense Media, a insisté sur le fait qu’OpenAI doit fournir des preuves concrètes que ses fonctionnalités de sécurité fonctionnent réellement, plutôt que de s’appuyer sur des affirmations non vérifiées.
Josh Golin, responsable de l’initiative Fairplay, a exprimé de sérieuses inquiétudes concernant le manque de responsabilité. Il a noté que les restrictions passées d’OpenAI sur des sujets sensibles tels que le suicide et la violence ont souvent échoué, arguant que l’autorégulation est insuffisante sans une supervision robuste.
Les experts doutent également de la fiabilité du système automatique de vérification de l’âge. Tynjala a souligné qu’OpenAI n’a pas publié de données sur les taux de faux positifs ou de faux négatifs, ce qui montre clairement que les systèmes automatisés ne peuvent pas identifier parfaitement les jeunes utilisateurs. De plus, les adolescents sont susceptibles de trouver des moyens de contourner ces contrôles.
Le scepticisme reste élevé concernant la promesse d’OpenAI selon laquelle le contenu signalé sera examiné par le personnel et les parents informés dans l’heure. Tynjala a remis en question la fiabilité des filtres automatisés, tandis que Golin a exigé des données concrètes sur le volume quotidien des signalements, la taille de l’équipe et les délais d’examen, notant qu’il est irréaliste de s’attendre à disposer d’un personnel suffisant pour examiner manuellement chaque interaction dangereuse.
Enfin, les experts estiment que l’obligation pour les parents de lier manuellement les comptes compromet la protection. Golin a suggéré que les fonctionnalités de sécurité devraient être intégrées par défaut dans le produit, telles que des limites de temps automatiques, plutôt que de reposer entièrement sur les parents pour une configuration complexe.
Article connexe
L'accord conclu entre Fortinet et Virtue AI renforce la sécurité basée sur l'IA d'Agentic
Ken Xie, fondateur et PDG de Fortinet | Crédit : FortinetFortinet acquiert Virtue AI afin de renforcer la protection en temps réel et la validation automatisée des systèmes d'IA, alors que les entrepr
xAI dévoile une version bêta précoce de Grok pour les tâches de programmation complexes
Le 14 mai, l’entreprise d’intelligence artificielle d’Elon Musk, xAI, a lancé une version bêta anticipée d’un assistant de codage nommé Grok Build. Actuellement réservé aux abonnés SuperGrok, cette plateforme est conçue pour rationaliser l’ingénierie
Le PDG d'Anthropic présente son plan pour ouvrir de nouvelles perspectives
Les chercheurs en IA lancent des avertissements de plus en plus pressants concernant les risques liés à l’intelligence artificielle, le PDG d’OpenAI, Sam Altman, suggérant qu’il est peut-être temps de
Recommandations de sujets spéciaux liés
commentaires (0)

Le déploiement récent par OpenAI de ChatGPT pour les enfants, assorti de restrictions basées sur l’âge, a suscité de vives critiques de la part des défenseurs de la sécurité des enfants, qui remettent en question la transparence et l’efficacité de ses mesures de protection.
Les experts en sécurité soulignent que des tests indépendants sont essentiels avant que la plateforme ne soit recommandée aux familles. Robbie Tynjala, de Common Sense Media, a insisté sur le fait qu’OpenAI doit fournir des preuves concrètes que ses fonctionnalités de sécurité fonctionnent réellement, plutôt que de s’appuyer sur des affirmations non vérifiées.
Josh Golin, responsable de l’initiative Fairplay, a exprimé de sérieuses inquiétudes concernant le manque de responsabilité. Il a noté que les restrictions passées d’OpenAI sur des sujets sensibles tels que le suicide et la violence ont souvent échoué, arguant que l’autorégulation est insuffisante sans une supervision robuste.
Les experts doutent également de la fiabilité du système automatique de vérification de l’âge. Tynjala a souligné qu’OpenAI n’a pas publié de données sur les taux de faux positifs ou de faux négatifs, ce qui montre clairement que les systèmes automatisés ne peuvent pas identifier parfaitement les jeunes utilisateurs. De plus, les adolescents sont susceptibles de trouver des moyens de contourner ces contrôles.
Le scepticisme reste élevé concernant la promesse d’OpenAI selon laquelle le contenu signalé sera examiné par le personnel et les parents informés dans l’heure. Tynjala a remis en question la fiabilité des filtres automatisés, tandis que Golin a exigé des données concrètes sur le volume quotidien des signalements, la taille de l’équipe et les délais d’examen, notant qu’il est irréaliste de s’attendre à disposer d’un personnel suffisant pour examiner manuellement chaque interaction dangereuse.
Enfin, les experts estiment que l’obligation pour les parents de lier manuellement les comptes compromet la protection. Golin a suggéré que les fonctionnalités de sécurité devraient être intégrées par défaut dans le produit, telles que des limites de temps automatiques, plutôt que de reposer entièrement sur les parents pour une configuration complexe.
L'accord conclu entre Fortinet et Virtue AI renforce la sécurité basée sur l'IA d'Agentic
Ken Xie, fondateur et PDG de Fortinet | Crédit : FortinetFortinet acquiert Virtue AI afin de renforcer la protection en temps réel et la validation automatisée des systèmes d'IA, alors que les entrepr
xAI dévoile une version bêta précoce de Grok pour les tâches de programmation complexes
Le 14 mai, l’entreprise d’intelligence artificielle d’Elon Musk, xAI, a lancé une version bêta anticipée d’un assistant de codage nommé Grok Build. Actuellement réservé aux abonnés SuperGrok, cette plateforme est conçue pour rationaliser l’ingénierie
Le PDG d'Anthropic présente son plan pour ouvrir de nouvelles perspectives
Les chercheurs en IA lancent des avertissements de plus en plus pressants concernant les risques liés à l’intelligence artificielle, le PDG d’OpenAI, Sam Altman, suggérant qu’il est peut-être temps de











