Maison
OpenAI intègre des outils open source destinés à la sécurité des adolescents dans ses projets de développement
Mardi, OpenAI a annoncé la publication d'une série de consignes destinées à aider les développeurs à rendre leurs applications plus sûres pour les adolescents. Le laboratoire d'IA a précisé que ces mesures de sécurité pour les adolescents sont compatibles avec son modèle de sécurité à paramètres ouverts, gpt-oss-safeguard.
Au lieu de repartir de zéro pour déterminer comment améliorer la sécurité de l'IA pour les adolescents, les développeurs peuvent utiliser ces consignes pour renforcer leurs applications. Elles traitent de préoccupations telles que la violence graphique et les contenus à caractère sexuel, les idéaux et comportements néfastes en matière d'image corporelle, les activités et défis à risque, les scénarios de jeux de rôle romantiques ou violents, ainsi que les produits et services soumis à une restriction d'âge.
Ces politiques de sécurité sont conçues sous forme de consignes, ce qui garantit leur compatibilité avec d'autres modèles que gpt-oss-safeguard, même si elles sont probablement plus efficaces au sein de l'écosystème d'OpenAI.
OpenAI a déclaré avoir collaboré avec les organisations de sécurité IA Common Sense Media et everyone.ai pour développer ces prompts.
« Ces politiques basées sur des prompts contribuent à établir une base de référence significative en matière de sécurité à travers l’écosystème. Comme elles sont open source, elles peuvent être adaptées et améliorées au fil du temps », a déclaré Robbie Torney, responsable des évaluations IA et numériques chez Common Sense Media, dans un communiqué.
Dans son blog, OpenAI a noté que les développeurs, y compris les équipes expérimentées, ont souvent du mal à traduire les objectifs de sécurité en règles opérationnelles précises.
« Cela peut entraîner des lacunes en matière de protection, une application incohérente ou un filtrage trop large », a expliqué l'entreprise. « Des politiques claires et bien définies constituent un fondement essentiel pour des systèmes de sécurité efficaces. »
OpenAI reconnaît que ces politiques ne constituent pas une solution complète aux défis complexes liés à la sécurité de l’IA. Elles s’appuient toutefois sur des efforts antérieurs, notamment des mesures de protection au niveau des produits telles que le contrôle parental et la prédiction de l’âge. L’année dernière, OpenAI a mis à jour ses directives relatives aux grands modèles linguistiques — connues sous le nom de « Model Spec » — afin de définir comment ses modèles d’IA doivent interagir avec les utilisateurs de moins de 18 ans.
OpenAI n'a toutefois pas un bilan irréprochable. L'entreprise fait face à de multiples poursuites judiciaires intentées par les familles de personnes décédées par suicide à la suite d'une utilisation excessive de ChatGPT. Ces relations néfastes se développent souvent après qu'un utilisateur a contourné les mesures de protection du chatbot, et aucune barrière de sécurité d'un modèle n'est totalement impénétrable. Néanmoins, ces nouvelles politiques constituent un pas en avant, notamment pour aider les développeurs indépendants.
Article connexe
Satya Nadella est prêt à tirer parti du nouvel accord avec OpenAI
Mercredi, un analyste de Wall Street a demandé directement au PDG de Microsoft, Satya Nadella, en quoi le nouveau partenariat avec OpenAI affecterait les résultats financiers de l’entreprise.Nadella a décrit ce nouvel accord comme une victoire pour
OpenAI présente les grandes lignes d'une économie de l'IA fondée sur des fonds de richesse publique, une taxe sur les robots et la semaine de quatre jours
Alors que les gouvernements peinent à gérer l’impact économique des machines superintelligentes, OpenAI a publié une série de propositions politiques décrivant comment la richesse et le travail pourra
Greg Brockman révèle comment Elon Musk a quitté OpenAI
Fin août 2017, les principaux dirigeants d’OpenAI — alors un petit laboratoire de recherche à but non lucratif — se sont réunis pour discuter de la manière dont ils allaient créer une entité à but luc
Recommandations de sujets spéciaux liés
Entreprise
Les meilleurs logiciels d'optimisation des prix basés sur l'IA : suivez vos concurrents et ajustez automatiquement les prix de votre boutique
Découvrez les meilleurs logiciels d'optimisation des prix basés sur l'IA pour 2026 sur XIX.AI. Notre sélection comprend des outils de premier plan qui changent la donne : ils surveillent vos concurrents et ajustent automatiquement les prix de votre boutique pour maximiser vos bénéfices. Comparez les options gratuites et payantes grâce à des tests concrets. Prenez dès maintenant une longueur d'avance en matière de tarification.
10 outils
xix.ai
code
Les meilleurs outils d'analyse de code basés sur l'IA : automatisez la conformité au code propre et refactorisez les fichiers des dépôts hérités
Découvrez les meilleurs outils d'analyse de code par IA de 2026 sur XIX.AI. Notre sélection comprend des outils de premier plan, véritables révolutionnaires, permettant d'automatiser la conformité au code propre et de refactoriser les fichiers de dépôts hérités. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Prenez dès aujourd'hui une longueur d'avance grâce à l'IA.
10 outils
xix.ai
Synthèse vocale
Les meilleures applications de synthèse vocale basées sur l'IA pour la dyslexie : un soutien à l'apprentissage et à l'efficacité en lecture pour les élèves
Découvrez les meilleures applications de synthèse vocale par IA de 2026, spécialement sélectionnées pour aider les personnes dyslexiques. Notre classement d'experts compare les outils gratuits et payants, en mettant en avant des fonctionnalités performantes qui améliorent l'efficacité de la lecture et l'apprentissage. Découvrez des solutions révolutionnaires à ne pas manquer pour libérer le potentiel des élèves. Commencez votre parcours sur XIX.AI.
10 outils
xix.ai
Création de bande dessinée
Les meilleurs générateurs IA pour les mangas shonen : créez des séquences d'action survoltées et des effets d'énergie
Découvrez les meilleurs générateurs IA de mangas shonen de 2026 sur XIX.AI. Notre sélection triée sur le volet comprend des outils performants pour créer des séquences d'action à couper le souffle et des effets d'énergie dynamiques. Comparez les options gratuites et payantes grâce à des tests concrets. Libérez votre potentiel créatif et commencez dès aujourd'hui à créer des mangas épiques !
15 outils
xix.ai
Entreprise
Les meilleurs outils de suivi des dépenses basés sur l'IA : numérisez vos reçus et classez automatiquement les dépenses de l'entreprise
Les meilleurs outils de gestion des dépenses basés sur l'IA en 2026 : les outils les mieux notés pour numériser vos reçus et classer automatiquement les dépenses de votre entreprise. Découvrez des solutions puissantes et révolutionnaires pour une gestion des dépenses sans effort, un suivi financier précis et une conformité simplifiée. Notre comparatif, mis à jour chaque semaine, qui oppose les options gratuites aux options payantes, vous aide à trouver la solution qui vous convient le mieux. Tirez pleinement parti de l'IA grâce aux recommandations d'experts de XIX.AI.
10 outils
xix.ai
Entreprise
Les meilleurs outils de recrutement basés sur l'IA : triez les CV et automatisez la planification des entretiens avec les candidats
Découvrez les meilleurs outils de recrutement basés sur l'IA de 2026 sur XIX.AI. Notre sélection propose des solutions performantes et révolutionnaires pour l'analyse des CV et l'automatisation de la planification des entretiens avec les candidats. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Trouvez l'assistant de recrutement idéal et optimisez votre processus de recrutement dès aujourd'hui !
10 outils
xix.ai
commentaires (0)
Mardi, OpenAI a annoncé la publication d'une série de consignes destinées à aider les développeurs à rendre leurs applications plus sûres pour les adolescents. Le laboratoire d'IA a précisé que ces mesures de sécurité pour les adolescents sont compatibles avec son modèle de sécurité à paramètres ouverts, gpt-oss-safeguard.
Au lieu de repartir de zéro pour déterminer comment améliorer la sécurité de l'IA pour les adolescents, les développeurs peuvent utiliser ces consignes pour renforcer leurs applications. Elles traitent de préoccupations telles que la violence graphique et les contenus à caractère sexuel, les idéaux et comportements néfastes en matière d'image corporelle, les activités et défis à risque, les scénarios de jeux de rôle romantiques ou violents, ainsi que les produits et services soumis à une restriction d'âge.
Ces politiques de sécurité sont conçues sous forme de consignes, ce qui garantit leur compatibilité avec d'autres modèles que gpt-oss-safeguard, même si elles sont probablement plus efficaces au sein de l'écosystème d'OpenAI.
OpenAI a déclaré avoir collaboré avec les organisations de sécurité IA Common Sense Media et everyone.ai pour développer ces prompts.
« Ces politiques basées sur des prompts contribuent à établir une base de référence significative en matière de sécurité à travers l’écosystème. Comme elles sont open source, elles peuvent être adaptées et améliorées au fil du temps », a déclaré Robbie Torney, responsable des évaluations IA et numériques chez Common Sense Media, dans un communiqué.
Dans son blog, OpenAI a noté que les développeurs, y compris les équipes expérimentées, ont souvent du mal à traduire les objectifs de sécurité en règles opérationnelles précises.
« Cela peut entraîner des lacunes en matière de protection, une application incohérente ou un filtrage trop large », a expliqué l'entreprise. « Des politiques claires et bien définies constituent un fondement essentiel pour des systèmes de sécurité efficaces. »
OpenAI reconnaît que ces politiques ne constituent pas une solution complète aux défis complexes liés à la sécurité de l’IA. Elles s’appuient toutefois sur des efforts antérieurs, notamment des mesures de protection au niveau des produits telles que le contrôle parental et la prédiction de l’âge. L’année dernière, OpenAI a mis à jour ses directives relatives aux grands modèles linguistiques — connues sous le nom de « Model Spec » — afin de définir comment ses modèles d’IA doivent interagir avec les utilisateurs de moins de 18 ans.
OpenAI n'a toutefois pas un bilan irréprochable. L'entreprise fait face à de multiples poursuites judiciaires intentées par les familles de personnes décédées par suicide à la suite d'une utilisation excessive de ChatGPT. Ces relations néfastes se développent souvent après qu'un utilisateur a contourné les mesures de protection du chatbot, et aucune barrière de sécurité d'un modèle n'est totalement impénétrable. Néanmoins, ces nouvelles politiques constituent un pas en avant, notamment pour aider les développeurs indépendants.
Satya Nadella est prêt à tirer parti du nouvel accord avec OpenAI
Mercredi, un analyste de Wall Street a demandé directement au PDG de Microsoft, Satya Nadella, en quoi le nouveau partenariat avec OpenAI affecterait les résultats financiers de l’entreprise.Nadella a décrit ce nouvel accord comme une victoire pour
OpenAI présente les grandes lignes d'une économie de l'IA fondée sur des fonds de richesse publique, une taxe sur les robots et la semaine de quatre jours
Alors que les gouvernements peinent à gérer l’impact économique des machines superintelligentes, OpenAI a publié une série de propositions politiques décrivant comment la richesse et le travail pourra
Greg Brockman révèle comment Elon Musk a quitté OpenAI
Fin août 2017, les principaux dirigeants d’OpenAI — alors un petit laboratoire de recherche à but non lucratif — se sont réunis pour discuter de la manière dont ils allaient créer une entité à but luc
Découvrez les meilleurs logiciels d'optimisation des prix basés sur l'IA pour 2026 sur XIX.AI. Notre sélection comprend des outils de premier plan qui changent la donne : ils surveillent vos concurrents et ajustent automatiquement les prix de votre boutique pour maximiser vos bénéfices. Comparez les options gratuites et payantes grâce à des tests concrets. Prenez dès maintenant une longueur d'avance en matière de tarification.
10 outils
xix.ai
Découvrez les meilleurs outils d'analyse de code par IA de 2026 sur XIX.AI. Notre sélection comprend des outils de premier plan, véritables révolutionnaires, permettant d'automatiser la conformité au code propre et de refactoriser les fichiers de dépôts hérités. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Prenez dès aujourd'hui une longueur d'avance grâce à l'IA.
10 outils
xix.ai
Découvrez les meilleures applications de synthèse vocale par IA de 2026, spécialement sélectionnées pour aider les personnes dyslexiques. Notre classement d'experts compare les outils gratuits et payants, en mettant en avant des fonctionnalités performantes qui améliorent l'efficacité de la lecture et l'apprentissage. Découvrez des solutions révolutionnaires à ne pas manquer pour libérer le potentiel des élèves. Commencez votre parcours sur XIX.AI.
10 outils
xix.ai
Découvrez les meilleurs générateurs IA de mangas shonen de 2026 sur XIX.AI. Notre sélection triée sur le volet comprend des outils performants pour créer des séquences d'action à couper le souffle et des effets d'énergie dynamiques. Comparez les options gratuites et payantes grâce à des tests concrets. Libérez votre potentiel créatif et commencez dès aujourd'hui à créer des mangas épiques !
15 outils
xix.ai
Les meilleurs outils de gestion des dépenses basés sur l'IA en 2026 : les outils les mieux notés pour numériser vos reçus et classer automatiquement les dépenses de votre entreprise. Découvrez des solutions puissantes et révolutionnaires pour une gestion des dépenses sans effort, un suivi financier précis et une conformité simplifiée. Notre comparatif, mis à jour chaque semaine, qui oppose les options gratuites aux options payantes, vous aide à trouver la solution qui vous convient le mieux. Tirez pleinement parti de l'IA grâce aux recommandations d'experts de XIX.AI.
10 outils
xix.ai
Découvrez les meilleurs outils de recrutement basés sur l'IA de 2026 sur XIX.AI. Notre sélection propose des solutions performantes et révolutionnaires pour l'analyse des CV et l'automatisation de la planification des entretiens avec les candidats. Comparez les options gratuites et payantes grâce à des tests concrets et à des classements mis à jour chaque semaine. Trouvez l'assistant de recrutement idéal et optimisez votre processus de recrutement dès aujourd'hui !
10 outils
xix.ai
