MaisonLe groupe de Fei-Fei Li exhorte une législation sur la sécurité préemptive de l'IA
Un nouveau rapport d'un groupe de politique californien, co-dirigé par la pionnière de l'IA Fei-Fei Li, suggère que les législateurs devraient prendre en compte les risques de l'IA qui n'ont pas encore été observés dans le monde réel lors de la création de politiques réglementaires sur l'IA. Ce rapport intérimaire de 41 pages, publié mardi, provient du Joint California Policy Working Group on AI Frontier Models, créé par le gouverneur Gavin Newsom après qu'il a opposé son veto au projet de loi controversé sur la sécurité de l'IA en Californie, SB 1047. Newsom estimait que SB 1047 n'était pas tout à fait à la hauteur, mais il a reconnu la nécessité d'examiner plus en profondeur les risques de l'IA pour guider les législateurs.
Dans le rapport, Li, avec les co-auteurs Jennifer Chayes, doyenne du Collège de l'informatique de l'UC Berkeley, et Mariano-Florentino Cuéllar, président de la Carnegie Endowment for International Peace, plaident pour des lois qui rendraient plus claires les activités des laboratoires d'IA de pointe comme OpenAI. Avant sa publication, le rapport a été examiné par des acteurs de l'industrie de divers horizons, y compris des partisans fervents de la sécurité de l'IA comme le lauréat du prix Turing Yoshua Bengio et ceux qui s'opposaient à SB 1047, comme le co-fondateur de Databricks, Ion Stoica.
Le rapport souligne que les nouveaux risques des systèmes d'IA pourraient nécessiter des lois obligeant les développeurs de modèles d'IA à partager leurs tests de sécurité, leurs méthodes d'acquisition de données et leurs mesures de sécurité avec le public. Il appelle également à de meilleures normes pour les vérifications par des tiers de ces éléments et des politiques des entreprises, ainsi qu'à davantage de protections pour les employés et contractants des entreprises d'IA qui dénoncent des abus.
Li et ses co-auteurs mentionnent qu'il n'y a pas encore suffisamment de preuves sur le potentiel de l'IA à faciliter les cyberattaques, à fabriquer des armes biologiques ou à causer d'autres dangers « extrêmes ». Mais ils affirment également que la politique de l'IA ne devrait pas seulement s'occuper de ce qui se passe maintenant ; elle devrait aussi envisager ce qui pourrait arriver à l'avenir si des mesures de sécurité suffisantes ne sont pas en place.
Le rapport utilise l'exemple d'une arme nucléaire, en disant : « Nous n'avons pas besoin de voir une arme nucléaire exploser pour savoir qu'elle pourrait causer beaucoup de dégâts. » Il ajoute : « Si ceux qui parlent des pires risques ont raison — et nous ne sommes pas sûrs qu'ils le seront — alors ne rien faire concernant l'IA de pointe maintenant pourrait être très coûteux. »
Pour rendre le développement des modèles d'IA plus transparent, le rapport propose une approche de « confiance mais vérification ». Il indique que les développeurs de modèles d'IA et leurs employés devraient avoir des moyens de rendre compte des éléments importants pour le public, comme les tests de sécurité internes, et devraient également faire vérifier leurs affirmations de tests par des tiers.
Bien que le rapport, qui sera finalisé en juin 2025, ne soutienne aucune loi spécifique, il a été bien accueilli par les experts des deux côtés du débat sur la politique de l'IA.
Dean Ball, chercheur spécialisé en IA à l'Université George Mason et opposant à SB 1047, a déclaré sur X que le rapport est une avancée positive pour les règles de sécurité de l'IA en Californie. C'est également une victoire pour les défenseurs de la sécurité de l'IA, selon le sénateur de l'État de Californie Scott Wiener, qui a présenté SB 1047 l'année dernière. Wiener a déclaré dans un communiqué de presse que le rapport contribue aux « discussions urgentes sur la gouvernance de l'IA que nous avons entamées au sein de la législature en 2024. »
Le rapport semble en accord avec certaines parties de SB 1047 et du prochain projet de loi de Wiener, SB 53, comme l'obligation pour les développeurs de modèles d'IA de rendre compte des résultats de leurs tests de sécurité. Dans une perspective plus large, il apparaît comme une victoire très nécessaire pour les défenseurs de la sécurité de l'IA, dont les idées ont perdu du terrain au cours de l'année passée.
Article connexe
Stripe va acquérir OpenRouter alors que le routage basé sur des modèles d'IA prend de l'ampleur
Stripe a conclu un accord en vue d’acquérir OpenRouter, une plateforme de routage de modèles d’IA qui permet aux développeurs d’accéder à des centaines de modèles via une interface unique. Cette acqui
Barrett Zoph, ancien chercheur chez OpenAI, revient chez Google pour contribuer au développement de Gemini
Barret Zoph, qui avait auparavant quitté brusquement l’entreprise pour rejoindre OpenAI en raison d’un désaccord avec Miriam Mularati, PDG de Thinking Machines Lab, a une nouvelle fois changé d’employ
Comment Recursive Intelligence a levé 335 millions de dollars en 4 mois, avec une valorisation de 4 milliards de dollars
Les cofondatrices de la start-up Ricursive Intelligence semblaient destinées à devenir cofondatrices.Anna Goldie, PDG, et Azalia Mirhoseini, directrice technique, sont si connues dans le milieu de l’I
Recommandations de sujets spéciaux liés
Conception et art
Les meilleurs outils d'illustration basés sur l'IA : créez plus rapidement des scènes éditoriales et des illustrations de couverture
Les meilleurs outils d'illustration IA de 2026 : notre sélection regroupe les outils les plus performants pour créer rapidement de superbes scènes éditoriales et des couvertures accrocheuses. Chaque option a été soumise à des tests rigoureux en conditions réelles ; nous vous proposons une comparaison entre les versions gratuites et payantes afin de vous aider à trouver celle qui correspond le mieux à votre flux de travail. Essayez dès aujourd’hui ces solutions incontournables pour exploiter pleinement le potentiel de l’IA et booster votre productivité créative. Découvrez-les dès maintenant sur XIX.AI.
10 outils
xix.ai
Éducation et apprentissage
Les meilleurs professeurs particuliers spécialisés en IA pour la préparation aux examens : entraînez-vous en maths, en sciences et en anglais
Les meilleurs tuteurs IA 2026 les mieux notés pour la préparation aux examens sont disponibles ici, sur XIX.AI ! Notre sélection comprend des outils puissants et révolutionnaires qui proposent une comparaison entre les versions gratuites et payantes, des tests concrets et des classements mis à jour chaque semaine. Ils vous aident à améliorer votre efficacité à l'écrit, à simplifier l'apprentissage de sujets complexes et à libérer votre potentiel académique. Découvrez dès maintenant l'outil de préparation aux examens qui vous convient le mieux et commencez à créer dès aujourd'hui pour exploiter pleinement les avantages de l'IA !
10 outils
xix.ai
Finance
Outils de planification budgétaire par IA pour la gestion personnelle des finances
2026 Derniers Meilleurs Outils de Planification Budgétaire par IA les mieux notés pour la gestion personnelle des finances sont ici sur XIX.AI ! Cette collection soigneusement sélectionnée propose des solutions puissantes et révolutionnaires qui vous aident à réaliser des tests concrets, à comprendre vos habitudes de dépenses et à créer des plans personnalisés pour améliorer votre productivité. Profitez d’une comparaison entre versions gratuites et payantes ainsi que de classements détaillés. Des outils incontournables conçus pour simplifier la gestion financière et exploiter pleinement votre avantage grâce à l’IA. Explorez dès maintenant !
11 outils
xix.ai
Santé et bien-être
Assistants de suivi du sommeil par l’IA : améliorez votre récupération grâce à de meilleures habitudes avant le coucher
2026 : Découvrez les meilleurs assistants de suivi du sommeil basés sur l’IA, hautement notés et récemment mis à jour, conçus pour une récupération optimale. Ce guide hebdomadaire entièrement actualisé présente des outils puissants qui offrent des tests en conditions réelles, des comparaisons entre versions gratuites et payantes, ainsi que des classements détaillés afin de vous aider à trouver la solution idéale pour améliorer la qualité du sommeil et favoriser de meilleures habitudes avant le coucher. Explorez-le dès maintenant sur XIX.AI pour tirer parti des avantages offerts par l’IA.
10 outils
xix.ai
Analyse des données
Copilotes SQL basés sur l'IA pour l'analyse des produits et du chiffre d'affaires
2026 : les meilleurs copilotes SQL IA les mieux notés pour l'analyse des produits et du chiffre d'affaires ! XIX.AI a sélectionné une gamme d’outils puissants et révolutionnaires à essayer absolument, qui sont soumis à des tests en conditions réelles via des classements mis à jour chaque semaine. Ces outils aident les utilisateurs à booster considérablement leur productivité en accélérant l’analyse des données, en simplifiant les requêtes complexes et en générant des informations précises permettant de prendre des décisions commerciales plus éclairées. Explorez-les dès maintenant pour découvrir l’outil idéal qui vous permettra de tirer pleinement parti de l’IA !
14 outils
xix.ai
Éducation et apprentissage
Les meilleurs outils d'aide aux devoirs basés sur l'IA qui enseignent : apprenez les concepts, pas seulement les réponses
2026 : les meilleurs outils d'aide aux devoirs basés sur l'IA, les mieux notés, qui enseignent les concepts fondamentaux et ne se contentent pas de fournir des réponses. Des outils puissants pour les élèves. Une sélection incontournable à ne pas manquer. Mise à jour hebdomadaire. Comparaison entre les versions gratuites et payantes. Tests en conditions réelles. Classements précis pour vous aider à exploiter pleinement votre potentiel d'apprentissage. Explorez dès maintenant pour découvrir l'outil idéal qui vous permettra d'étudier plus efficacement.
10 outils
xix.ai
commentaires (39)
![GaryPerez]()
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
![CharlesRoberts]()
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
![HarrySmith]()
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
![PaulHill]()
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
![MichaelDavis]()
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
![JasonRoberts]()
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
Un nouveau rapport d'un groupe de politique californien, co-dirigé par la pionnière de l'IA Fei-Fei Li, suggère que les législateurs devraient prendre en compte les risques de l'IA qui n'ont pas encore été observés dans le monde réel lors de la création de politiques réglementaires sur l'IA. Ce rapport intérimaire de 41 pages, publié mardi, provient du Joint California Policy Working Group on AI Frontier Models, créé par le gouverneur Gavin Newsom après qu'il a opposé son veto au projet de loi controversé sur la sécurité de l'IA en Californie, SB 1047. Newsom estimait que SB 1047 n'était pas tout à fait à la hauteur, mais il a reconnu la nécessité d'examiner plus en profondeur les risques de l'IA pour guider les législateurs.
Dans le rapport, Li, avec les co-auteurs Jennifer Chayes, doyenne du Collège de l'informatique de l'UC Berkeley, et Mariano-Florentino Cuéllar, président de la Carnegie Endowment for International Peace, plaident pour des lois qui rendraient plus claires les activités des laboratoires d'IA de pointe comme OpenAI. Avant sa publication, le rapport a été examiné par des acteurs de l'industrie de divers horizons, y compris des partisans fervents de la sécurité de l'IA comme le lauréat du prix Turing Yoshua Bengio et ceux qui s'opposaient à SB 1047, comme le co-fondateur de Databricks, Ion Stoica.
Le rapport souligne que les nouveaux risques des systèmes d'IA pourraient nécessiter des lois obligeant les développeurs de modèles d'IA à partager leurs tests de sécurité, leurs méthodes d'acquisition de données et leurs mesures de sécurité avec le public. Il appelle également à de meilleures normes pour les vérifications par des tiers de ces éléments et des politiques des entreprises, ainsi qu'à davantage de protections pour les employés et contractants des entreprises d'IA qui dénoncent des abus.
Li et ses co-auteurs mentionnent qu'il n'y a pas encore suffisamment de preuves sur le potentiel de l'IA à faciliter les cyberattaques, à fabriquer des armes biologiques ou à causer d'autres dangers « extrêmes ». Mais ils affirment également que la politique de l'IA ne devrait pas seulement s'occuper de ce qui se passe maintenant ; elle devrait aussi envisager ce qui pourrait arriver à l'avenir si des mesures de sécurité suffisantes ne sont pas en place.
Le rapport utilise l'exemple d'une arme nucléaire, en disant : « Nous n'avons pas besoin de voir une arme nucléaire exploser pour savoir qu'elle pourrait causer beaucoup de dégâts. » Il ajoute : « Si ceux qui parlent des pires risques ont raison — et nous ne sommes pas sûrs qu'ils le seront — alors ne rien faire concernant l'IA de pointe maintenant pourrait être très coûteux. »
Pour rendre le développement des modèles d'IA plus transparent, le rapport propose une approche de « confiance mais vérification ». Il indique que les développeurs de modèles d'IA et leurs employés devraient avoir des moyens de rendre compte des éléments importants pour le public, comme les tests de sécurité internes, et devraient également faire vérifier leurs affirmations de tests par des tiers.
Bien que le rapport, qui sera finalisé en juin 2025, ne soutienne aucune loi spécifique, il a été bien accueilli par les experts des deux côtés du débat sur la politique de l'IA.
Dean Ball, chercheur spécialisé en IA à l'Université George Mason et opposant à SB 1047, a déclaré sur X que le rapport est une avancée positive pour les règles de sécurité de l'IA en Californie. C'est également une victoire pour les défenseurs de la sécurité de l'IA, selon le sénateur de l'État de Californie Scott Wiener, qui a présenté SB 1047 l'année dernière. Wiener a déclaré dans un communiqué de presse que le rapport contribue aux « discussions urgentes sur la gouvernance de l'IA que nous avons entamées au sein de la législature en 2024. »
Le rapport semble en accord avec certaines parties de SB 1047 et du prochain projet de loi de Wiener, SB 53, comme l'obligation pour les développeurs de modèles d'IA de rendre compte des résultats de leurs tests de sécurité. Dans une perspective plus large, il apparaît comme une victoire très nécessaire pour les défenseurs de la sécurité de l'IA, dont les idées ont perdu du terrain au cours de l'année passée.
Stripe va acquérir OpenRouter alors que le routage basé sur des modèles d'IA prend de l'ampleur
Stripe a conclu un accord en vue d’acquérir OpenRouter, une plateforme de routage de modèles d’IA qui permet aux développeurs d’accéder à des centaines de modèles via une interface unique. Cette acqui
Barrett Zoph, ancien chercheur chez OpenAI, revient chez Google pour contribuer au développement de Gemini
Barret Zoph, qui avait auparavant quitté brusquement l’entreprise pour rejoindre OpenAI en raison d’un désaccord avec Miriam Mularati, PDG de Thinking Machines Lab, a une nouvelle fois changé d’employ
Comment Recursive Intelligence a levé 335 millions de dollars en 4 mois, avec une valorisation de 4 milliards de dollars
Les cofondatrices de la start-up Ricursive Intelligence semblaient destinées à devenir cofondatrices.Anna Goldie, PDG, et Azalia Mirhoseini, directrice technique, sont si connues dans le milieu de l’I
Les meilleurs outils d'illustration IA de 2026 : notre sélection regroupe les outils les plus performants pour créer rapidement de superbes scènes éditoriales et des couvertures accrocheuses. Chaque option a été soumise à des tests rigoureux en conditions réelles ; nous vous proposons une comparaison entre les versions gratuites et payantes afin de vous aider à trouver celle qui correspond le mieux à votre flux de travail. Essayez dès aujourd’hui ces solutions incontournables pour exploiter pleinement le potentiel de l’IA et booster votre productivité créative. Découvrez-les dès maintenant sur XIX.AI.
10 outils
xix.ai
Les meilleurs tuteurs IA 2026 les mieux notés pour la préparation aux examens sont disponibles ici, sur XIX.AI ! Notre sélection comprend des outils puissants et révolutionnaires qui proposent une comparaison entre les versions gratuites et payantes, des tests concrets et des classements mis à jour chaque semaine. Ils vous aident à améliorer votre efficacité à l'écrit, à simplifier l'apprentissage de sujets complexes et à libérer votre potentiel académique. Découvrez dès maintenant l'outil de préparation aux examens qui vous convient le mieux et commencez à créer dès aujourd'hui pour exploiter pleinement les avantages de l'IA !
10 outils
xix.ai
2026 Derniers Meilleurs Outils de Planification Budgétaire par IA les mieux notés pour la gestion personnelle des finances sont ici sur XIX.AI ! Cette collection soigneusement sélectionnée propose des solutions puissantes et révolutionnaires qui vous aident à réaliser des tests concrets, à comprendre vos habitudes de dépenses et à créer des plans personnalisés pour améliorer votre productivité. Profitez d’une comparaison entre versions gratuites et payantes ainsi que de classements détaillés. Des outils incontournables conçus pour simplifier la gestion financière et exploiter pleinement votre avantage grâce à l’IA. Explorez dès maintenant !
11 outils
xix.ai
2026 : Découvrez les meilleurs assistants de suivi du sommeil basés sur l’IA, hautement notés et récemment mis à jour, conçus pour une récupération optimale. Ce guide hebdomadaire entièrement actualisé présente des outils puissants qui offrent des tests en conditions réelles, des comparaisons entre versions gratuites et payantes, ainsi que des classements détaillés afin de vous aider à trouver la solution idéale pour améliorer la qualité du sommeil et favoriser de meilleures habitudes avant le coucher. Explorez-le dès maintenant sur XIX.AI pour tirer parti des avantages offerts par l’IA.
10 outils
xix.ai
2026 : les meilleurs copilotes SQL IA les mieux notés pour l'analyse des produits et du chiffre d'affaires ! XIX.AI a sélectionné une gamme d’outils puissants et révolutionnaires à essayer absolument, qui sont soumis à des tests en conditions réelles via des classements mis à jour chaque semaine. Ces outils aident les utilisateurs à booster considérablement leur productivité en accélérant l’analyse des données, en simplifiant les requêtes complexes et en générant des informations précises permettant de prendre des décisions commerciales plus éclairées. Explorez-les dès maintenant pour découvrir l’outil idéal qui vous permettra de tirer pleinement parti de l’IA !
14 outils
xix.ai
2026 : les meilleurs outils d'aide aux devoirs basés sur l'IA, les mieux notés, qui enseignent les concepts fondamentaux et ne se contentent pas de fournir des réponses. Des outils puissants pour les élèves. Une sélection incontournable à ne pas manquer. Mise à jour hebdomadaire. Comparaison entre les versions gratuites et payantes. Tests en conditions réelles. Classements précis pour vous aider à exploiter pleinement votre potentiel d'apprentissage. Explorez dès maintenant pour découvrir l'outil idéal qui vous permettra d'étudier plus efficacement.
10 outils
xix.ai
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
