Nouveau projet de loi sur l'IA présenté en Californie par l'auteur SB 1047

Le sénateur de l'État de Californie, Scott Wiener, qui a remué le pot avec le facteur de sécurité AI de l'année dernière SB 1047, est de retour avec un autre projet de loi qui devrait ébouriffer les plumes dans la Silicon Valley. Vendredi, Wiener a introduit le SB 53, qui vise à protéger les employés dans les principaux laboratoires d'IA des représailles s'ils soulèvent des préoccupations concernant les systèmes d'IA de leur entreprise posant un "risque critique" pour la société. De plus, le projet de loi propose la création de CalCompute, un cluster public cloud computing conçu pour fournir aux chercheurs et aux startups la puissance de calcul nécessaire pour développer l'IA pour le bien public. Le projet de loi précédent de Wiener, SB 1047, a déclenché un débat national intense sur la façon de gérer les grands systèmes d'IA qui pourraient potentiellement entraîner des événements catastrophiques comme une perte de vie importante ou des cyberattaques causant des dommages-intérêts de plus de 500 millions de dollars. Malgré la controverse, le gouverneur Gavin Newsom a opposé son veto au projet de loi en septembre, faisant valoir que ce n'était pas la bonne approche. Les retombées de SB 1047 étaient féroces. Les bigwigs de la Silicon Valley ont fait valoir que le projet de loi saperait l'avantage de l'Amérique dans la race mondiale de l'IA, alimenté par ce qu'ils considéraient comme des peurs non fondées de scénarios apocalyptiques induits par l'IA. Wiener a riposté, accusant certains capital-risqueurs d'orchestrer une "campagne de propagande" contre son projet de loi. Notamment, l'affirmation de Y Combinator selon laquelle SB 1047 pouvait des fondateurs de startup en prison a été étiquetée trompeuse par des experts. Le SB 53 semble être un pivot stratégique, en se concentrant sur les éléments moins controversés de SB 1047. Il met l'accent sur les protections de dénonciation et l'établissement de CalCompute. Wiener ne se retire pas des risques d'IA existentiels, cependant. Le SB 53 protège clairement les dénonciateurs qui croient que leurs employeurs développent des systèmes d'IA qui pourraient présenter un «risque critique», défini comme un risque prévisible ou matériel qui pourrait entraîner le décès ou des blessures graves de plus de 100 personnes, ou plus d'un milliard de dollars en dommages et intérêts. Le projet de loi cible les développeurs de modèles d'IA Frontier comme Openai, Anthropic et XAI, les interdisant de riposter contre les employés qui signalent des préoccupations au procureur général de la Californie, aux autorités fédérales ou à d'autres employés. Ces développeurs doivent également faire rapport aux dénonciateurs sur les processus internes signalés comme concernant. Quant à CalCompute, SB 53 mettrait en place un groupe, y compris des représentants de l'Université de Californie et d'autres chercheurs pour planifier son développement. Ils décideront de la taille du cluster et qui y a accès. Le SB 53 en est encore aux premiers stades du processus législatif, nécessitant l'approbation des organismes législatifs de la Californie avant d'atteindre le bureau du gouverneur Newsom. La réponse de la Silicon Valley à ce nouveau projet de loi sera surveillée de près. L'adoption des factures de sécurité de l'IA en 2025 pourrait être plus difficile qu'en 2024, lorsque la Californie a adopté 18 factures liées à l'IA. Le mouvement de sécurité de l'IA semble perdre de la vapeur, en particulier après les commentaires du vice-président JD Vance lors du Sommet de l'action de l'IA de Paris, où il a souligné l'innovation de l'IA sur la sécurité. Bien que CalCompute puisse être considéré comme la promotion des progrès de l'IA, l'avenir des efforts législatifs axés sur les risques d'IA existentiels reste incertain. [TTPP] [YYXX]

Article connexe

commentaires (25)