Nouveau projet de loi sur l'IA présenté en Californie par l'auteur SB 1047

Le sénateur de l'État de Californie Scott Wiener, qui a suscité la controverse l'année dernière avec le projet de loi sur la sécurité de l'IA SB 1047, revient avec un nouveau projet de loi qui devrait faire des vagues dans la Silicon Valley. Vendredi, Wiener a présenté le projet de loi SB 53, qui vise à protéger les employés des grands laboratoires d'IA contre les représailles s'ils soulèvent des préoccupations concernant les systèmes d'IA de leur entreprise présentant un "risque critique" pour la société. De plus, le projet propose la création de CalCompute, un cluster de calcul en nuage public conçu pour fournir aux chercheurs et aux startups la puissance de calcul nécessaire pour développer une IA au service du bien public.

Le précédent projet de loi de Wiener, SB 1047, a déclenché un débat national intense sur la manière de gérer les grands systèmes d'IA qui pourraient potentiellement entraîner des événements catastrophiques, comme des pertes de vies importantes ou des cyberattaques causant des dommages supérieurs à 500 millions de dollars. Malgré la controverse, le gouverneur Gavin Newsom a opposé son veto au projet en septembre, estimant qu'il ne s'agissait pas de la bonne approche.

Les retombées de SB 1047 ont été vives. Les poids lourds de la Silicon Valley ont soutenu que le projet nuirait à l'avantage compétitif de l'Amérique dans la course mondiale à l'IA, alimenté par ce qu'ils considéraient comme des craintes infondées de scénarios apocalyptiques induits par l'IA. Wiener a riposté, accusant certains capital-risqueurs d'orchestrer une "campagne de propagande" contre son projet. Notamment, l'affirmation de Y Combinator selon laquelle SB 1047 pourrait emprisonner les fondateurs de startups a été qualifiée de trompeuse par les experts.

SB 53 semble être un pivot stratégique, se concentrant sur les éléments moins controversés de SB 1047. Il met l'accent sur les protections des lanceurs d'alerte et la création de CalCompute. Wiener ne recule pas pour autant face aux risques existentiels de l'IA. SB 53 protège clairement les lanceurs d'alerte qui estiment que leurs employeurs développent des systèmes d'IA pouvant présenter un "risque critique", défini comme un risque prévisible ou matériel pouvant entraîner la mort ou des blessures graves de plus de 100 personnes, ou plus d'un milliard de dollars de dommages.

Le projet cible les développeurs de modèles d'IA de pointe comme OpenAI, Anthropic et xAI, leur interdisant de prendre des mesures de représailles contre les employés qui signalent leurs préoccupations au procureur général de Californie, aux autorités fédérales ou à d'autres employés. Ces développeurs devront également rendre compte aux lanceurs d'alerte des processus internes signalés comme préoccupants.

Quant à CalCompute, SB 53 mettrait en place un groupe incluant des représentants de l'Université de Californie et d'autres chercheurs pour planifier son développement. Ils décideront de la taille du cluster et de qui y aura accès.

SB 53 est encore au stade initial du processus législatif, nécessitant l'approbation des organes législatifs de Californie avant d'arriver sur le bureau du gouverneur Newsom. La réponse de la Silicon Valley à ce nouveau projet sera étroitement surveillée.

Adopter des lois sur la sécurité de l'IA en 2025 pourrait être plus difficile qu'en 2024, lorsque la Californie a adopté 18 projets de loi liés à l'IA. Le mouvement pour la sécurité de l'IA semble perdre de l'élan, surtout après les commentaires du vice-président J.D. Vance au sommet de l'action IA de Paris, où il a mis l'accent sur l'innovation en IA plutôt que sur la sécurité. Bien que CalCompute puisse être perçu comme favorisant le progrès de l'IA, l'avenir des efforts législatifs axés sur les risques existentiels de l'IA reste incertain.

[ttpp][yyxx]