Novo projeto de lei de IA introduzido na Califórnia pelo autor do SB 1047

Senador estadual da Califórnia Scott Wiener, que causou polêmica com o projeto de lei de segurança de IA SB 1047 no último ano, está de volta com outro projeto que promete agitar o Vale do Silício. Na sexta-feira, Wiener apresentou o SB 53, que visa proteger funcionários de grandes laboratórios de IA contra retaliações caso levantem preocupações sobre os sistemas de IA de suas empresas representarem um "risco crítico" para a sociedade. Além disso, o projeto propõe a criação do CalCompute, um cluster de computação em nuvem pública projetado para fornecer a pesquisadores e startups o poder computacional necessário para desenvolver IA para o bem público.

O projeto anterior de Wiener, SB 1047, gerou intenso debate nacional sobre como gerenciar grandes sistemas de IA que poderiam potencialmente levar a eventos catastróficos, como perda significativa de vidas ou ciberataques causando danos superiores a US$ 500 milhões. Apesar da controvérsia, o governador Gavin Newsom vetou o projeto em setembro, argumentando que não era a abordagem correta.

A reação ao SB 1047 foi intensa. Magnatas do Vale do Silício argumentaram que o projeto minaria a vantagem da América na corrida global de IA, alimentada por temores que consideravam infundados de cenários apocalípticos induzidos por IA. Wiener retrucou, acusando alguns capitalistas de risco de orquestrarem uma "campanha de propaganda" contra seu projeto. Notavelmente, a alegação da Y Combinator de que o SB 1047 poderia prender fundadores de startups foi considerada enganosa por especialistas.

O SB 53 parece ser uma mudança estratégica, focando nos elementos menos controversos do SB 1047. Ele enfatiza proteções a denunciantes e o estabelecimento do CalCompute. Wiener, no entanto, não recua em relação aos riscos existenciais da IA. O SB 53 protege claramente denunciantes que acreditam que seus empregadores estão desenvolvendo sistemas de IA que poderiam representar um "risco crítico", definido como um risco previsível ou material que poderia resultar na morte ou lesão grave de mais de 100 pessoas, ou danos superiores a US$ 1 bilhão.

O projeto tem como alvo desenvolvedores de modelos de IA de ponta, como OpenAI, Anthropic e xAI, proibindo-os de retaliar contra funcionários que relatam preocupações ao Procurador-Geral da Califórnia, autoridades federais ou outros funcionários. Esses desenvolvedores também devem relatar aos denunciantes sobre processos internos sinalizados como preocupantes.

Quanto ao CalCompute, o SB 53 criaria um grupo incluindo representantes da Universidade da Califórnia e outros pesquisadores para planejar seu desenvolvimento. Eles decidirão o tamanho do cluster e quem terá acesso a ele.

O SB 53 ainda está nas fases iniciais do processo legislativo, precisando da aprovação dos corpos legislativos da Califórnia antes de chegar à mesa do governador Newsom. A resposta do Vale do Silício a este novo projeto será observada de perto.

Aprovar projetos de lei de segurança de IA em 2025 pode ser mais difícil do que em 2024, quando a Califórnia aprovou 18 projetos relacionados à IA. O movimento de segurança de IA parece estar perdendo força, especialmente após os comentários do vice-presidente J.D. Vance no AI Action Summit de Paris, onde ele enfatizou a inovação em IA em vez da segurança. Embora o CalCompute possa ser visto como uma promoção do progresso da IA, o futuro dos esforços legislativos focados em riscos existenciais da IA permanece incerto.

[ttpp][yyxx]