Nuevo proyecto de ley AI presentado en California por el autor de SB 1047

El senador estatal de California, Scott Wiener, quien causó revuelo con el controvertido proyecto de ley de seguridad de IA SB 1047 del año pasado, está de vuelta con otro proyecto que promete generar controversia en Silicon Valley. El viernes, Wiener presentó el SB 53, que busca proteger a los empleados de los principales laboratorios de IA contra represalias si expresan preocupaciones sobre los sistemas de IA de su empresa que representen un "riesgo crítico" para la sociedad. Además, el proyecto propone la creación de CalCompute, un clúster de computación en la nube público diseñado para proporcionar a investigadores y startups el poder computacional necesario para desarrollar IA en beneficio del público.

El proyecto anterior de Wiener, SB 1047, desató un intenso debate nacional sobre cómo gestionar los grandes sistemas de IA que podrían conducir a eventos catastróficos, como una pérdida significativa de vidas o ciberataques que causen daños superiores a $500 millones. A pesar de la controversia, el gobernador Gavin Newsom vetó el proyecto en septiembre, argumentando que no era el enfoque correcto.

Las repercusiones del SB 1047 fueron intensas. Los magnates de Silicon Valley argumentaron que el proyecto socavaría la ventaja de Estados Unidos en la carrera global de IA, impulsada por lo que consideraban temores infundados de escenarios apocalípticos inducidos por la IA. Wiener contraatacó, acusando a algunos capitalistas de riesgo de orquestar una "campaña de propaganda" contra su proyecto. En particular, la afirmación de Y Combinator de que el SB 1047 podría encarcelar a fundadores de startups fue calificada como engañosa por expertos.

El SB 53 parece ser un cambio estratégico, centrándose en los elementos menos controvertidos del SB 1047. Pone énfasis en las protecciones para denunciantes y en el establecimiento de CalCompute. Sin embargo, Wiener no retrocede ante los riesgos existenciales de la IA. El SB 53 protege claramente a los denunciantes que creen que sus empleadores están desarrollando sistemas de IA que podrían representar un "riesgo crítico", definido como un riesgo previsible o material que podría resultar en la muerte o lesiones graves de más de 100 personas, o daños superiores a $1,000 millones.

El proyecto se dirige a los desarrolladores de modelos de IA de vanguardia como OpenAI, Anthropic y xAI, prohibiéndoles tomar represalias contra empleados que informen preocupaciones al Fiscal General de California, autoridades federales u otros empleados. Estos desarrolladores también deben informar a los denunciantes sobre los procesos internos señalados como preocupantes.

En cuanto a CalCompute, el SB 53 establecería un grupo que incluye representantes de la Universidad de California y otros investigadores para planificar su desarrollo. Ellos decidirán el tamaño del clúster y quién tendrá acceso a él.

El SB 53 aún está en las primeras etapas del proceso legislativo, necesitando la aprobación de los cuerpos legislativos de California antes de llegar al escritorio del gobernador Newsom. La respuesta de Silicon Valley a este nuevo proyecto será observada de cerca.

Aprobar proyectos de ley de seguridad de IA en 2025 podría ser más complicado que en 2024, cuando California aprobó 18 proyectos relacionados con la IA. El movimiento de seguridad de IA parece estar perdiendo impulso, especialmente tras los comentarios del vicepresidente J.D. Vance en la Cumbre de Acción de IA de París, donde enfatizó la innovación en IA por encima de la seguridad. Aunque CalCompute podría ser visto como un impulso al progreso de la IA, el futuro de los esfuerzos legislativos centrados en los riesgos existenciales de la IA sigue siendo incierto.

[ttpp][yyxx]