Nuevo proyecto de ley AI presentado en California por el autor de SB 1047

El senador estatal de California, Scott Wiener, quien agitó la olla con el contencioso proyecto de seguridad de seguridad de IA del año pasado, SB 1047, ha vuelto con otro proyecto de ley que está volcando plumas en Silicon Valley. El viernes, Wiener presentó SB 53, cuyo objetivo es proteger a los empleados en los principales laboratorios de IA de represalias si plantean preocupaciones sobre los sistemas de IA de su empresa que representan un "riesgo crítico" para la sociedad. Además, el proyecto de ley propone la creación de CalCompute, un clúster de computación en la nube pública diseñado para proporcionar a los investigadores y startups la potencia informática necesaria para desarrollar IA para el bien público. El proyecto de ley anterior de Wiener, SB 1047, provocó un intenso debate nacional sobre cómo administrar grandes sistemas de IA que podrían conducir a eventos catastróficos como pérdida significativa de vidas o ataques cibernéticos que causan daños por más de $ 500 millones. A pesar de la controversia, el gobernador Gavin Newsom vetó el proyecto de ley en septiembre, argumentando que no era el enfoque correcto. Las consecuencias de SB 1047 fueron feroces. Silicon Valley BigWigs argumentó que el proyecto de ley socavaría la ventaja de Estados Unidos en la carrera global de IA, impulsada por lo que vieron como temores infundados de escenarios apocalípticos inducidos por AI-AI. Wiener respondió, acusando a algunos capitalistas de riesgo de orquestar una "campaña de propaganda" contra su proyecto de ley. En particular, la afirmación de Y Combinator de que SB 1047 podría la cárcel de los fundadores de Startup fue etiquetado por los expertos. SB 53 parece ser un pivote estratégico, centrado en los elementos menos polémicos de SB 1047. Destaca las protecciones de denunciantes y el establecimiento de Calcompute. Sin embargo, Wiener no se aleja de los riesgos de IA existenciales. SB 53 protege claramente a los denunciantes que creen que sus empleadores están desarrollando sistemas de IA que podrían representar un "riesgo crítico", definido como un riesgo previsible o material que podría resultar en la muerte o lesiones graves de más de 100 personas, o más de $ 1 mil millones en daños. El proyecto de ley se dirige a desarrolladores de modelos de IA fronteriza como OpenAI, Anthrope y XAI, que les prohíbe tomar represalias contra los empleados que informan preocupaciones al fiscal general, autoridades federales u otros empleados de California. Estos desarrolladores también deben informar a los denunciantes sobre procesos internos marcados como preocupantes. En cuanto a CalCompute, SB 53 establecería un grupo que incluye representantes de la Universidad de California y otros investigadores para planificar su desarrollo. Decidirán el tamaño del clúster y quién obtiene acceso a él. SB 53 todavía se encuentra en las primeras etapas del proceso legislativo, lo que necesita la aprobación de los organismos legislativos de California antes de llegar al escritorio del gobernador Newsom. La respuesta de Silicon Valley a este nuevo proyecto de ley será observada de cerca. La aprobación de las facturas de seguridad de IA en 2025 podría ser más complicado que en 2024, cuando California aprobó 18 proyectos de ley relacionados con la IA. El movimiento de seguridad de IA parece estar perdiendo vapor, especialmente después de los comentarios del vicepresidente JD Vance en la Cumbre de Acción de AI de París, donde enfatizó la innovación de IA sobre la seguridad. Si bien Calcompute podría verse como promover el progreso de la IA, el futuro de los esfuerzos legislativos centrados en los riesgos de IA existenciales sigue siendo incierto. [TTPP] [yyxx]

Artículo relacionado

comentario (25)