Новый законопроект AI, представленный в Калифорнии автором SB 1047

Сенатор штата Калифорния Скотт Винер, вызвавший бурные споры с прошлогодним противоречивым законопроектом о безопасности ИИ SB 1047, вернулся с новым законопроектом, который, вероятно, снова всколыхнёт Кремниевую долину. В пятницу Винер представил SB 53, который направлен на защиту сотрудников крупных лабораторий ИИ от репрессий, если они выразят обеспокоенность тем, что системы ИИ их компаний представляют «критический риск» для общества. Кроме того, законопроект предлагает создание CalCompute, публичного облачного вычислительного кластера, предназначенного для предоставления исследователям и стартапам вычислительных мощностей, необходимых для разработки ИИ в интересах общества.

Предыдущий законопроект Винера, SB 1047, вызвал ожесточённые национальные дебаты о том, как управлять крупными системами ИИ, которые потенциально могут привести к катастрофическим событиям, таким как значительные человеческие жертвы или кибератаки, наносящие ущерб более чем на 500 миллионов долларов. Несмотря на споры, губернатор Гэвин Ньюсом наложил вето на законопроект в сентябре, утверждая, что это не правильный подход.

Последствия SB 1047 были серьёзными. Крупные игроки Кремниевой долины утверждали, что законопроект подорвёт преимущество Америки в глобальной гонке ИИ, подпитываемой, по их мнению, необоснованными страхами апокалиптических сценариев, вызванных ИИ. Винер в ответ обвинил некоторых венчурных капиталистов в организации «пропагандистской кампании» против его законопроекта. В частности, утверждение Y Combinator о том, что SB 1047 может привести к тюремному заключению основателей стартапов, эксперты назвали вводящим в заблуждение.

SB 53, похоже, представляет собой стратегический поворот, сосредоточившись на менее спорных элементах SB 1047. Он акцентирует внимание на защите информаторов и создании CalCompute. Однако Винер не отступает от темы экзистенциальных рисков ИИ. SB 53 чётко защищает информаторов, которые считают, что их работодатели разрабатывают системы ИИ, которые могут представлять «критический риск», определяемый как предвидимый или значительный риск, который может привести к гибели или серьёзным травмам более 100 человек или ущербу более чем на 1 миллиард долларов.

Законопроект нацелен на разработчиков передовых моделей ИИ, таких как OpenAI, Anthropic и xAI, запрещая им принимать меры против сотрудников, которые сообщают о своих опасениях генеральному прокурору Калифорнии, федеральным властям или другим сотрудникам. Эти разработчики также должны отчитываться перед информаторами о внутренних процессах, вызывающих обеспокоенность.

Что касается CalCompute, SB 53 предусматривает создание группы, включающей представителей Университета Калифорнии и других исследователей, для планирования его разработки. Они определят размер кластера и круг лиц, которые получат к нему доступ.

SB 53 находится на ранней стадии законодательного процесса и должен получить одобрение законодательных органов Калифорнии, прежде чем попадёт на стол губернатора Ньюсома. Реакция Кремниевой долины на этот новый законопроект будет внимательно отслеживаться.

Принятие законопроектов о безопасности ИИ в 2025 году может оказаться сложнее, чем в 2024 году, когда Калифорния приняла 18 связанных с ИИ законопроектов. Движение за безопасность ИИ, похоже, теряет импульс, особенно после комментариев вице-президента Джей Ди Вэнса на Парижском саммите по действиям в области ИИ, где он сделал акцент на инновациях в ИИ, а не на безопасности. Хотя CalCompute может рассматриваться как способ продвижения прогресса в области ИИ, будущее законодательных инициатив, сосредоточенных на экзистенциальных рисках ИИ, остаётся неопределённым.

[ttpp][yyxx]