AI Summit упустил возможность, говорит генеральный директор Antropric

В заявлении, опубликованном во вторник, Дарио Аモデи, генеральный директор стартапа в области ИИ Anthropic, выразил свое разочарование по поводу Саммита действий по ИИ, прошедшего в Париже на этой неделе, назвав его "упущенной возможностью". Он призвал как индустрию ИИ, так и государственных чиновников действовать быстрее и яснее.

"Мы были рады участвовать в Саммите действий по ИИ в Париже и высоко ценим усилия французского правительства по объединению компаний в области ИИ, исследователей и политиков со всего мира", — заявил Аモデи. "Однако необходимая срочность и сосредоточенность на ключевых вопросах не соответствовали стремительному развитию технологий".

Критика Аモデи в адрес саммита, который является частью серии конференций, направленных на формирование консенсуса по управлению ИИ, нашла отклик у ряда ученых, которые ранее на этой неделе раскритиковали мероприятие. Один из академиков отметил в беседе с Transformer, что обязательства саммита, которые не были подписаны США и Великобританией, по сути, являются "пустыми обещаниями, завернутыми в банальности".

На конференции вице-президент США Джей Ди Вэнс представил совершенно иную точку зрения, критикуя то, что он назвал чрезмерно ограничивающими регулированиями ИИ, предложенными Европой. Он также оспаривал акцент конференции на модерации контента, отвергая термины "устойчивый" и "инклюзивный" в обязательствах как завуалированные попытки "авторитарной цензуры".

Аモデи подчеркнул быстрое развитие ИИ, предупреждая о потенциальных катастрофических последствиях, если его не регулировать должным образом. "Представьте системы ИИ как новую нацию, полную высокоразумных существ, выходящих на глобальную арену", — объяснил он. "Продвинутый ИИ представляет серьезные угрозы для глобальной безопасности, особенно из-за злоупотребления со стороны негосударственных акторов... Крайне важно, чтобы демократические страны взяли на себя лидерство в развитии ИИ, не позволяя авторитарным режимам достичь глобального военного превосходства через ИИ".

Он призвал правительства активно отслеживать использование ИИ и внедрять политики, которые обеспечат равные экономические выгоды от передовых технологий ИИ. Аモデи также подчеркнул необходимость повышения прозрачности правительства в вопросах безопасности и защиты ИИ, а также разработки стратегий для оценки рисков ИИ.

Эта точка зрения контрастирует с позицией OpenAI, которая выразила уверенность в том, что конференция в Париже стала "еще одной важной вехой на пути к ответственному и полезному развитию ИИ для всех".

Anthropic исторически была более открыта к регулированию ИИ. Аモデи ранее высказывал опасения по поводу потенциальных негативных последствий нерегулируемого ИИ для экономики, общества и безопасности. Anthropic ненавязчиво поддержала законопроект SB 1047 в Калифорнии, всеобъемлющий закон о регулировании ИИ, который вызвал много споров, прежде чем был отклонен губернатором Гэвином Ньюсом прошлой осенью. В отличие от этого, OpenAI выступила против этого законопроекта.

Однако стоит отметить, что позиция Anthropic не является чисто альтруистической. Подобно недавним высказываниям генерального директора OpenAI Сэма Альтмана, Аモデи не предоставил конкретных предложений о том, как обеспечить широкое и равномерное распределение преимуществ передового ИИ.

Прочтите наше всестороннее освещение Саммита действий по искусственному интеллекту в Париже.