OpenAI опасается моделей с открытым весом. Должна ли США об этом беспокоиться?

Запуск Kimi K3, крупнейшей в мире модели с открытым весом от китайской лаборатории Moonshot, развязал дебаты, в которых смешиваются два различных вопроса: экономическая стратегия американских ИИ-гигантов и технологическая траектория больших языковых моделей (LLM).

Дин У. Балл, глава стратегического будущего OpenAI, предположил, что правительству США следует создавать регуляторный страх и неопределенность вокруг новых моделей, утверждая, что архитектуры с открытым весом неизбежно сдерживают капитальные расходы лабораторий переднего края.

Отклик был быстрым: такие лидеры технологической отрасли, как Ян Лекун и Мартин Касадо, заявили, что открытое программное обеспечение ускоряет инновации и может сосуществовать с проприетарными проектами. Позднее Балл взял свои заявления о том, что регуляторная зачистка является «лучшей стратегией» Белого дома и что модели с открытым весом неизбежно препятствуют технологическому прогрессу, обратно.

Однако, как сообщает Axios, администрация Трампа рассматривает возможность запрета K3 и других передовых китайских моделей по настоянию американских лабораторий переднего края. В то же время, согласно сообщению Politico, Министерство торговли США не планирует предпринимать такие действия в ближайшем будущем.

Преимущество крупных ИИ-компаний очевидно: модели с открытым весом, которые могут работать на независимой инфраструктуре или внутри предприятий, обеспечивают более дешевый интеллект, чем проприетарные предложения Anthropic или OpenAI. Если пользователи все чаще будут обращаться к решениям вне закрытых лабораторий, окупаемость огромных инвестиций лабораторий переднего края в обучение моделей будет снижаться.

Эта точка зрения выходит за рамки только OpenAI. «Мощные модели с открытым исходным кодом уровня передовых лабораторий будут сжимать маржу и снижать цены для компаний переднего края», — сказал Брэдден Ханкок, сооснователь Snorkel AI и исследовательский партнер Института Лауде, изданию TechCrunch. «Это не обязательно снизит использование ИИ; скорее всего, произойдет обратное».

Для тех, у кого нет долей в Anthropic или OpenAI, это не проблема. ИИ будет продолжать распространяться. Так что же оправдывает блокировку правительством США возможности для американцев покупать продукты на, казалось бы, свободных рынках?

Взгляды на китайские модели различаются. Один из аргументов касается защиты данных США от правительства Китая, аналогично запрету на современные китайские электромобили из-за опасений по поводу конфиденциальности данных. Однако эксперты считают, что модели с открытым весом, размещенные на серверах в США, вряд ли будут утекать данные обратно в Китай, хотя такая возможность все же сохраняется.

Другая проблема заключается в том, что эти модели могут содержать неявную предвзятость в отношении КНР, хотя последствия для таких задач, как программирование, остаются неясными.

Третья распространенная проблема заключается в том, что китайские модели не имеют защитных механизмов, предписанных правительством США (через непрозрачный процесс) для предотвращения эксплуатации закрытых систем или создания оружия. Тем не менее, эти же защитные механизмы могут сделать американские компании более уязвимыми: Дэвид Сакс, венчурный капиталист и советник Трампа, выделил случаи, когда американские компании обращаются к китайским LLM для обхода ограничений безопасности, наложенных американскими моделями переднего края.

Однако самой значительной мотивацией для ограничения этих моделей является страх, что Китай обгонит США, если лаборатории переднего края замедлят свое развитие.

Сэм Бресник, научный сотрудник Центра безопасности и новых технологий Джорджтаунского университета, специализирующийся на Китае, утверждает, что растущая важность ИИ для военных операций США оправдывает дальнейшие инвестиции в лаборатории переднего края. Тем не менее, он отмечает, что весь этот вопрос полон сложностей.

«Почему вес правительства США должен быть направлен на защиту этих компаний от конкурентов, которые исключены с рынка США на основе их происхождения?» — спрашивает Бресник.

Сторонники открытого ИИ утверждают, что компании переднего края создают ложную дихотомию между инновациями и закрытыми моделями.

«Большее влияние наличия этих моделей с открытым исходным кодом из Китая заключается не в том, что они проникают через черные ходы, а в том, что они владеют инновациями», — сказал Ханкок изданию TechCrunch. «В конечном итоге вы получаете, по сути, расширенную рабочую силу для своей модели. PyTorch стал отраслевым стандартом, потому что он был с открытым исходным кодом, и поэтому весь сообщество могло вносить в него свой вклад, а не только одна компания, и он рос и рос, а все остальные библиотеки глубокого обучения как бы умерли по сравнению с ним».

Ханкок и другие сторонники опасаются, что китайские LLM станут центром международных исследований. Уже сейчас американские аспирантские программы в основном строятся на моделях с открытым весом из Китая, и Ханкок заявляет, что половина статей, которые изучают студенты, исходит от китайских институтов, поскольку американские лаборатории переднего края все больше колеблются в том, чтобы широко делиться своими работами.

«Ограничение открытых моделей не сделало бы ИИ безопаснее», — сказал Клем Деланг, генеральный директор Hugging Face, платформы для открытого сотрудничества в области ИИ. «Это просто скрыло бы риски, сконцентрировало власть в руках нескольких лиц и сделало бы более трудным участие следующего поколения создателей, исследователей, академических кругов, некоммерческих организаций и правительств в обеспечении безопасности ИИ и его пользы для всех».

Бресник предполагает, что реальный способ замедлить прогресс Китая — это сосредоточиться на контроле за экспортом чипов. Более эффективной стратегией сохранения лидерства США в области ИИ было бы прекращение продажи процессоров Nvidia H200 в Китай. «Это», — говорит он, — «могло бы потенциально избавить нас от этого трудного дебата о запрете технологий с открытым исходным кодом, которые хотят использовать огромное количество американских компаний».

Часть проблемы заключается в неопределенности вокруг экономики ИИ. «Бизнес-модель с открытым исходным кодом, проприетарная бизнес-модель — ни одна из них еще не проработана. ИИ-компаниям сложно понять, как зарабатывать деньги на своих инструментах, особенно когда затраты на обучение постоянно растут», — отмечает Бресник.

Те же проблемы, происходящие в США, очевидны и в Китае, где ИИ-компании борются за генерацию доходов и доступ к вычислительным мощностям. Правительство Китая поощряет выпуск моделей с открытым исходным кодом по политическим причинам, несмотря на трудности с их монетизацией.

Некоторые американские компании, включая Thinking Machines Lab и Nvidia, пытаются построить бизнес вокруг выпуска открытых моделей. Ханкок отмечает, что Nvidia выиграет больше «если будут десятки или сотни компаний, строящих ИИ, а не две или три, которые достаточно капитализированы для создания собственных чипов», что объясняет ее инвестиции в Nemotron, набор открытых моделей.

«Главное заключается в том, что США получили бы огромную выгоду от наличия собственных очень мощных и значительно более дешевых моделей с открытым исходным кодом», — сказал Бресник. «Это просто противоречит подходу, который взяли лаборатории переднего края».

С дополнительной информацией от Ребекки Беллан.