Исследователи разрабатывают конкурент с открытым исходным кодом для модели «Рассуждение на 50 долларов» за менее чем 50 долларов США.

В прошлую пятницу был опубликован новаторский научный труд от экспертов по ИИ из Стэнфорда и Вашингтонского университета, в котором сообщается, что им удалось разработать модель ИИ "рассуждения", названную s1, за менее чем 50 долларов в кредитах на облачные вычисления. Это открытие потрясает мир ИИ, поскольку s1 успешно конкурирует с топовыми моделями, такими как o1 от OpenAI и R1 от DeepSeek, в решении математических и программистских задач.

Модель s1, вместе со всеми подробностями её тренировочных данных и кода, теперь доступна на GitHub. Команда начала с обычной базовой модели, а затем применила технику под названием дистилляция. Этот процесс включает извлечение "рассуждений" из другой модели ИИ путём обучения на её ответах. В данном случае s1 получила свои способности от экспериментальной модели Google Gemini 2.0 Flash Thinking. Это схожая тактика с той, что использовали исследователи из Беркли для создания собственной модели ИИ-рассуждений за около 450 долларов в прошлом месяце.

Для некоторых захватывающе, что небольшая команда исследователей всё ещё может производить фурор в области ИИ без огромного бюджета. Но появление s1 также вызывает серьёзные вопросы о будущем развития моделей ИИ. Если модель, конкурирующая с теми, что создавались за миллионы, может быть воспроизведена с минимальным бюджетом, что мешает всем делать то же самое?

Неудивительно, что крупные игроки в области ИИ не в восторге. Например, OpenAI обвинила DeepSeek в использовании данных их API для дистилляции моделей. Тем временем команда s1 сосредоточилась на поиске самого простого способа достижения хороших результатов в рассуждениях и так называемого "масштабирования во время тестирования", когда модели ИИ предоставляется больше времени на обдумывание перед ответом. Эти же инновации представила модель o1 от OpenAI, которые другие, такие как DeepSeek, пытались воспроизвести своими методами.

Статья о s1 предполагает, что можно дистиллировать модели рассуждений с относительно небольшим набором данных, используя технику, известную как supervised fine-tuning (SFT). Это включает обучение модели ИИ копировать определённое поведение из набора данных, и это дешевле, чем масштабное обучение с подкреплением, которое DeepSeek использовала для своей модели R1, конкурирующей с o1 от OpenAI.

Google предоставляет Gemini 2.0 Flash Thinking Experimental бесплатно через платформу Google AI Studio, но с дневными ограничениями. Однако есть загвоздка — условия Google запрещают реверс-инжиниринг их моделей для создания конкурирующих сервисов. Мы ждём ответа от Google по этому поводу.

Сама модель s1 началась как скромная, готовая модель ИИ от лаборатории Qwen компании Alibaba, которую любой может скачать бесплатно. Для обучения s1 исследователи собрали набор из всего 1000 тщательно отобранных вопросов вместе с ответами и процессом "мышления" для каждого, предоставленных Google Gemini 2.0. Весь процесс обучения занял менее 30 минут на 16 GPU Nvidia H100. По словам Никласа Мюннигхоффа, исследователя из Стэнфорда, участвовавшего в проекте, сегодня это можно сделать примерно за 20 долларов в вычислительных затратах.

Исследователи также применили хитрый ход, чтобы заставить s1 перепроверять свою работу и увеличивать время "мышления" — они просто сказали ей "ждать". Добавление этого слова в процесс рассуждений s1 помогло ей давать немного более точные ответы, согласно статье.

Взгляд в 2025 год: технологические гиганты, такие как Meta, Google и Microsoft, планируют вложить сотни миллиардов в инфраструктуру ИИ, большая часть которых пойдёт на обучение следующей волны моделей ИИ. Хотя дистилляция доказала свою эффективность для дешёвого воспроизведения возможностей ИИ, она не приведёт к созданию совершенно новых, революционных моделей ИИ в ближайшем будущем.