Multiverse Computing способствует широкому распространению сжатых моделей искусственного интеллекта

В связи с тем, что уровень дефолтов частных компаний достиг 9,2% — самого высокого показателя за последние годы — венчурная компания Lux Capital недавно посоветовала компаниям, использующим ИИ, заключать письменные соглашения на предоставление вычислительных мощностей. По мере распространения финансовой нестабильности по всей цепочке поставок в сфере ИИ Lux предупредила, что устных договоренностей уже недостаточно.

Но есть и совершенно другой вариант: полностью отказаться от использования внешней вычислительной инфраструктуры. Небольшие модели ИИ, работающие непосредственно на устройстве пользователя — без центров обработки данных, без облачных провайдеров и без риска контрагента — становятся достаточно мощными, чтобы заслуживать серьезного внимания. И компания Multiverse Computing выходит на первый план.

Этот испанский стартап вел себя относительно сдержанно по сравнению с некоторыми конкурентами, но ситуация меняется по мере роста спроса на эффективность ИИ. После сжатия моделей от крупных ИИ-лабораторий, таких как OpenAI, Meta, DeepSeek и Mistral AI, компания выпустила два продукта: приложение, демонстрирующее возможности сжатых моделей, и API-портал — шлюз для разработчиков, позволяющий получать доступ к этим моделям и создавать на их основе новые, — что делает их более широко доступными.

Приложение CompactifAI, получившее свое название от технологии сжатия Multiverse, вдохновленной квантовой физикой, представляет собой инструмент чата с ИИ, похожий на ChatGPT или Le Chat от Mistral. Вы задаете вопрос, и модель отвечает. Разница заключается в том, что, по словам компании, Multiverse встроила в приложение Gilda — модель, настолько компактную, что она может работать локально и в автономном режиме.

Для конечных пользователей это дает возможность познакомиться с периферийным ИИ, при котором данные никогда не покидают их устройства и не требуется подключение к Интернету. Однако есть один нюанс: их мобильные устройства должны иметь достаточно оперативной памяти и места для хранения данных. Если этого нет — а у многих старых iPhone этого нет — приложение переключается на облачные модели через API. Переключение между локальной и облачной обработкой осуществляется автоматически системой, которую Multiverse называет Ash Nazg — название, которое поклонники Толкина узнают как отсылку к надписи на Едином Кольце в «Властелине колец». Но когда приложение переключается на облако, оно теряет свое главное преимущество в плане конфиденциальности.

Эти ограничения указывают на то, что CompactifAI еще не готово к широкому внедрению среди потребителей, хотя, возможно, это и не было целью разработчиков. По данным Sensor Tower, за последний месяц приложение было скачано менее 5 000 раз.

Настоящий фокус — это бизнес. Сегодня Multiverse запускает портал API самообслуживания, который предоставляет разработчикам и предприятиям прямой доступ к своим сжатым моделям — без необходимости использования AWS Marketplace.

«Портал API CompactifAI [теперь] предоставляет разработчикам прямой доступ к сжатым моделям с прозрачностью и контролем, необходимыми для их запуска в производственной среде», — заявил генеральный директор Энрике Лизасо.

Мониторинг использования в реальном времени — ключевая функция API, и это не случайно. Наряду с потенциальными преимуществами развертывания на периферии, снижение затрат на вычисления является одной из основных причин, по которой предприятия рассматривают более компактные модели в качестве альтернативы большим языковым моделям (LLM).

Помогает также то, что небольшие модели гораздо менее ограничены, чем раньше. В начале этой недели Mistral обновила линейку небольших моделей, выпустив Mistral Small 4, которая, по заявлению компании, оптимизирована для общего чата, кодирования, задач агентов и рассуждений. Французская компания также запустила Forge — систему, позволяющую предприятиям создавать пользовательские модели, в том числе небольшие, где они могут выбирать компромиссы, наиболее подходящие для их сценариев использования.

Недавние результаты Multiverse также указывают на то, что разрыв с LLM сокращается. Ее новейшая сжатая модель, HyperNova 60B 2602, построена на основе gpt-oss-120b — модели OpenAI с общедоступным исходным кодом. Компания утверждает, что она обеспечивает более быстрые ответы при меньших затратах, чем исходная модель, от которой она была получена, — преимущество, которое особенно важно для рабочих процессов агентского кодирования, где ИИ автономно обрабатывает сложные многоэтапные задачи программирования.

Создание моделей, достаточно компактных для работы на мобильных устройствах, но при этом сохраняющих свою полезность, представляет собой серьезную проблему. Apple Intelligence обошла эту проблему, объединив модель на устройстве с облачной моделью. Приложение CompactifAI от Multiverse также может направлять запросы к gpt-oss-120b через API, но его основная цель — продемонстрировать, что локальные модели, такие как Gilda и ее будущие преемники, предлагают преимущества, выходящие за рамки экономии средств.

Для работников в критически важных областях модель, работающая локально без подключения к облаку, обеспечивает большую конфиденциальность и отказоустойчивость. Но большая ценность заключается в бизнес-сценариях, которые это позволяет реализовать — например, встраивание ИИ в дроны, спутники и другие среды, где нельзя рассчитывать на надежное подключение.

Компания уже обслуживает более 100 клиентов по всему миру, включая Банк Канады, Bosch и Iberdrola, но расширение клиентской базы может помочь ей получить дополнительное финансирование. После привлечения 215 млн долларов в рамках раунда серии B в прошлом году, по имеющимся данным, сейчас компания проводит новый раунд финансирования на сумму 500 млн евро при оценке, превышающей 1,5 млрд евро.