Token Monster автоматизирует оптимальный выбор LLM и инструментов для ваших задач

Token Monster, новая платформа чат-ботов с искусственным интеллектом, вступила в стадию предварительного альфа-тестирования, цель которого - изменить взаимодействие пользователей с большими языковыми моделями (LLM).

Созданная Мэттом Шумером, соучредителем и генеральным директором OthersideAI и популярного инструмента для написания ИИ Hyperwrite AI, отличительная особенность Token Monster - интеллектуальная маршрутизация пользовательских запросов к наиболее подходящим LLM для любой конкретной задачи. Используя возможности нескольких моделей, он обеспечивает улучшенные и более точные результаты.

В настоящее время Token Monster поддерживает семь основных LLM. Когда пользователь вводит запрос, система применяет тщательно продуманные предварительные подсказки, разработанные Шумером в ходе длительных итераций, чтобы проанализировать входные данные, определить идеальную комбинацию моделей и подключенных инструментов и сгенерировать целостный ответ, использующий уникальные преимущества каждого выбранного ИИ. Доступные LLM включают:

• Антроп Клод 3.5 Сонет
• Anthropic Claude 3.5 Opus
• OpenAI GPT-4.1
• OpenAI GPT-4o
• Perplexity AI PPLX (для исследований)
• OpenAI o3 (для рассуждений)
• Google Gemini 2.5 Pro

От других платформ чатботов Token Monster отличает способность автоматически определять лучшую модель для каждой задачи. Он также распознает, когда нужно использовать подключенные инструменты - например, веб-поиск или среду выполнения кода, - и организует плавный рабочий процесс с использованием нескольких моделей.

"Мы создаем соединения со всем, а также интеллектуальную систему, которая решает, что и когда использовать", - объясняет Шумер.

Например, для решения творческих задач система может обращаться к Claude, для рассуждений - к o3, а для исследований - к PPLX. Это избавляет пользователей от необходимости постоянно переключаться между моделями вручную, облегчая получение высококачественных, специально разработанных результатов".

Основные характеристики

Альфа-версия, доступная для бесплатной регистрации на сайте tokenmonster.ai, позволяет пользователям загружать различные типы файлов, включая электронные таблицы Excel, презентации PowerPoint и документы Google Docs.

Среди других примечательных функций - извлечение содержимого веб-страниц, постоянные чат-сессии и "режим FAST", который автоматически направляет запросы к наиболее подходящей модели, не требуя вмешательства пользователя.

В основе Token Monster лежит OpenRouter, сторонний сервис, предоставляющий доступ к широкому спектру LLM. Шумер лично вложил в платформу скромную сумму.

Такая настройка позволяет Token Monster беспрепятственно интегрировать модели от нескольких провайдеров, не нуждаясь в отдельной инфраструктуре или пользовательских интеграциях.

Ценообразование и доступность

В настоящее время Token Monster не работает по фиксированной ежемесячной подписке.

Вместо этого пользователи платят только за токены, которые они используют через OpenRouter, что делает платформу очень адаптируемой к различным уровням использования и бюджетам.

Шумер отметил, что такой подход к ценообразованию был вдохновлен Cline, инструментом, который предоставляет пользователям большого объема неограниченную вычислительную мощность ИИ, позволяя получать более качественные результаты за счет увеличения вычислительных ресурсов.

Многоступенчатые рабочие процессы дают более насыщенные ответы LLM

Рабочие процессы ИИ в Token Monster выходят за рамки простого выбора модели.

В одном из примеров система может начать с этапа исследования с помощью API веб-поиска, передать собранную информацию в o3 для выявления пробелов в знаниях, создать набросок с помощью Gemini 2.5 Pro, набросать контент с помощью Claude Opus и отшлифовать его с помощью Claude 3.5 Sonnet.

Этот упорядоченный многоступенчатый процесс позволяет получить более подробные и исчерпывающие ответы, чем те, которые может подготовить один LLM.

Пользователи также могут сохранять сеансы чата, причем данные надежно хранятся в Supabase, онлайн-базе данных с открытым исходным кодом. Это позволяет пользователям беспрепятственно возобновлять проекты, сохраняя контроль над тем, какие данные хранятся, а какие - временно.

Нетрадиционный генеральный директор

В рамках смелого эксперимента руководство Token Monster было передано модели Клода из Anthropic.

Шумер обязался следить за каждым решением, принятым "генеральным директором Клодом", рассматривая эту инициативу как реальную проверку способности ИИ управлять бизнесом.

"Либо мы навсегда совершили революцию в управлении, либо совершили огромную ошибку", - написал он на сайте X.

Возникновение из споров вокруг Reflection 70-B

Появление Token Monster последовало за противоречивым периодом Шумера, который в прошлом году запустил, а затем отозвал Reflection 70B - доработанную версию модели Llama 3.1 от Meta.

Изначально модель рекламировалась как самый высокопроизводительный в мире ИИ с открытым исходным кодом, но вскоре столкнулась с критикой и обвинениями в мошенничестве после того, как независимые исследователи не смогли воспроизвести заявленные результаты бенчмарков.

Шумер публично извинился, объяснив ошибки слишком быстрым темпом работы. Этот инцидент высветил более широкие проблемы быстрой разработки ИИ и необходимость большей прозрачности при выпуске моделей.

Следующие интеграции MCP

Шумер также поделился, что команда Token Monster изучает новые функциональные возможности, такие как интеграция с серверами Model Context Protocol (MCP).

MCP позволит веб-сайтам и компаниям предоставлять LLM доступ к своим базам знаний, инструментам и продуктам, что позволит выполнять более сложные задачи, чем создание базового текста или изображения.

Это может позволить Token Monster взаимодействовать с внутренними системами пользователей, открывая возможности для таких сценариев, как управление заявками в службу поддержки клиентов или связь с бизнес-приложениями.

Он подчеркнул, что Token Monster все еще находится на ранней стадии разработки. Хотя он уже предлагает мощный набор инструментов, он остается альфа-продуктом и, как ожидается, будет быстро развиваться в зависимости от пожеланий пользователей. "Мы будем продолжать итерации и добавлять что-то новое", - сказал он.

Многообещающий эксперимент

Для пользователей, которые хотят использовать совокупный интеллект нескольких LLM без сложностей ручного переключения моделей, Token Monster предлагает привлекательное решение.

Он создан для тех, кто предпочитает не тратить часы на настройку подсказок и тестирование различных моделей, оставляя автоматическую маршрутизацию и многоступенчатые рабочие процессы системы для выполнения тяжелой работы.

По мере развития Token Monster будет интересно наблюдать за тем, как частные лица и компании примут платформу и как будет развиваться ее эксперимент по руководству, основанному на искусственном интеллекте. Пока же она представляет собой интересный новый участник в быстро развивающемся мире чат-ботов и интеллектуальных помощников.