Разработчик JeecgBoot протестировал модифицированную сообществом модель дистилляции на Mac Studio M4Max, добившись скорости генерации в 5–6 раз выше, чем у официальной версии. Модель, использующая архитектуру A4B MoE с общим количеством параметров 26 млрд, активировала лишь около 4 млрд параметров за один инференс, достигая производительности до 78 токенов в секунду и поддерживая контекст объемом 256 КБ. Несмотря на высокую скорость генерации, сложные рабочие процессы Agentic для таких задач, как генерация кода, могут занимать около 1,5 минут из-за многоступенчатых цепочек решений. В ходе тестирования был успешно сгенерирован стандартизированный скелет проекта JeecgBoot. Рекомендуется использовать стратегию с двумя моделями: использовать локальную модифицированную модель для большинства задач (таких как CRUD) в целях обеспечения конфиденциальности и экономии средств, а облачные API — для сложных задач проектирования.
При нажатии на «Принять все файлы cookie» вы соглашаетесь на хранение файлов cookie на вашем устройстве для улучшения навигации по сайту, анализа использования сайта и поддержки наших маркетинговых усилий.Политика конфиденциальности Уведомление
При посещении любого веб-сайта он может хранить или получать информацию в вашем браузере, главным образом в виде файлов cookie. Эта информация может относиться к вам, вашим предпочтениям или вашему устройству и в основном используется для того, чтобы сайт работал так, как вы ожидаете. Эта информация обычно не идентифицирует вас напрямую, но может предоставить вам более персонализированный веб-опыт. Поскольку мы уважаем ваше право на конфиденциальность, вы можете отказаться от разрешения определенных типов файлов cookie. Нажмите на разные заголовки категорий, чтобы узнать больше и изменить наши параметры по умолчанию. Однако блокировка некоторых типов файлов cookie может повлиять на ваше восприятие сайта и предоставляемые нами услуги. Политика конфиденциальностиЗаявление
Управление предпочтениями
Строго необходимые файлы cookie
Всегда активен
Эти файлы cookie необходимы для работы веб-сайта и не могут быть отключены в наших системах. Обычно они устанавливаются только в ответ на ваши действия, которые являются запросом на предоставление услуг, например, настройка предпочтений конфиденциальности, вход в систему или заполнение форм. Вы можете настроить браузер на блокировку этих файлов cookie или оповещение о них, но тогда некоторые части сайта не будут работать. Эти файлы cookie не хранят никакой персональной информации, позволяющей идентифицировать вас.