O desenvolvedor JeecgBoot testou um modelo de destilação modificado pela comunidade no Mac Studio M4Max, alcançando velocidades de geração 5 a 6 vezes mais rápidas do que a versão oficial. O modelo, que utiliza uma arquitetura A4B MoE com 26 bilhões de parâmetros no total, ativava apenas cerca de 4 bilhões por inferência, atingindo até 78 tokens por segundo e suportando 256 mil de contexto. Embora a geração seja rápida, fluxos de trabalho Agentic complexos para tarefas como geração de código podem levar cerca de 1,5 minuto devido a cadeias de decisão em várias etapas. O teste gerou com sucesso um esqueleto de projeto JeecgBoot padronizado. Recomenda-se uma estratégia de modelo duplo: usar o modelo modificado localmente para a maioria das tarefas (como CRUD) para garantir privacidade e economia de custos, e APIs na nuvem para necessidades de design complexas.
Ao clicar em "Aceitar todos os cookies", você concorda com o armazenamento de cookies em seu dispositivo para melhorar a navegação no site, analisar o uso do site e auxiliar em nossos esforços de marketing.Política de Privacidade Aviso
Ao visitar qualquer site, ele pode armazenar ou recuperar informações em seu navegador, principalmente na forma de cookies. Essas informações podem ser sobre você, suas preferências ou seu dispositivo e são usadas principalmente para fazer com que o site funcione conforme esperado. As informações geralmente não identificam você diretamente, mas podem proporcionar uma experiência web mais personalizada. Como respeitamos seu direito à privacidade, você pode optar por não permitir alguns tipos de cookies. Clique nos diferentes títulos de categoria para saber mais e alterar nossas configurações padrão. No entanto, bloquear alguns tipos de cookies pode afetar sua experiência no site e os serviços que podemos oferecer. Política de PrivacidadeDeclaração
Gerenciar preferências
Cookie estritamente necessário
Sempre ativado
Esses cookies são necessários para o funcionamento do site e não podem ser desativados em nossos sistemas. Eles geralmente são definidos apenas em resposta a ações que você realiza, que equivalem a uma solicitação de serviços, como configurar suas preferências de privacidade, fazer login ou preencher formulários. Você pode configurar seu navegador para bloquear esses cookies ou alertá-lo sobre eles, mas algumas partes do site não funcionarão depois. Esses cookies não armazenam nenhuma informação que permita identificar pessoalmente.