개발자 JeecgBoot는 Mac Studio M4Max에서 커뮤니티가 수정된 디스틸레이션 모델을 테스트한 결과, 공식 버전보다 5~6배 빠른 생성 속도를 달성했습니다. 총 260억 개의 매개변수를 가진 A4B MoE 아키텍처를 사용하는 이 모델은 추론당 약 40억 개만 활성화하여 최대 78 토큰/초의 속도를 기록했으며, 256K 컨텍스트를 지원했습니다. 생성 속도는 빠르지만, 코드 생성과 같은 작업을 위한 복잡한 에이전트 기반 워크플로는 다단계 의사결정 체인 때문에 약 1.5분이 소요될 수 있습니다. 이번 테스트에서는 표준화된 JeecgBoot 프로젝트 스켈레톤 생성에 성공했습니다. 개인정보 보호 및 비용 절감을 위해 대부분의 작업(CRUD 등)에는 로컬 수정 모델을 사용하고, 복잡한 설계가 필요한 경우에는 클라우드 API를 활용하는 이중 모델 전략을 권장합니다.