開発者のJeecgBootは、コミュニティによって改良されたディスティレーションモデルをMac Studio M4Maxでテストし、公式版に比べて5～6倍の生成速度を達成しました。このモデルは、総パラメータ数260億のA4B MoEアーキテクチャを採用しており、推論ごとに約40億パラメータのみを活性化させ、最大78トークン/秒の速度を達成し、256Kのコンテキストをサポートしています。 生成速度は高速ですが、コード生成などのタスクにおける複雑なAgenticワークフローは、多段階の意思決定チェーンのため約1.5分かかる場合があります。テストでは、標準化されたJeecgBootプロジェクトのスケルトンの生成に成功しました。プライバシー保護とコスト削減のため、CRUDなどのほとんどのタスクにはローカルの修正モデルを使用し、複雑な設計ニーズにはクラウドAPIを使用するというデュアルモデル戦略が推奨されます。