Der Entwickler JeecgBoot testete ein von der Community modifiziertes Distillation-Modell auf einem Mac Studio M4Max und erzielte damit eine 5- bis 6-mal schnellere Generierungsgeschwindigkeit als mit der offiziellen Version. Das Modell, das eine A4B-MoE-Architektur mit insgesamt 26 Milliarden Parametern nutzt, aktivierte pro Inferenz nur etwa 4 Milliarden Parameter, erreichte bis zu 78 Token pro Sekunde und unterstützte einen Kontext von 256 KB. Während die Generierung schnell ist, können komplexe Agentic-Workflows für Aufgaben wie die Codegenerierung aufgrund mehrstufiger Entscheidungsketten etwa 1,5 Minuten dauern. Der Test generierte erfolgreich ein standardisiertes JeecgBoot-Projektgerüst. Es wird eine Dual-Modell-Strategie empfohlen: die Verwendung des lokal modifizierten Modells für die meisten Aufgaben (wie CRUD) aus Gründen des Datenschutzes und zur Kosteneinsparung sowie Cloud-APIs für komplexe Designanforderungen.
Durch das Klicken auf „Alle Cookies akzeptieren“ stimmen Sie zu, dass Cookies auf Ihrem Gerät gespeichert werden, um die Seitennavigation zu verbessern, die Seitennutzung zu analysieren und unsere Marketingbemühungen zu unterstützen.Datenschutzerklärung Hinweis
Beim Besuch einer Website kann diese Informationen in Ihrem Browser speichern oder abrufen, hauptsächlich in Form von Cookies. Diese Informationen können sich auf Sie, Ihre Präferenzen oder Ihr Gerät beziehen und dienen hauptsächlich dazu, dass die Website so funktioniert, wie Sie es erwarten. Die Informationen identifizieren Sie in der Regel nicht direkt, können Ihnen aber ein personalisierteres Web-Erlebnis bieten. Da wir Ihr Recht auf Privatsphäre respektieren, können Sie wählen, dass Sie bestimmte Arten von Cookies nicht zulassen. Klicken Sie auf die verschiedenen Kategorietitel, um mehr zu erfahren und unsere Standardeinstellungen zu ändern. Das Blockieren bestimmter Arten von Cookies kann jedoch Ihre Erfahrung auf der Website und die von uns angebotenen Dienste beeinträchtigen. DatenschutzerklärungErklärung
Einstellungen verwalten
Unbedingt erforderliche Cookies
Immer aktiv
Diese Cookies sind für die Funktionalität der Website erforderlich und können in unseren Systemen nicht deaktiviert werden. Sie werden normalerweise nur in Reaktion auf Ihre Aktionen gesetzt, die einer Dienstanfrage entsprechen, z. B. das Einstellen Ihrer Datenschutzpräferenzen, das Anmelden oder das Ausfüllen von Formularen. Sie können Ihren Browser so einstellen, dass diese Cookies blockiert oder Sie darüber benachrichtigt werden, aber einige Teile der Website werden dann nicht mehr funktionieren. Diese Cookies speichern keine personenbezogenen Daten.