Heim
MingTang Intelligent stellt MiniCPM-V 4.7 für Edge-Geräte vor und liefert 13+ Token/s bei 3 GB Speicher
Mingshi Intelligence hat sein neuestes multimodales Großmodell für Edge-Geräte, MiniCPM-V 4.7, vorgestellt, das in zwei Konfigurationen verfügbar ist: 35B-A3B und 1B. Die Variante 35B-A3B markiert das erste Mixture-of-Experts-(MoE)-Modell in der MiniCPM-V-Serie und nutzt eine proprietäre „vorausschauende Expertenplanungstechnologie“, um verlustfreie, flüssige Inferenz auf Edge-Geräten zu ermöglichen. Damit ist es das erste Open-Source-MoE, das effizient ohne Cloud-Abhängigkeit ausgeführt werden kann.

Die herausragende Kennzahl ist seine Leistung: Auf einem iPhone 17 Pro Max verbraucht das Modell nur 3 GB Speicher und erzielt gleichzeitig eine Dekodierungsgeschwindigkeit von über 13 Tokens pro Sekunde. Diese Effizienz ermöglicht lokale multimodale Schlussfolgerungen auf High-End-Smartphones, wodurch die Übertragung von Daten in die Cloud entfällt und gleichzeitig ein verbesserter Datenschutz sowie reduzierte Latenzzeiten gewährleistet sind.
Unterstützung mehrerer Plattformen und Open-Source-Fine-Tuning-Lösungen
Bezüglich der Kompatibilität unterstützt Version 4.7 iOS, Android und HarmonyOS und ist für Chip-Architekturen einschließlich Intel, AMD, Arm, Rockchip und Huanmo optimiert, wobei sowohl mobile als auch lokale Computing-Umgebungen abgedeckt werden. Mingshi hat zudem die Self-Replay Fine-Tuning (SRFT)-Lösung veröffentlicht, die Entwicklern ermöglicht, die Fähigkeiten des Modells zu geringeren Kosten zu erweitern und gleichzeitig katastrophales Vergessen zu mildern, wodurch die sekundäre Entwicklung vereinfacht wird.
Die Leistungsbewertungen sind ebenfalls beeindruckend: Im Instruct-Modus schlägt die Variante 35B-A3B Qwen3.6 35B-A3B mit schnelleren Inferenzzeiten und höheren Gesamtwerten, während die 1B-Version auf der vorherigen Version 4.6 aufbaut und signifikante Vorteile bei den Gesamtwerten und der Inferenzeffizienz gegenüber Qwen3.5 0.8B zeigt. Da Edge-Modelle zunehmend kompakter und wettbewerbsfähiger werden, senkt die neueste Iteration von Mingshi die Hürden für die direkte Bereitstellung von MoE-Großmodellen auf Smartphones weiter.
Verwandter Artikel
Nvidias Vera-Chip: Die 200-Milliarden-Dollar-Wette, auf die Jensen Huang Sie aufmerksam machen möchte
Der Nvidia Vera-Chip erregt selten Schlagzeilen, wenn die Gewinne die Erwartungen übertreffen, doch er verdient den Fokus. Mit einem Umsatz im ersten Quartal von 81,62 Milliarden US-Dollar – und damit über den Analystenschätzungen von 78,86 Milliarde
Gamma kauft das von Accel unterstützte Unternehmen Lica auf, um die Designfähigkeiten zu stärken
Gamma, eine führende Plattform für Präsentationen, hat Lica, ein von Accel unterstütztes Design-Startup, übernommen, um ein dediziertes Design-Forschungslabor zu etablieren, wie aus exklusiven Berichten von TechCrunch hervorgeht. Die Co-Gründer von L
Zhipu MaaS führt einen Mechanismus zur Nichtspeicherung von Daten ein, Inhalte werden nach der Nutzung zerstört
Am 21. September kündigte Zhipus MaaS-Plattform die bevorstehende Einführung einer Funktion „Dateninhalt wird nicht gespeichert“ an und bietet Unternehmen sowie Entwicklern damit erweiterte Datenschutzvorkehrungen. Dieser Mechanismus stellt sicher, d
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Mingshi Intelligence hat sein neuestes multimodales Großmodell für Edge-Geräte, MiniCPM-V 4.7, vorgestellt, das in zwei Konfigurationen verfügbar ist: 35B-A3B und 1B. Die Variante 35B-A3B markiert das erste Mixture-of-Experts-(MoE)-Modell in der MiniCPM-V-Serie und nutzt eine proprietäre „vorausschauende Expertenplanungstechnologie“, um verlustfreie, flüssige Inferenz auf Edge-Geräten zu ermöglichen. Damit ist es das erste Open-Source-MoE, das effizient ohne Cloud-Abhängigkeit ausgeführt werden kann.

Die herausragende Kennzahl ist seine Leistung: Auf einem iPhone 17 Pro Max verbraucht das Modell nur 3 GB Speicher und erzielt gleichzeitig eine Dekodierungsgeschwindigkeit von über 13 Tokens pro Sekunde. Diese Effizienz ermöglicht lokale multimodale Schlussfolgerungen auf High-End-Smartphones, wodurch die Übertragung von Daten in die Cloud entfällt und gleichzeitig ein verbesserter Datenschutz sowie reduzierte Latenzzeiten gewährleistet sind.
Unterstützung mehrerer Plattformen und Open-Source-Fine-Tuning-Lösungen
Bezüglich der Kompatibilität unterstützt Version 4.7 iOS, Android und HarmonyOS und ist für Chip-Architekturen einschließlich Intel, AMD, Arm, Rockchip und Huanmo optimiert, wobei sowohl mobile als auch lokale Computing-Umgebungen abgedeckt werden. Mingshi hat zudem die Self-Replay Fine-Tuning (SRFT)-Lösung veröffentlicht, die Entwicklern ermöglicht, die Fähigkeiten des Modells zu geringeren Kosten zu erweitern und gleichzeitig katastrophales Vergessen zu mildern, wodurch die sekundäre Entwicklung vereinfacht wird.
Die Leistungsbewertungen sind ebenfalls beeindruckend: Im Instruct-Modus schlägt die Variante 35B-A3B Qwen3.6 35B-A3B mit schnelleren Inferenzzeiten und höheren Gesamtwerten, während die 1B-Version auf der vorherigen Version 4.6 aufbaut und signifikante Vorteile bei den Gesamtwerten und der Inferenzeffizienz gegenüber Qwen3.5 0.8B zeigt. Da Edge-Modelle zunehmend kompakter und wettbewerbsfähiger werden, senkt die neueste Iteration von Mingshi die Hürden für die direkte Bereitstellung von MoE-Großmodellen auf Smartphones weiter.
Nvidias Vera-Chip: Die 200-Milliarden-Dollar-Wette, auf die Jensen Huang Sie aufmerksam machen möchte
Der Nvidia Vera-Chip erregt selten Schlagzeilen, wenn die Gewinne die Erwartungen übertreffen, doch er verdient den Fokus. Mit einem Umsatz im ersten Quartal von 81,62 Milliarden US-Dollar – und damit über den Analystenschätzungen von 78,86 Milliarde
Gamma kauft das von Accel unterstützte Unternehmen Lica auf, um die Designfähigkeiten zu stärken
Gamma, eine führende Plattform für Präsentationen, hat Lica, ein von Accel unterstütztes Design-Startup, übernommen, um ein dediziertes Design-Forschungslabor zu etablieren, wie aus exklusiven Berichten von TechCrunch hervorgeht. Die Co-Gründer von L
Zhipu MaaS führt einen Mechanismus zur Nichtspeicherung von Daten ein, Inhalte werden nach der Nutzung zerstört
Am 21. September kündigte Zhipus MaaS-Plattform die bevorstehende Einführung einer Funktion „Dateninhalt wird nicht gespeichert“ an und bietet Unternehmen sowie Entwicklern damit erweiterte Datenschutzvorkehrungen. Dieser Mechanismus stellt sicher, d











