Heim
Liquid AI veröffentlicht das hybride Expertenmodell LFM2.5 als Open-Source-Software für Edge-AI
Das KI-Startup Liquid AI hat heute sein neuestes großes Edge-Modell, LFM2.5-8B-A1B , offiziell veröffentlicht und als Open Source zur Verfügung gestellt. Das Modell wurde für den Aufruf von Tools und die Ausführung komplexer Anweisungen auf handelsüblicher Hardware entwickelt und steigert die Leistung bei Schlussfolgerungen und Inferenz auf Edge-Geräten, während die Rechenkosten extrem niedrig bleiben.
Architektonisch basiert es auf einem spärlichen „Mixture-of-Experts“-Design (MoE) mit insgesamt 8,3 Milliarden Parametern. Dank dieser Spärlichkeit werden pro Token nur 1,5 Milliarden Parameter aktiviert, was einen reibungslosen lokalen Betrieb auf Smartphones, Laptops und ähnlichen Geräten ermöglicht.

Erweiterter Kontext und stärkere Schlussfolgerungsfähigkeit
Im Vergleich zu seinem Vorgänger erweitert LFM2.5 das Kontextfenster von 32K auf 128K Token und erhöht die Vortrainingsdaten von 12T auf 38T Token. Als reines Inferenzmodell erzeugt es eine explizite Argumentationskette, bevor es die endgültige Antwort liefert. Sein hochkomprimiertes Vokabular verarbeitet effizient neun Sprachen, darunter Chinesisch und Arabisch.
Um logische Endlosschleifen und Halluzinationen bei langen Schlussfolgerungen zu reduzieren, wandte das Entwicklungsteam während des Trainings zweistufiges Reinforcement Learning (RL) an. Die Präferenzoptimierung reduziert effektiv „Endlosschleifen“ bei langkettigen Schlussfolgerungen, während ein spezieller Anti-Halluzinations-Belohnungsmechanismus es dem Modell ermöglicht, Fragen außerhalb seiner Wissensbasis aktiv abzulehnen.
Leistungsstarke Edge-Performance und breite Ökosystemunterstützung
In puncto Leistung hat LFM2.5 explosive Fortschritte erzielt. Seine Ergebnisse bei Benchmarks für logisches Schlussfolgern und Anti-Halluzination übertreffen seinen Vorgänger bei weitem, und es kann sogar mit größeren Modellen beim Befolgen von Anweisungen mithalten. Beim Aufrufen von Tools gibt das Modell standardmäßig effiziente Python-Funktionsaufrufe aus und unterstützt den nahtlosen Wechsel zum JSON-Format über Systemaufforderungen.
Das Modell wurde am Tag der Veröffentlichung von den wichtigsten Inferenz-Frameworks vollständig unterstützt, darunter llama.cpp, MLX, vLLM und SGLang. In Hardwaretests erreichte es Dekodierungsgeschwindigkeiten von bis zu 253 Byte pro Sekunde auf dem M5 Max-Chip und etwa 30 Byte pro Sekunde auf Mobilgeräten, wodurch Datenschutz und Effizienz für Edge-Bereitstellungen perfekt in Einklang gebracht werden.
Verwandter Artikel
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter
Einhaltung der Vorschriften für autonome Fahrzeuge in Kalifornien: Eine neue Ära von Bußgeldern, Geofences und 1 Million Meilen
Guident betreibt einen AuveTech-Shuttle in Südflorida und verwaltet mithilfe seiner Fernüberwachungstechnologie eine vier Meilen lange Strecke in West Palm Beach sowie eine eine Meile lange Strecke in
Empfehlungen zu verwandten Spezialthemen
Kommentare (1)
Das KI-Startup Liquid AI hat heute sein neuestes großes Edge-Modell,
Architektonisch basiert es auf einem spärlichen „Mixture-of-Experts“-Design (MoE) mit insgesamt 8,3 Milliarden Parametern. Dank dieser Spärlichkeit werden pro Token nur 1,5 Milliarden Parameter aktiviert, was einen reibungslosen lokalen Betrieb auf Smartphones, Laptops und ähnlichen Geräten ermöglicht.

Erweiterter Kontext und stärkere Schlussfolgerungsfähigkeit
Im Vergleich zu seinem Vorgänger erweitert LFM2.5 das Kontextfenster von 32K auf 128K Token und erhöht die Vortrainingsdaten von 12T auf 38T Token. Als reines Inferenzmodell erzeugt es eine explizite Argumentationskette, bevor es die endgültige Antwort liefert. Sein hochkomprimiertes Vokabular verarbeitet effizient neun Sprachen, darunter Chinesisch und Arabisch.
Um logische Endlosschleifen und Halluzinationen bei langen Schlussfolgerungen zu reduzieren, wandte das Entwicklungsteam während des Trainings zweistufiges Reinforcement Learning (RL) an. Die Präferenzoptimierung reduziert effektiv „Endlosschleifen“ bei langkettigen Schlussfolgerungen, während ein spezieller Anti-Halluzinations-Belohnungsmechanismus es dem Modell ermöglicht, Fragen außerhalb seiner Wissensbasis aktiv abzulehnen.
Leistungsstarke Edge-Performance und breite Ökosystemunterstützung
In puncto Leistung hat LFM2.5 explosive Fortschritte erzielt. Seine Ergebnisse bei Benchmarks für logisches Schlussfolgern und Anti-Halluzination übertreffen seinen Vorgänger bei weitem, und es kann sogar mit größeren Modellen beim Befolgen von Anweisungen mithalten. Beim Aufrufen von Tools gibt das Modell standardmäßig effiziente Python-Funktionsaufrufe aus und unterstützt den nahtlosen Wechsel zum JSON-Format über Systemaufforderungen.
Das Modell wurde am Tag der Veröffentlichung von den wichtigsten Inferenz-Frameworks vollständig unterstützt, darunter llama.cpp, MLX, vLLM und SGLang. In Hardwaretests erreichte es Dekodierungsgeschwindigkeiten von bis zu 253 Byte pro Sekunde auf dem M5 Max-Chip und etwa 30 Byte pro Sekunde auf Mobilgeräten, wodurch Datenschutz und Effizienz für Edge-Bereitstellungen perfekt in Einklang gebracht werden.
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter











