Option
Heim
Nachricht
Das iPhone 17 Pro führt ein lokales Modell mit 400 Milliarden Parametern mit 0,6 Token pro Sekunde aus.

Das iPhone 17 Pro führt ein lokales Modell mit 400 Milliarden Parametern mit 0,6 Token pro Sekunde aus.

16. Oktober 2026
3

Das iPhone 17 Pro führt ein lokales Modell mit 400 Milliarden Parametern mit 0,6 Token pro Sekunde aus.

Was definiert die rechnerische Obergrenze moderner Smartphones? Apples neuestes Flaggschiff, das iPhone17Pro, hat eine Antwort geliefert, die ebenso beeindruckend wie demütigend ist.

Am 23. März wurde ein großes Sprachmodell mit 400 Milliarden Parametern erfolgreich auf dem iPhone17Pro ausgeführt. Bemerkenswerterweise erfordern solche Modelle selbst nach der Quantisierung typischerweise mindestens 200 GB Speicher, während das iPhone17Pro lediglich über 12 GB LPDDR5X-RAM verfügt.

Technische Innovation: Flash-Speicher-Streaming und Mixture of Experts (MoE)

Diese „unmögliche Leistung“ wurde vor allem durch zwei zentrale technische Strategien erreicht, um die schweren Speichereinschränkungen zu überwinden:

SSD als virtueller Speicher: Durch die Nutzung des Open-Source-Projekts Flash-MoE werden Daten direkt vom Solid-State-Laufwerk (SSD) an die GPU gestreamt, wodurch die physischen Speichergrenzen effektiv umgangen werden.

Vorteile der MoE-Architektur: „MoE“ steht für Mixture of Experts (Mix der Experten), ein Design, bei dem das System nur einen Teil der 400 Milliarden Parameter für jedes generierte Wort aktiviert, anstatt das gesamte Modell zu laden.

Leistungshandicap: Langsame Generierungsgeschwindigkeit

Obwohl die Ausführung erfolgreich war, bleibt die Benutzererfahrung weit von der Praxistauglichkeit entfernt. Die Testergebnisse zeigen:

Generierungsrate: Die Geschwindigkeit ist auf 0,6 Token pro Sekunde begrenzt, was bedeutet, dass für die Erzeugung eines einzelnen Wortes etwa 1,5 bis 2 Sekunden benötigt werden.

Strom- und Wärmeeinfluss: Diese intensive lokale Verarbeitung erschöpft den Akkustand schnell und erzeugt erhebliche Wärme.

Branchenperspektive: Erreicht lokales KI eine „Singularität“?

Trotz der derzeit suboptimalen Generierungsgeschwindigkeit überwiegt die symbolische Bedeutung dieser Demonstration ihren unmittelbaren Nutzen. Sie beweist, dass das Ausführen großer Modelle lokal auf Smartphones ein gangbarer Weg ist.

Verbesserte Privatsphäre: Durch die lokale Verarbeitung bleiben die Daten auf dem Gerät, sodass kein Upload in die Cloud erforderlich ist, was einen überlegenen Datenschutz bietet.

Offline-Fähigkeit: Der Zugriff auf fortschrittliche KI-Antworten ohne Internetverbindung wird zunehmend machbar.

Verwandter Artikel
Google aktualisiert die Gemini-App, um bei der IO 2026 mit ChatGPT und Claude zu konkurrieren Google aktualisiert die Gemini-App, um bei der IO 2026 mit ChatGPT und Claude zu konkurrieren Während der jährlichen Google I/O-Veranstaltung am Dienstag stellte Google eine Reihe von Updates für die Gemini-App vor, darunter die Funktion „Daily Brief“ (Tägliches Update), eine überarbeitete Benutzeroberfläche, Zugang zum neuen Gemini Omni KI-V
Qianwen Creation stellt 7-Tage-Mitgliedschaft mit 200 Punkten und Schnellzugriffstools für Reisefotografie vor Qianwen Creation stellt 7-Tage-Mitgliedschaft mit 200 Punkten und Schnellzugriffstools für Reisefotografie vor Qwen Create hat offiziell einen 7-Tage-Mitgliedschaftsplan eingeführt, der für unmittelbare, leichtgewichtige KI-Erstellungsaufgaben konzipiert ist, darunter Reisefotografie, Event-Marketing und Social-Media-Inhalte. Nach dem Kauf erhalten Nutzer 200
iOS 27.2 Beta bringt ein umfassendes Redesign der Gesundheits-App und Siri wird auf fünf Sprachen erweitert iOS 27.2 Beta bringt ein umfassendes Redesign der Gesundheits-App und Siri wird auf fünf Sprachen erweitert Apple hat gerade das erste iOS 27.2 Beta für Entwickler veröffentlicht. Apple hat die erwartete Testphase von iOS 27.1 übersprungen und den Testzyklus für 27.2 direkt am 16. September gestartet, wobei initiale Betas für iOS, iPadOS, macOS, watchOS, t
Empfehlungen zu verwandten Spezialthemen
Design & Kunst Die besten KI-Illustrationstools: Redaktionelle Szenen und Cover-Grafiken schneller erstellen
Die besten KI-Illustrationstools: Redaktionelle Szenen und Cover-Grafiken schneller erstellen

Die besten und am besten bewerteten KI-Illustrationstools 2026: Unsere sorgfältig zusammengestellte Liste enthält die leistungsstärksten Tools, mit denen Sie im Handumdrehen atemberaubende redaktionelle Szenen und auffällige Cover-Grafiken erstellen können. Jede Option wurde strengen Praxistests unterzogen und wird im Vergleich zwischen kostenlosen und kostenpflichtigen Versionen vorgestellt, damit Sie die perfekte Lösung für Ihren Arbeitsablauf finden können. Probieren Sie diese unverzichtbaren Lösungen noch heute aus, um Ihren KI-Vorteil zu nutzen und Ihre kreative Produktivität zu steigern. Entdecken Sie sie jetzt auf XIX.AI.

10 Tools
xix.ai
Bildung und Lernen Die besten KI-Nachhilfelehrer für die Prüfungsvorbereitung: Üben Sie Mathematik, Naturwissenschaften und Englisch
Die besten KI-Nachhilfelehrer für die Prüfungsvorbereitung: Üben Sie Mathematik, Naturwissenschaften und Englisch

Die besten und am besten bewerteten KI-Nachhilfetools für die Prüfungsvorbereitung des Jahres 2026 finden Sie hier auf XIX.AI! Unsere sorgfältig zusammengestellte Liste enthält leistungsstarke, bahnbrechende Tools, die einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, Tests aus der Praxis sowie wöchentlich aktualisierte Rankings bieten. Sie helfen Ihnen dabei, Ihre Schreibeffizienz zu steigern, das Erlernen komplexer Themen zu vereinfachen und Ihr akademisches Potenzial voll auszuschöpfen. Entdecken Sie jetzt Ihr perfektes Tool zur Prüfungsvorbereitung und legen Sie noch heute los, um Ihren KI-Vorteil zu nutzen!

10 Tools
xix.ai
Finanzen KI-Budgetplanungstools für das persönliche Geldmanagement
KI-Budgetplanungstools für das persönliche Geldmanagement

2026 Neueste Besten Top-Bewertete KI-Budgetplanungs-Tools für persönliches Geldmanagement sind hier auf XIX.AI! Diese kuratierte Sammlung bietet leistungsstarke, revolutionäre Lösungen, die Ihnen helfen, reale Tests durchzuführen, Ausgaben Gewohnheiten zu verstehen und personalisierte Pläne zu erstellen, um die Produktivität zu steigern. Genießen Sie einen kostenlosen vs. bezahlten Vergleich sowie detaillierte Rankings. Unbedingt auszuprobierende Tools, die darauf ausgelegt sind, das Geldmanagement zu vereinfachen und Ihre KI-Vorteile freizuschalten. Entdecken Sie jetzt!

11 Tools
xix.ai
Gesundheit Wellness KI-gestützte Schlafüberwachungsassistenten: Verbessern Sie Ihre Erholung durch bessere Gewohnheiten vor dem Schlafengehen
KI-gestützte Schlafüberwachungsassistenten: Verbessern Sie Ihre Erholung durch bessere Gewohnheiten vor dem Schlafengehen

2026 – Die neuesten, besten und am höchsten bewerteten AI-Geräte zur Schlafüberwachung, sorgfältig ausgewählt für eine optimale Erholung. Dieser vollständig aktualisierte wöchentliche Leitfaden präsentiert leistungsstarke Tools mit praktischen Tests, einem Vergleich von kostenlosen und kostenpflichtigen Optionen sowie detaillierten Ranglisten, um Ihnen die beste Lösung zu zeigen, die die Schlafqualität verbessert und bessere Gewohnheiten zum Zubettgehen fördert. Entdecken Sie ihn jetzt auf XIX.AI, um Ihren Vorteil durch KI zu nutzen.

10 Tools
xix.ai
Datenanalyse KI-gestützte SQL-Copilots für Produkt- und Umsatzanalysen
KI-gestützte SQL-Copilots für Produkt- und Umsatzanalysen

Die besten und am besten bewerteten KI-SQL-Copilots für Produkt- und Umsatzanalysen im Jahr 2026! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die anhand wöchentlich aktualisierter Rankings in der Praxis getestet werden. Diese Tools helfen Anwendern dabei, ihre Produktivität erheblich zu steigern, indem sie die Datenanalyse beschleunigen, komplexe Abfragen optimieren und präzise Erkenntnisse liefern, um intelligentere Geschäftsentscheidungen zu ermöglichen. Entdecken Sie jetzt das perfekte Tool, um Ihren KI-Vorteil voll auszuschöpfen!

14 Tools
xix.ai
Bildung und Lernen Die besten KI-Hausaufgabenhelfer, die wirklich etwas vermitteln: Lerne Konzepte, nicht nur Antworten
Die besten KI-Hausaufgabenhelfer, die wirklich etwas vermitteln: Lerne Konzepte, nicht nur Antworten

2026: Die aktuell besten und am besten bewerteten KI-Hausaufgabenhelfer, die nicht nur Antworten liefern, sondern auch Kernkonzepte vermitteln – leistungsstarke Tools für Schüler und Studenten. Eine kuratierte Liste, die Sie unbedingt ausprobieren sollten. Wöchentlich aktualisiert. Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten. Praxistests. Genaue Rankings, die Ihnen helfen, Ihr volles Lernpotenzial auszuschöpfen. Entdecken Sie jetzt das perfekte Tool für intelligenteres Lernen.

10 Tools
xix.ai
Kommentare (0)
0/500
OR