600B Sparse MoE aktiviert 27B und steigert die Kosteneffizienz des Open-Source-Flaggschiffs

Schritt 5 Preview, das neueste Flaggschiff-Grundlagenmodell, ist jetzt offiziell verfügbar. Sein Ziel ist klar: ein primäres Modell, das für reale Agentic-Aufgaben konzipiert wurde. Es adressiert das langjährige „Pareto-Problem“ in der KI, bei dem Fähigkeiten, Effizienz und Kosten oft im Konflikt zueinander stehen. Historisch gesehen erforderte Fortschritt in einem Bereich den Verzicht auf einen anderen. Die Erweiterung der Pareto-Grenze bedeutet jedoch nicht die Beseitigung von Zielkonflikten, sondern die Ausweitung der gesamten Grenze durch innovatives Design.

Diese Iteration nutzt eine sparse Mixture-of-Experts-(MoE)-Architektur. Schritt 5 Preview enthält 600 Milliarden Parameter, wobei pro Inferenz nur 27 Milliarden aktiviert werden. Es unterstützt nativ ein Kontextfenster von bis zu einer Million Token und verarbeitet sowohl Text- als auch visuelle Eingaben. Mit 44 Punkten im Artificial Analysis Intelligence Index zählt es zu den drei weltweit führenden Open-Source-Modellen. Bemerkenswerterweise liegen die Kosten für eine einzelne Aufgabe nur bei einem Achtel von Claude Opus5, was entweder verbesserte Intelligenz im gleichen Budget oder überlegene Fähigkeiten zu niedrigeren Preisen bietet. Auf ALE-CLI, einer Teilmenge von Agents' Last Exam, sowie auf dem Benchmark für die Finanzanlageforschung FrontierFinance und der domänenübergreifenden Deep-Research-Evaluierung DRACO liegt es nur hinter GPT-6Astra oder Claude Opus5 zurück und lässt andere Open-Source-Modelle hinter sich. GDPval-AA v2 enthält die neuesten Daten bis zum 19. September, während DeepSWE v1.1 mit dem SWE-agent-Harness unter den Bedingungen temperature=1.0 und top_p=0.95 bewertet wurde.

In der Softwareentwicklung hat Step StepCodeBench erstellt, das 553 unabhängige Code-Repositories, neun Aufgabentypen, 20 Anwendungsbereiche und 33 Programmiersprachen umfasst. Schritt 5 Preview zeigt starke Gesamterfolgsquoten und cross-szenarische Stabilität und bewältigt effektiv reale Aufgaben wie Fehlerbehebung, Feature-Entwicklung, Refactoring und Umgebungskonfiguration. In einer Demonstration verarbeitete es umfangreiche ESP32-Dokumentation, um ein ESP32-S3-Entwicklungsboard in eine Vibe-Coding-Tastatur mit Bluetooth-Tasten und Spracheingabe umzuwandeln. Es öffnete autonom COM-Serienschnittstellen, passte Kameras an, erfasste Gerätebilder, simulierte Mausbewegungen und debuggte den Code iterativ basierend auf Echtzeitfehlern, wobei es die Aufgabe über drei Stunden hinweg abschloss.

Langlaufende Aufgaben unterstreichen seinen wahren Wert. Im ersten Experiment optimierte es, ausgestattet mit 24 Stunden und einer H100-GPU, einen MLA-GPU-Kernel von Grund auf neu (Kopfdimension 512, Batch-Größe 1, 64 Aufmerksamkeitsköpfe, 8192 Token). Schritt 5 Preview modifizierte den Code eigenständig, führte den Kernel aus und maß den Durchsatz. Als es auf eine Lösung stieß, die funktionierte, aber die Geschwindigkeit reduzierte, verworf es diese und fuhr mit der besten Version fort. Nach etwa 22 Stunden erreichte es eine Spitzenleistung von 508 TFLOPS und übertraf damit Claude Opus5 mit 493 TFLOPS. Das zweite Experiment erstreckte sich ebenfalls über 24 Stunden und ermöglichte es, die Leistung eines Qwen3-30B-A3B-Basismodells auf AIME24 durch automatisiertes Post-Training zu verbessern. Das Modell bestimmte, wie die annotierte API genutzt und die Daten angepasst werden sollten, wodurch es die Genauigkeit von 53,3 % auf 60 % steigerte und so Opus5 gleichkam, während es weniger annotierte Token verwendete.

In Bezug auf Frontend- und visuelle Anwendungen geht es über das Schreiben von Webseiten hinaus; es kann Blender aufrufen, um 3D-Assets zu erstellen und iterativ zu modifizieren, und diese dann in Three.js für interaktive Anwendungen und Spiele zu integrieren. Es extrahierte sogar Informationen aus einem „Guangjiu Railway Travel Guide“ aus dem Jahr 1922 und erstellte ein Reiseabfrage-, Kostenberechnungs- und Routenwiedergabesystem. Dies verwandelte historische Materialien in ein interaktives Produkt, das einen kleinen Zug entlang der historischen Strecke zeigt.

Der Finanzsektor dient als umfassender Fähigkeitstest. Step entwickelte drei interne Bewertungen, die sich auf Unternehmensforschung konzentrieren: FinStepBench-LiveSearch testet die Fähigkeit, Finanzinformationen abzurufen und zu verifizieren, während sich die Anforderungen ändern; CorporateValuation bewertet die Umwandlung von Daten und Annahmen in reproduzierbare Bewertungen; und DeepResearch bewertet den gesamten Prozess von der Beweissammlung bis zu einem vollständigen Forschungsbericht. Externe Benchmarks wie FrontierFinance decken sechs Investitionsszenarien mit 220 Expertenfragen und 11.543 Bewertungskriterien ab. Schritt 5 Preview lieferte starke Ergebnisse in allen vier Benchmarks.

Von Step3.5Flash und Step3.7Flash bis hin zu Step5Preview hat Step konsequent auf ein Prinzip gesetzt: Die nächste Phase der Skalierung geht nicht nur darum, mehr Compute hinzuzufügen, sondern Compute effizienter zu nutzen. Nach der heutigen Vollveröffentlichung werden die vollständigen Modellgewichte am 15. Oktober verfügbar sein. Dieses Open-Source-Flaggschiff, das das Gleichgewicht von „Fähigkeiten-Kosten-Effizienz“ neu definiert, ist jetzt bereit, von Entwicklern als primäres Werkzeug für Agentic-Aufgaben übernommen zu werden.