Ant Digital stellt „Bai Ling Enterprise Financial LLM“ vor: Geschwindigkeit und Effizienz neu definiert

Der Aufstieg autonomer Ausführungsagenten wie OpenAI’s Agent markiert eine deutliche Beschleunigung bei KI-Anwendungen, weg von einfacher „Dialoginteraktion“ hin zu komplexer „Aufgabenausführung“. Während Unternehmen diesen Trend rasch aufgreifen, stehen sie gleichzeitig vor Herausforderungen wie Rechenverschwendung und der Einhaltung von Sicherheitsvorschriften. Die Erreichung eines groß angelegten, nachhaltigen Einsatzes intelligenter Agenten ist zu einem zentralen Schwerpunkt der Branche geworden.

Am 26. März erklärte Zhang Peng, General Manager der Abteilung für technologische Innovation im Bereich großer Modelle bei Ant Digital, in seiner Rede auf dem Future Industry Innovation Forum des Zhongguancun-Forums, dass das Aufkommen solcher Agenten das Paradigma der Unternehmens-KI revolutionieren werde. Dieser Wandel werde den industriellen Einsatz großer Modelle von einem „Wettbewerb um die Parameterskala“ zu einem „Wettbewerb um die Token-Effizienz“ verlagern.

Zhang Peng, Leiter der Abteilung für technologische Innovation bei großen Modellen bei Ant Digital, spricht auf dem Zhongguancun-Forum.

Die rasche Verbreitung intelligenter Agenten spiegelt die starke Marktnachfrage nach autonomer Aufgabenausführung wider. Ihr Einsatz in realen industriellen Umgebungen ist jedoch mit erheblichen Hürden verbunden. Da diesen Agenten oft tiefgreifende Einblicke in Branchenregeln und Arbeitsabläufe fehlen, können sie bei der Bearbeitung komplexer Aufgaben wiederholte, ineffiziente Tool-Aufrufe ausführen. Dies führt zu einem Token-Verbrauch, der den tatsächlich geschaffenen Wert bei weitem übersteigt. Berichten zufolge können die Kosten für die Ausführung von Agenten in einigen Szenarien mit hoher Auslastung zehn- oder sogar hundertmal höher sein als bei integrierten Lösungen, was Bedenken hinsichtlich der Nachhaltigkeit bei einem breiten industriellen Einsatz aufwirft.

„Die zentrale Herausforderung in der nächsten Phase der Industrialisierung großer Modelle besteht nicht darin, beim Parameterumfang zu konkurrieren, sondern die Effizienz pro Token kontinuierlich zu verbessern“, merkte Zhang Peng an. Er ist der Ansicht, dass Unternehmen KI-Lösungen wählen sollten, die große und kleine Modelle strategisch auf der Grundlage spezifischer Szenarien und Anforderungen kombinieren, um einen höheren Geschäftswert bei geringeren Rechenkosten zu erzielen.

Betrachten wir den Finanzsektor als Beispiel. In diesem Bereich werden täglich riesige Mengen an hochfrequenten Aufgaben mit geringer Latenz verarbeitet – dabei geht es darum, die Absicht des Nutzers schnell zu erkennen, Schlüsseldaten zu extrahieren sowie Informationen abzurufen und zu sortieren. Diese Aufgaben erfordern hohe Parallelität, schnelle Reaktionszeiten und höchste Präzision. Zwar sind traditionelle, leistungsstarke Inferenzmodelle leistungsfähig, doch ist ihr Einsatz in solchen Szenarien oft übertrieben – wie „mit Kanonen auf Spatzen schießen“ –, was zu hohen Kosten, langsamen Geschwindigkeiten und verschwendeten Ressourcen führt.

„Was die Branche wirklich braucht, ist eine KI-Lösung, die Professionalität, Genauigkeit und Compliance garantiert und gleichzeitig optimale Kosteneffizienz und Reaktionsgeschwindigkeit bietet“, erklärte Zhang Peng. Er betonte, dass Modelle mit vielen Parametern sich durch komplexe Schlussfolgerungen und tiefgehende Analysen auszeichnen, während kleinere Modelle geringere Latenzzeiten und bessere Kosteneffizienz für hochfrequente, einfachere Aufgaben bieten. Ein hybrider Ansatz, der beide nutzt, ist der Schlüssel zur effizienteren und wirtschaftlicheren Lösung realer Probleme.

Auf dem Zhongguancun-Forum stellte Ant Digital ein schlankes, finanzspezifisches Modell namens Ling-DT-Fin-Mini-2.5 vor, das erste seiner Ling-DT-Serie. Dieses Modell ist eine schlanke Mixture-of-Experts (MoE)-Architektur, die auf dem neuesten hybriden linearen Ling-2.5-Attention-Framework basiert und für Finanzaufgaben mit hoher Parallelität und geringer Latenz optimiert ist. Es behält seine professionelle Leistungsfähigkeit bei und senkt gleichzeitig die Inferenzkosten auf ein Niveau, das für den massenhaften Einsatz geeignet ist. Im Vergleich zu gängigen Allzweckmodellen mit ähnlicher Leistungsfähigkeit bietet es eine um 100 % schnellere Inferenzgeschwindigkeit und deutlich geringere Hardwarekosten bei der Verarbeitung gleicher Aufgabenvolumina, was Finanzinstituten greifbare Kosteneinsparungen und Effizienzgewinne bringt.

In der Tat wird die Strategie, große und kleine Modelle zu kombinieren, zu einem Industriestandard, da KI-Agenten immer tiefer in zentrale industrielle Prozesse vordringen, um echte Arbeit zu verrichten. Kürzlich veröffentlichte OpenAI selbst zwei kleinere Modelle, GPT-4o mini und nano, die sich auf niedrige Latenz und hohe Kosteneffizienz konzentrieren, um als primäre Agenten auf Ausführungsebene zu dienen.

Zhang Peng kam zu dem Schluss, dass technologischer Fortschritt letztlich mit den rationalen Anforderungen an die industrielle Effizienz in Einklang stehen muss. In der nächsten Wettbewerbsphase wird die Token-Effizienz zur zentralen Kennzahl für die Bewertung des Werts von Unternehmens-KI werden. Ant Digital wird sich weiterhin auf AGI für Unternehmen konzentrieren und plant die Veröffentlichung einer Unternehmensversion des großen Ling-DT-Modells sowie branchenspezifischer Versionen, um den großflächigen Einsatz intelligenter Agenten in komplexen Geschäftsumgebungen zu beschleunigen.