Heim
Die PHOTON-Architektur von Fujitsu steigert die KI-Leistung um das 475-Fache und beseitigt Rechenengpässe
Da sich große Modelle weiterhin rasant weiterentwickeln, bleiben Rechenkosten und Verarbeitungseffizienz zentrale Anliegen der Branche. Fujitsu hat kürzlich eine neuartige Architektur namens PHOTON (Top-down Network Parallel Hierarchical Computing) vorgestellt, die darauf ausgelegt ist, die Leistungsgrenzen herkömmlicher Transformer-Modelle in komplexen Szenarien zu überwinden.
Die Transformer-Architektur, die mittlerweile im Bereich der KI dominiert, bewältigt lange Texte oder Aufgaben mit vielen gleichzeitigen Abfragen gut, wird jedoch häufig durch häufige Speicherzugriffe zum Abrufen historischer Informationen verlangsamt, was die Auslastung der GPU erhöht. Das Forschungsteam von Fujitsu hat diesen Schwachpunkt durch eine Neugestaltung der PHOTON-Architektur behoben.

Die Kernstärke von PHOTON liegt in seinem hierarchischen Verarbeitungsansatz. Anstelle der bei herkömmlichen Transformer-Modellen verwendeten Segmentierung auf Token-Ebene führt PHOTON eine semantische Schichtung ein, die die Rechenkomplexität reduziert und gleichzeitig das parallele Rechnen fördert. Zudem optimiert die Architektur bei Aufgaben mit mehreren Abfragen die Entscheidungsfindung: Sie benötigt nur eine einzige Inferenz, um zu einer Schlussfolgerung zu gelangen, wobei Strategien wie „Mehrheitsentscheidung“ oder „beste Wahl“ zum Einsatz kommen.
Testergebnisse zeigen, dass PHOTON bei kleineren Modellen mit 600 Millionen, 900 Millionen und 1,2 Milliarden Parametern einen sehr hohen Durchsatz und einen extrem geringen Speicherbedarf bietet. Im Modell mit 1,2 Milliarden Parametern erreicht die Multi-Query-Leistung das 475-Fache der Leistung gängiger Transformer-Architekturen, was die Effizienz der Ressourcenplanung deutlich verbessert.
Da diese Architektur pro Iteration weniger KV-Cache benötigt, kann das System mehr Iterationen verarbeiten. Dies stellt eine erhebliche Leistungssteigerung für intelligente Agentensysteme dar, die zahlreiche E/A-Prozesse verwalten. Zwar sind bei einigen Qualitätsmetriken leichte Einbußen zu verzeichnen, doch macht der Sprung in der Recheneffizienz von PHOTON es zu einer vielversprechenden technischen Lösung zur Senkung der Betriebskosten im KI-Bereich.
Fujitsu treibt nun aktiv die Anwendung dieser Architektur voran und strebt an, durch Innovationen bei den Kernalgorithmen eine schlankere und effizientere Grundlage für zukünftige intelligente Szenarien zu schaffen.
Verwandter Artikel
Cognition AI in Finanzierungsgesprächen, da die Bewertung auf 40 Milliarden US-Dollar steigt
Cognition, der Schaffer des gefeierten KI-Code-Assistenten Devin, hat erhebliches Interesse von Investoren auf sich gezogen. Branchenquellen geben an, dass das Unternehmen derzeit über eine neue Finanzierungsrunde verhandelt, wobei Prognosen darauf h
OpenAI stellt das große Basismodell im Rahmen des neuen Vortrainingsprojekts Doug vor
Während sich die Technologie der künstlichen Intelligenz weiterentwickelt, hat das Interesse der Branche an der zugrunde liegenden Architektur grundlegender großer Modelle nie nachgelassen. Kürzlich enthüllte ein X-Nutzer, der die Entwicklungen bei g
Deltek-Studie: 91 % der Unternehmen bezeichnen KI als entscheidend für den Erfolg
Eine Studie von Deltek zeigt, dass Projektunternehmen zwar höhere Gewinne erwarten, die messbaren Auswirkungen von KI derzeit jedoch durch Umsetzungslücken eingeschränkt werden. Bildnachweis: Nitat Te
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Da sich große Modelle weiterhin rasant weiterentwickeln, bleiben Rechenkosten und Verarbeitungseffizienz zentrale Anliegen der Branche. Fujitsu hat kürzlich eine neuartige Architektur namens PHOTON (Top-down Network Parallel Hierarchical Computing) vorgestellt, die darauf ausgelegt ist, die Leistungsgrenzen herkömmlicher Transformer-Modelle in komplexen Szenarien zu überwinden.
Die Transformer-Architektur, die mittlerweile im Bereich der KI dominiert, bewältigt lange Texte oder Aufgaben mit vielen gleichzeitigen Abfragen gut, wird jedoch häufig durch häufige Speicherzugriffe zum Abrufen historischer Informationen verlangsamt, was die Auslastung der GPU erhöht. Das Forschungsteam von Fujitsu hat diesen Schwachpunkt durch eine Neugestaltung der PHOTON-Architektur behoben.

Die Kernstärke von PHOTON liegt in seinem hierarchischen Verarbeitungsansatz. Anstelle der bei herkömmlichen Transformer-Modellen verwendeten Segmentierung auf Token-Ebene führt PHOTON eine semantische Schichtung ein, die die Rechenkomplexität reduziert und gleichzeitig das parallele Rechnen fördert. Zudem optimiert die Architektur bei Aufgaben mit mehreren Abfragen die Entscheidungsfindung: Sie benötigt nur eine einzige Inferenz, um zu einer Schlussfolgerung zu gelangen, wobei Strategien wie „Mehrheitsentscheidung“ oder „beste Wahl“ zum Einsatz kommen.
Testergebnisse zeigen, dass PHOTON bei kleineren Modellen mit 600 Millionen, 900 Millionen und 1,2 Milliarden Parametern einen sehr hohen Durchsatz und einen extrem geringen Speicherbedarf bietet. Im Modell mit 1,2 Milliarden Parametern erreicht die Multi-Query-Leistung das 475-Fache der Leistung gängiger Transformer-Architekturen, was die Effizienz der Ressourcenplanung deutlich verbessert.
Da diese Architektur pro Iteration weniger KV-Cache benötigt, kann das System mehr Iterationen verarbeiten. Dies stellt eine erhebliche Leistungssteigerung für intelligente Agentensysteme dar, die zahlreiche E/A-Prozesse verwalten. Zwar sind bei einigen Qualitätsmetriken leichte Einbußen zu verzeichnen, doch macht der Sprung in der Recheneffizienz von PHOTON es zu einer vielversprechenden technischen Lösung zur Senkung der Betriebskosten im KI-Bereich.
Fujitsu treibt nun aktiv die Anwendung dieser Architektur voran und strebt an, durch Innovationen bei den Kernalgorithmen eine schlankere und effizientere Grundlage für zukünftige intelligente Szenarien zu schaffen.
Cognition AI in Finanzierungsgesprächen, da die Bewertung auf 40 Milliarden US-Dollar steigt
Cognition, der Schaffer des gefeierten KI-Code-Assistenten Devin, hat erhebliches Interesse von Investoren auf sich gezogen. Branchenquellen geben an, dass das Unternehmen derzeit über eine neue Finanzierungsrunde verhandelt, wobei Prognosen darauf h
OpenAI stellt das große Basismodell im Rahmen des neuen Vortrainingsprojekts Doug vor
Während sich die Technologie der künstlichen Intelligenz weiterentwickelt, hat das Interesse der Branche an der zugrunde liegenden Architektur grundlegender großer Modelle nie nachgelassen. Kürzlich enthüllte ein X-Nutzer, der die Entwicklungen bei g
Deltek-Studie: 91 % der Unternehmen bezeichnen KI als entscheidend für den Erfolg
Eine Studie von Deltek zeigt, dass Projektunternehmen zwar höhere Gewinne erwarten, die messbaren Auswirkungen von KI derzeit jedoch durch Umsetzungslücken eingeschränkt werden. Bildnachweis: Nitat Te











