Option
Heim
Nachricht
Pruna AI enthüllt Open-Source-AI-Modelloptimierungsrahmen

Pruna AI enthüllt Open-Source-AI-Modelloptimierungsrahmen

10. April 2025
217

Pruna AI, ein europäisches Startup, das sich auf die Entwicklung von Kompressionsalgorithmen für KI-Modelle konzentriert, wird am Donnerstag sein Optimierungs-Framework als Open Source veröffentlichen. Das Unternehmen hat an einem Framework gearbeitet, das verschiedene Effizienztechniken wie Caching, Pruning, Quantisierung und Destillation integriert, um die Leistung von KI-Modellen zu verbessern.

John Rachwan, Mitbegründer und CTO von Pruna AI, erklärte gegenüber TechCrunch, dass ihr Framework diese Methoden nicht nur anwendet, sondern auch den Prozess des Speicherns, Ladens und Evaluierens komprimierter Modelle standardisiert. Dies ermöglicht es Nutzern, mögliche Qualitätsverluste und die durch Kompression erzielten Leistungsverbesserungen zu bewerten.

Rachwan verglich die Rolle von Pruna AI mit der von Hugging Face, das die Nutzung von Transformern und Diffusoren standardisiert hat. „Wir tun dasselbe, aber für Effizienzmethoden“, betonte er und hob die Standardisierung der Anwendung und Verwaltung dieser Methoden hervor.

Große KI-Labore haben bereits ähnliche Kompressionstechniken übernommen. Zum Beispiel hat OpenAI Destillation genutzt, um schnellere Versionen seiner Modelle wie GPT-4 Turbo zu entwickeln. Ebenso hat Black Forest Labs Flux.1-schnell erschaffen, eine destillierte Version ihres Flux.1-Modells. Destillation folgt einem „Lehrer-Schüler“-Ansatz, bei dem die Ausgaben eines größeren Modells genutzt werden, um ein kleineres, effizienteres Modell zu trainieren.

Rachwan wies darauf hin, dass große Unternehmen solche Tools oft intern entwickeln, während die Open-Source-Community sich in der Regel auf einzelne Methoden konzentriert. „Aber man findet kein Tool, das alle zusammenführt, sie einfach nutzbar macht und miteinander kombiniert“, sagte er und unterstrich den einzigartigen Mehrwert von Pruna AI.

Von links nach rechts: Rayan Nait Mazi, Bertrand Charpentier, John Rachwan, Stephan GünnemannBildnachweis: Pruna AI
Obwohl das Framework von Pruna AI eine Vielzahl von Modellen unterstützt, darunter große Sprachmodelle, Diffusionsmodelle, Sprach-zu-Text-Modelle und Computervisionsmodelle, konzentriert sich das Unternehmen derzeit auf Modelle für die Bild- und Videogenerierung. Zu den bestehenden Nutzern von Pruna AI gehören Scenario und PhotoRoom.

Zusätzlich zur Open-Source-Version bietet Pruna AI eine Enterprise-Edition mit erweiterten Optimierungsfunktionen an, einschließlich eines kommenden Kompressionsagenten. Rachwan beschrieb diesen Agenten als ein Tool, das automatisch die beste Kompressionskombination für ein Modell basierend auf den vom Nutzer spezifizierten Leistungs- und Genauigkeitsanforderungen findet.

Die Pro-Version von Pruna AI wird stundenweise abgerechnet, ähnlich wie die Anmietung einer GPU auf Cloud-Diensten wie AWS. Durch die Optimierung von Modellen können Nutzer die Inferenzkosten erheblich senken. Zum Beispiel gelang es Pruna AI, ein Llama-Modell auf ein Achtel seiner ursprünglichen Größe zu komprimieren, mit minimalem Qualitätsverlust, was das Potenzial für Kosteneinsparungen verdeutlicht.

Das Unternehmen sicherte sich kürzlich eine Seed-Finanzierung in Höhe von 6,5 Millionen US-Dollar von Investoren wie EQT Ventures, Daphni, Motier Ventures und Kima Ventures. Pruna AI betrachtet sein Kompressions-Framework als strategische Investition, die sich durch reduzierte Betriebskosten selbst amortisieren kann.

Verwandter Artikel
Apple Smart Glasses könnten auf der WWDC27 vorgestellt werden und dabei den Schutz der Privatsphäre in den Mittelpunkt stellen Apple Smart Glasses könnten auf der WWDC27 vorgestellt werden und dabei den Schutz der Privatsphäre in den Mittelpunkt stellen Bloombergs Mark Gurman berichtet, dass Apples Smart Glasses mit dem Codenamen N50 im Juni 2027 auf der WWDC27 vorgestellt werden sollen, wobei ein Verkaufsstart im Herbst 2027 erwartet wird. Ursprünglich für Ende dieses Jahres und Anfang 2027 geplant
Inside Details Exposed About Next-Gen Gemini: Strained Computing Power, Internal Teams Disagreed on Development Priorities and Resource Allocation Inside Details Exposed About Next-Gen Gemini: Strained Computing Power, Internal Teams Disagreed on Development Priorities and Resource Allocation Berichten zufolge wurde der Start des hocherwarteten Next-Generation-Gemini-Modells von Google verschoben. Interne Uneinigkeiten über Entwicklungsprioritäten und Ressourcenallokation, kombiniert mit begrenzter Rechenkapazität und komplexen Genehmigun
OpenAI entkräftet Bedenken bezüglich des verlangsamen Wachstums und erklärt, dass mehrere Geschäftsbereiche ihre Expansion beschleunigen OpenAI entkräftet Bedenken bezüglich des verlangsamen Wachstums und erklärt, dass mehrere Geschäftsbereiche ihre Expansion beschleunigen Als Reaktion auf externe Kritik bezüglich des nachlassenden Umsatzwachstums und verpasster interner Zielvorgaben gab der KI-Pionier OpenAI am Dienstag, den 28. April, eine selbstbewusste Erklärung ab. Das Unternehmen präzisierte, dass seine Verbrauch
Empfehlungen zu verwandten Spezialthemen
Musikkomposition Die besten KI-Tools zum Komponieren von Melodien für Songentwürfe
Die besten KI-Tools zum Komponieren von Melodien für Songentwürfe

2026 Neueste Besten Top-Bewerteten KI-Melodie-Schreibtools für Songentwürfe! XIX.AI hat eine hochleistungsfähige, bahnbrechende Kollektion zusammengestellt, die strengen Praxistests unterzogen wurde, um das beste Schreiberlebnis zu liefern. Sie finden detaillierte kostenlose versus kostenpflichtige Vergleiche, präzise Ranglisten und unbedingt auszuprobierende Optionen, die darauf ausgelegt sind, Ihnen zu helfen, beeindruckende Songentwürfe mühelos zu erstellen und Ihre kreative Produktivität erheblich zu steigern. Entdecken Sie jetzt Ihr perfektes Tool!

8 Tools
xix.ai
Chatbot Die besten KI-gestützten Gesprächstrainingstools für Vorstellungsgesprächspraxis
Die besten KI-gestützten Gesprächstrainingstools für Vorstellungsgesprächspraxis

2026 Neueste Besten Top-bewerteten KI-Konversationstrainer-Tools für Vorstellungsgesprächspraxis sind hier auf XIX.AI! Diese kuratierte Sammlung enthält leistungsstarke, bahnbrechende Tools, die strengen Praxistests unterzogen wurden, um präzises Feedback zu liefern. Sie finden einen Vergleich zwischen kostenlosen und kostenpflichtigen Optionen sowie detaillierte Rankings, die Ihnen helfen, die empfehlenswerte Option zu wählen, die Ihr Selbstvertrauen und Ihre Fähigkeiten verbessert. Entdecken Sie jetzt Ihr perfektes Tool für den Erfolg im Vorstellungsgespräch!

12 Tools
xix.ai
Design & Kunst Die besten KI-Tools für den Stiltransfer für kreative Experimente
Die besten KI-Tools für den Stiltransfer für kreative Experimente

Die besten und am besten bewerteten KI-Tools für den Stiltransfer im Jahr 2026 – ideal für kreative Experimente! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die in Praxistests und strengen Bewertungen außergewöhnliche Ergebnisse liefern. Diese Top-Lösungen helfen Kreativen dabei, ihre Produktivität deutlich zu steigern, indem sie die Erstellung von Inhalten beschleunigen und unendliche kreative Möglichkeiten eröffnen. Entdecken Sie jetzt Ihr perfektes Tool und legen Sie noch heute los!

9 Tools
xix.ai
Comic-Erstellung Die besten KI-Tools für Sprechblasen zum visuellen Geschichtenerzählen
Die besten KI-Tools für Sprechblasen zum visuellen Geschichtenerzählen

Die besten und am besten bewerteten KI-Tools für Sprechblasen zum visuellen Storytelling des Jahres 2026 finden Sie hier auf XIX.AI! Diese sorgfältig zusammengestellte Sammlung umfasst leistungsstarke, bahnbrechende Tools, die Kreativen dabei helfen, ihre Produktivität zu steigern und kreative Blockaden zu überwinden. Holen Sie sich einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, sehen Sie sich Praxistests an und werfen Sie einen Blick auf die aktuellen Rankings, um die unverzichtbaren Lösungen zu finden, die sich perfekt für die Gestaltung fesselnder visueller Erzählungen eignen. Stöbern Sie jetzt und entdecken Sie Ihr ideales Tool!

10 Tools
xix.ai
Besprechungsassistent Die besten Tools zur Zusammenfassung von KI-Meetings: Entscheidungen und Folgemaßnahmen übersichtlich nachverfolgen
Die besten Tools zur Zusammenfassung von KI-Meetings: Entscheidungen und Folgemaßnahmen übersichtlich nachverfolgen

Die besten und am besten bewerteten KI-Tools zur Zusammenfassung von Besprechungen im Jahr 2026 für eine übersichtliche Nachverfolgung von Entscheidungen und müheloses Follow-up. Diese sorgfältig zusammengestellte Liste präsentiert leistungsstarke, bahnbrechende Lösungen, die die Produktivität drastisch steigern, indem sie Besprechungsnotizen automatisieren, wichtige Aktionspunkte identifizieren und die Teamkoordination projektübergreifend optimieren. Erhalten Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten sowie Praxistests und wöchentlich aktualisierte Rankings, die Ihnen helfen, das perfekte Tool zu finden. Entdecken Sie es jetzt und nutzen Sie Ihren KI-Vorteil!

9 Tools
xix.ai
Datenanalyse Die besten Tools für die KI-gestützte Datenreinigung: Fehlende Werte und Duplikate schnell beheben
Die besten Tools für die KI-gestützte Datenreinigung: Fehlende Werte und Duplikate schnell beheben

2026 – Die neuesten, besten und am höchsten bewerteten Tools für die Reinigung von KI-Daten, um fehlende Werte sowie Duplikate schnell zu beheben. Diese sorgfältig zusammengestellte Liste präsentiert leistungsstarke Lösungen, die die Produktivität erheblich steigern. Jedes Tool wurde in der Praxis gründlich getestet, um seine Zuverlässigkeit zu gewährleisten. Holen Sie sich einen kostenlosen Vergleich zwischen kostenloser und kostenpflichtiger Variante und entdecken Sie das für Ihre Bedürfnisse beste Tool. Entdecken Sie es jetzt auf XIX.AI, um Ihren Vorteil in der KI-Branche zu erlangen.

11 Tools
xix.ai
Kommentare (32)
0/500
WilliamRoberts
WilliamRoberts 9. März 2026 23:00:37 MEZ

开源这事儿挺有意思,我看Pruna AI这框架里集成了缓存、剪枝、量化这些技术,是不是真能大幅降低推理成本啊?有人试过吗?感觉现在AI模型优化都卷得不行了,期待周四看看代码质量怎么样。😄

WyattHill
WyattHill 30. Dezember 2025 03:30:54 MEZ

Finalmente algo open-source pra otimizar modelos grandes! A quantidade de técnicas que mencionaram (cache, poda, quantização) é impressionante. Vai ser interessante testar isso em alguns projetos que tenho em mente. Acho que isso pode ajudar muito desenvolvedores independentes como eu a ter acesso a modelos mais eficientes. Boa iniciativa da startup europeia! 👏

PaulRoberts
PaulRoberts 25. April 2025 06:04:39 MESZ

O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀

DouglasMitchell
DouglasMitchell 24. April 2025 19:25:23 MESZ

El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀

WillieMartinez
WillieMartinez 20. April 2025 03:20:47 MESZ

Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓

JamesLopez
JamesLopez 19. April 2025 00:46:00 MESZ

Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀

OR