Pruna Ai ने ओपन-सोर्स एआई मॉडल ऑप्टिमाइज़ेशन फ्रेमवर्क का अनावरण किया
एआई मॉडल के लिए संपीड़न एल्गोरिदम विकसित करने पर केंद्रित एक यूरोपीय स्टार्टअप प्रुना एआई, इस गुरुवार को खुले स्रोत के रूप में अपने अनुकूलन ढांचे को जारी करने के लिए तैयार है। कंपनी एक ढांचे पर काम कर रही है जिसमें एआई मॉडल प्रदर्शन को बढ़ाने के लिए कैशिंग, प्रूनिंग, परिमाणीकरण और आसवन जैसी विभिन्न दक्षता तकनीकों को शामिल किया गया है।
जॉन रचवान, सह-संस्थापक और प्रुना एआई के सीटीओ ने टेकक्रंच को समझाया कि उनका ढांचा न केवल इन विधियों को लागू करता है, बल्कि संपीड़ित मॉडल को बचाने, लोड करने और मूल्यांकन करने की प्रक्रिया को भी मानकीकृत करता है। यह उपयोगकर्ताओं को किसी भी संभावित गुणवत्ता हानि और संपीड़न के माध्यम से प्राप्त प्रदर्शन में सुधार का आकलन करने की अनुमति देता है।
राचवान ने प्रुना एआई की भूमिका को गले लगाने के चेहरे की तुलना की, जिसने ट्रांसफॉर्मर और डिफ्यूज़र के उपयोग को मानकीकृत किया। "हम भी ऐसा ही कर रहे हैं, लेकिन दक्षता के तरीकों के लिए," उन्होंने कहा, इन तरीकों को कैसे लागू किया जाता है और प्रबंधित किया जाता है, इस पर जोर देते हुए।
मेजर एआई लैब्स ने पहले ही समान संपीड़न तकनीकों को अपनाया है। उदाहरण के लिए, Openai ने अपने मॉडलों के तेजी से संस्करणों को विकसित करने के लिए आसवन का उपयोग किया है, जैसे कि GPT-4 टर्बो। इसी तरह, ब्लैक फॉरेस्ट लैब्स ने फ्लक्स .1-स्केनेल, उनके फ्लक्स .1 मॉडल का एक आसुत संस्करण बनाया। आसवन में एक "शिक्षक-छात्र" दृष्टिकोण शामिल होता है जहां एक बड़े मॉडल के आउटपुट का उपयोग एक छोटे, अधिक कुशल मॉडल को प्रशिक्षित करने के लिए किया जाता है।
रचवान ने बताया कि जब बड़ी कंपनियां अक्सर आंतरिक रूप से इन उपकरणों को विकसित करती हैं, तो ओपन-सोर्स समुदाय आमतौर पर एकल तरीकों पर ध्यान केंद्रित करता है। "लेकिन आप एक ऐसा उपकरण नहीं पा सकते हैं जो उन सभी को एकत्र करता है, उन सभी को उपयोग करना और एक साथ संयोजन करना आसान बनाता है," उन्होंने कहा, प्रुना एआई के अद्वितीय मूल्य प्रस्ताव को उजागर करते हुए।
बाएं से दाएं: रेयान नैत माज़ी, बर्ट्रेंड चारपेंटियर, जॉन रचवान, स्टीफ़न गुएननेमैनिमेज क्रेडिट: प्रुना एआई यद्यपि Pruna AI का फ्रेमवर्क बड़े भाषा मॉडल, प्रसार मॉडल, भाषण-से-पाठ मॉडल और कंप्यूटर विजन मॉडल सहित कई मॉडल का समर्थन करता है, कंपनी वर्तमान में छवि और वीडियो जनरेशन मॉडल पर ध्यान केंद्रित कर रही है। Pruna AI के मौजूदा उपयोगकर्ताओं में परिदृश्य और फोटोरूम शामिल हैं।
ओपन-सोर्स संस्करण के अलावा, Pruna AI एक आगामी संपीड़न एजेंट सहित उन्नत अनुकूलन सुविधाओं के साथ एक उद्यम संस्करण प्रदान करता है। रचवान ने इस एजेंट को एक उपकरण के रूप में वर्णित किया जो स्वचालित रूप से उपयोगकर्ता-निर्दिष्ट प्रदर्शन और सटीकता आवश्यकताओं के आधार पर एक मॉडल के लिए सबसे अच्छा संपीड़न संयोजन पाता है।
Pruna AI का प्रो संस्करण AWS जैसी क्लाउड सेवाओं पर GPU किराए पर लेने के समान, घंटे के अनुसार बिल किया जाता है। मॉडल को अनुकूलित करके, उपयोगकर्ता लागतों को काफी कम कर सकते हैं। उदाहरण के लिए, Pruna AI संभावित लागत बचत का प्रदर्शन करते हुए, कम से कम गुणवत्ता वाले नुकसान के साथ एक-आठवें आकार के एक-आठवें स्थान पर एक लामा मॉडल को संपीड़ित करने में कामयाब रहा।
कंपनी ने हाल ही में EQT वेंचर्स, डैफनी, मोटियर वेंचर्स और केमा वेंचर्स सहित निवेशकों से $ 6.5 मिलियन सीड फंडिंग राउंड हासिल किया। Pruna AI अपने संपीड़न ढांचे को एक रणनीतिक निवेश के रूप में देखता है जो कम परिचालन लागत के माध्यम से खुद के लिए भुगतान कर सकता है।
संबंधित लेख
AI-चालित सारांश: YouTube वीडियो को संक्षेप करने की पूर्ण मार्गदर्शिका
आज की तेज-रफ्तार दुनिया में, जानकारी को जल्दी से समझने और संसाधित करने की क्षमता पहले से कहीं अधिक महत्वपूर्ण है। YouTube, अपने अनगिनत वीडियो के साथ, ज्ञान का खजाना है, लेकिन हर वीडियो को शुरू से अंत
AI Ultrasound ke Liye Krantikari Badlav
Artificial intelligence swasthya dekhbhal ke duniya mein hila dul raha hai, aur ultrasound technology is badlav ki lehar par sawar hai. Yeh lekh is baat mein gote lagata hai ki AI point-of-care ultras
मशीन लर्निंग चीट शीट्स: आवश्यक AI त्वरित संदर्भ गाइड
प्रौद्योगिकी की गतिशील दुनिया में, जहां AI और क्लाउड कंप्यूटिंग नवाचार को बढ़ावा दे रहे हैं, अपडेटेड और तैयार रहना महत्वपूर्ण है। चाहे आप किसी सहकर्मी के साथ रणनीतियों पर चर्चा कर रहे हों, शैक्षिक साम
सूचना (30)
0/200
![NicholasLewis]()
NicholasLewis
11 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
Pruna AI's open-source framework sounds promising, but it's a bit too technical for me. I appreciate the effort to make AI more efficient, but I wish there was a simpler way to use it. Maybe they'll add a user-friendly interface in the future. Still, it's cool they're sharing it for free!
0
![PeterMartinez]()
PeterMartinez
11 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
El marco de código abierto de Pruna AI suena prometedor, pero es un poco demasiado técnico para mí. Aprecio el esfuerzo por hacer que la IA sea más eficiente, pero desearía que hubiera una forma más sencilla de usarlo. Tal vez en el futuro agreguen una interfaz más amigable para el usuario. Aún así, es genial que lo compartan gratis!
0
![BenBrown]()
BenBrown
11 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
Pruna AIのオープンソースフレームワークは有望に聞こえますが、私には少し技術的すぎます。AIをより効率的にする努力は評価しますが、もっと簡単に使える方法があればいいのにと思います。将来、ユーザーフレンドリーなインターフェースが追加されるかもしれません。それでも、無料で共有してくれるのは素晴らしいですね！
0
![DouglasMartínez]()
DouglasMartínez
11 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
Das Open-Source-Framework von Pruna AI klingt vielversprechend, aber es ist ein bisschen zu technisch für mich. Ich schätze den Aufwand, die KI effizienter zu machen, aber ich wünschte, es gäbe eine einfachere Möglichkeit, es zu nutzen. Vielleicht fügen sie in Zukunft eine benutzerfreundlichere Oberfläche hinzu. Trotzdem ist es cool, dass sie es kostenlos teilen!
0
![DanielWalker]()
DanielWalker
11 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
Le cadre open-source de Pruna AI semble prometteur, mais c'est un peu trop technique pour moi. J'apprécie l'effort pour rendre l'IA plus efficace, mais j'aimerais qu'il y ait une manière plus simple de l'utiliser. Peut-être qu'ils ajouteront une interface plus conviviale à l'avenir. C'est quand même cool qu'ils le partagent gratuitement !
0
![TimothyGonzález]()
TimothyGonzález
13 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
Pruna AI's open-source framework sounds promising, but I'm not sure how to use it yet. The idea of optimizing AI models with caching, pruning, and quantization is cool, but it's a bit over my head. Hopefully, they'll release some tutorials soon!
0
एआई मॉडल के लिए संपीड़न एल्गोरिदम विकसित करने पर केंद्रित एक यूरोपीय स्टार्टअप प्रुना एआई, इस गुरुवार को खुले स्रोत के रूप में अपने अनुकूलन ढांचे को जारी करने के लिए तैयार है। कंपनी एक ढांचे पर काम कर रही है जिसमें एआई मॉडल प्रदर्शन को बढ़ाने के लिए कैशिंग, प्रूनिंग, परिमाणीकरण और आसवन जैसी विभिन्न दक्षता तकनीकों को शामिल किया गया है।
जॉन रचवान, सह-संस्थापक और प्रुना एआई के सीटीओ ने टेकक्रंच को समझाया कि उनका ढांचा न केवल इन विधियों को लागू करता है, बल्कि संपीड़ित मॉडल को बचाने, लोड करने और मूल्यांकन करने की प्रक्रिया को भी मानकीकृत करता है। यह उपयोगकर्ताओं को किसी भी संभावित गुणवत्ता हानि और संपीड़न के माध्यम से प्राप्त प्रदर्शन में सुधार का आकलन करने की अनुमति देता है।
राचवान ने प्रुना एआई की भूमिका को गले लगाने के चेहरे की तुलना की, जिसने ट्रांसफॉर्मर और डिफ्यूज़र के उपयोग को मानकीकृत किया। "हम भी ऐसा ही कर रहे हैं, लेकिन दक्षता के तरीकों के लिए," उन्होंने कहा, इन तरीकों को कैसे लागू किया जाता है और प्रबंधित किया जाता है, इस पर जोर देते हुए।
मेजर एआई लैब्स ने पहले ही समान संपीड़न तकनीकों को अपनाया है। उदाहरण के लिए, Openai ने अपने मॉडलों के तेजी से संस्करणों को विकसित करने के लिए आसवन का उपयोग किया है, जैसे कि GPT-4 टर्बो। इसी तरह, ब्लैक फॉरेस्ट लैब्स ने फ्लक्स .1-स्केनेल, उनके फ्लक्स .1 मॉडल का एक आसुत संस्करण बनाया। आसवन में एक "शिक्षक-छात्र" दृष्टिकोण शामिल होता है जहां एक बड़े मॉडल के आउटपुट का उपयोग एक छोटे, अधिक कुशल मॉडल को प्रशिक्षित करने के लिए किया जाता है।
रचवान ने बताया कि जब बड़ी कंपनियां अक्सर आंतरिक रूप से इन उपकरणों को विकसित करती हैं, तो ओपन-सोर्स समुदाय आमतौर पर एकल तरीकों पर ध्यान केंद्रित करता है। "लेकिन आप एक ऐसा उपकरण नहीं पा सकते हैं जो उन सभी को एकत्र करता है, उन सभी को उपयोग करना और एक साथ संयोजन करना आसान बनाता है," उन्होंने कहा, प्रुना एआई के अद्वितीय मूल्य प्रस्ताव को उजागर करते हुए।
ओपन-सोर्स संस्करण के अलावा, Pruna AI एक आगामी संपीड़न एजेंट सहित उन्नत अनुकूलन सुविधाओं के साथ एक उद्यम संस्करण प्रदान करता है। रचवान ने इस एजेंट को एक उपकरण के रूप में वर्णित किया जो स्वचालित रूप से उपयोगकर्ता-निर्दिष्ट प्रदर्शन और सटीकता आवश्यकताओं के आधार पर एक मॉडल के लिए सबसे अच्छा संपीड़न संयोजन पाता है।
Pruna AI का प्रो संस्करण AWS जैसी क्लाउड सेवाओं पर GPU किराए पर लेने के समान, घंटे के अनुसार बिल किया जाता है। मॉडल को अनुकूलित करके, उपयोगकर्ता लागतों को काफी कम कर सकते हैं। उदाहरण के लिए, Pruna AI संभावित लागत बचत का प्रदर्शन करते हुए, कम से कम गुणवत्ता वाले नुकसान के साथ एक-आठवें आकार के एक-आठवें स्थान पर एक लामा मॉडल को संपीड़ित करने में कामयाब रहा।
कंपनी ने हाल ही में EQT वेंचर्स, डैफनी, मोटियर वेंचर्स और केमा वेंचर्स सहित निवेशकों से $ 6.5 मिलियन सीड फंडिंग राउंड हासिल किया। Pruna AI अपने संपीड़न ढांचे को एक रणनीतिक निवेश के रूप में देखता है जो कम परिचालन लागत के माध्यम से खुद के लिए भुगतान कर सकता है।
AI-चालित सारांश: YouTube वीडियो को संक्षेप करने की पूर्ण मार्गदर्शिका
आज की तेज-रफ्तार दुनिया में, जानकारी को जल्दी से समझने और संसाधित करने की क्षमता पहले से कहीं अधिक महत्वपूर्ण है। YouTube, अपने अनगिनत वीडियो के साथ, ज्ञान का खजाना है, लेकिन हर वीडियो को शुरू से अंत
AI Ultrasound ke Liye Krantikari Badlav
Artificial intelligence swasthya dekhbhal ke duniya mein hila dul raha hai, aur ultrasound technology is badlav ki lehar par sawar hai. Yeh lekh is baat mein gote lagata hai ki AI point-of-care ultras
मशीन लर्निंग चीट शीट्स: आवश्यक AI त्वरित संदर्भ गाइड
प्रौद्योगिकी की गतिशील दुनिया में, जहां AI और क्लाउड कंप्यूटिंग नवाचार को बढ़ावा दे रहे हैं, अपडेटेड और तैयार रहना महत्वपूर्ण है। चाहे आप किसी सहकर्मी के साथ रणनीतियों पर चर्चा कर रहे हों, शैक्षिक साम
11 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
Pruna AI's open-source framework sounds promising, but it's a bit too technical for me. I appreciate the effort to make AI more efficient, but I wish there was a simpler way to use it. Maybe they'll add a user-friendly interface in the future. Still, it's cool they're sharing it for free!
0
11 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
El marco de código abierto de Pruna AI suena prometedor, pero es un poco demasiado técnico para mí. Aprecio el esfuerzo por hacer que la IA sea más eficiente, pero desearía que hubiera una forma más sencilla de usarlo. Tal vez en el futuro agreguen una interfaz más amigable para el usuario. Aún así, es genial que lo compartan gratis!
0
11 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
Pruna AIのオープンソースフレームワークは有望に聞こえますが、私には少し技術的すぎます。AIをより効率的にする努力は評価しますが、もっと簡単に使える方法があればいいのにと思います。将来、ユーザーフレンドリーなインターフェースが追加されるかもしれません。それでも、無料で共有してくれるのは素晴らしいですね！
0
11 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
Das Open-Source-Framework von Pruna AI klingt vielversprechend, aber es ist ein bisschen zu technisch für mich. Ich schätze den Aufwand, die KI effizienter zu machen, aber ich wünschte, es gäbe eine einfachere Möglichkeit, es zu nutzen. Vielleicht fügen sie in Zukunft eine benutzerfreundlichere Oberfläche hinzu. Trotzdem ist es cool, dass sie es kostenlos teilen!
0
11 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
Le cadre open-source de Pruna AI semble prometteur, mais c'est un peu trop technique pour moi. J'apprécie l'effort pour rendre l'IA plus efficace, mais j'aimerais qu'il y ait une manière plus simple de l'utiliser. Peut-être qu'ils ajouteront une interface plus conviviale à l'avenir. C'est quand même cool qu'ils le partagent gratuitement !
0
13 अप्रैल 2025 12:00:00 पूर्वाह्न GMT
Pruna AI's open-source framework sounds promising, but I'm not sure how to use it yet. The idea of optimizing AI models with caching, pruning, and quantization is cool, but it's a bit over my head. Hopefully, they'll release some tutorials soon!
0
