Pruna AIは、オープンソースAIモデル最適化フレームワークを発表します
Pruna AI、AIモデルの圧縮アルゴリズム開発に特化したヨーロッパのスタートアップは、今週木曜日にその最適化フレームワークをオープンソースとして公開する予定です。同社は、キャッシング、プルーニング、量子化、蒸留といったさまざまな効率化技術を組み込んだフレームワークに取り組んできました。
Pruna AIの共同創業者兼CTOであるジョン・ラチュワンは、TechCrunchに対し、彼らのフレームワークはこれらの手法を適用するだけでなく、圧縮モデルの保存、読み込み、評価のプロセスを標準化すると説明しました。これにより、ユーザーは圧縮による品質の損失やパフォーマンスの向上を評価することができます。
ラチュワンは、Pruna AIの役割を、トランスフォーマーやディフューザーの使用を標準化したHugging Faceに例えました。「私たちは同じことを行っていますが、効率化手法に対してです」と彼は述べ、これらの手法の適用と管理の標準化を強調しました。
主要なAIラボはすでに類似の圧縮技術を採用しています。たとえば、OpenAIは蒸留を使用して、GPT-4 Turboのような高速バージョンのモデルを開発しました。同様に、Black Forest LabsはFlux.1モデルの蒸留版であるFlux.1-schnellを作成しました。蒸留は、大きなモデルの出力を利用して、より小さく効率的なモデルを訓練する「教師-生徒」アプローチを伴います。
ラチュワンは、大企業はこれらのツールを内部で開発することが多いが、オープンソースコミュニティは通常、単一の手法に焦点を当てていると指摘しました。「しかし、すべての手法を集約し、使いやすく、組み合わせやすくするツールは見つかりません」と彼は述べ、Pruna AIの独自の価値提案を強調しました。

左から右へ:ラヤン・ナイト・マジ、ベルトラン・シャルパンティエ、ジョン・ラチュワン、ステファン・ギュンネマン 画像クレジット:Pruna AI Pruna AIのフレームワークは、大規模言語モデル、拡散モデル、音声認識モデル、コンピュータビジョンモデルなど幅広いモデルをサポートしていますが、同社は現在、画像およびビデオ生成モデルに注力しています。Pruna AIの既存ユーザーには、ScenarioやPhotoRoomが含まれます。オープンソース版に加えて、Pruna AIは高度な最適化機能を備えたエンタープライズ版を提供しており、近日中の圧縮エージェントも含まれます。ラチュワンはこのエージェントについて、ユーザーが指定したパフォーマンスと精度の要件に基づいて、モデルに最適な圧縮の組み合わせを自動的に見つけるツールだと説明しました。
Pruna AIのプロ版は、AWSのようなクラウドサービスでGPUをレンタルするのと同様に、時間単位で課金されます。モデルを最適化することで、ユーザーは推論コストを大幅に削減できます。たとえば、Pruna AIはLlamaモデルを元のサイズの8分の1に圧縮し、品質の損失を最小限に抑えることに成功し、コスト削減の可能性を示しました。
同社は最近、EQT Ventures、Daphni、Motier Ventures、Kima Venturesなどの投資家から650万ドルのシード資金を調達しました。Pruna AIは、圧縮フレームワークを、運用コストの削減を通じて元が取れる戦略的投資と見なしています。
関連記事
Meta AIがFacebookマーケットプレイスでの購入者からのメッセージに対応するようになりました
Facebookは木曜日、Facebook Marketplaceに、購入者からの問い合わせへの自動返信を含む新たなMeta AI機能を導入すると発表した。同プラットフォームでは、AIを活用して出品手続きの迅速化や出品者プロフィールの要約を行うほか、出品者が商品ページで配送オプションを提供できるようになった。出品者は購入者からの問い合わせを頻繁に受けるため、FacebookはMeta AIを活用し
OpenAIは、公的基金、ロボット税、週4日勤務制を柱とするAI経済の構想を提示した
各国政府が超知能機械による経済的影響への対応に苦慮する中、OpenAIは「知能の時代」において富と労働がどのように再構築されるべきかを概説した一連の政策提言を発表した。その構想は、公的資産基金や社会安全網の拡充といった伝統的な左派的な仕組みと、根本的に資本主義的で市場主導型の経済枠組みとを融合させたものである。OpenAIの提案は本質的に「要望リスト」に相当し、人工知能が労働と経済を変革する中で、
Googleが「Gemini Notebooks」を発表、NotebookLMとパーソナルナレッジベースを統合
Googleは先日、Gemini向けに「Notebooks」機能をリリースしました。これは、ユーザーがパーソナライズされたナレッジベースを作成することで、複雑なプロジェクトを管理しやすくすることを目的としています。このアップデートは、GeminiとAIリサーチアシスタント「NotebookLM」との間のデータギャップを埋めるものであり、Googleが閉ループAIワークフローの構築を目指す取り組みに
関連特集おすすめ
コメント (32)
0/500
Finalmente algo open-source pra otimizar modelos grandes! A quantidade de técnicas que mencionaram (cache, poda, quantização) é impressionante. Vai ser interessante testar isso em alguns projetos que tenho em mente. Acho que isso pode ajudar muito desenvolvedores independentes como eu a ter acesso a modelos mais eficientes. Boa iniciativa da startup europeia! 👏
O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀
El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀
Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓
Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀
Pruna AI、AIモデルの圧縮アルゴリズム開発に特化したヨーロッパのスタートアップは、今週木曜日にその最適化フレームワークをオープンソースとして公開する予定です。同社は、キャッシング、プルーニング、量子化、蒸留といったさまざまな効率化技術を組み込んだフレームワークに取り組んできました。
Pruna AIの共同創業者兼CTOであるジョン・ラチュワンは、TechCrunchに対し、彼らのフレームワークはこれらの手法を適用するだけでなく、圧縮モデルの保存、読み込み、評価のプロセスを標準化すると説明しました。これにより、ユーザーは圧縮による品質の損失やパフォーマンスの向上を評価することができます。
ラチュワンは、Pruna AIの役割を、トランスフォーマーやディフューザーの使用を標準化したHugging Faceに例えました。「私たちは同じことを行っていますが、効率化手法に対してです」と彼は述べ、これらの手法の適用と管理の標準化を強調しました。
主要なAIラボはすでに類似の圧縮技術を採用しています。たとえば、OpenAIは蒸留を使用して、GPT-4 Turboのような高速バージョンのモデルを開発しました。同様に、Black Forest LabsはFlux.1モデルの蒸留版であるFlux.1-schnellを作成しました。蒸留は、大きなモデルの出力を利用して、より小さく効率的なモデルを訓練する「教師-生徒」アプローチを伴います。
ラチュワンは、大企業はこれらのツールを内部で開発することが多いが、オープンソースコミュニティは通常、単一の手法に焦点を当てていると指摘しました。「しかし、すべての手法を集約し、使いやすく、組み合わせやすくするツールは見つかりません」と彼は述べ、Pruna AIの独自の価値提案を強調しました。

オープンソース版に加えて、Pruna AIは高度な最適化機能を備えたエンタープライズ版を提供しており、近日中の圧縮エージェントも含まれます。ラチュワンはこのエージェントについて、ユーザーが指定したパフォーマンスと精度の要件に基づいて、モデルに最適な圧縮の組み合わせを自動的に見つけるツールだと説明しました。
Pruna AIのプロ版は、AWSのようなクラウドサービスでGPUをレンタルするのと同様に、時間単位で課金されます。モデルを最適化することで、ユーザーは推論コストを大幅に削減できます。たとえば、Pruna AIはLlamaモデルを元のサイズの8分の1に圧縮し、品質の損失を最小限に抑えることに成功し、コスト削減の可能性を示しました。
同社は最近、EQT Ventures、Daphni、Motier Ventures、Kima Venturesなどの投資家から650万ドルのシード資金を調達しました。Pruna AIは、圧縮フレームワークを、運用コストの削減を通じて元が取れる戦略的投資と見なしています。
Meta AIがFacebookマーケットプレイスでの購入者からのメッセージに対応するようになりました
Facebookは木曜日、Facebook Marketplaceに、購入者からの問い合わせへの自動返信を含む新たなMeta AI機能を導入すると発表した。同プラットフォームでは、AIを活用して出品手続きの迅速化や出品者プロフィールの要約を行うほか、出品者が商品ページで配送オプションを提供できるようになった。出品者は購入者からの問い合わせを頻繁に受けるため、FacebookはMeta AIを活用し
OpenAIは、公的基金、ロボット税、週4日勤務制を柱とするAI経済の構想を提示した
各国政府が超知能機械による経済的影響への対応に苦慮する中、OpenAIは「知能の時代」において富と労働がどのように再構築されるべきかを概説した一連の政策提言を発表した。その構想は、公的資産基金や社会安全網の拡充といった伝統的な左派的な仕組みと、根本的に資本主義的で市場主導型の経済枠組みとを融合させたものである。OpenAIの提案は本質的に「要望リスト」に相当し、人工知能が労働と経済を変革する中で、
Googleが「Gemini Notebooks」を発表、NotebookLMとパーソナルナレッジベースを統合
Googleは先日、Gemini向けに「Notebooks」機能をリリースしました。これは、ユーザーがパーソナライズされたナレッジベースを作成することで、複雑なプロジェクトを管理しやすくすることを目的としています。このアップデートは、GeminiとAIリサーチアシスタント「NotebookLM」との間のデータギャップを埋めるものであり、Googleが閉ループAIワークフローの構築を目指す取り組みに
Finalmente algo open-source pra otimizar modelos grandes! A quantidade de técnicas que mencionaram (cache, poda, quantização) é impressionante. Vai ser interessante testar isso em alguns projetos que tenho em mente. Acho que isso pode ajudar muito desenvolvedores independentes como eu a ter acesso a modelos mais eficientes. Boa iniciativa da startup europeia! 👏
O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀
El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀
Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓
Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀





家






