Pruna AIは、オープンソースAIモデル最適化フレームワークを発表します
Pruna AI、AIモデルの圧縮アルゴリズム開発に特化したヨーロッパのスタートアップは、今週木曜日にその最適化フレームワークをオープンソースとして公開する予定です。同社は、キャッシング、プルーニング、量子化、蒸留といったさまざまな効率化技術を組み込んだフレームワークに取り組んできました。
Pruna AIの共同創業者兼CTOであるジョン・ラチュワンは、TechCrunchに対し、彼らのフレームワークはこれらの手法を適用するだけでなく、圧縮モデルの保存、読み込み、評価のプロセスを標準化すると説明しました。これにより、ユーザーは圧縮による品質の損失やパフォーマンスの向上を評価することができます。
ラチュワンは、Pruna AIの役割を、トランスフォーマーやディフューザーの使用を標準化したHugging Faceに例えました。「私たちは同じことを行っていますが、効率化手法に対してです」と彼は述べ、これらの手法の適用と管理の標準化を強調しました。
主要なAIラボはすでに類似の圧縮技術を採用しています。たとえば、OpenAIは蒸留を使用して、GPT-4 Turboのような高速バージョンのモデルを開発しました。同様に、Black Forest LabsはFlux.1モデルの蒸留版であるFlux.1-schnellを作成しました。蒸留は、大きなモデルの出力を利用して、より小さく効率的なモデルを訓練する「教師-生徒」アプローチを伴います。
ラチュワンは、大企業はこれらのツールを内部で開発することが多いが、オープンソースコミュニティは通常、単一の手法に焦点を当てていると指摘しました。「しかし、すべての手法を集約し、使いやすく、組み合わせやすくするツールは見つかりません」と彼は述べ、Pruna AIの独自の価値提案を強調しました。

左から右へ:ラヤン・ナイト・マジ、ベルトラン・シャルパンティエ、ジョン・ラチュワン、ステファン・ギュンネマン 画像クレジット:Pruna AI Pruna AIのフレームワークは、大規模言語モデル、拡散モデル、音声認識モデル、コンピュータビジョンモデルなど幅広いモデルをサポートしていますが、同社は現在、画像およびビデオ生成モデルに注力しています。Pruna AIの既存ユーザーには、ScenarioやPhotoRoomが含まれます。オープンソース版に加えて、Pruna AIは高度な最適化機能を備えたエンタープライズ版を提供しており、近日中の圧縮エージェントも含まれます。ラチュワンはこのエージェントについて、ユーザーが指定したパフォーマンスと精度の要件に基づいて、モデルに最適な圧縮の組み合わせを自動的に見つけるツールだと説明しました。
Pruna AIのプロ版は、AWSのようなクラウドサービスでGPUをレンタルするのと同様に、時間単位で課金されます。モデルを最適化することで、ユーザーは推論コストを大幅に削減できます。たとえば、Pruna AIはLlamaモデルを元のサイズの8分の1に圧縮し、品質の損失を最小限に抑えることに成功し、コスト削減の可能性を示しました。
同社は最近、EQT Ventures、Daphni、Motier Ventures、Kima Venturesなどの投資家から650万ドルのシード資金を調達しました。Pruna AIは、圧縮フレームワークを、運用コストの削減を通じて元が取れる戦略的投資と見なしています。
関連記事
Anthropic社の実験用AI「Claude」が、Eコマースのテストにおいて交渉と取引を完了した
人工知能(AI)が急速に進化する中、Anthropicは先週金曜日、「Project Deal」と呼ばれる社内実験をひっそりと開始し、EコマースにおけるAIの可能性を披露した。この実験では、同社のAIモデル「Claude」が、実際の金銭取引を伴うクローズドな市場環境において、購入、販売、価格交渉を自律的に行うよう設計された。実験の中核となったのは、Slack上に構築された社内マーケットプレイスであ
DeepSeek Code、まもなくリリースへ
AI技術の進展が加速する中、DeepSeekは今、まさに刺激的な転換点を迎えています。同社は最近、700億元を超える資金調達に成功したことを明らかにしました。経営陣は、目先の商業的利益よりも、画期的なAI研究への取り組みを重視する姿勢を強調しています。この戦略的転換は、新製品、とりわけ待望の「DeepSeek Code」の開発に全力を注ぐというDeepSeekの決意を示しています。DeepSeek
マスク氏の「Grok」:1.5兆のパラメータとカーソルコードの統合――ゲームチェンジャーか、それともブラフか?
イーロン・マスクがついに動き出した。AI開発競争において、OpenAIとAnthropicは加速している一方、xAIは出遅れているようだ。マスクはたびたび「Claude」に対抗する意向を表明してきたが、Grok4.Xシリーズへの度重なるアップデートにもかかわらず、結果は理論上は良好に見えても実用面では不十分であり、その差はほとんど縮まっていない。しかし、今回、彼には新たな切り札がある。マスクはX(
関連特集おすすめ
コメント (32)
0/500
Finalmente algo open-source pra otimizar modelos grandes! A quantidade de técnicas que mencionaram (cache, poda, quantização) é impressionante. Vai ser interessante testar isso em alguns projetos que tenho em mente. Acho que isso pode ajudar muito desenvolvedores independentes como eu a ter acesso a modelos mais eficientes. Boa iniciativa da startup europeia! 👏
O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀
El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀
Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓
Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀
Pruna AI、AIモデルの圧縮アルゴリズム開発に特化したヨーロッパのスタートアップは、今週木曜日にその最適化フレームワークをオープンソースとして公開する予定です。同社は、キャッシング、プルーニング、量子化、蒸留といったさまざまな効率化技術を組み込んだフレームワークに取り組んできました。
Pruna AIの共同創業者兼CTOであるジョン・ラチュワンは、TechCrunchに対し、彼らのフレームワークはこれらの手法を適用するだけでなく、圧縮モデルの保存、読み込み、評価のプロセスを標準化すると説明しました。これにより、ユーザーは圧縮による品質の損失やパフォーマンスの向上を評価することができます。
ラチュワンは、Pruna AIの役割を、トランスフォーマーやディフューザーの使用を標準化したHugging Faceに例えました。「私たちは同じことを行っていますが、効率化手法に対してです」と彼は述べ、これらの手法の適用と管理の標準化を強調しました。
主要なAIラボはすでに類似の圧縮技術を採用しています。たとえば、OpenAIは蒸留を使用して、GPT-4 Turboのような高速バージョンのモデルを開発しました。同様に、Black Forest LabsはFlux.1モデルの蒸留版であるFlux.1-schnellを作成しました。蒸留は、大きなモデルの出力を利用して、より小さく効率的なモデルを訓練する「教師-生徒」アプローチを伴います。
ラチュワンは、大企業はこれらのツールを内部で開発することが多いが、オープンソースコミュニティは通常、単一の手法に焦点を当てていると指摘しました。「しかし、すべての手法を集約し、使いやすく、組み合わせやすくするツールは見つかりません」と彼は述べ、Pruna AIの独自の価値提案を強調しました。

オープンソース版に加えて、Pruna AIは高度な最適化機能を備えたエンタープライズ版を提供しており、近日中の圧縮エージェントも含まれます。ラチュワンはこのエージェントについて、ユーザーが指定したパフォーマンスと精度の要件に基づいて、モデルに最適な圧縮の組み合わせを自動的に見つけるツールだと説明しました。
Pruna AIのプロ版は、AWSのようなクラウドサービスでGPUをレンタルするのと同様に、時間単位で課金されます。モデルを最適化することで、ユーザーは推論コストを大幅に削減できます。たとえば、Pruna AIはLlamaモデルを元のサイズの8分の1に圧縮し、品質の損失を最小限に抑えることに成功し、コスト削減の可能性を示しました。
同社は最近、EQT Ventures、Daphni、Motier Ventures、Kima Venturesなどの投資家から650万ドルのシード資金を調達しました。Pruna AIは、圧縮フレームワークを、運用コストの削減を通じて元が取れる戦略的投資と見なしています。
Anthropic社の実験用AI「Claude」が、Eコマースのテストにおいて交渉と取引を完了した
人工知能(AI)が急速に進化する中、Anthropicは先週金曜日、「Project Deal」と呼ばれる社内実験をひっそりと開始し、EコマースにおけるAIの可能性を披露した。この実験では、同社のAIモデル「Claude」が、実際の金銭取引を伴うクローズドな市場環境において、購入、販売、価格交渉を自律的に行うよう設計された。実験の中核となったのは、Slack上に構築された社内マーケットプレイスであ
DeepSeek Code、まもなくリリースへ
AI技術の進展が加速する中、DeepSeekは今、まさに刺激的な転換点を迎えています。同社は最近、700億元を超える資金調達に成功したことを明らかにしました。経営陣は、目先の商業的利益よりも、画期的なAI研究への取り組みを重視する姿勢を強調しています。この戦略的転換は、新製品、とりわけ待望の「DeepSeek Code」の開発に全力を注ぐというDeepSeekの決意を示しています。DeepSeek
マスク氏の「Grok」:1.5兆のパラメータとカーソルコードの統合――ゲームチェンジャーか、それともブラフか?
イーロン・マスクがついに動き出した。AI開発競争において、OpenAIとAnthropicは加速している一方、xAIは出遅れているようだ。マスクはたびたび「Claude」に対抗する意向を表明してきたが、Grok4.Xシリーズへの度重なるアップデートにもかかわらず、結果は理論上は良好に見えても実用面では不十分であり、その差はほとんど縮まっていない。しかし、今回、彼には新たな切り札がある。マスクはX(
Finalmente algo open-source pra otimizar modelos grandes! A quantidade de técnicas que mencionaram (cache, poda, quantização) é impressionante. Vai ser interessante testar isso em alguns projetos que tenho em mente. Acho que isso pode ajudar muito desenvolvedores independentes como eu a ter acesso a modelos mais eficientes. Boa iniciativa da startup europeia! 👏
O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀
El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀
Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓
Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀





家






