Pruna AIは、オープンソースAIモデル最適化フレームワークを発表します
Pruna AI、AIモデルの圧縮アルゴリズム開発に特化したヨーロッパのスタートアップは、今週木曜日にその最適化フレームワークをオープンソースとして公開する予定です。同社は、キャッシング、プルーニング、量子化、蒸留といったさまざまな効率化技術を組み込んだフレームワークに取り組んできました。
Pruna AIの共同創業者兼CTOであるジョン・ラチュワンは、TechCrunchに対し、彼らのフレームワークはこれらの手法を適用するだけでなく、圧縮モデルの保存、読み込み、評価のプロセスを標準化すると説明しました。これにより、ユーザーは圧縮による品質の損失やパフォーマンスの向上を評価することができます。
ラチュワンは、Pruna AIの役割を、トランスフォーマーやディフューザーの使用を標準化したHugging Faceに例えました。「私たちは同じことを行っていますが、効率化手法に対してです」と彼は述べ、これらの手法の適用と管理の標準化を強調しました。
主要なAIラボはすでに類似の圧縮技術を採用しています。たとえば、OpenAIは蒸留を使用して、GPT-4 Turboのような高速バージョンのモデルを開発しました。同様に、Black Forest LabsはFlux.1モデルの蒸留版であるFlux.1-schnellを作成しました。蒸留は、大きなモデルの出力を利用して、より小さく効率的なモデルを訓練する「教師-生徒」アプローチを伴います。
ラチュワンは、大企業はこれらのツールを内部で開発することが多いが、オープンソースコミュニティは通常、単一の手法に焦点を当てていると指摘しました。「しかし、すべての手法を集約し、使いやすく、組み合わせやすくするツールは見つかりません」と彼は述べ、Pruna AIの独自の価値提案を強調しました。
左から右へ：ラヤン・ナイト・マジ、ベルトラン・シャルパンティエ、ジョン・ラチュワン、ステファン・ギュンネマン 画像クレジット：Pruna AI Pruna AIのフレームワークは、大規模言語モデル、拡散モデル、音声認識モデル、コンピュータビジョンモデルなど幅広いモデルをサポートしていますが、同社は現在、画像およびビデオ生成モデルに注力しています。Pruna AIの既存ユーザーには、ScenarioやPhotoRoomが含まれます。オープンソース版に加えて、Pruna AIは高度な最適化機能を備えたエンタープライズ版を提供しており、近日中の圧縮エージェントも含まれます。ラチュワンはこのエージェントについて、ユーザーが指定したパフォーマンスと精度の要件に基づいて、モデルに最適な圧縮の組み合わせを自動的に見つけるツールだと説明しました。
Pruna AIのプロ版は、AWSのようなクラウドサービスでGPUをレンタルするのと同様に、時間単位で課金されます。モデルを最適化することで、ユーザーは推論コストを大幅に削減できます。たとえば、Pruna AIはLlamaモデルを元のサイズの8分の1に圧縮し、品質の損失を最小限に抑えることに成功し、コスト削減の可能性を示しました。
同社は最近、EQT Ventures、Daphni、Motier Ventures、Kima Venturesなどの投資家から650万ドルのシード資金を調達しました。Pruna AIは、圧縮フレームワークを、運用コストの削減を通じて元が取れる戦略的投資と見なしています。
関連記事
無神論者と信奉者のAIが道徳論争で激突
正反対の哲学的枠組みを持つ人工知能システムが倫理的な議論を交わしたとき、どのような洞察が生まれるのだろうか？この画期的な実験では、無神論者AIと信者AIの知的対決を演出し、神の存在に関する道徳的議論に焦点を当てた。読者は、洗練された哲学的言説に出会い、競合する論理的枠組みを分析し、15人の独立したAI裁判官が議論をどのように評価したかを観察する。単なる学問的演習にとどまらず、倫理システムの基礎と道
OpenAIがChatGPT Proをo3にアップグレード。
今週は、マイクロソフト、グーグル、Anthropicを含むハイテク大手から重要なAIの開発が目撃された。OpenAIは、コードネーム "io "と呼ばれる野心的なハードウェア構想のために、注目されたジョニー・アイブのデザイン会社を65億ドルで買収したことにとどまらず、独自の画期的なアップデートで発表の慌ただしさを締めくくった。同社は、ChatGPT内のOperator自律ウェブ・ナビゲーション・シ
米政府、インテルに出資して国内半導体生産を拡大
トランプ政権は、人工知能における米国のリーダーシップを確立することを優先しており、半導体製造の再ショアリングを基本戦略としている。関税案や金融優遇措置を含む最近の政策の動きは、国内チップ製造能力の強化に対するこのコミットメントを示している。8月、政権は既存の半導体製造補助金をインテル・コーポレーションの10%の株式保有に転換し、大きな話題となった。このユニークな合意には、インテルがファウンドリ
コメント (30)
0/200
![PaulRoberts]()
PaulRoberts
2025年4月25日 13:04:39 JST
O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀
0
![DouglasMitchell]()
DouglasMitchell
2025年4月25日 2:25:23 JST
El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀
0
![WillieMartinez]()
WillieMartinez
2025年4月20日 10:20:47 JST
Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓
0
![JamesLopez]()
JamesLopez
2025年4月19日 7:46:00 JST
Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀
0
![CharlesNelson]()
CharlesNelson
2025年4月19日 4:07:22 JST
Pruna AI's open-source framework sounds promising, but I'm not a tech whiz, so I'm a bit lost. The idea of optimizing AI models is cool, but I wish they had more user-friendly tutorials. Maybe they'll release something simpler soon? 🤔🧠
0
![JerryMoore]()
JerryMoore
2025年4月17日 18:56:48 JST
Pruna AI의 오픈소스 프레임워크는 promising하지만, 기술에 밝지 않아서 좀 헷갈려. AI 모델 최적화는 흥미로운데, 좀 더 사용자 친화적인 튜토리얼이 있었으면 좋겠어. 곧 더 간단한 걸 내놓을까? 🤔🧠
0
Pruna AI、AIモデルの圧縮アルゴリズム開発に特化したヨーロッパのスタートアップは、今週木曜日にその最適化フレームワークをオープンソースとして公開する予定です。同社は、キャッシング、プルーニング、量子化、蒸留といったさまざまな効率化技術を組み込んだフレームワークに取り組んできました。
Pruna AIの共同創業者兼CTOであるジョン・ラチュワンは、TechCrunchに対し、彼らのフレームワークはこれらの手法を適用するだけでなく、圧縮モデルの保存、読み込み、評価のプロセスを標準化すると説明しました。これにより、ユーザーは圧縮による品質の損失やパフォーマンスの向上を評価することができます。
ラチュワンは、Pruna AIの役割を、トランスフォーマーやディフューザーの使用を標準化したHugging Faceに例えました。「私たちは同じことを行っていますが、効率化手法に対してです」と彼は述べ、これらの手法の適用と管理の標準化を強調しました。
主要なAIラボはすでに類似の圧縮技術を採用しています。たとえば、OpenAIは蒸留を使用して、GPT-4 Turboのような高速バージョンのモデルを開発しました。同様に、Black Forest LabsはFlux.1モデルの蒸留版であるFlux.1-schnellを作成しました。蒸留は、大きなモデルの出力を利用して、より小さく効率的なモデルを訓練する「教師-生徒」アプローチを伴います。
ラチュワンは、大企業はこれらのツールを内部で開発することが多いが、オープンソースコミュニティは通常、単一の手法に焦点を当てていると指摘しました。「しかし、すべての手法を集約し、使いやすく、組み合わせやすくするツールは見つかりません」と彼は述べ、Pruna AIの独自の価値提案を強調しました。
オープンソース版に加えて、Pruna AIは高度な最適化機能を備えたエンタープライズ版を提供しており、近日中の圧縮エージェントも含まれます。ラチュワンはこのエージェントについて、ユーザーが指定したパフォーマンスと精度の要件に基づいて、モデルに最適な圧縮の組み合わせを自動的に見つけるツールだと説明しました。
Pruna AIのプロ版は、AWSのようなクラウドサービスでGPUをレンタルするのと同様に、時間単位で課金されます。モデルを最適化することで、ユーザーは推論コストを大幅に削減できます。たとえば、Pruna AIはLlamaモデルを元のサイズの8分の1に圧縮し、品質の損失を最小限に抑えることに成功し、コスト削減の可能性を示しました。
同社は最近、EQT Ventures、Daphni、Motier Ventures、Kima Venturesなどの投資家から650万ドルのシード資金を調達しました。Pruna AIは、圧縮フレームワークを、運用コストの削減を通じて元が取れる戦略的投資と見なしています。
無神論者と信奉者のAIが道徳論争で激突
正反対の哲学的枠組みを持つ人工知能システムが倫理的な議論を交わしたとき、どのような洞察が生まれるのだろうか？この画期的な実験では、無神論者AIと信者AIの知的対決を演出し、神の存在に関する道徳的議論に焦点を当てた。読者は、洗練された哲学的言説に出会い、競合する論理的枠組みを分析し、15人の独立したAI裁判官が議論をどのように評価したかを観察する。単なる学問的演習にとどまらず、倫理システムの基礎と道
OpenAIがChatGPT Proをo3にアップグレード。
今週は、マイクロソフト、グーグル、Anthropicを含むハイテク大手から重要なAIの開発が目撃された。OpenAIは、コードネーム "io "と呼ばれる野心的なハードウェア構想のために、注目されたジョニー・アイブのデザイン会社を65億ドルで買収したことにとどまらず、独自の画期的なアップデートで発表の慌ただしさを締めくくった。同社は、ChatGPT内のOperator自律ウェブ・ナビゲーション・シ
米政府、インテルに出資して国内半導体生産を拡大
トランプ政権は、人工知能における米国のリーダーシップを確立することを優先しており、半導体製造の再ショアリングを基本戦略としている。関税案や金融優遇措置を含む最近の政策の動きは、国内チップ製造能力の強化に対するこのコミットメントを示している。8月、政権は既存の半導体製造補助金をインテル・コーポレーションの10%の株式保有に転換し、大きな話題となった。このユニークな合意には、インテルがファウンドリ
2025年4月25日 13:04:39 JST
O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀
0
2025年4月25日 2:25:23 JST
El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀
0
2025年4月20日 10:20:47 JST
Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓
0
2025年4月19日 7:46:00 JST
Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀
0
2025年4月19日 4:07:22 JST
Pruna AI's open-source framework sounds promising, but I'm not a tech whiz, so I'm a bit lost. The idea of optimizing AI models is cool, but I wish they had more user-friendly tutorials. Maybe they'll release something simpler soon? 🤔🧠
0
2025年4月17日 18:56:48 JST
Pruna AI의 오픈소스 프레임워크는 promising하지만, 기술에 밝지 않아서 좀 헷갈려. AI 모델 최적화는 흥미로운데, 좀 더 사용자 친화적인 튜토리얼이 있었으면 좋겠어. 곧 더 간단한 걸 내놓을까? 🤔🧠
0
