カブリコン、DeepSeek-V4の完全シリーズModel Day0互換性とオープンソース化された最適化コードを発表

カミコンは、vLLM推論フレームワークを活用し、DeepSeekの最新オープンソースモデルシリーズ「Day0」統合を完了しました。DeepSeek-V4 。この包括的な適応は、フラッシュバリアント(285Bパラメータ)とプロバリアント(1.6Tパラメータ)の両方をカバーしており、リリース時にカミコンハードウェア上で即時の安定性を保証します。対応する統合コードは、GitHubで公式にオープンソース化されています。
DeepSeek-V4 の固有のスパースアテンションメカニズムと圧縮アーキテクチャに対応するため、カミコンは独自のベクトル融合ライブラリTorch-MLU-Opsを使用して、コンプレッサーなどのコアコンポーネントを加速しました。高性能なBangC言語を活用し、チームはスパースアテンションやGroupGemmなどの重要操作の最適化カーネルを開発しました。このソリューションは、vLLMフレームワーク内の5次元ハイブリッド並列処理(TP/PP/SP/DP/EP)、低精度量子化、およびPD分離を完全にサポートし、厳格なレイテンシ制約を維持しながらトークンスループットを大幅に向上させました。
ハードウェア面では、カミコンはMLUのメモリアクセスおよびソート加速機能を活用し、DeepSeek-V4 の複雑なインデックス構造を管理します。高いインターコネクト帯域幅と低レイテンシ通信を活用することで、このアプローチはPrefillおよびDecodeフェーズのオーバーヘッドを最小限に抑え、推論効率を最大化します。
業界の専門家は、DeepSeek-V4の百万トークンコンテキストウィンドウとトップクラスの論理推論能力には、堅牢な基盤となる計算アーキテクチャが必要であると指摘しています。カミコンの迅速なDay0適応は、国産計算プラットフォームが超大型で複雑なモデルをサポートする強さを示しており、国産AIエコシステムがソフトウェアとハードウェアのシナジーにおいて成熟したレベルに達したことを示唆し、大規模モデルの広範な採用に対する強力な基盤を提供しています。
関連記事
フランスのスタートアップ企業ZMLが、複数のチップでAI推論を加速する無料ツールを発表
Nvidiaの制御不能な市場支配の時代は終焉に向かっている可能性があるが、競合他社や代替案があらゆる角度から台頭している。チューリング賞受賞者であるヤン・レクンが支援するフランスの主要なAIスタートアップであるZMLは、Nvidia、AMD、Google TPU、Apple Metal、Intel Arcなど、多様なハードウェアで各種オープンソースの大規模言語モデル(LLM)を実行可能にする推論性能ソフトウェアを発表した。ZMLの創業者であるステーブ・モランによれば、同社は新たにリリースした
Google Gemini 4 アルゴンが Open AI を上回り、コード提出においてプログラマーを置き換える可能性がある
海外のテックコミュニティは、Googleの最新イノベーションであるGemini 4 Argonについて熱狂しています。これは次世代のAIモデルで、現在複数のプラットフォームにわたって選定されたProユーザー向けに展開されています。Google Cloudエコシステムに完全に統合されており、新しいAntigravityコーディングツールのデフォルトエンジンとして機能し、コードを直接ライブリポジトリにプッシュすることも可能です。自律型エージェントがソフトウェア開発を再定義する単にコードスニペットを提
Anthropic、物議を醸しているコンテンツ生成ツール「Opus 4.6」を発表
Anthropicが定めたClaudeの汎用利用基準では、性交や性行為の描写・要求、性的フェチやファンタジーに関連するコンテンツの生成、およびエロティックなチャットへの参加など、性的に露骨なコンテンツの生成が禁止されています。 しかし、それにもかかわらず、今年初めにリリースされたAnthropicのモデル「Claude Opus 4.6」は、その安全対策によって防止されるはずのエロティックなロール
関連特集おすすめ
コメント (0)
0/500

カミコンは、vLLM推論フレームワークを活用し、DeepSeekの最新オープンソースモデルシリーズ「Day0」統合を完了しました。
ハードウェア面では、カミコンはMLUのメモリアクセスおよびソート加速機能を活用し、
業界の専門家は、DeepSeek-V4の百万トークンコンテキストウィンドウとトップクラスの論理推論能力には、堅牢な基盤となる計算アーキテクチャが必要であると指摘しています。カミコンの迅速なDay0適応は、国産計算プラットフォームが超大型で複雑なモデルをサポートする強さを示しており、国産AIエコシステムがソフトウェアとハードウェアのシナジーにおいて成熟したレベルに達したことを示唆し、大規模モデルの広範な採用に対する強力な基盤を提供しています。
フランスのスタートアップ企業ZMLが、複数のチップでAI推論を加速する無料ツールを発表
Nvidiaの制御不能な市場支配の時代は終焉に向かっている可能性があるが、競合他社や代替案があらゆる角度から台頭している。チューリング賞受賞者であるヤン・レクンが支援するフランスの主要なAIスタートアップであるZMLは、Nvidia、AMD、Google TPU、Apple Metal、Intel Arcなど、多様なハードウェアで各種オープンソースの大規模言語モデル(LLM)を実行可能にする推論性能ソフトウェアを発表した。ZMLの創業者であるステーブ・モランによれば、同社は新たにリリースした
Google Gemini 4 アルゴンが Open AI を上回り、コード提出においてプログラマーを置き換える可能性がある
海外のテックコミュニティは、Googleの最新イノベーションであるGemini 4 Argonについて熱狂しています。これは次世代のAIモデルで、現在複数のプラットフォームにわたって選定されたProユーザー向けに展開されています。Google Cloudエコシステムに完全に統合されており、新しいAntigravityコーディングツールのデフォルトエンジンとして機能し、コードを直接ライブリポジトリにプッシュすることも可能です。自律型エージェントがソフトウェア開発を再定義する単にコードスニペットを提
Anthropic、物議を醸しているコンテンツ生成ツール「Opus 4.6」を発表
Anthropicが定めたClaudeの汎用利用基準では、性交や性行為の描写・要求、性的フェチやファンタジーに関連するコンテンツの生成、およびエロティックなチャットへの参加など、性的に露骨なコンテンツの生成が禁止されています。 しかし、それにもかかわらず、今年初めにリリースされたAnthropicのモデル「Claude Opus 4.6」は、その安全対策によって防止されるはずのエロティックなロール





家






