DeepSeek V4Flashは、AppleのMetalプラットフォーム向けに特化したローカルAI推論エンジンとしてリリースされました。このエンジンはパラメータ数が少なく、処理速度が速いことが特徴であり、他のモデルよりも5倍高速な推論モードを備えています。また、100万トークンに及ぶコンテキストウィンドウにも対応しています。このエンジンは128GBのMacBook上で2ビット量子化処理を行うことができ、HTTP APIやGGUFモデルを含む完全なローカルソリューションを提供します。現在のバージョンはAlpha段階にあります。





家
