DeepSeek V4Flash是一款專為蘋果Metal平臺設計的本地AI推理引擎。它具有更少的引數數量,因此處理速度更快;其思考模式的速度是其他模型的五倍,並且支援100萬個標記的上下文視窗。該引擎可以在128GB容量的MacBook上執行2位量化操作,同時還提供了包括HTTP API和GGUF模型在內的完整本地解決方案。目前,這個版本還處於測試階段。
評論 (0)
0/300





首頁
