DeepSeek V4Flash是一款专为苹果Metal平台设计的本地AI推理引擎。它具有更少的参数数量,因此处理速度更快;其思考模式的速度是其他模型的五倍,并且支持100万个标记的上下文窗口。该引擎可以在128GB容量的MacBook上运行2位量化操作,同时还提供了包括HTTP API和GGUF模型在内的完整本地解决方案。目前,这个版本还处于测试阶段。
评论 (0)
0/300





首页
