选项
首页
快讯
内容
BillyThomas
BillyThomas
2026-07-17

英伟达发布了Nemotron-3-Embed系列嵌入式模型,适用于生产级RAG、代码检索和智能体记忆。 其中,8B BF16版本在RTEB基准测试中以78.46的NDCG@10成绩位居榜首。该系列还包括1B BF16和1B NVFP4(4位)版本,均基于Mistral架构,支持34种语言和32K个令牌。 1B模型通过模型剪枝和知识蒸馏技术构建而成。NVFP4版本在Blackwell平台上保持了99.5%的精度,同时吞吐量提升至2倍。该系列支持vLLM部署;BF16版本支持Transformers和Sentence Transformers。

英伟达发布了Nemotron-3-Embed系列嵌入式模型,适用于生产级RAG、代码检索和智能体记忆。 其中,8B BF16版本在RTEB基准测试中以78.46的NDCG@10成绩位居榜首。该系列还包括1B BF16和1B NVFP4(4位)版本,均基于Mistral架构,支持34种语言和32K个令牌。 1B模型通过模型剪枝和知识蒸馏技术构建而成。NVFP4版本在Blackwell平台上保持了99.5%的精度,同时吞吐量提升至2倍。该系列支持vLLM部署;BF16版本支持Transformers和Sentence Transformers。 英伟达发布了Nemotron-3-Embed系列嵌入式模型,适用于生产级RAG、代码检索和智能体记忆。 其中,8B BF16版本在RTEB基准测试中以78.46的NDCG@10成绩位居榜首。该系列还包括1B BF16和1B NVFP4(4位)版本,均基于Mistral架构,支持34种语言和32K个令牌。 1B模型通过模型剪枝和知识蒸馏技术构建而成。NVFP4版本在Blackwell平台上保持了99.5%的精度,同时吞吐量提升至2倍。该系列支持vLLM部署;BF16版本支持Transformers和Sentence Transformers。
评论 (0)
0/300
OR