Option
Heim
Eilmeldung
Inhalt
BillyThomas
BillyThomas
17. Juli 2026

NVIDIA hat die Nemotron-3-Embed-Reihe von Einbettungsmodellen für produktionsreife RAG-Anwendungen, Code-Retrieval und Agenten-Gedächtnis veröffentlicht. Die 8B-BF16-Version belegt mit 78,46 NDCG@10 den ersten Platz im RTEB-Benchmark. Die Serie umfasst 1B-BF16- und 1B-NVFP4-Versionen (4-Bit), die alle auf der Mistral-Architektur basieren und 34 Sprachen sowie 32.000 Token unterstützen. Die 1B-Modelle wurden durch Pruning und Wissensdestillation erstellt. Die NVFP4-Version behält 99,5 % Präzision bei doppeltem Durchsatz auf Blackwell bei. Sie unterstützt den Einsatz von vLLM; die BF16-Versionen unterstützen Transformers und Sentence Transformers.

NVIDIA hat die Nemotron-3-Embed-Reihe von Einbettungsmodellen für produktionsreife RAG-Anwendungen, Code-Retrieval und Agenten-Gedächtnis veröffentlicht. Die 8B-BF16-Version belegt mit 78,46 NDCG@10 den ersten Platz im RTEB-Benchmark. Die Serie umfasst 1B-BF16- und 1B-NVFP4-Versionen (4-Bit), die alle auf der Mistral-Architektur basieren und 34 Sprachen sowie 32.000 Token unterstützen. Die 1B-Modelle wurden durch Pruning und Wissensdestillation erstellt. Die NVFP4-Version behält 99,5 % Präzision bei doppeltem Durchsatz auf Blackwell bei. Sie unterstützt den Einsatz von vLLM; die BF16-Versionen unterstützen Transformers und Sentence Transformers. NVIDIA hat die Nemotron-3-Embed-Reihe von Einbettungsmodellen für produktionsreife RAG-Anwendungen, Code-Retrieval und Agenten-Gedächtnis veröffentlicht. Die 8B-BF16-Version belegt mit 78,46 NDCG@10 den ersten Platz im RTEB-Benchmark. Die Serie umfasst 1B-BF16- und 1B-NVFP4-Versionen (4-Bit), die alle auf der Mistral-Architektur basieren und 34 Sprachen sowie 32.000 Token unterstützen. Die 1B-Modelle wurden durch Pruning und Wissensdestillation erstellt. Die NVFP4-Version behält 99,5 % Präzision bei doppeltem Durchsatz auf Blackwell bei. Sie unterstützt den Einsatz von vLLM; die BF16-Versionen unterstützen Transformers und Sentence Transformers.
Kommentare (0)
0/300
OR