首頁NVIDIA的新Llama-3.1 Nemotron Ultra Ultra的表現為DeepSeek R1，尺寸為一半
當Meta正因其最新的Llama 4模型家族受到審查時，Nvidia已悄然推出基於Meta早期Llama-3.1-405B-Instruct模型的新款完全開源大型語言模型（LLM）。此模型名為Llama-3.1-Nemotron-Ultra-253B-v1，擁有2530億個參數，專為高級推理、指令遵循和AI助手工作流程而設計。Nvidia在三月舉行的年度GPU技術會議（GTC）上首次暗示了此模型。
此次發布凸顯了Nvidia通過架構創新和細緻的後訓練過程持續提升性能的承諾。該模型於2025年4月7日宣布，其程式碼、權重和後訓練數據現已在Hugging Face上免費提供。該模型設計為可根據系統提示在複雜推理任務和簡單輸出之間無縫切換，為開發者提供應用上的靈活性。
專為高效推理設計
基於Nvidia在優化LLM推理方面的先前努力，Llama-3.1-Nemotron-Ultra-253B採用了神經架構搜尋（NAS）過程來優化其架構。這包括創新的功能，如跳躍注意力層、融合前饋神經網絡（FFNs）和可變FFN壓縮比率。這些修改降低了模型的記憶體使用量和計算需求，使其可在單個8x H100 GPU節點上部署，而不影響輸出品質。
Nvidia聲稱此模型在資料中心部署中提供強大性能且成本效益高。它與Nvidia的B100和Hopper微架構相容，並已在BF16和FP8精度模式下進行測試。
後訓練以增強推理和對齊
該模型經歷了全面的後訓練過程，包括在數學、程式碼生成、聊天和工具使用等多個領域進行監督微調，隨後使用群組相對策略優化（GRPO）進行強化學習，以增強其指令遵循和推理能力。
進一步的精煉來自於對650億個標記的知識蒸餾階段，以及在額外880億個標記上的持續預訓練。訓練數據來源包括FineWeb、Buzz-V1.2和Dolma，後訓練提示和回應則來自公開語料庫和合成生成方法。這種方法幫助模型區分其推理模式。
在多個領域和基準測試中提升性能
啟用推理功能後，該模型在多個基準測試中顯示出顯著改進。例如，在MATH500基準測試中，其性能從標準模式的80.40%飆升至推理啟用後的97.00%。同樣，AIME25分數從16.67%躍升至72.50%，LiveCodeBench結果則從29.03%增加到66.31%，翻倍有餘。
該模型在基於工具的任務和一般問答（GPQA）中也表現出色，在推理模式下得分為76.01%，相較於未啟用推理的56.60%。這些基準測試使用最大序列長度為32,000個標記，每項測試重複最多16次以確保準確性。
與最先進的MoE模型DeepSeek R1（擁有6710億個參數）相比，Nvidia的模型雖然參數較少，但表現依然出色。它在GPQA（76.01對71.5）、IFEval指令遵循（89.45對83.3）和LiveCodeBench程式碼任務（66.31對65.9）等任務中超越DeepSeek R1。然而，DeepSeek R1在某些數學評估中略勝一籌，特別是在AIME25（79.8對72.50）和MATH500（97.3對97.00）。
這些結果表明，Nvidia的密集模型在推理和一般指令對齊方面可與MoE模型匹敵或超越，儘管在數學密集型任務中略微落後。
使用與整合
該模型與Hugging Face Transformers庫（建議使用4.48.3版本）無縫整合，並支援最長128,000個標記的序列。開發者可通過系統提示切換推理行為，並根據任務需求選擇解碼策略。對於推理任務，Nvidia建議使用溫度採樣（0.6）並搭配0.95的top-p值，而對於確定性輸出則推薦使用貪婪解碼。
Llama-3.1-Nemotron-Ultra-253B支援多語言應用，包括英語、德語、法語、義大利語、葡萄牙語、印地語、西班牙語和泰語。它適用於各種LLM使用場景，如聊天機器人開發、AI代理工作流程、檢索增強生成（RAG）和程式碼生成。
授權用於商業用途
該模型根據Nvidia開放模型許可證和Llama 3.1社群許可協議發布，適用於商業應用。Nvidia強調負責任AI發展的重要性，敦促團隊評估模型在其特定使用場景中的對齊性、安全性和偏見。
Nvidia的AI模型後訓練總監Oleksii Kuchaiev在X上分享了此次開放發布的興奮心情，強調其2530億密集設計與可切換的推理能力，以及開放權重和數據的包含。
相關文章
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示，極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序，具體說明應撤銷哪些存取權限，以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織，該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高，而 Anthr
OneRail 運用 NVIDIA 人工智慧來優化即時「最後一哩」配送
OneRail 推出了一套採用 Nvidia 技術的人工智慧驅動配送平台，旨在協助零售商、批發商及經銷商為每筆訂單確定最有效的配送方式。據 OneRail 表示，這套名為 OmniSTAR 的系統會評估各種配送管道——包括自有車隊、快遞員、包裹服務及其他物流模式——以找出既符合服務水準協議，又最具成本效益的解決方案。該平台整合了 NVIDIA 的 cuOpt 決策優化引擎與 cuDF 資料處理軟體
馬克·扎克伯格真的相信人工智慧是面向每個人的嗎？
正在載入播放器…Meta 本週推出了 Glimmer，這是一個開源權重的 AI 模型，任何人都可以下載並在個人硬體上執行——這與該公司更強大的模型 Muse Spark 形成了鮮明對比，後者仍鎖定在其自有 API 之後。此次釋出伴隨著馬克·扎克伯格（Mark Zuckerberg）的一封公開信，他在信中主張人工智慧應向所有人開放，而非由少數幾家實驗室控制。但正如 Equity 節目主持人所指出的那樣，這一願景附帶了幾個重要的限制條件。在本期 TechCrunch 的 Equity 播客中，K
相關專題推薦
聊天機器人
最適合面試練習的 AI 對話訓練工具
2026 年最新、最受好評的 AI 面試對話訓練工具，盡在 XIX.AI！這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具，這些工具均經過嚴格的實戰測試，能提供精準的回饋。 您將在此找到免費版與付費版的比較分析，以及詳細的排名榜單，助您挑選必試的選項，從而提升自信與技能。立即探索，發掘助您在面試中脫穎而出的完美工具！
12 個工具
xix.ai
設計與藝術
最適合進行創意實驗的 AI 風格轉移工具
2026 年最新、最佳且評價最高的 AI 風格轉移工具，助您進行創意實驗！XIX.AI 精心精選了一系列強大且具革命性的必試工具，這些工具經實際測試與嚴格評比，能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性，協助創作者顯著提升生產力。 立即探索，找出最適合您的工具，並從今天開始創作吧！
9 個工具
xix.ai
漫畫創作
最適合視覺敘事的 AI 對話氣泡工具
2026 年最新、最受好評的視覺敘事 AI 對話氣泡工具，現已登陸 XIX.AI！這份精心挑選的合集收錄了強大且具顛覆性的工具，能協助創作者提升生產力並突破創作瓶頸。 查看免費版與付費版的比較、參考實際測試結果，並查閱最新排行榜，找出最適合打造引人入勝視覺敘事的必試解決方案。立即探索，發掘您的理想工具！
10 個工具
xix.ai
會議助理
頂尖 AI 會議摘要工具：清晰追蹤決策與後續行動
2026 年最新高評價最佳 AI 會議摘要工具，助您清晰追蹤決策並輕鬆進行後續跟進。這份精選清單展示了一系列強大且具顛覆性的解決方案，透過自動化會議記錄、識別關鍵行動項目，以及簡化所有專案的團隊協作，大幅提升生產力。 獲取免費版與付費版的比較分析，搭配實際測試報告及每週更新的排行榜，助您找到最合適的工具。立即探索，釋放您的 AI 優勢！
9 個工具
xix.ai
數據分析
最佳人工智慧資料清洗工具：快速處理缺失值與重複資料
2026年最新、最優秀且評分最高的AI資料清洗工具，可快速處理缺失值與重複資料問題。這份精心挑選的清單展示了那些功能強大、能帶來顛覆性變革的解決方案，可顯著提升工作效率。所有候選工具都經過了嚴格的實際應用測試，以確保其穩定性。您可以獲取免費版與付費版的對比資訊，找出最符合您需求的必備工具。即刻訪問XIX.AI，開啟您的AI優勢之旅。
11 個工具
xix.ai
設計與藝術
最佳AI創意構思工具，助力藝術家突破視覺瓶頸
2026 年最新最佳頂級評分 AI 創意構思工具由 XIX.AI 精心策劃，旨在幫助創作者突破視覺瓶頸並即時提升創造力。這些強大的變革性工具提供真實世界測試、詳細的免費與付費對比以及每週更新的排名。發現您的完美工具，加速內容創作，並立即釋放您的 AI 優勢。立即探索！
14 個工具
xix.ai
評論 (54)
0/500
![JonathanNelson]()
Интересно, как Nvidia удалось упаковать все эти параметры в модель размером вдвое меньше. Выходит, вложения в архитектуру дают больше преимуществ, чем просто увеличение данных? Хотя, конечно, с учётом их вычислительных ресурсов не стоит удивляться. Что особенно ценно, так это тот факт, что модель открыта. На этом фоне заявления Meta порой звучат слишком громко и с многочисленными оговорками 🤔 Это может изменить правила игры для независимых исследователей!
![CharlesYoung]()
¿Nvidia saca otro modelo open-source más potente que DeepSeek R1? 🤔 Me pregunto si esto realmente marcará una diferencia práctica para los desarrolladores o es solo otra carrera por los números en los benchmarks. ¡253 mil millones de parámetros parece excesivo!
![DouglasMartínez]()
Nvidia's new model sounds like a beast! Half the size of DeepSeek R1 but still outperforms it? That's wild efficiency. Can't wait to see how devs play with this open-source gem! 🚀
![StephenRoberts]()
Nvidia's new model sounds like a beast! Half the size of DeepSeek R1 but still outshines it? That's some serious tech flex. Can't wait to see how devs play with this open-source gem! 😎
![AnthonyRoberts]()
Nvidia's new Llama-3.1 Nemotron Ultra is a beast! It's amazing how it outperforms DeepSeek R1 with half the size. I've been using it for my projects and the results are incredible. Just wish it was a bit faster, but overall, a solid choice! 🚀
![JohnRoberts]()
¡El Llama-3.1 Nemotron Ultra de Nvidia es impresionante! Supera al DeepSeek R1 con la mitad del tamaño, lo cual es alucinante. Lo he estado usando en mis proyectos y es súper eficiente. Lo único es que puede ser un poco complicado de configurar. Aún así, una excelente opción para quien busque un LLM potente. 🚀
當Meta正因其最新的Llama 4模型家族受到審查時，Nvidia已悄然推出基於Meta早期Llama-3.1-405B-Instruct模型的新款完全開源大型語言模型（LLM）。此模型名為Llama-3.1-Nemotron-Ultra-253B-v1，擁有2530億個參數，專為高級推理、指令遵循和AI助手工作流程而設計。Nvidia在三月舉行的年度GPU技術會議（GTC）上首次暗示了此模型。
此次發布凸顯了Nvidia通過架構創新和細緻的後訓練過程持續提升性能的承諾。該模型於2025年4月7日宣布，其程式碼、權重和後訓練數據現已在Hugging Face上免費提供。該模型設計為可根據系統提示在複雜推理任務和簡單輸出之間無縫切換，為開發者提供應用上的靈活性。
專為高效推理設計
基於Nvidia在優化LLM推理方面的先前努力，Llama-3.1-Nemotron-Ultra-253B採用了神經架構搜尋（NAS）過程來優化其架構。這包括創新的功能，如跳躍注意力層、融合前饋神經網絡（FFNs）和可變FFN壓縮比率。這些修改降低了模型的記憶體使用量和計算需求，使其可在單個8x H100 GPU節點上部署，而不影響輸出品質。
Nvidia聲稱此模型在資料中心部署中提供強大性能且成本效益高。它與Nvidia的B100和Hopper微架構相容，並已在BF16和FP8精度模式下進行測試。
後訓練以增強推理和對齊
該模型經歷了全面的後訓練過程，包括在數學、程式碼生成、聊天和工具使用等多個領域進行監督微調，隨後使用群組相對策略優化（GRPO）進行強化學習，以增強其指令遵循和推理能力。
進一步的精煉來自於對650億個標記的知識蒸餾階段，以及在額外880億個標記上的持續預訓練。訓練數據來源包括FineWeb、Buzz-V1.2和Dolma，後訓練提示和回應則來自公開語料庫和合成生成方法。這種方法幫助模型區分其推理模式。
在多個領域和基準測試中提升性能
啟用推理功能後，該模型在多個基準測試中顯示出顯著改進。例如，在MATH500基準測試中，其性能從標準模式的80.40%飆升至推理啟用後的97.00%。同樣，AIME25分數從16.67%躍升至72.50%，LiveCodeBench結果則從29.03%增加到66.31%，翻倍有餘。
該模型在基於工具的任務和一般問答（GPQA）中也表現出色，在推理模式下得分為76.01%，相較於未啟用推理的56.60%。這些基準測試使用最大序列長度為32,000個標記，每項測試重複最多16次以確保準確性。
與最先進的MoE模型DeepSeek R1（擁有6710億個參數）相比，Nvidia的模型雖然參數較少，但表現依然出色。它在GPQA（76.01對71.5）、IFEval指令遵循（89.45對83.3）和LiveCodeBench程式碼任務（66.31對65.9）等任務中超越DeepSeek R1。然而，DeepSeek R1在某些數學評估中略勝一籌，特別是在AIME25（79.8對72.50）和MATH500（97.3對97.00）。
這些結果表明，Nvidia的密集模型在推理和一般指令對齊方面可與MoE模型匹敵或超越，儘管在數學密集型任務中略微落後。
使用與整合
該模型與Hugging Face Transformers庫（建議使用4.48.3版本）無縫整合，並支援最長128,000個標記的序列。開發者可通過系統提示切換推理行為，並根據任務需求選擇解碼策略。對於推理任務，Nvidia建議使用溫度採樣（0.6）並搭配0.95的top-p值，而對於確定性輸出則推薦使用貪婪解碼。
Llama-3.1-Nemotron-Ultra-253B支援多語言應用，包括英語、德語、法語、義大利語、葡萄牙語、印地語、西班牙語和泰語。它適用於各種LLM使用場景，如聊天機器人開發、AI代理工作流程、檢索增強生成（RAG）和程式碼生成。
授權用於商業用途
該模型根據Nvidia開放模型許可證和Llama 3.1社群許可協議發布，適用於商業應用。Nvidia強調負責任AI發展的重要性，敦促團隊評估模型在其特定使用場景中的對齊性、安全性和偏見。
Nvidia的AI模型後訓練總監Oleksii Kuchaiev在X上分享了此次開放發布的興奮心情，強調其2530億密集設計與可切換的推理能力，以及開放權重和數據的包含。
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示，極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序，具體說明應撤銷哪些存取權限，以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織，該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高，而 Anthr
OneRail 運用 NVIDIA 人工智慧來優化即時「最後一哩」配送
OneRail 推出了一套採用 Nvidia 技術的人工智慧驅動配送平台，旨在協助零售商、批發商及經銷商為每筆訂單確定最有效的配送方式。據 OneRail 表示，這套名為 OmniSTAR 的系統會評估各種配送管道——包括自有車隊、快遞員、包裹服務及其他物流模式——以找出既符合服務水準協議，又最具成本效益的解決方案。該平台整合了 NVIDIA 的 cuOpt 決策優化引擎與 cuDF 資料處理軟體
馬克·扎克伯格真的相信人工智慧是面向每個人的嗎？
正在載入播放器…Meta 本週推出了 Glimmer，這是一個開源權重的 AI 模型，任何人都可以下載並在個人硬體上執行——這與該公司更強大的模型 Muse Spark 形成了鮮明對比，後者仍鎖定在其自有 API 之後。此次釋出伴隨著馬克·扎克伯格（Mark Zuckerberg）的一封公開信，他在信中主張人工智慧應向所有人開放，而非由少數幾家實驗室控制。但正如 Equity 節目主持人所指出的那樣，這一願景附帶了幾個重要的限制條件。在本期 TechCrunch 的 Equity 播客中，K
2026 年最新、最受好評的 AI 面試對話訓練工具，盡在 XIX.AI！這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具，這些工具均經過嚴格的實戰測試，能提供精準的回饋。 您將在此找到免費版與付費版的比較分析，以及詳細的排名榜單，助您挑選必試的選項，從而提升自信與技能。立即探索，發掘助您在面試中脫穎而出的完美工具！
12 個工具
xix.ai
2026 年最新、最佳且評價最高的 AI 風格轉移工具，助您進行創意實驗！XIX.AI 精心精選了一系列強大且具革命性的必試工具，這些工具經實際測試與嚴格評比，能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性，協助創作者顯著提升生產力。 立即探索，找出最適合您的工具，並從今天開始創作吧！
9 個工具
xix.ai
2026 年最新、最受好評的視覺敘事 AI 對話氣泡工具，現已登陸 XIX.AI！這份精心挑選的合集收錄了強大且具顛覆性的工具，能協助創作者提升生產力並突破創作瓶頸。 查看免費版與付費版的比較、參考實際測試結果，並查閱最新排行榜，找出最適合打造引人入勝視覺敘事的必試解決方案。立即探索，發掘您的理想工具！
10 個工具
xix.ai
2026 年最新高評價最佳 AI 會議摘要工具，助您清晰追蹤決策並輕鬆進行後續跟進。這份精選清單展示了一系列強大且具顛覆性的解決方案，透過自動化會議記錄、識別關鍵行動項目，以及簡化所有專案的團隊協作，大幅提升生產力。 獲取免費版與付費版的比較分析，搭配實際測試報告及每週更新的排行榜，助您找到最合適的工具。立即探索，釋放您的 AI 優勢！
9 個工具
xix.ai
2026年最新、最優秀且評分最高的AI資料清洗工具，可快速處理缺失值與重複資料問題。這份精心挑選的清單展示了那些功能強大、能帶來顛覆性變革的解決方案，可顯著提升工作效率。所有候選工具都經過了嚴格的實際應用測試，以確保其穩定性。您可以獲取免費版與付費版的對比資訊，找出最符合您需求的必備工具。即刻訪問XIX.AI，開啟您的AI優勢之旅。
11 個工具
xix.ai
2026 年最新最佳頂級評分 AI 創意構思工具由 XIX.AI 精心策劃，旨在幫助創作者突破視覺瓶頸並即時提升創造力。這些強大的變革性工具提供真實世界測試、詳細的免費與付費對比以及每週更新的排名。發現您的完美工具，加速內容創作，並立即釋放您的 AI 優勢。立即探索！
14 個工具
xix.ai
Интересно, как Nvidia удалось упаковать все эти параметры в модель размером вдвое меньше. Выходит, вложения в архитектуру дают больше преимуществ, чем просто увеличение данных? Хотя, конечно, с учётом их вычислительных ресурсов не стоит удивляться. Что особенно ценно, так это тот факт, что модель открыта. На этом фоне заявления Meta порой звучат слишком громко и с многочисленными оговорками 🤔 Это может изменить правила игры для независимых исследователей!
¿Nvidia saca otro modelo open-source más potente que DeepSeek R1? 🤔 Me pregunto si esto realmente marcará una diferencia práctica para los desarrolladores o es solo otra carrera por los números en los benchmarks. ¡253 mil millones de parámetros parece excesivo!
Nvidia's new model sounds like a beast! Half the size of DeepSeek R1 but still outperforms it? That's wild efficiency. Can't wait to see how devs play with this open-source gem! 🚀
Nvidia's new model sounds like a beast! Half the size of DeepSeek R1 but still outshines it? That's some serious tech flex. Can't wait to see how devs play with this open-source gem! 😎
Nvidia's new Llama-3.1 Nemotron Ultra is a beast! It's amazing how it outperforms DeepSeek R1 with half the size. I've been using it for my projects and the results are incredible. Just wish it was a bit faster, but overall, a solid choice! 🚀
¡El Llama-3.1 Nemotron Ultra de Nvidia es impresionante! Supera al DeepSeek R1 con la mitad del tamaño, lo cual es alucinante. Lo he estado usando en mis proyectos y es súper eficiente. Lo único es que puede ser un poco complicado de configurar. Aún así, una excelente opción para quien busque un LLM potente. 🚀
