NVIDIA 在 MLPerf Training v5.1 基準測試中全面奪冠 NVIDIA Blackwell Ultra 搭配 NVFP4 技術，為大型語言模型訓練帶來突破性躍進

ITMan!資訊新聞 PCDIY!業界新聞

NVIDIA 在 MLPerf Training v5.1 基準測試中全面奪冠 NVIDIA Blackwell Ultra 搭配 NVFP4 技術，為大型語言模型訓練帶來突破性躍進

文．圖／張國華 2025-11-14 13:40:08

在人工智慧（AI）推理的時代，訓練更聰明、更強大的模型對於擴展智慧而言至關重要。為了滿足這個新時代的強大效能需求，需要在GPU、CPU、網路介面卡（NIC）、網路的垂直擴展（scale-up）和水平擴展（scale-out）、系統架構，以及大量的軟體和演算法等方面取得突破性進展。

NVIDIA在MLPerf Training v5.1中橫掃全部七項測試，於大型語言模型（LLM）、圖像生成、推薦系統、電腦視覺和圖像神經網路等領域均創下最快的訓練速度。MLPerf Training v5.1為持續多年舉辦的AI訓練效能業界基準測試中最新一輪。

NVIDIA亦是唯一在所有測試項目中都提交結果的平台，彰顯NVIDIA GPU強大的可程式化特性，以及其CUDA軟體堆疊的成熟度和通用性。

NVIDIA Blackwell Ultra再寫佳績

基於NVIDIA Blackwell Ultra GPU架構的GB300 NVL72機架級系統在本輪MLPerf Training測試中首次亮相，在此之前該系統已在最新一輪MLPerf Inference測試中創下紀錄。

與上一代Hopper架構相比，基於Blackwell Ultra的GB300 NVL72在相同數量的GPU下，Llama 3.1 405B預訓練的效能提升了4倍以上，Llama 2 70B LoRa微調效能增加了近5倍。

這些效能提升得益於Blackwell Ultra的架構躍進，包括具備15 petaflops NVFP4 AI運算能力的全新Tensor Core、2倍的注意力層運算能力，以及279GB的HBM3e記憶體，同時結合全新的訓練方法，充分釋放該架構龐大的NVFP4運算效能。

用於連接多組GB300 NVL72系統，且為業界首款端到端 800 Gb/s 垂直擴展網路平台的NVIDIA Quantum-X800 InfiniBand平台，也在MLPerf測試首度亮相，其橫向擴展網路頻寬較前一代提升1倍。

釋放效能：NVFP4加速大型語言模型訓練

NVIDIA於本輪取得卓越成果的關鍵，在於採用NVFP4精度進行運算，這也是MLPerf Training歷史上的首次創舉。

提升運算效能的其中一個方法，是打造能以較少位元表示資料並進行運算的架構，並以更快的速度執行這些計算。然而，精度降低意味著每次計算可用的資訊量減少，因此在訓練過程中使用低精度計算需要謹慎設計決策，以確保結果的準確性。

NVIDIA 團隊在每一層技術堆疊都進行了創新，以將FP4精度應用於大型語言模型訓練。NVIDIA Blackwell GPU可執行FP4計算，包括NVIDIA設計的NVFP4格式及其他FP4變體，計算速度是FP8的兩倍。Blackwell Ultra更將此效能提升至3倍，使GPU得以提供更強大的AI運算效能。

NVIDIA 是迄今為止唯一一個在滿足基準測試嚴格精度要求的同時，使用 FP4 精度進行計算並提交 MLPerf 訓練結果的平台。

NVIDIA Blackwell突破擴展效能

NVIDIA憑藉逾5,000顆Blackwell GPU的高效協同運作，在Llama 3.1 405B測試中創下了僅需10分鐘訓練時間的全新紀錄。這項成績較上一輪基於Blackwell的最佳成績高出2.7倍，歸功於GPU數量增加至原先2倍以上的高效擴展，以及採用NVFP4精度大幅提升每顆Blackwell GPU的有效效能。

為說明每顆GPU的效能提升幅度，NVIDIA本輪提交採用2,560顆Blackwell GPU的測試結果，訓練耗時縮短至18.79分鐘，較上一輪採用2,496顆GPU的提交方案快上45%。

全新基準測試，全新效能紀錄

NVIDIA在本輪新增的兩項基準測試中同樣創下效能紀錄，包括Llama 3.1 8B與FLUX.1。

Llama 3.1 8B 是一款精巧卻功能強大的大型語言模型，取代了長期運行的BERT-large模型，為基準測試套件增添更現代化、更小的大型語言模型。NVIDIA使用多達512顆Blackwell Ultra GPU提交了測試結果，創下僅需 5.2分鐘即可完成訓練的紀錄。

此外，FLUX.1是一款先進的圖像生成模型，取代了Stable Diffusion v2，且只有NVIDIA平台提交了該基準測試的結果。NVIDIA使用1,152個Blackwell GPU提交的測試結果，創下將訓練時間縮短至12.5分鐘的新紀錄。

NVIDIA 持續保持現有圖像神經網路、目標偵測和推薦系統測試的紀錄。

廣泛且深度的夥伴生態系

NVIDIA生態系在本輪測試中展現積極參與度，共計15個機構提交了令人矚目的成果，其中包括華碩、戴爾科技集團、技鋼科技、HPE、Krai、Lambda、聯想集團、Nebius、雲達科技、Supermicro、佛羅里達大學、Verda（原DataCrunch）和緯穎。

NVIDIA以一年為週期持續創新，在預訓練、後訓練及推論階段推動顯著且快速的效能提升，為邁向全新層級的智慧鋪路，加速AI普及化。

如欲了解更多NVIDIA的效能資料，請參閱NVIDIA資料中心深度學習產品效能中心和Performance Explorer頁面。

→更多的【PCDIY!業界新聞】：請見

→更多的【PCDIY!賣場情報】：請見

→更多的【PCDIY!科技情報】：請見

→更多的【IT資訊新聞】：請見

→更多的【ITMan!資訊經理人】：請見

→更多的【PCDIY!八卦】：請見

延伸閱讀

資料很貴的！叫你備份不聽！你知道硬碟故障資料救援：「救個資料，報價『3萬8』嗎？」

「黑心電源供應器」大爆發！大家可要小心一點阿！太恐怖了啦!!!

什麼！硬碟大廠Seagate，最新的行銷活動廣告，裡面居然出現：「我也不想當『死雞』隊友啊.................」

電腦展的話，不少人是醉翁之意不在酒，不是去看電腦展，而是去看妹展的！到底看妹，是要怎麼看呢？

磁碟陣列要選RAID 5還是RAID 6？有需要再用Hot spare嗎？這是一個好問題！

硬碟世界最「狂」記錄：「威騰WD RE 3TB硬碟驚爆鬧機瘟，48顆就壞25顆，死亡率高達52.08%...................」

什麼終身保固？網友說：「覺得被騙了！」終身保固≠終身換新≠終生免費，你覺得呢？

淘寶網帶來的跨境電商價格戰，對光華商場來說，是新危機？還是新轉機？

珍惜生命，遠離(成為)工具人

這邊有批8核心16執行緒CPU好便宜啊!!!

硬碟故障資料救援，等了一年八個月...

隨著香港電訊、日本So-net寬頻上網業者，陸續提供10G光纖上網，讓玩家與專業用戶享受高速上網的極速快感。反觀我們台灣，中華電信HiNet還在供裝光世代500M/250M與光世代1G/600M，可以說：「人家都上太空，我們還在殺豬公!!!」

高雄建國電腦商場，周圍稱為建國電腦商圈、建國3C商圈，爆發了倒店潮。網友議論紛紛，有的玩家認為跟原價屋有關，認為原價屋是殺手，真的是這樣嗎？

這個店家，讓各地店員嗆不爽去台北買這句話，從此走入歷史！

批踢踢實業坊PTT，這幾天有個網友PO文：「[請益] 約200T的貯存方案(預算10W～20W)」

高科技竹筷來啦！

SSD熱賣，玩家的最終看法：「用過，就回不去了！」

DDR4記憶體金手指歪掉惹..................

中國來的「360安全衛士防毒軟體」，「360安全卫士」這次獲得教授認證了！教授認證的「神防毒軟體」，這到底是「教授級防毒軟體」，還是防毒軟體是「會叫的野獸？」

電腦機殼破萬，是在搞什麼東西呢？

硬碟容量那麼大，玩家與專業用戶都在存什麼東西呢？原來答案是：「硬碟就是要裝謎片阿不然要幹嘛！」

什麼？Windows XP作業系統，還有老玩家在用呀！沒錯，真的是令人驚呆了！而且，這些玩家，宣稱：「打死不退、寧死不屈」，堅信：「再戰十年」

更多焦點

發表您的看法: 請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。; 請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。; 請勿侵犯個人隱私權，將他人資料公開張貼在留言版內。; 請勿重複留言（包括跨版重複留言）或發表與各文章主題無關的文章。; 請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。; 您在留言版發表的內容需自負言論之法律責任，所有言論不代表PCDIY!雜誌立場，違反上述規定之留言，PCDIY!雜誌有權逕行刪除您的留言。

焦點