NVIDIA的GTC 2022年度大會已經正式展開，本次老黃持續在伺服器和AI學習領域進攻，以電腦科學家先驅Grace Murray Hopper作為命名參考，帶來了Hopper架構的GPU晶片、Grace架構的CPU晶片和將兩者結合的Grace Hopper超級晶片。

Hopper GPU

新的Hopper GPU將採台積電的4nm製程，首個產品將命名為NVIDIA H100，透過更精密的製程技術，這一次晶片的電晶體數量上看800億個！同時H100還配有HBM3記憶體，擁有高達3TB/s驚人記憶體傳輸頻寬，更是NVIDIA首個支援PCIe 5.0通道的產品。



此外，官方還為H100加入了新的Transformer Engine與第四代NVIDIA NVLink多GPU串聯技術，效能更是比上一代的A100高出一倍，擁有FP8 4,000 TFLOPS、FP16 2,000 TFLOPS、FP64 60 TFLOPS、TF32 1,000 TFLOPS的運算能力，不過功耗相對也相當失控，TDP來到誇張的700W，等於必須接上兩條PCIe 5.0的16 Pin電源線才行…



這次為H100為了主攻AI、基因研究、深度學習等高複雜運算需求的領域，除了加入Transformer Engine來提升深度學習的效率外，還新增了「DPX指令」能夠來大幅提昇Route Optimization、Genomics、Floyd-Warshall等多種複雜演算法的執行效率，具NVIDIA表示能夠比自家上一代GPU產品快上7倍，比用CPU運算快上40倍。

H100因應不同運算領域的需求，將會推出多出型態的版本，包含SXM和PCIe尺寸，更推出了將8顆H100晶片組合起來的DGX H100系統，擁有高達640GB的超巨大HBM3記憶體和高達32 PFLOPS(約32,000TFOLPS)的運算能力，還配有 2個 BlueField-3 DPU作為卸除、加速、隔離、儲存與安全服務等功能。



如果覺得還不夠，NVIDIA還再向上推出推出了NVIDIA SuperPOD快速擴充套件，可以一口氣連接576套DGX H100系統，讓總計4,608張H100一同運作，構成擁有18.4 exaFLOPS (18,400,000 TFLOPS) NVIDIA EOS系統。

H100晶片預計在今年Q3的時候開始出貨。

Grace CPU

雖然說NVIDIA收購Arm公司以失敗收場，但這並不妨礙老黃打造ARM架構CPU的決心，新的Grace CPU透過NVLink-C2C技術連接144顆支援Arm V9指令集的核心，並擁有1TB/s的超大記憶體傳輸頻寬。



不僅如此，Grace CPU也是第一款能夠支援ECC錯誤校正功能LPDDR5X記憶體的處理器，加上ARM架構的省電優勢，預計在500W的功耗下能夠帶來比AMD、Intel同級產品的2倍效能，甚至在同樣都搭在DGX-GPU系統的條件下，更能比x86架構伺服器快上10倍之多，同時透過NVLINK C2C連接技術，能夠快速擴充NVIDIA處理器和顯示卡，解決ARM架構設備擴充性不佳的難點。

Grace Hopper超級晶片

NVIDIA現在已經接近AMD，有了自己的CPU和GPU，官方也決定要在伺服器市場打造自己的「3N平台」，將Grace CPU和Hopper GPU結合，打造出了Grace Hopper超級晶片(SUPERCHIPS)



Grace Hopper讓GPU和CPU共用驚人的600GB記憶體，且記憶體頻寬比上一代DGX A100高出30倍，再外加NVLINK技術提供900GB/s的周邊裝置的連接頻寬，能夠比PCIe 5.0高出7倍的傳輸效率。

Grace Hopper超級晶片將全部使用NVIDIA自有軟體開發套件和平台，包含NVIDIA HPC、NVIDIA AI、NVIDIA Omniverse、NVIDIA Computing Stack。不過這個產品不會在短期內上市，預計要等到2023年的年中才會真的推向伺服器市場。


★快來追蹤/加入我們!!!
FB玩家社團：PCDIY!玩家FB社團
Instagram頻道：pcdiytw