PCDIY!業界新聞
NVIDIA 擴大其在人工智慧推論效能的領先優勢,首度公布在 Arm 架構伺服器上的測試結果
(本資訊由廠商提供,不代表PCDIY!立場) 2021-09-24 09:31:04最新的 MLPerf 基準測試結果證明,NVIDIA 已將其在人工智慧推論的效能與能源效率表現擴大至 Arm 與 x86 架構的電腦上
根據今天公布的基準測試結果,NVIDIA 在使用 x86 或 Arm 架構的 CPU 進行人工智慧 (AI) 推論方面取得最佳成績。
這是 NVIDIA 連續第三度在 MLCommons 的推論測試中,創下效能及能源效率的紀錄。MLCommons 是 2018 年 5 月成立的產業基準測試小組。
這也是資料中心類別首次在 Arm 架構系統上進行測試,讓用戶在部署當今最具變革的 AI 技術時,擁有更多的選擇。
比較結果
搭載 NVIDIA AI 平台的電腦在最新一輪的七項推論效能測試中均拔得頭籌,這些系統由 NVIDIA 及九個商業生態系合作夥伴所推出,包含阿里巴巴、戴爾科技 (Dell Technologies)、富士通 (Fujitsu)、技嘉 (GIGABYTE)、慧與科技 (Hewlett Packard Enterprise)、浪潮 (Inspur)、聯想 (Lenovo)、Nettrix 及美超微 (Supermicro)。NVIDIA 也是唯一一間公布本輪及迄今每一輪 MLPerf 測試結果的公司。
推論是電腦運行 AI 軟體來辨識物體或進行預測時發生的過程。這是一個使用深度學習模型來篩選資料的過程,以找出人類無法取得的結果。
MLPerf 的推論基準是基於當今最熱門的 AI 作業負載和情境,涵蓋電腦視覺、醫療影像、自然語言處理、推薦系統與強化學習等。因此,不論用戶部署哪些 AI 應用程式,皆能透過 NVIDIA 的技術創下自己的紀錄。
為何效能如此重要
隨著 AI 的應用場景從資料中心擴大到邊緣和其它地方,AI 模型及資料集的規模持續擴大。這正是為什麼用戶在進行部署時,需要同時兼具可靠性與靈活性的效能的原因。MLPerf 讓用戶有信心地做出購買決策。在包括阿里巴巴、Arm、百度、Google、英特爾 (Intel) 及 NVIDIA 等數十家產業領導者的支持下,提出透明且客觀的測試結果。
具彈性的 Arm 架構適用於企業人工智慧
全球各地的資料中心採用 Arm 架構系統的比例越來越高,部分原因在於其能源效率及效能方面的提升,以及不斷擴大的軟體生態系。最新的基準測試結果證明,作為一個 GPU 加速平台,採用 Ampere Altra CPU 的 Arm 架構伺服器在 AI 推論作業方面,提供與類似配置之 x86 架構伺服器幾乎相同的效能表現。事實上,在其中一項測試中,Arm 架構伺服器的表現甚至優於類似的 x86 架構系統。
NVIDIA 一直以來支援各種 CPU 架構,因此我們很高興看到 Arm 在同行審議的產業基準中,證明其在 AI 方面的實力。
Arm 高效能運算與開發工具部門資深總監 David Lecomber 表示:「作為 MLCommons 的創始成員,Arm 始終致力於發展各項標準和基準,以更好地因應加速運算產業的挑戰並激發創新。在最新的推論結果中可以看到,搭載 Arm 架構的 CPU 及 NVIDIA GPU 的 Arm 架構系統,已準備好處理各種資料中心的 AI 作業負載。」
合作夥伴展現其在人工智慧領域的堅強實力
NVIDIA 的 AI 技術有著龐大且不斷成長的商業生態系作為後盾。在最新的基準測試中,7 家 OEM 業者共提交 22 個 GPU 加速平台。當中多數伺服器機型均取得 NVIDIA 認證,證明可用於運行各種加速作業負載;其中也有許多伺服器支援上個月正式推出的 NVIDIA AI Enterprise 軟體。有參與本輪測試的合作夥伴包括戴爾科技、富士通、慧與科技、浪潮、聯想、Nettrix 及美超微,以及雲端服務供應商阿里巴巴。
軟體實力
NVIDIA 的 AI 技術在各種應用場景中皆取得成功的關鍵因素,便是因為擁有完整的軟體堆疊。像是我們擁有針對各種應用場景進行預先訓練的 AI 推論模型。NVIDIA TAO 工具套件利用遷移學習 (transfer learning) 為特定應用項目量身打造模型。
我們的 NVIDIA TensorRT 軟體針對 AI 模型進行最佳化調整,以善加利用記憶體並提高運行速度。我們經常將它用來進行 MLPerf 測試,其可用於 x86 和 Arm 架構的系統。
我們也在這些基準測試中使用 NVIDIA Triton 推論伺服器軟體和多執行個體 GPU (MIG) 功能。它們為所有開發人員提供通常需要專家級程式碼開發人員才能達到的效能表現。
由於 NVIDIA 不斷改善此軟體堆疊,與四個月前的 MLPerf 推論基準測試結果相比,其效能提升 20%,而能源效率亦上升 15%。
我們在最新基準測試中使用的各項軟體可以在 MLPerf 資源庫中取得,且任何人皆可複製重現我們的基準測試結果。我們會持續將這些程式碼加入深度學習框架和容器中,在我們的 GPU 應用程式軟體中心 NGC 中便能取得這些框架和容器。
其為完整堆疊 AI 產品的一部分,支援每一種主要的處理器架構、通過最新產業基準測試的認證,並可用於處理當今真正的 AI 作業。
- 發表您的看法
請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。
請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。
請勿侵犯個人隱私權,將他人資料公開張貼在留言版內。
請勿重複留言(包括跨版重複留言)或發表與各文章主題無關的文章。
請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。
您在留言版發表的內容需自負言論之法律責任,所有言論不代表PCDIY!雜誌立場,違反上述規定之留言,PCDIY!雜誌有權逕行刪除您的留言。
最近新增
- 飛利浦Sonicare x 鳳小岳 質感生活講座 不藏私分享與「她」的日常 就像AI般完美
- 宏碁打造全新顯示器產品線 《Acer CS2 》智慧型螢幕系列正式問世! 搭載WebOS、Airplay無線投影、相容多元影音串流平台 創造新型態工作與娛樂IoT生活
- Meta 推出目前最強大的開放式大型語言模型 Meta Llama 3
- LG以行動實踐「Better Life for All」品牌永續願景 世界地球日推「日常小事愛地球」社群活動 號召大眾即刻行動
- 神庭幻諭 聖墟聆音 《奇迹暖暖》精美故事套裝限時推出
- 十銓科技發表 TEAMGROUP MP44Q M.2 PCIe 4.0 固態硬碟 大容量新趨勢 成就高效辦公
- 世界地球日 Acer Vero AI筆電開賣 宏碁啟動永續計畫 NB電池舊換新優惠開跑
- 群聯攜手研華 共同打造邊緣運算與工控應用之生成式AI平台
- EDIFIER 推出 Comfo Run 開放式運動耳機 氣傳導耳機升級長時間配戴舒適度 邀請大家動起來!享受 EDIFIER 高品質音效 走出戶外創造健康生活
- 迎廣ModFree 系列榮獲2024德國紅點設計獎
- 全新 NVIDIA RTX A400 和 A1000 GPU 增強人工智慧驅動的設計和生產力工作流程 兩款 GPU 基於 NVIDIA Ampere 架構,可為每個工作站提供即時光線追蹤並支援生成式人工智慧工具
- 平板新選擇!Acer 平板電腦Iconia Tab M10 LTE 上市開賣 支援4G LTE通話、10.1吋IPS廣視角螢幕、8核心處理器 自在連線不中斷
最多人點閱
- Microsoft Azure Certified for IoT 快速打造智慧物聯網
- 美光與希捷宣布成立策略聯盟 兩大產業龍頭攜手 結合美光NAND型快閃記憶體與希捷的儲存技術
- SP廣穎電通將於德國2015 Embedded World展示全方位工控系列產品
- 電腦每天開!電費多驚人?世界地球日 用APP隨時關機
- 英特爾舉辦亞洲區創新高峰會 促進台灣與全亞洲產業體系的創新發展
- IEM於台北國際電玩展熱血開打,購買Intel Core i5/i7處理器系列+SSD 750即得限量好禮
- 深根台灣成就萬物相聯 2015 ARM®新竹辦公室擴大營運暨亞洲第一座CPU設計中心開幕
- AMD發表全球首款GPU硬體虛擬化產品線
- AMD推出全球首款業界領先的32GB記憶體伺服器GPU 瞄準高效能運算
- AMD推出全新Catalyst 15.7驅動程式 讓AMD APU及GPU充分展現Windows®10直覺化體驗
- PLEXTOR感恩節大回饋,M6V卡禮來雙重送!
- 希捷科技:2016年六大科技趨勢