PCDIY!業界新聞
AMD在高效能運算與AI訓練的30x25能源效率目標進展順利
(本資訊由廠商提供,不代表PCDIY!立場) 2022-05-18 10:04:08
AMD(NASDAQ:AMD)在去年宣布30x25目標,計劃在2025年之前,用於人工智慧(AI)訓練與高效能運算(HPC)應用的處理器能源效率將提升30倍。目前這計畫正順利進行中,透過使用搭載一個AMD第3代EPYC CPU與四個AMD Instinct MI250x GPU的加速運算節點,在2020年的基準水平上將能源效率提升6.79倍。
隨著越來越多裝置成為「智慧裝置」,包括具備網路功能並通常配備攝影機的嵌入式處理器,資料創造量正在以指數級的速度呈現爆炸式增長。AI與HPC正在改變運算領域,以分析如此龐大的資料,從而實現更高品質的分析、自動化服務、增強的安全性以及更多其他優勢。然而當前的挑戰是,如此龐大規模的先進運算所需要消耗的能源與日俱增。
AMD執行副總裁暨技術長Mark Papermaster指出,作為開發高效能處理器以應對全球要求最嚴苛的分析應用的領導者,AMD在產品研發過程中將能源效率列為優先要務。我們著手在架構、封裝、連接性以及軟體進行全方位的功耗優化設計,旨在降低成本、保護自然資源以及減緩對氣候造成衝擊。
AMD將能源效率列為優先要務,在2014年自發性制定了目標,在2020年前將行動處理器的典型能源效率提高25倍。AMD不僅達成了這項目標,甚至達到31.7倍的提升幅度。
去年AMD宣布一項新願景-30x25目標-在2025年之前,加速資料中心運算節點的能源效率將在2020年的基礎上提升30倍註1。採用AMD EPYC™ CPU與AMD Instinct™加速器的節點設計旨在因應AI訓練與HPC應用等領域中全球成長最快的運算需求。這些應用對於氣象預測、基因體學、藥物研發等科學研究,以及訓練執行語音辨識、語言翻譯以及專家推薦系統的AI類神經網路至關重要。透過架構創新,AMD針對加速運算節點的應用優化能源消耗量。
AMD深知提高資料中心效率可以幫助減少溫室氣體排放並提高環境可持續性。例如,若全球所有AI與HPC伺服器節點都能達到類似的效率提升,預計在2021至2025年期間,對比業界基準趨勢可節省高達510億千瓦小時(kWh)的電力,相當於節省62億美元的電費支出,減少的碳排相當於6億棵成長10年的樹木所吸納的碳排註2。
要在2025年達成提升30倍的目標,意謂著AMD加速運算節點完成單次運算的能源要比2020年降低97%。為了實現這一目標,AMD運算節點能源效率的提升速度必須比2015至2020年期間整個產業的提升速度快2.5倍註3。
註1:包含AMD高效能CPU與GPU加速器,用來運行AI訓練與高效能運算作業,組建成4加速器的CPU主機托管組態。目標運算是根據效能跑分,使用標準效能量測程式(HPC: Linpack DGEMM kernel FLOPS,使用4k矩陣。AI訓練:以低精準度訓練的浮點數學運算GEMM矩陣乘法,像是FP16或BF16 FLOPS,使用4k矩陣)再除以代表加速運算節點的額定功耗,包括CPU與記憶體,以及4個GPU加速器。
註2:該情境係根據所有AI與HPC伺服器節點,達成類似AMD提升30倍的提升,在2021至2025年累計省下514億千瓦小時的電力,對比基準為2020年趨勢。每kwh電費為0.12美分x 514億kwh =6200萬美元。二氧化碳排放公噸數以及估計的植樹量,係根據在美國環保署溫室氣體當量計算器輸入資料所算出的省電數據,2021年12月1日。https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator。
註3:根據2015至2020年能源效率提升的業界趨勢,以及2025年資料中心的能源消耗。
註4:計算包括1)使用Koomey Analytics分析現有研究成果與資料,進行2025年基準kWhr用電量預測,包括特定領域的預測,推估2025年部署量與資料中心耗電效率(PUE),包括GPU HPC與機器學習(ML)安裝,以及2) AMD CPU插槽與GPU節點的功耗,包括特定領域的使用量(運行與閒置)比例,然後再乘以PUE,算出實際總耗能,再以此數據來計算每瓦效能。
6.79x =(基準HPC 節點kWhr 的2025年耗電預測x AMD 2022 年每瓦效能的改進,使用DGEMM與一般耗電+ 基準機器學習節點kWhr 的2025年耗電預測*AMD 2022 每瓦效能改進,使用機器學習數學計算與一般耗電數據)/(2020 每瓦效能* 2025年基準預測kWhr 數據)。如欲瞭解有關目標與方法的詳細資訊,敬請參閱https://www.amd.com/en/corporate-responsibility/data-center-sustainability。
隨著越來越多裝置成為「智慧裝置」,包括具備網路功能並通常配備攝影機的嵌入式處理器,資料創造量正在以指數級的速度呈現爆炸式增長。AI與HPC正在改變運算領域,以分析如此龐大的資料,從而實現更高品質的分析、自動化服務、增強的安全性以及更多其他優勢。然而當前的挑戰是,如此龐大規模的先進運算所需要消耗的能源與日俱增。
AMD執行副總裁暨技術長Mark Papermaster指出,作為開發高效能處理器以應對全球要求最嚴苛的分析應用的領導者,AMD在產品研發過程中將能源效率列為優先要務。我們著手在架構、封裝、連接性以及軟體進行全方位的功耗優化設計,旨在降低成本、保護自然資源以及減緩對氣候造成衝擊。
AMD將能源效率列為優先要務,在2014年自發性制定了目標,在2020年前將行動處理器的典型能源效率提高25倍。AMD不僅達成了這項目標,甚至達到31.7倍的提升幅度。
去年AMD宣布一項新願景-30x25目標-在2025年之前,加速資料中心運算節點的能源效率將在2020年的基礎上提升30倍註1。採用AMD EPYC™ CPU與AMD Instinct™加速器的節點設計旨在因應AI訓練與HPC應用等領域中全球成長最快的運算需求。這些應用對於氣象預測、基因體學、藥物研發等科學研究,以及訓練執行語音辨識、語言翻譯以及專家推薦系統的AI類神經網路至關重要。透過架構創新,AMD針對加速運算節點的應用優化能源消耗量。
AMD深知提高資料中心效率可以幫助減少溫室氣體排放並提高環境可持續性。例如,若全球所有AI與HPC伺服器節點都能達到類似的效率提升,預計在2021至2025年期間,對比業界基準趨勢可節省高達510億千瓦小時(kWh)的電力,相當於節省62億美元的電費支出,減少的碳排相當於6億棵成長10年的樹木所吸納的碳排註2。
要在2025年達成提升30倍的目標,意謂著AMD加速運算節點完成單次運算的能源要比2020年降低97%。為了實現這一目標,AMD運算節點能源效率的提升速度必須比2015至2020年期間整個產業的提升速度快2.5倍註3。
一年來的進展現況
時至2022年中,AMD正按進程朝著實現30x25的目標邁進,透過使用搭載一個AMD第3代EPYC CPU與四個AMD Instinct MI250x GPU的加速運算節點,在2020年的基準水平上將能源效率提升6.79倍。此進展報告採用經過運算能源效率研究專家和作者Jonathan Koomey博士驗證的量測方法註4。註1:包含AMD高效能CPU與GPU加速器,用來運行AI訓練與高效能運算作業,組建成4加速器的CPU主機托管組態。目標運算是根據效能跑分,使用標準效能量測程式(HPC: Linpack DGEMM kernel FLOPS,使用4k矩陣。AI訓練:以低精準度訓練的浮點數學運算GEMM矩陣乘法,像是FP16或BF16 FLOPS,使用4k矩陣)再除以代表加速運算節點的額定功耗,包括CPU與記憶體,以及4個GPU加速器。
註2:該情境係根據所有AI與HPC伺服器節點,達成類似AMD提升30倍的提升,在2021至2025年累計省下514億千瓦小時的電力,對比基準為2020年趨勢。每kwh電費為0.12美分x 514億kwh =6200萬美元。二氧化碳排放公噸數以及估計的植樹量,係根據在美國環保署溫室氣體當量計算器輸入資料所算出的省電數據,2021年12月1日。https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator。
註3:根據2015至2020年能源效率提升的業界趨勢,以及2025年資料中心的能源消耗。
註4:計算包括1)使用Koomey Analytics分析現有研究成果與資料,進行2025年基準kWhr用電量預測,包括特定領域的預測,推估2025年部署量與資料中心耗電效率(PUE),包括GPU HPC與機器學習(ML)安裝,以及2) AMD CPU插槽與GPU節點的功耗,包括特定領域的使用量(運行與閒置)比例,然後再乘以PUE,算出實際總耗能,再以此數據來計算每瓦效能。
6.79x =(基準HPC 節點kWhr 的2025年耗電預測x AMD 2022 年每瓦效能的改進,使用DGEMM與一般耗電+ 基準機器學習節點kWhr 的2025年耗電預測*AMD 2022 每瓦效能改進,使用機器學習數學計算與一般耗電數據)/(2020 每瓦效能* 2025年基準預測kWhr 數據)。如欲瞭解有關目標與方法的詳細資訊,敬請參閱https://www.amd.com/en/corporate-responsibility/data-center-sustainability。
- 發表您的看法
請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。
請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。
請勿侵犯個人隱私權,將他人資料公開張貼在留言版內。
請勿重複留言(包括跨版重複留言)或發表與各文章主題無關的文章。
請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。
您在留言版發表的內容需自負言論之法律責任,所有言論不代表PCDIY!雜誌立場,違反上述規定之留言,PCDIY!雜誌有權逕行刪除您的留言。
最近新增
- BIOSTAR 映泰宣布將參加 2024 台北國際電腦展 帶來全新人工智慧解決方案
- 創見將於COMPUTEX TAIPEI 2024展出嵌入式解決方案和 全新PCIe Gen5固態硬碟及專業攝影CFexpress記
- OPPO將讓生成式AI技術普及化 為行動影像帶來全新體驗 全新AI橡皮擦功能釋出 Reno11 系列、Find N3 系列將率先更新
- V-COLOR Manta XFinity 系列 榮獲2024紅點設計大獎,展現創新及卓越美學
- Acer 推出《Swift Go 14》AI特規機 PCHome24購物獨賣 上市特惠中
- 歡慶LG官方線上商城3週年會員日!熱銷品7折起 指定商品兩件另享85折 滿3萬再折3千 透過LINE購物或ShopBack進站下單 額外享最高16%回饋
- NetApp 推出專為 AI 時代打造的統一資料儲存方案 具整合資料服務之全新 AFF A 系列所支援的智慧資料基礎架構 以加速採用 AI 並大規模簡化各項工作負載
- SiTime 推出專為 AI 資料中心打造的整合時鐘晶片 Chorus 系列時脈產生器體積縮小一半 效能提升 10 倍
- 芝奇推出 Ripjaws M5 焰刃 RGB DDR5 高效能記憶體
- 台灣海韻電子Seasonic VERTEX GX-850無痛升級優惠活動Vertex 系列電源供應器 - 終極玩家的理想選擇
- 奧義智慧攜手 NTT-AT 共築臺日數位安全生態圈 以高度自動化的 AI 技術全方位鞏固企業資訊安全
- 台達將於COMPUTEX 2024發表主題演講 分享運用人工智慧創造自動化新應用
最多人點閱
- Microsoft Azure Certified for IoT 快速打造智慧物聯網
- 美光與希捷宣布成立策略聯盟 兩大產業龍頭攜手 結合美光NAND型快閃記憶體與希捷的儲存技術
- SP廣穎電通將於德國2015 Embedded World展示全方位工控系列產品
- 電腦每天開!電費多驚人?世界地球日 用APP隨時關機
- 英特爾舉辦亞洲區創新高峰會 促進台灣與全亞洲產業體系的創新發展
- IEM於台北國際電玩展熱血開打,購買Intel Core i5/i7處理器系列+SSD 750即得限量好禮
- 深根台灣成就萬物相聯 2015 ARM®新竹辦公室擴大營運暨亞洲第一座CPU設計中心開幕
- AMD發表全球首款GPU硬體虛擬化產品線
- AMD推出全球首款業界領先的32GB記憶體伺服器GPU 瞄準高效能運算
- AMD推出全新Catalyst 15.7驅動程式 讓AMD APU及GPU充分展現Windows®10直覺化體驗
- PLEXTOR感恩節大回饋,M6V卡禮來雙重送!
- 希捷科技:2016年六大科技趨勢