PCDIY!業界新聞
AMD在高效能運算與AI訓練的30x25能源效率目標進展順利
(本資訊由廠商提供,不代表PCDIY!立場) 2022-05-18 10:04:08
AMD(NASDAQ:AMD)在去年宣布30x25目標,計劃在2025年之前,用於人工智慧(AI)訓練與高效能運算(HPC)應用的處理器能源效率將提升30倍。目前這計畫正順利進行中,透過使用搭載一個AMD第3代EPYC CPU與四個AMD Instinct MI250x GPU的加速運算節點,在2020年的基準水平上將能源效率提升6.79倍。
隨著越來越多裝置成為「智慧裝置」,包括具備網路功能並通常配備攝影機的嵌入式處理器,資料創造量正在以指數級的速度呈現爆炸式增長。AI與HPC正在改變運算領域,以分析如此龐大的資料,從而實現更高品質的分析、自動化服務、增強的安全性以及更多其他優勢。然而當前的挑戰是,如此龐大規模的先進運算所需要消耗的能源與日俱增。
AMD執行副總裁暨技術長Mark Papermaster指出,作為開發高效能處理器以應對全球要求最嚴苛的分析應用的領導者,AMD在產品研發過程中將能源效率列為優先要務。我們著手在架構、封裝、連接性以及軟體進行全方位的功耗優化設計,旨在降低成本、保護自然資源以及減緩對氣候造成衝擊。
AMD將能源效率列為優先要務,在2014年自發性制定了目標,在2020年前將行動處理器的典型能源效率提高25倍。AMD不僅達成了這項目標,甚至達到31.7倍的提升幅度。
去年AMD宣布一項新願景-30x25目標-在2025年之前,加速資料中心運算節點的能源效率將在2020年的基礎上提升30倍註1。採用AMD EPYC™ CPU與AMD Instinct™加速器的節點設計旨在因應AI訓練與HPC應用等領域中全球成長最快的運算需求。這些應用對於氣象預測、基因體學、藥物研發等科學研究,以及訓練執行語音辨識、語言翻譯以及專家推薦系統的AI類神經網路至關重要。透過架構創新,AMD針對加速運算節點的應用優化能源消耗量。
AMD深知提高資料中心效率可以幫助減少溫室氣體排放並提高環境可持續性。例如,若全球所有AI與HPC伺服器節點都能達到類似的效率提升,預計在2021至2025年期間,對比業界基準趨勢可節省高達510億千瓦小時(kWh)的電力,相當於節省62億美元的電費支出,減少的碳排相當於6億棵成長10年的樹木所吸納的碳排註2。
要在2025年達成提升30倍的目標,意謂著AMD加速運算節點完成單次運算的能源要比2020年降低97%。為了實現這一目標,AMD運算節點能源效率的提升速度必須比2015至2020年期間整個產業的提升速度快2.5倍註3。
註1:包含AMD高效能CPU與GPU加速器,用來運行AI訓練與高效能運算作業,組建成4加速器的CPU主機托管組態。目標運算是根據效能跑分,使用標準效能量測程式(HPC: Linpack DGEMM kernel FLOPS,使用4k矩陣。AI訓練:以低精準度訓練的浮點數學運算GEMM矩陣乘法,像是FP16或BF16 FLOPS,使用4k矩陣)再除以代表加速運算節點的額定功耗,包括CPU與記憶體,以及4個GPU加速器。
註2:該情境係根據所有AI與HPC伺服器節點,達成類似AMD提升30倍的提升,在2021至2025年累計省下514億千瓦小時的電力,對比基準為2020年趨勢。每kwh電費為0.12美分x 514億kwh =6200萬美元。二氧化碳排放公噸數以及估計的植樹量,係根據在美國環保署溫室氣體當量計算器輸入資料所算出的省電數據,2021年12月1日。https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator。
註3:根據2015至2020年能源效率提升的業界趨勢,以及2025年資料中心的能源消耗。
註4:計算包括1)使用Koomey Analytics分析現有研究成果與資料,進行2025年基準kWhr用電量預測,包括特定領域的預測,推估2025年部署量與資料中心耗電效率(PUE),包括GPU HPC與機器學習(ML)安裝,以及2) AMD CPU插槽與GPU節點的功耗,包括特定領域的使用量(運行與閒置)比例,然後再乘以PUE,算出實際總耗能,再以此數據來計算每瓦效能。
6.79x =(基準HPC 節點kWhr 的2025年耗電預測x AMD 2022 年每瓦效能的改進,使用DGEMM與一般耗電+ 基準機器學習節點kWhr 的2025年耗電預測*AMD 2022 每瓦效能改進,使用機器學習數學計算與一般耗電數據)/(2020 每瓦效能* 2025年基準預測kWhr 數據)。如欲瞭解有關目標與方法的詳細資訊,敬請參閱https://www.amd.com/en/corporate-responsibility/data-center-sustainability。
隨著越來越多裝置成為「智慧裝置」,包括具備網路功能並通常配備攝影機的嵌入式處理器,資料創造量正在以指數級的速度呈現爆炸式增長。AI與HPC正在改變運算領域,以分析如此龐大的資料,從而實現更高品質的分析、自動化服務、增強的安全性以及更多其他優勢。然而當前的挑戰是,如此龐大規模的先進運算所需要消耗的能源與日俱增。
AMD執行副總裁暨技術長Mark Papermaster指出,作為開發高效能處理器以應對全球要求最嚴苛的分析應用的領導者,AMD在產品研發過程中將能源效率列為優先要務。我們著手在架構、封裝、連接性以及軟體進行全方位的功耗優化設計,旨在降低成本、保護自然資源以及減緩對氣候造成衝擊。
AMD將能源效率列為優先要務,在2014年自發性制定了目標,在2020年前將行動處理器的典型能源效率提高25倍。AMD不僅達成了這項目標,甚至達到31.7倍的提升幅度。
去年AMD宣布一項新願景-30x25目標-在2025年之前,加速資料中心運算節點的能源效率將在2020年的基礎上提升30倍註1。採用AMD EPYC™ CPU與AMD Instinct™加速器的節點設計旨在因應AI訓練與HPC應用等領域中全球成長最快的運算需求。這些應用對於氣象預測、基因體學、藥物研發等科學研究,以及訓練執行語音辨識、語言翻譯以及專家推薦系統的AI類神經網路至關重要。透過架構創新,AMD針對加速運算節點的應用優化能源消耗量。
AMD深知提高資料中心效率可以幫助減少溫室氣體排放並提高環境可持續性。例如,若全球所有AI與HPC伺服器節點都能達到類似的效率提升,預計在2021至2025年期間,對比業界基準趨勢可節省高達510億千瓦小時(kWh)的電力,相當於節省62億美元的電費支出,減少的碳排相當於6億棵成長10年的樹木所吸納的碳排註2。
要在2025年達成提升30倍的目標,意謂著AMD加速運算節點完成單次運算的能源要比2020年降低97%。為了實現這一目標,AMD運算節點能源效率的提升速度必須比2015至2020年期間整個產業的提升速度快2.5倍註3。
一年來的進展現況
時至2022年中,AMD正按進程朝著實現30x25的目標邁進,透過使用搭載一個AMD第3代EPYC CPU與四個AMD Instinct MI250x GPU的加速運算節點,在2020年的基準水平上將能源效率提升6.79倍。此進展報告採用經過運算能源效率研究專家和作者Jonathan Koomey博士驗證的量測方法註4。註1:包含AMD高效能CPU與GPU加速器,用來運行AI訓練與高效能運算作業,組建成4加速器的CPU主機托管組態。目標運算是根據效能跑分,使用標準效能量測程式(HPC: Linpack DGEMM kernel FLOPS,使用4k矩陣。AI訓練:以低精準度訓練的浮點數學運算GEMM矩陣乘法,像是FP16或BF16 FLOPS,使用4k矩陣)再除以代表加速運算節點的額定功耗,包括CPU與記憶體,以及4個GPU加速器。
註2:該情境係根據所有AI與HPC伺服器節點,達成類似AMD提升30倍的提升,在2021至2025年累計省下514億千瓦小時的電力,對比基準為2020年趨勢。每kwh電費為0.12美分x 514億kwh =6200萬美元。二氧化碳排放公噸數以及估計的植樹量,係根據在美國環保署溫室氣體當量計算器輸入資料所算出的省電數據,2021年12月1日。https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator。
註3:根據2015至2020年能源效率提升的業界趨勢,以及2025年資料中心的能源消耗。
註4:計算包括1)使用Koomey Analytics分析現有研究成果與資料,進行2025年基準kWhr用電量預測,包括特定領域的預測,推估2025年部署量與資料中心耗電效率(PUE),包括GPU HPC與機器學習(ML)安裝,以及2) AMD CPU插槽與GPU節點的功耗,包括特定領域的使用量(運行與閒置)比例,然後再乘以PUE,算出實際總耗能,再以此數據來計算每瓦效能。
6.79x =(基準HPC 節點kWhr 的2025年耗電預測x AMD 2022 年每瓦效能的改進,使用DGEMM與一般耗電+ 基準機器學習節點kWhr 的2025年耗電預測*AMD 2022 每瓦效能改進,使用機器學習數學計算與一般耗電數據)/(2020 每瓦效能* 2025年基準預測kWhr 數據)。如欲瞭解有關目標與方法的詳細資訊,敬請參閱https://www.amd.com/en/corporate-responsibility/data-center-sustainability。
- 發表您的看法
請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。
請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。
請勿侵犯個人隱私權,將他人資料公開張貼在留言版內。
請勿重複留言(包括跨版重複留言)或發表與各文章主題無關的文章。
請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。
您在留言版發表的內容需自負言論之法律責任,所有言論不代表PCDIY!雜誌立場,違反上述規定之留言,PCDIY!雜誌有權逕行刪除您的留言。
最近新增
- GeForce Gamer Festival 玩家慶典活動回顧,DLSS 4 多畫格生成開始支援《ARC Raiders》、《二重螺旋》以及更多遊戲新作
- OPPO Find X9 系列影像、效能、電量再創巔峰 重新定義「旅拍神機」 集結OPPO首款2億畫素鏡頭、聯發科技天璣9500晶片、業界領先7500mAh超大電量 OPPO持續拓展全台版圖 新竹巨城體驗店11/1開幕
- 趨勢科技頒發超過100萬美元獎金予道德駭客 Pwn2Own愛爾蘭大賽揭發智慧手機、穿戴裝置、家用網路設備等73項零時差漏洞
- Jamf Nation Live 2025 台北站揭示 AI 時代的資安新未來 以開放平台與 AI 防禦架構,建構整合生態系統,實現更全面的防禦網絡
- 捍衛普發現金一萬元! Meta 與 MyGoPen 推短影音教防詐四不原則 Meta 三大安全識詐工具 助民眾力退詐騙集團
- Warpple正名「沃朋」搶佔「CP值天花板」!兩大新品上市迎戰雙11及歲末採購商機 首款冠名集大成沃朋閨蜜機Pro、尾牙禮詢量破千K歌投影機登場,OVO雙11優惠開跑
- 技嘉參與NVIDIA GeForce Gamer Festival 帶領全球玩家嗨翻 黃仁勳親臨現場與玩家熱情互動 韓團LE SSERAFIM壓軸登場掀熱潮
- Supermicro擴大與NVIDIA的合作,強化美國在地製造合規性、資料完整性與品質,為政府機構提供最佳化AI基礎設施解決方案
- 亞馬遜全球開店公佈2026發展策略 全新升級跨境物流服務,簡化跨境銷售門檻 推出全新AI工具,賦能賣家高效管理業務和優化營運 推出「賣家成長服務領航版」,專屬服務提升賣家競爭力
- HPE為美國能源部實驗室建造次世代超級電腦「Discovery」與AI叢集「Lux」系統
- NVIDIA 與 Oracle 攜手打造美國能源部最大 AI 超級電腦,推動科學探索 美國重磅投資 10 萬顆 NVIDIA Blackwell GPU,為公共研究者開啟阿貢國家實驗室的代理 AI 科學時代
- NVIDIA 與 Nokia 開創 6G AI 平台,驅動美國重返電信領導地位
最多人點閱
- Microsoft Azure Certified for IoT 快速打造智慧物聯網
- SP廣穎電通將於德國2015 Embedded World展示全方位工控系列產品
- IEM於台北國際電玩展熱血開打,購買Intel Core i5/i7處理器系列+SSD 750即得限量好禮
- AMD發表全球首款GPU硬體虛擬化產品線
- PLEXTOR感恩節大回饋,M6V卡禮來雙重送!
- 希捷科技:2016年六大科技趨勢
- InWin 805 NVIDIA EDITION機殼爆紅,迎廣GeForce GTX特仕版機箱正式開賣!
- 2024開學季筆電選購指南: 10大熱銷筆電推薦榜
- Windows 10 搭載 Office 版本聲明稿 Office Mobile 、 Office 2016 與 Office 365 版本差異說明
- Lenovo聯想持續拓展伺服器市場,瞄準中型企業推出ThinkServer系列伺服器
- 你的人生「升級」了沒?倒數十天!Windows 10開闊你的無限視野
- AMD勇奪精簡型電腦市場第一龍頭寶座!
