PCDIY!業界新聞
AMD在高效能運算與AI訓練的30x25能源效率目標進展順利
(本資訊由廠商提供,不代表PCDIY!立場) 2022-05-18 10:04:08
AMD(NASDAQ:AMD)在去年宣布30x25目標,計劃在2025年之前,用於人工智慧(AI)訓練與高效能運算(HPC)應用的處理器能源效率將提升30倍。目前這計畫正順利進行中,透過使用搭載一個AMD第3代EPYC CPU與四個AMD Instinct MI250x GPU的加速運算節點,在2020年的基準水平上將能源效率提升6.79倍。
隨著越來越多裝置成為「智慧裝置」,包括具備網路功能並通常配備攝影機的嵌入式處理器,資料創造量正在以指數級的速度呈現爆炸式增長。AI與HPC正在改變運算領域,以分析如此龐大的資料,從而實現更高品質的分析、自動化服務、增強的安全性以及更多其他優勢。然而當前的挑戰是,如此龐大規模的先進運算所需要消耗的能源與日俱增。
AMD執行副總裁暨技術長Mark Papermaster指出,作為開發高效能處理器以應對全球要求最嚴苛的分析應用的領導者,AMD在產品研發過程中將能源效率列為優先要務。我們著手在架構、封裝、連接性以及軟體進行全方位的功耗優化設計,旨在降低成本、保護自然資源以及減緩對氣候造成衝擊。
AMD將能源效率列為優先要務,在2014年自發性制定了目標,在2020年前將行動處理器的典型能源效率提高25倍。AMD不僅達成了這項目標,甚至達到31.7倍的提升幅度。
去年AMD宣布一項新願景-30x25目標-在2025年之前,加速資料中心運算節點的能源效率將在2020年的基礎上提升30倍註1。採用AMD EPYC™ CPU與AMD Instinct™加速器的節點設計旨在因應AI訓練與HPC應用等領域中全球成長最快的運算需求。這些應用對於氣象預測、基因體學、藥物研發等科學研究,以及訓練執行語音辨識、語言翻譯以及專家推薦系統的AI類神經網路至關重要。透過架構創新,AMD針對加速運算節點的應用優化能源消耗量。
AMD深知提高資料中心效率可以幫助減少溫室氣體排放並提高環境可持續性。例如,若全球所有AI與HPC伺服器節點都能達到類似的效率提升,預計在2021至2025年期間,對比業界基準趨勢可節省高達510億千瓦小時(kWh)的電力,相當於節省62億美元的電費支出,減少的碳排相當於6億棵成長10年的樹木所吸納的碳排註2。
要在2025年達成提升30倍的目標,意謂著AMD加速運算節點完成單次運算的能源要比2020年降低97%。為了實現這一目標,AMD運算節點能源效率的提升速度必須比2015至2020年期間整個產業的提升速度快2.5倍註3。
註1:包含AMD高效能CPU與GPU加速器,用來運行AI訓練與高效能運算作業,組建成4加速器的CPU主機托管組態。目標運算是根據效能跑分,使用標準效能量測程式(HPC: Linpack DGEMM kernel FLOPS,使用4k矩陣。AI訓練:以低精準度訓練的浮點數學運算GEMM矩陣乘法,像是FP16或BF16 FLOPS,使用4k矩陣)再除以代表加速運算節點的額定功耗,包括CPU與記憶體,以及4個GPU加速器。
註2:該情境係根據所有AI與HPC伺服器節點,達成類似AMD提升30倍的提升,在2021至2025年累計省下514億千瓦小時的電力,對比基準為2020年趨勢。每kwh電費為0.12美分x 514億kwh =6200萬美元。二氧化碳排放公噸數以及估計的植樹量,係根據在美國環保署溫室氣體當量計算器輸入資料所算出的省電數據,2021年12月1日。https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator。
註3:根據2015至2020年能源效率提升的業界趨勢,以及2025年資料中心的能源消耗。
註4:計算包括1)使用Koomey Analytics分析現有研究成果與資料,進行2025年基準kWhr用電量預測,包括特定領域的預測,推估2025年部署量與資料中心耗電效率(PUE),包括GPU HPC與機器學習(ML)安裝,以及2) AMD CPU插槽與GPU節點的功耗,包括特定領域的使用量(運行與閒置)比例,然後再乘以PUE,算出實際總耗能,再以此數據來計算每瓦效能。
6.79x =(基準HPC 節點kWhr 的2025年耗電預測x AMD 2022 年每瓦效能的改進,使用DGEMM與一般耗電+ 基準機器學習節點kWhr 的2025年耗電預測*AMD 2022 每瓦效能改進,使用機器學習數學計算與一般耗電數據)/(2020 每瓦效能* 2025年基準預測kWhr 數據)。如欲瞭解有關目標與方法的詳細資訊,敬請參閱https://www.amd.com/en/corporate-responsibility/data-center-sustainability。
隨著越來越多裝置成為「智慧裝置」,包括具備網路功能並通常配備攝影機的嵌入式處理器,資料創造量正在以指數級的速度呈現爆炸式增長。AI與HPC正在改變運算領域,以分析如此龐大的資料,從而實現更高品質的分析、自動化服務、增強的安全性以及更多其他優勢。然而當前的挑戰是,如此龐大規模的先進運算所需要消耗的能源與日俱增。
AMD執行副總裁暨技術長Mark Papermaster指出,作為開發高效能處理器以應對全球要求最嚴苛的分析應用的領導者,AMD在產品研發過程中將能源效率列為優先要務。我們著手在架構、封裝、連接性以及軟體進行全方位的功耗優化設計,旨在降低成本、保護自然資源以及減緩對氣候造成衝擊。
AMD將能源效率列為優先要務,在2014年自發性制定了目標,在2020年前將行動處理器的典型能源效率提高25倍。AMD不僅達成了這項目標,甚至達到31.7倍的提升幅度。
去年AMD宣布一項新願景-30x25目標-在2025年之前,加速資料中心運算節點的能源效率將在2020年的基礎上提升30倍註1。採用AMD EPYC™ CPU與AMD Instinct™加速器的節點設計旨在因應AI訓練與HPC應用等領域中全球成長最快的運算需求。這些應用對於氣象預測、基因體學、藥物研發等科學研究,以及訓練執行語音辨識、語言翻譯以及專家推薦系統的AI類神經網路至關重要。透過架構創新,AMD針對加速運算節點的應用優化能源消耗量。
AMD深知提高資料中心效率可以幫助減少溫室氣體排放並提高環境可持續性。例如,若全球所有AI與HPC伺服器節點都能達到類似的效率提升,預計在2021至2025年期間,對比業界基準趨勢可節省高達510億千瓦小時(kWh)的電力,相當於節省62億美元的電費支出,減少的碳排相當於6億棵成長10年的樹木所吸納的碳排註2。
要在2025年達成提升30倍的目標,意謂著AMD加速運算節點完成單次運算的能源要比2020年降低97%。為了實現這一目標,AMD運算節點能源效率的提升速度必須比2015至2020年期間整個產業的提升速度快2.5倍註3。
一年來的進展現況
時至2022年中,AMD正按進程朝著實現30x25的目標邁進,透過使用搭載一個AMD第3代EPYC CPU與四個AMD Instinct MI250x GPU的加速運算節點,在2020年的基準水平上將能源效率提升6.79倍。此進展報告採用經過運算能源效率研究專家和作者Jonathan Koomey博士驗證的量測方法註4。註1:包含AMD高效能CPU與GPU加速器,用來運行AI訓練與高效能運算作業,組建成4加速器的CPU主機托管組態。目標運算是根據效能跑分,使用標準效能量測程式(HPC: Linpack DGEMM kernel FLOPS,使用4k矩陣。AI訓練:以低精準度訓練的浮點數學運算GEMM矩陣乘法,像是FP16或BF16 FLOPS,使用4k矩陣)再除以代表加速運算節點的額定功耗,包括CPU與記憶體,以及4個GPU加速器。
註2:該情境係根據所有AI與HPC伺服器節點,達成類似AMD提升30倍的提升,在2021至2025年累計省下514億千瓦小時的電力,對比基準為2020年趨勢。每kwh電費為0.12美分x 514億kwh =6200萬美元。二氧化碳排放公噸數以及估計的植樹量,係根據在美國環保署溫室氣體當量計算器輸入資料所算出的省電數據,2021年12月1日。https://www.epa.gov/energy/greenhouse-gas-equivalencies-calculator。
註3:根據2015至2020年能源效率提升的業界趨勢,以及2025年資料中心的能源消耗。
註4:計算包括1)使用Koomey Analytics分析現有研究成果與資料,進行2025年基準kWhr用電量預測,包括特定領域的預測,推估2025年部署量與資料中心耗電效率(PUE),包括GPU HPC與機器學習(ML)安裝,以及2) AMD CPU插槽與GPU節點的功耗,包括特定領域的使用量(運行與閒置)比例,然後再乘以PUE,算出實際總耗能,再以此數據來計算每瓦效能。
6.79x =(基準HPC 節點kWhr 的2025年耗電預測x AMD 2022 年每瓦效能的改進,使用DGEMM與一般耗電+ 基準機器學習節點kWhr 的2025年耗電預測*AMD 2022 每瓦效能改進,使用機器學習數學計算與一般耗電數據)/(2020 每瓦效能* 2025年基準預測kWhr 數據)。如欲瞭解有關目標與方法的詳細資訊,敬請參閱https://www.amd.com/en/corporate-responsibility/data-center-sustainability。
- 發表您的看法
請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。
請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。
請勿侵犯個人隱私權,將他人資料公開張貼在留言版內。
請勿重複留言(包括跨版重複留言)或發表與各文章主題無關的文章。
請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。
您在留言版發表的內容需自負言論之法律責任,所有言論不代表PCDIY!雜誌立場,違反上述規定之留言,PCDIY!雜誌有權逕行刪除您的留言。
最近新增
- NAS也能上水冷!」JONSBO N6 ,9 硬碟、雙電源、長顯卡、雙塔,玩家與專業用戶的「多工存儲怪獸」!
- Red Hat 收購 Chatterbox Labs,強化 AI 信任與安全防護
- 行競科技十年浸沒式冷卻電池創新於 CES 2026 完整落地 首度呈現 EV、ESS 與 AI 資料中心 BBU 三大應用
- LIAN LI 聯力推出 Vector V100R MINI 緊湊型 mATX 機殼,建議售價NTD 1,590 元
- 全漢 FSP 正式推出 VIC GD 系列,為次世代高效能平台而生 金牌效率 × ATX 3.1 × 極高性價比,登錄升級至 5 年保、2 年快換!
- 記憶體、SSD漲價阻升級?全漢「鈦」挺你! 鈦金效率 × A++ 靜音 × 工業級三防漆,FSP出手半價相挺!
- 網石於 The Game Awards 2025公開 《七大罪:Origin》全新預告片
- 威剛揮出永續全壘打 全面加速ESG行動 厚植永續治理 接連榮獲「台灣企業永續獎」、最佳職場肯定
- 科技海嘯來襲!Check Point Software 發佈 2026 年資安預測 技術融合與 AI Agents 的崛起重新定義全球安全韌性
- NetApp 揭露台灣資料管理策略 驅動台灣躍升區域 AI 樞紐 從統一資料儲存邁向統一資料模型 NetApp 強化資料管理方法 加速企業 AI 資料管道 助攻台灣 AI 島願景
- HPE 推出首款 AMD「Helios」AI機架級解決方案 整合Broadcom開放式網路架構,加速AI部署
- TrendForce: 傳統旺季與新品帶動,3Q25全球智慧手機產量季增9%
最多人點閱
- SP廣穎電通將於德國2015 Embedded World展示全方位工控系列產品
- IEM於台北國際電玩展熱血開打,購買Intel Core i5/i7處理器系列+SSD 750即得限量好禮
- AMD發表全球首款GPU硬體虛擬化產品線
- 希捷科技:2016年六大科技趨勢
- InWin 805 NVIDIA EDITION機殼爆紅,迎廣GeForce GTX特仕版機箱正式開賣!
- 2024開學季筆電選購指南: 10大熱銷筆電推薦榜
- Windows 10 搭載 Office 版本聲明稿 Office Mobile 、 Office 2016 與 Office 365 版本差異說明
- Lenovo聯想持續拓展伺服器市場,瞄準中型企業推出ThinkServer系列伺服器
- 你的人生「升級」了沒?倒數十天!Windows 10開闊你的無限視野
- 全新Intel Core X系列處理器- Intel Core i9 極致版處理器 重裝上陣
- 微軟攜手研華、凌華與新漢 以Azure IoT Suite串聯物聯網大未來
- PLEXTOR展現軟實力,一舉推出三大獨家軟體
