AMD拓展AMD Instinct GPU藍圖加快資料中心與AI創新與領先步伐

AI PC 人工智慧神兵利器焦點 ITMan!資訊經理人 PCDIY!業界新聞

AMD拓展AMD Instinct GPU藍圖加快資料中心與AI創新與領先步伐

文．圖／陳仁智 2024-06-06 19:48:55

更新AMD Instinct加速器發展藍圖揭示領先業界AI效能與記憶體功能的年度進程
全新AMD Instinct MI325X加速器預計在2024年第4季上市，將配備多達288 GB的HBM3E記憶體；全新AMD Instinct MI350系列加速器採用AMD CDNA 4架構，預計在2025年出貨，較前一代產品的AI推論效能將有35倍的巨幅提升

AMD（NASDAQ: AMD）董事長暨執行長蘇姿丰博士在COMPUTEX 2024開幕主題演講中，展現AMD Instinct加速器系列的強勢發展動能。AMD揭示AMD Instinct加速器的跨年度產品藍圖，將逐年透過每個世代的AMD Instinct加速器挹注AI效能與記憶體功能優勢。

在更新版發展藍圖中，率先登場的是將於2024年第4季問市的全新AMD Instinct MI325X加速器。隨後則是AMD Instinct MI350系列，採用全新AMD CDNA打造，預計在2025年上市，其AI推論效能將比AMD CDNA 3架構的AMD Instinct MI300系列大幅提升35倍註1。AMD Instinct MI400系列則將採用AMD CDNA “Next”架構，預定在2026年問市。

AMD資料中心加速運算全球副總裁Brad McCredie表示，AMD Instinct MI300X加速器持續受到Microsoft Azure、Meta、戴爾科技集團、HPE、聯想等眾多合作夥伴與客戶的熱烈採納，充分反映AMD Instinct MI300X加速器的卓越效能與價值。在更新版年度產品藍圖的引領下，我們努力不懈地推動創新，提供領先各界的功能與效能，迎合AI產業與客戶的期盼，促進資料中心AI訓練與推論的新一波革新。

AMD AI軟體產業體系日臻成熟

AMD ROCm™ 6開放軟體堆疊持續發展完備，助力AMD Instinct MI300X加速器為當今最熱門的大型語言模型（LLM）挹注卓越效能。在一部配備8個AMD Instinct MI300X加速器與ROCm 6軟體並運行Meta Llama-3 70B模型的伺服器，客戶可獲得相較競爭對手產品提升1.3倍的推論效能以及token生成吞吐量註2。而憑藉單一AMD Instinct MI300X加速器與ROCm 6軟體，在運行Mistral-7B模型時，客戶可獲得相較競爭對手產品提升1.2倍的推論效能以及token生成吞吐量註3。AMD亦披露最大型且最受歡迎的AI模型儲存庫Hugging Face目前每晚測試70萬個最熱門的模型，確保它們能在AMD Instinct MI300X加速器上直接運行。此外，AMD持續拓展與上游領域的合作，包括PyTorch、TensorFlow以及JAX等熱門AI框架。

AMD預覽新款加速器並公佈年度進程藍圖

AMD在主題演講中揭示AMD Instinct加速器藍圖的年度進程，因應各界對運行更多AI運算的爆發需求。這也將確保AMD Instinct加速器推動新一代前沿AI模型的開發。更新後AMD Instinct年度藍圖的重點包括：
• 全新AMD Instinct MI325X加速器將配備288 GB的HBM3E記憶體以及每秒6 terabytes的記憶體頻寬，沿用和AMD Instinct MI300系列相同的產業標準Universal Baseboard伺服器設計，預計將於2024年第4季問市。這款加速器將擁有領先業界的記憶體容量與頻寬，分別比對手高2倍與1.3倍註4，運算效能則是比對手高1.3倍註5。
• AMD Instinct MI350系列中率先推出的是AMD Instinct MI350X加速器，採用AMD CDNA 4架構打造，預計在2025年上市。新品將沿用和MI300系列加速器相同的產業標準Universal Baseboard伺服器設計，採用先進3奈米製程技術，支援FP4與FP6 AI資料類型，並配備288 GB的HBM3E記憶體。
• AMD CDNA “Next”架構將打造AMD Instinct MI400系列加速器，預計在2026年上市，將提供眾多最新特色與功能，協助為推論與大規模AI訓練挹注額外效能與效率。

AMD強調各界對AMD Instinct MI300X加速器的需求持續成長，眾多合作夥伴與客戶運用加速器運行其要求嚴苛的AI工作負載，其中包括：
• Microsoft Azure運用加速器運行Azure OpenAI服務以及新推出的Azure ND MI300X V5虛擬機器。
• 戴爾科技集團運用MI300X加速器打造PowerEdge XE9680運行企業AI工作負載。
• 美超微（Supermicro）推出多款採用AMD Instinct加速器的解決方案。
• 聯想推出ThinkSystem SR685a V3為混合型AI創新挹注動能。
• HPE運用加速器打造HPE Cray XD675，加速AI工作負載。

歡迎至AMD官網瀏覽AMD在COMPUTEX發表的AI消息，以及前往AMD YouTube專頁觀看主題演講重播。

相關資源
• LinkedIn：於AMD LinkedIn追蹤AMD新訊
• X：於@AMD追蹤AMD新訊

→更多的【PCDIY!業界新聞】：請見

→更多的【PCDIY!賣場情報】：請見

→更多的【PCDIY!科技情報】：請見

→更多的【IT資訊新聞】：請見

→更多的【ITMan!資訊經理人】：請見

→更多的【PCDIY!八卦】：請見

延伸閱讀

資料很貴的！叫你備份不聽！你知道硬碟故障資料救援：「救個資料，報價『3萬8』嗎？」

「黑心電源供應器」大爆發！大家可要小心一點阿！太恐怖了啦!!!

什麼！硬碟大廠Seagate，最新的行銷活動廣告，裡面居然出現：「我也不想當『死雞』隊友啊.................」

電腦展的話，不少人是醉翁之意不在酒，不是去看電腦展，而是去看妹展的！到底看妹，是要怎麼看呢？

磁碟陣列要選RAID 5還是RAID 6？有需要再用Hot spare嗎？這是一個好問題！

硬碟世界最「狂」記錄：「威騰WD RE 3TB硬碟驚爆鬧機瘟，48顆就壞25顆，死亡率高達52.08%...................」

什麼終身保固？網友說：「覺得被騙了！」終身保固≠終身換新≠終生免費，你覺得呢？

淘寶網帶來的跨境電商價格戰，對光華商場來說，是新危機？還是新轉機？

珍惜生命，遠離(成為)工具人

這邊有批8核心16執行緒CPU好便宜啊!!!

硬碟故障資料救援，等了一年八個月...

隨著香港電訊、日本So-net寬頻上網業者，陸續提供10G光纖上網，讓玩家與專業用戶享受高速上網的極速快感。反觀我們台灣，中華電信HiNet還在供裝光世代500M/250M與光世代1G/600M，可以說：「人家都上太空，我們還在殺豬公!!!」

高雄建國電腦商場，周圍稱為建國電腦商圈、建國3C商圈，爆發了倒店潮。網友議論紛紛，有的玩家認為跟原價屋有關，認為原價屋是殺手，真的是這樣嗎？

這個店家，讓各地店員嗆不爽去台北買這句話，從此走入歷史！

批踢踢實業坊PTT，這幾天有個網友PO文：「[請益] 約200T的貯存方案(預算10W～20W)」

高科技竹筷來啦！

SSD熱賣，玩家的最終看法：「用過，就回不去了！」

DDR4記憶體金手指歪掉惹..................

中國來的「360安全衛士防毒軟體」，「360安全卫士」這次獲得教授認證了！教授認證的「神防毒軟體」，這到底是「教授級防毒軟體」，還是防毒軟體是「會叫的野獸？」

電腦機殼破萬，是在搞什麼東西呢？

硬碟容量那麼大，玩家與專業用戶都在存什麼東西呢？原來答案是：「硬碟就是要裝謎片阿不然要幹嘛！」

什麼？Windows XP作業系統，還有老玩家在用呀！沒錯，真的是令人驚呆了！而且，這些玩家，宣稱：「打死不退、寧死不屈」，堅信：「再戰十年」

更多ITMan!資訊新聞

發表您的看法: 請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。; 請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。; 請勿侵犯個人隱私權，將他人資料公開張貼在留言版內。; 請勿重複留言（包括跨版重複留言）或發表與各文章主題無關的文章。; 請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。; 您在留言版發表的內容需自負言論之法律責任，所有言論不代表PCDIY!雜誌立場，違反上述規定之留言，PCDIY!雜誌有權逕行刪除您的留言。

ITMan!資訊新聞

AMD拓展AMD Instinct GPU藍圖加快資料中心與AI創新與領先步伐

AMD AI軟體產業體系日臻成熟

AMD預覽新款加速器並公佈年度進程藍圖

延伸閱讀

最近新增

最多人點閱

ITMan!資訊新聞

AMD拓展AMD Instinct GPU藍圖 加快資料中心與AI創新與領先步伐

AMD AI軟體產業體系日臻成熟

AMD預覽新款加速器並公佈年度進程藍圖

延伸閱讀

最近新增

最多人點閱

AMD拓展AMD Instinct GPU藍圖加快資料中心與AI創新與領先步伐