設計師利用生成式人工智慧作為晶片輔助

焦點 AI PC 人工智慧神兵利器

設計師利用生成式人工智慧作為晶片輔助

文．圖／張國華 2023-10-31 13:35:38

今天發布的一篇研究論文描述了生成式人工智慧如何幫助最複雜的工程工作之一：設計半導體。

這項工作展示了在高度專業化領域的公司如何利用內部資料訓練大型語言模型 (LLMs)，以建立提高生產力的助手。

半導體設計是一項極具挑戰性的工作。在顯微鏡下，像NVIDIA H100 Tensor Core GPU（上圖）這樣最先進的晶片看起來就像一座精心規劃的大都市，由數百億個電晶體構建而成，連接在比人類頭髮細10,000 倍的街道上。

多個工程團隊花費長達兩年的時間進行協作，以建造其中一個這樣的數位化巨型城市。

有些小組定義晶片的整體架構，有些小組製作並放置各種超小型電路，有些小組測試他們的工作。每項工作都需要專門的方法、軟體程式和電腦語言。

對於大型語言模型的廣泛願景

NVIDIA 研究總監暨該論文主要作者 Mark Ren 表示：「我相信隨著時間的推移，大型語言模型將全面幫助所有流程。」

NVIDIA 首席科學家 Bill Dally 今天在國際電腦輔助設計會議（International Conference on Computer-Aided Design）上的主題演講中宣布了這篇論文。「這項努力代表著將大型語言模型應用於複雜的半導體設計工作中邁出了重要的第一步」，Dally在舊金山舉行的活動中表示：「它展示了即使是高度專業化的領域，也可以利用其內部資料來訓練有用的生成人工智慧模型。」

ChipNeMo浮出水面

這篇論文詳細介紹了NVIDIA工程師們如何為內部使用創建了一個名為ChipNeMo的客製化大型語言模型，該模型是使用公司內部資料進行訓練，以生成和優化軟體，並協助人類設計師。

長期以來，工程師們希望將生成式人工智慧應用於晶片設計的每個階段，這有可能顯著提高總體生產力，在EDA領域已經有超過20年經驗的Ren表示。

在對NVIDIA工程師進行可能的用例調查後，研究團隊選擇了三個項目：一個聊天機器人、一個程式碼生成器和一個分析工具。

初始用例

後者（分析工具），用於自動化耗時的任務，即維護已知錯誤的最新描述，目前為止受到了最多的好評。

一個回答有關 GPU 架構和設計問題的原型聊天機器人，可幫助許多工程師在早期測試中快速找到技術文件。

程式碼產生器將幫助設計人員為晶片設計編寫軟體。

正在開發的程式碼產生器（如上方演示）已經透過晶片設計人員使用的兩種專用語言，創建大約 10-20 行軟體的片段。它將與現有工具整合，因此工程師們將有一個方便快捷的輔助工具用於進行中的設計。

使用 NVIDIA NeMo 自訂人工智慧模型

該論文主要專注於團隊收集設計資料並使用其創建專門的生成式人工智慧模型的工作，這是一個可複製到任何產業的流程。

作為起點，團隊選擇一個基礎模型並用NVIDIA NeMo來客製化這個模型，NVIDIA NeMo是一個用於建置、自訂和部署生成式人工智慧模型的框架，它包含在NVIDIA AI Enterprise軟體平台中。所選的 NeMo 模型擁有 430 億個參數，這是衡量其理解模式能力的指標。它使用超過一兆個權杖（token）進行了訓練，這些權杖代表文本和軟體中的單詞和符號。

ChipNeMo 提供了一個範例，展示深度技術團隊如何利用內部資料來改進預訓練模型。

隨後，團隊對模型進行了兩輪訓練，第一輪使用了約240億個權杖的內部設計數資料，第二輪使用了約13萬次對話和設計示例的混合資料。

這項工作是半導體產業中生成式人工智慧的研究和概念證明的數個示例之一，這些示例正在逐漸從實驗室中嶄露頭角。

分享所學經驗

Ren分享他和團隊學到其中一個很重要的經驗，即是客製化大型語言模型的價值。

在晶片設計任務中，具有少至 130 億個參數的客製化 ChipNeMo 模型的效能，甚至可與具有超過 700 億個參數的 LLaMA2 等更大的通用型大型語言模型的效能相媲美或超過。在某些用例中，ChipNeMo 模型要好得多。

在這個過程中，使用者需要謹慎地選擇他們收集的資料，以及如何清洗這些資料以供訓練使用，他補充說。

最後，Ren建議使用者要時刻關注可以加速和簡化工作的最新工具。

NVIDIA研究部門擁有全球數百名科學家和工程師，致力於人工智慧、電腦圖形、電腦視覺、自駕車和機器人等領域的研究。半導體領域的其他最新項目包括使用人工智慧設計更小、更快的電路，以及優化大型區塊的布局。

希望建立自己的客製化大型語言模型的企業現在就可以開始使用 GitHub 和 NVIDIA NGC 目錄中提供的 NeMo 框架。

→更多的【PCDIY!業界新聞】：請見

→更多的【PCDIY!賣場情報】：請見

→更多的【PCDIY!科技情報】：請見

→更多的【IT資訊新聞】：請見

→更多的【ITMan!資訊經理人】：請見

→更多的【PCDIY!八卦】：請見

延伸閱讀

資料很貴的！叫你備份不聽！你知道硬碟故障資料救援：「救個資料，報價『3萬8』嗎？」

「黑心電源供應器」大爆發！大家可要小心一點阿！太恐怖了啦!!!

什麼！硬碟大廠Seagate，最新的行銷活動廣告，裡面居然出現：「我也不想當『死雞』隊友啊.................」

電腦展的話，不少人是醉翁之意不在酒，不是去看電腦展，而是去看妹展的！到底看妹，是要怎麼看呢？

磁碟陣列要選RAID 5還是RAID 6？有需要再用Hot spare嗎？這是一個好問題！

硬碟世界最「狂」記錄：「威騰WD RE 3TB硬碟驚爆鬧機瘟，48顆就壞25顆，死亡率高達52.08%...................」

什麼終身保固？網友說：「覺得被騙了！」終身保固≠終身換新≠終生免費，你覺得呢？

淘寶網帶來的跨境電商價格戰，對光華商場來說，是新危機？還是新轉機？

珍惜生命，遠離(成為)工具人

這邊有批8核心16執行緒CPU好便宜啊!!!

硬碟故障資料救援，等了一年八個月...

隨著香港電訊、日本So-net寬頻上網業者，陸續提供10G光纖上網，讓玩家與專業用戶享受高速上網的極速快感。反觀我們台灣，中華電信HiNet還在供裝光世代500M/250M與光世代1G/600M，可以說：「人家都上太空，我們還在殺豬公!!!」

高雄建國電腦商場，周圍稱為建國電腦商圈、建國3C商圈，爆發了倒店潮。網友議論紛紛，有的玩家認為跟原價屋有關，認為原價屋是殺手，真的是這樣嗎？

這個店家，讓各地店員嗆不爽去台北買這句話，從此走入歷史！

批踢踢實業坊PTT，這幾天有個網友PO文：「[請益] 約200T的貯存方案(預算10W～20W)」

高科技竹筷來啦！

SSD熱賣，玩家的最終看法：「用過，就回不去了！」

DDR4記憶體金手指歪掉惹..................

中國來的「360安全衛士防毒軟體」，「360安全卫士」這次獲得教授認證了！教授認證的「神防毒軟體」，這到底是「教授級防毒軟體」，還是防毒軟體是「會叫的野獸？」

電腦機殼破萬，是在搞什麼東西呢？

硬碟容量那麼大，玩家與專業用戶都在存什麼東西呢？原來答案是：「硬碟就是要裝謎片阿不然要幹嘛！」

什麼？Windows XP作業系統，還有老玩家在用呀！沒錯，真的是令人驚呆了！而且，這些玩家，宣稱：「打死不退、寧死不屈」，堅信：「再戰十年」

更多PCDIY!業界新聞

發表您的看法: 請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。; 請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。; 請勿侵犯個人隱私權，將他人資料公開張貼在留言版內。; 請勿重複留言（包括跨版重複留言）或發表與各文章主題無關的文章。; 請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。; 您在留言版發表的內容需自負言論之法律責任，所有言論不代表PCDIY!雜誌立場，違反上述規定之留言，PCDIY!雜誌有權逕行刪除您的留言。

PCDIY!業界新聞