伺服器世界

鑲金又包銀的Server在這裡! 成功大學購入共6台NVIDIA DGX-1超級電腦,打造全台AI學術研究的南霸天!

文.圖/Johan 2019-11-22 20:01:00
近年來,因應資料量的爆炸性成長,傳統以人工方式處理龐大資訊的作法已不符合時勢的需求,催生了AI (人工智慧)領域的發展。而在AI領域已推廣多年的NVIDIA,透過其最新GPU運算效能,打造出各式各樣的GPU加速產品,帶領AI應用邁向卓越的發展,讓傳統需要花幾星期、幾天來進行深度學習、機器學習的時間,縮到到幾小時甚至幾分鐘即可達成,提升醫學、科學、工程、商用…等領域在大量資料處理上的效率,使得NVIDIA在AI領域成為產業領頭羊!

成功大學為身為南部一流學府,其學術研究項目也包羅萬象,涵蓋了航太科學、土地農業技術,甚至到海洋研究,為了因應日趨複雜的AI作業,該校積極投入基礎設施建置,以打造最優質的研究環境,推動包含像是智慧醫療、智慧製造與智能駕駛…等多項應用,在2017年首度導入1台NVIDIA DGX-1平台之後,如今(11/22)宣佈再部署5台NVIDIA DGX-1於該校計算機中心,以打造南台灣最強大的超級電腦中心,以推升成功大學在AI學術研究的動能至巔峰。

NVIDIA x 成大 記者會現場直擊!

有關於這次記者會發表內容重點,請參考這裡。以下就來看看這些Server部署在成大計算機中心的現場直擊吧!

部署於成功大學計算機與網路中心的AI專屬機房


門開啟後,可以看到伺服器機櫃


從另外一個角度的玻璃窗看過去是這樣


近距離看一下這個機櫃,裡面已經放了5台新添購的NVIDIA DGX-1伺服器 (疑?還有1台呢? 成大表示:那台是放在別的地方,過一陣子做資料整合之後,就會把那台移機到這裡)


鑲金又包銀的Server (其實是「土豪金」),每台都價值連城啊! (另1台2017年購入的因為放在別的地方,不曉得是不是也土豪金?! XD)


下面是這次成功大學各應用中心的發表簡報,敬請參考!

部署AI的目的 by 計算機網路中心主任
首先由成大計算機網路中心主任 詹寶珠博士來說明這次導入DGX-1的重點


成大計算機網路中心主任 詹寶珠博士


以醫學來說,簡報所提及到的,都會會應用AI,以做到全民精準治療


因為一張醫學影像,可能就要35GB的容量了,因此未來的數據中心,需要很高的儲存容量,以及超強運算能力


成大已經部署了DGX-1 AI訓練平台、全快閃記憶體的儲存空間,搭配刀鋒伺服器,以及100Gb交換器,提供超高網路與運算能力,讓各院所可以進行更快速、更深度的專案研究


這些領域,搭配成大智能影像,可以做出更多應用與發展


醫學影像應用案例 by 影像醫學部
● 智慧醫療:身為南部醫療重鎮,成功大學與其附屬醫院積極拓展 AI 技術在醫療上的應用,舉凡腫瘤科、放射科、心臟科、重症醫學科、婦產科、腸胃科、消化科與急診科皆已導入實驗性的 AI 計畫與作業模型,其中,數位病理、影像科學、精準腫瘤與心臟治療、e 化通知、e 化應用介面與 IoT 智慧手錶現已導入在日常臨床作業中,透過 DGX-1 改善並加速 AI 演算法的訓練作業,協助成大醫院實現將精準醫療普及化的願景。

接著由成大影像醫學部 蔡依珊醫師 來說明這次導入DGX-1的應用案例


成大影像醫學部 蔡依珊醫師


由於各種醫學影像,容量都超大,數量也非常多,醫院每年會產生3500萬張影像。若靠傳統人工的眼睛與大腦來分析這些影像,永遠做不完。這時必須透過超強電腦來幫忙做大數據大分析才行


蒐集到的資料,透過演算法,以達到想要分析的方向


蔡醫師以成大醫院的病人醫學影像做說明…


在此案例中,有病患因急性胸痛痛到後背,懷疑是主動脈剝離


成大透過斷層掃描影像,搭配注入不同顏色來分析,便可排除主動脈玻璃,而提供不典型心肌梗塞病人之輔助資訊


而為了分析這些影像,他們找了759個病人取樣,每個人50張,這樣就要分析近3.8萬張的超大容量影像


圈起來的部份,可透過Segmentation Training來做影像分割訓練…


以往還沒用DGX-1時,訓練速度慢吞吞,要好幾天才能訓練完成,如今只要1.5小時就可以搞定


放大看一下,這裡是NVIDIA的數據,說明Tesla V100的速度比CPU快44倍! 可節省很多時間


醫學影像資料經常是立體的,而有清楚的醫學影像就能加速成大醫院在醫療領域的AI演算法發展


最後蔡醫師以三階段說明醫學技術的演進,將從現階段的輔助診斷(醫學影像+AI),搭配更多醫學數據,以輔助治療,到未來搭配個人化數據,以達到精準醫學的目標。總之,這三階段都必須倚靠AI的幫助,方能達成。因此,有了NVIDIA這種高效能的AI超級電腦(高效AI) +針對個人化數據做到精準醫學 (精準AI) 就可以成就幸福AI的境界


金融科技的模型建立 by 成大永豐
● 金融科技:為加深學術與產業的連結,成功大學長期與永豐銀行密切合作共同開發 AI 系統以優化作業流程,成功大學為該計畫投入來自三個學院的五位教授,針對信用評比、風險評估、自然語言服務、客戶回饋分析與精準行銷,以 DGX-1 所提供的龐大運算效能推出相關 AI 服務。藉由指派教授駐點銀行,成功大學能夠在第一線發掘執行痛點並針對其發展相對應的解決方案,加速落實 AI 應用。

接下來由成大電機系教授張天豪博士,來講解AI運用於金融科技的優化流程。此簡報說明訓練的驚人費用。例如XLNet’19模型,訓練完成需要61萬多美元。而AlphaStar (星海爭霸的AI機器人),其AlphaStar’19模型,14天這樣下來,竟然要花7百多元美元!!!


成大電機系教授張天豪博士


這是張教授列出當今常用的各種AI訓練模型。從BERT到RoBERTa,到最近他在研究的DistillBERT,還有XLNet。每個訓練資料都是幾十GB到幾百GB


這裡列出各種資料的狀況,有結構的資料,會比沒有結構的資料,提供能夠顯示出來、以數據、日期或文字呈現、僅佔20%的企業資料,更省儲存空間,以及更簡單去用傳統方法來管理與保護


此簡報是簡單說明一家銀行行員的工作量。以5個人為例,上班時間起5小時內,可能會有一小時來整理客戶資料。到了月底的工作量會增加5倍(月結算),而到年底時工作量則會激增10倍(年結算)


這些大量的金融資料,有結構化的就是1,沒結構化的就是圖像。當然有結構化的資料,越可以幫助行員減輕工作量。讓行員可以快速審查客戶的信用評比、風險評估,再搭配自然語言服務,以達到客戶回饋分析與精準行銷。透過AI分析,即可幫助金融行業們在茫茫數據海中,找出有用、有意義的客戶偏好與潛在市場,進而提升業績


張教授以此圖形容那些高樓大廈就如同超級電腦,而其對外聯結的高速道路就如同網路,以連結到各銀行或金融單位。而張教授也表示由於金融科技在AI的應用上需要更大的頻寬,亦即他目前正在讓這些AI的快速道路(高速網路)能夠串起來以達到高速互連。讓AI模型訓練速度更加快速


最後張教授以此簡報說明,當資料與基礎建設(高速AI伺服器)都準備之後,就能期望用AI來解成就啦!


智慧天災辨識 by 土木工程學系副教授
● 天然災害:台灣地處季風氣候區與板塊交界帶,極端降雨與地震誘發如山崩與土石流等地質災害,破壞基礎設施與生態環境並威脅居民的身家安全,對此,成功大學借重台灣緊密頻寬地震網的優勢,透過深度學習分析過去重大事件,如莫拉克、蘇迪勒颱風導致山崩發生的準確時間點,定義破壞機制與制定警戒值,藉由 GPU 加速運算作業,讓成大團隊能在更短的時間內處理更多的數據並進行影像模擬,提升台灣山崩辨識的應用與準確率,並進一步將該技術拓展至全球。

接下來由成大副教授兼國際處組長 洪瀞博士,來講解AI運用於天然災害的辨識與預警


成大副教授兼國際處組長 洪瀞博士


台灣地處季風氣候區、板塊邊界上,常有颱風、地震,且引發大規模山崩。台灣應該要建立災害辨識與預警系統


這裡簡單說明這些天災,對台灣土地與居民的影響


設立天災防治系統,一起為聯合國永續發展目標而努力


目前技術無法得知山崩的正確發生時間,而透過AI超級電腦,即可提升山崩、地震的辨識準確性,達到即時、自動、客觀的智慧化辨識


目前技術,已可使用地震儀來記錄山崩時所產生的地表振動


搭配聲波也能偵測地表活動 (例如NASA最近也公布由洞察號SEIS高度敏感儀器所記錄下的火星地震音檔,讓科學家來研究內部結構)


這些資料可以透過AI訓練,來分類模型,如地震、崩塌、噪訊等等,以做到智慧化山崩地震辨識的目標


此簡報講述山崩所產生的地動特徵,並舉例台灣曾發生山崩之震波圖形


他們將這些資料分成T1至T24共24種特徵,來進行AI分析


這是第一階應用模型


第一階概要,可提升颱風引致山崩的辨識率,而探究參數越多,準確度就越高。而此時也要得知山崩精確時間,並定義破壞機制、制定降雨警戒值,同時針對各種現象進行探討


第二階應用,就是搭配深度學習了


第二階應用,就透過各種數值動畫模擬,來達到預測與預警目標


此簡報說明,台灣面臨多種天災,搭配其智慧化山崩地震辨識架構,必須搭配更高速運算電腦,以達到其次階段的目標


NVIDIA DGX-1伺服器,成大率先導入,為AI應用邁向一大步

有關於NVIDIA DGX-1伺服器,其搭載了8顆Tesla V100 GPU,效能比純CPU運算的伺服器快96倍效能。NVIDIA全球副總裁暨台灣區總經理邱麗孟小姐表示,NVIDIA擁有多種AI開發工具,其NGC (NVIDIA GPU Cloud)也提供各式AI容器,以幫助從事AI領域研究人員來建立模型與訓練。搭配其DLI (深度學習學院)也有各式課程,提供各界專業人士,以及有意從事AI領域的初學者,踴躍加入其學院來學習!

國立成功大學校長蘇慧貞小姐也表示,在醫學研究方面,她也有感於台灣這邊其實不乏有優秀的醫師發表各種醫學研究報告,但以前就是礙於運算能力的不足,必須送到國外研究機構以更快的高速電腦來驗證該研究結果,但這樣就是該研究報告就要讓國外單位共同掛名,以分享成就。如今成大共購入6台NVIDIA DGX-1伺服器,便是看到台灣真的需要一個穩固且強大的基礎設備,來滿足各種研究計畫的需求。而在歷經運算需求、導入的簡易程度、擴充性、性價比與電能效率等全方位的考量之後,該校選擇NVIDIA的方案,藉此協助更多研究計畫上的突破,讓台灣在國際間保有競爭力,協助台灣整體學術領域的成長。

最後,成大校長蘇慧貞(左四)、NVIDIA全球副總裁暨台灣區總經理邱麗孟(左五),以及成大各系所教授、醫師一同上台合影


以上就是本次NVIDIA x 成大記者會現場直擊,謝謝收看!

發表您的看法

請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。

請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。

請勿侵犯個人隱私權,將他人資料公開張貼在留言版內。

請勿重複留言(包括跨版重複留言)或發表與各文章主題無關的文章。

請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。

您在留言版發表的內容需自負言論之法律責任,所有言論不代表PCDIY!雜誌立場,違反上述規定之留言,PCDIY!雜誌有權逕行刪除您的留言。