科技新知

NVIDIA推出AI與HPC解決方案,暨Jetson TX2模組應用現場直擊

文.圖/陳兆宏 2017-09-15 21:00:00
由於GPU的多重運算架構設計,除了可以應用在遊戲的3D場景即時運算與著色、渲染等應用之外,其亦可應用在許多領域,包括AI(人工智慧)、Deep Learning(深度學習)、VR (虛擬實境)、Data-Center(資料中心)或HPC(High Performance Computing,高效能運算)的加速分析,甚至運用於Autonomous Car (無人車)等等,因此以GPU可為未來的視覺與多層次複雜運算需求,提供最佳化的解決方案。

NVIDIA推出AI應用模組,幫助嵌入式產品變得更加聰明,此為Jetson TX2模組


NVIDIA於9/15日在其內湖辦公室,介紹其AI與HPC解決方案,為10月26日NVIDIA即將於台北舉辦之GTC TAIWAN 2017做鋪路。大家都知道NVIDIA是遊戲顯示卡的市場霸主,但是如今NVIDIA也推出AI相關的解決方案,是被業界看好的明日之星。到底NVIDIA是如何從一家GPU公司,躍升為AI技術公司的。以下,我們就透過NVIDIA台北總部的現場直擊,來了解未來的10年,GPU將會為科技產業帶來什麼樣的重大改變。

NVIDIA創辦人暨執行長 黃仁勳 將於10/26於台北的GTC (GPU技術論壇)發表主題演說,將介紹GPU在AI、HPC、無人車、深度學習等領域的應用


發揮AI級效能的嵌入式平台:NVIDIA Jetson TX2模組

NVIDIA日前推出的Jetson TX2嵌入式模組,是一款具有高效能與低耗能的GPU開發平台,大小跟Raspberry Pi相當,但卻擁有相當強大的運算能力,可幫助系統設計者開發出體積小、功能龐大的智慧型裝置,包含機器人(Robots)、無人機(Drones)、智慧型相機(Smart Camera),以及各種企業協同作業裝置等等。

NVIDIA推出AI應用的小型嵌入式模組:Jetson TX2模組


此為Jetson TX2的開發板(Developer Kit),可應用在各種AI、深度學習的應用領域


Jetson TX2與TX1的規格細節


這次NVIDIA展示了Jetson TX2開發平台在各種領域的應用,包括AI Imitating Art (人工智慧即時藝術畫模仿)、AI for Safer & Smart Cities (智慧都市的物件分析,包括車款辨識、車牌辨識、嫌疑犯即時比對等等),說明當今的相機裝置只要搭配Jetson TX2的AI模組,即可做到即時的智慧型分析應用,並讓文化創意更加有趣。

運用NVIDIA Jetson TX2模組,來做AI Imitating Art (人工智慧即時藝術畫模仿),透過相機所獲得的畫面,來進行即時分析,並繪製成如藝術畫那樣的風格


運用NVIDIA Jetson TX2模組,來做到智慧交通,搭配視訊鏡頭,即可即時辨認出各種車牌,可應用在國道ETC收費,或是過濾贓車等場合


運用NVIDIA Jetson TX2模組,來做到即時辨識車款與車號功能,適合收費員,或是統計員等使用


運用NVIDIA Jetson TX2模組,搭配隨身攝影機,即可做到即時臉部辨識。適合辦案警員使用


除此之外,NVIDIA現場也展示VR(虛擬實境)的應用。現場以HTC Vive展示一套VR Dominoes 「骨牌接龍」遊戲,當玩家放入一個骨牌之後,遊戲裡面的機器人,可以透過深度學習的方式,感測出接下來要放什麼骨牌來繼續接龍下去。因此在未來的VR遊戲中,導入AI與深度學習,將讓遊戲變得更加有趣。

由NVIDIA技術行銷經理蘇家興先生,來介紹VR遊戲的Deep Learning應用,


VR Dominoes (骨牌接龍)遊戲,由機器人陪玩家來玩,機器人會看著玩家放牌的位置,來進行深度學習,並挑出對應的正確骨牌來接龍下去。當數據一多,機器人就會越來越聰明,屆時玩接龍遊戲的話,就會越來越難贏過電腦了


VR Dominoes (骨牌接龍)遊戲裡面的機器人,能透過深入學習,正確的將骨牌放置到堆的位子


發揮AI、HPC的應用,NVIDIA的研發成果介紹

接下來,我們透過NVIDIA架構與工程解決方案部門副總裁Marc Hamilton先生的專題介紹,來了解NVIDIA在AI、Deep Learning、HPC領域的布局與研發成果。

NVIDIA架構與工程解決方案部門副總裁Marc Hamilton先生,介紹「雲端AI」的應用與趨勢


說到運算世代,每10年就會有一次重大的演變。從1995年的PC與網際網路,到2005年變成行動與雲端的結合,而到2015年則是演變到AI與IoT(物聯網)的新世代,將有超過億等級的裝置數量。而在這個世代中,深度學習、GPU的應用需求會更多、更急迫


NVIDIA是一家AI運算的公司。擁有既有的GPU運算技術(遊戲、挖礦、一般應用)、電腦繪圖技術(電影特效後製、物件繪製、場景即時著色)、AI技術(機械學習、深度學習)…


AI需要最先進的科技,因此NVIDIA於2017年5月、7月、8月,依序發表了Volta GPU、Tesla V100、Volta DGX-1的解決方案


GE (通用汽車)投資的Avitas公司,採用NVIDIA DGX解決方案,來設計智慧裝置(工作站、無人機、AI電腦、網路架構),以建構出一棟智慧工廠。


再來看看Tesla平台架構圖,類似物聯網的架構。包含最底層的Tesla GPU與系統層,透由NVIDIA的Tesla GPU、DGX-1、HGX-1等硬體,搭配IBM等OEM廠商與Amazon等雲端廠商,建置出AI系統基礎建設。再往上透過NVIDIA SDK的開發層、產業框架與工具層,到最上端的應用層,以建構出世界最先進的資料中心平台,以加速HPC與AI的應用


在HPC生態圈方面,目前NVIDIA的平台,在2017年已有51萬開發者加入,並有450種以上的以GPU來加速應用程式,將成為下世代HPC變革的巨浪


在AI生態圈方面,目前NVIDIA的平台,在2017年已有近4萬開發者加入,以加速每個深度學習的框架,目前廣泛到包括雲端、系統、桌上型電腦,都已經可以採用NVIDIA的方案來開發AI的應用


其實各行各業都用得到AI,AI應用無處不在。像是你可以問Siri「我的車停哪兒?」或在瀏覽器上請它幫忙找出雜誌上看到的包包,或是你也可以問Netflix說「接下來應該要看哪部電影?」


AI更可以幫助各產業提升競爭力。像是加入智慧監控系統,來提升公共場所(如機場、賣場)內的各種保全;在飯店、銀行、商店設置智慧機器人來提供客人服務;或是智慧農業耕種與收成,可減少使用農藥達90%... 等等


運用GPU來達到深度學習,可說是全新的運算模式。應用在訓練領域,GPU可處理運算數量非常龐大,可加速問市時程


至於應用在資料中心領域時,由於每天有有太多影像、語音、視訊被查詢,因此透過GPU來做推理,可加快反應,讓資料中心的處理量提升


接下來看看「GPU雲」有機會提供的AI服務內容:像是Spotify可提供推薦歌曲、Netflix提供影片推薦、Yelp也可以選擇封面照片


「GPU雲計算」也能推測使用者的下載動作。例如Pinterest的視覺搜尋功能、Twitter的視訊分類、荷航的顧客服務


GPU當然也能加速資料分析,像是Dropbox分析日誌檔、美國郵局的寄送路線最佳化、Verizon MapD也是應用GPU來進行即時大量數據分析


當雲端資料與預算的需求與成長速度呈現等比級數的成長,此時透過GPU即時處理這些大量資料,勢必已成必要。包括Amazon EC2的P2 instance設備,以及Microsoft的Azure N-Series虛擬機器,都已於2016年導入NVIDIA GPU解決方案


CSP (Cloud Service Provider,雲端服務供應商)目前提供的服務一覽。包含Amazon、Google、IBM、Microsoft、阿里雲、Nimbix,都有導入NVIDIA的GPU解決方案


HGX (H表示Hyperscale,超大規模) 解決方案,採用NVIDIA Volta 架構,可加速CSP夥伴們導入AI雲端服務。目前包括富士康、英業達、廣達以及緯創等,都已啟動這樣的計畫


HGX的架構介紹,可提供更高的運算馬力。HGX-1利用8個NVIDIA Tesla P100 GPU 的強大功能,與NVLink混合式網狀架構互連,和DGX-1超級電腦一併推出,提供領先同級的效能。HGX-1的模組化設計適用於全球現有的資料中心設備,為超大規模資料中心提供既簡單又快速、並具備AI等級的應用服務


目前已有不少廠商推出HGX的GPU伺服器。看來,未來伺服器、資料中心,將具備GPU為主超強運算能力,以提供AI與深度學習的應用需求




延伸閱讀:

(1) NVIDIA展示Max-Q設計之超薄電競筆電,兼顧安靜與效能,產品現場直擊快報
(2) Alienware與戴爾聯手 高效能PC電競與VR體驗如虎添翼
(3) NVIDIA E3:NVIDIA與Activision、Bungie攜手將《天命2》搬上PC平台



發表您的看法

請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。

請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。

請勿侵犯個人隱私權,將他人資料公開張貼在留言版內。

請勿重複留言(包括跨版重複留言)或發表與各文章主題無關的文章。

請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。

您在留言版發表的內容需自負言論之法律責任,所有言論不代表PCDIY!雜誌立場,違反上述規定之留言,PCDIY!雜誌有權逕行刪除您的留言。