講起NVIDIA這家公司大家應該都不陌生，除了著名的繪圖顯示晶片是眾多玩家的必備零組件之外，身為老闆的老黃刀法精湛也是聞名已久；不過，老黃家的GPU不單是對付遊戲厲害，一直以來都有工作站取向的顯卡存在(如Quadro)，近年來的人工智慧、深度學習等技術也在老黃的GPU上大展手腳，看看前陣子出爐的A100資料中心級的GPU，各大廠商也對應的推出了搭載的伺服器版本，但如此強大且泛用的GPU，好像這陣子越來越抓不住客群了？



據外媒報導，亞馬遜(Amazon)宣布他們正把AI程式轉移到自家Amazon EC2 Inf1晶片上，這代表亞馬遜所提供的「推論」服務(如：Alexa)將會透過更快速、更專業的晶片上運行，而不是在多功能的GPU上。

實際上亞馬遜已經轉移了80%的Alexa程式到他們的Inferencing晶片上了，相較於使用傳統GPU的EC2 G4，此次的EC2 Inf1晶片在提高30%效能的同時還降低了45%的成本。(看來是成本與效能的考量啊！)



這裡小編岔題講一下Alexa的工作模式，其實讀者家裡如果有Alexa的話(Google Nest或Amazon Echo)可以觀察看看，Alexa其實是只是一個智慧音響裡的程式，真正負責大量運算、處理的是Alexa背後的雲端(AWS)。也就是大家把Alexa喚醒的時候，Alexa只會記錄聲音檔給雲端，經過雲端把音檔轉換成文字(就是寫逐字稿啦)，之後再判斷下達的指令是什麼，然後「答案」再經由Alexa之口回傳給我們。這邊雲端的工作就是「推論」，而這次亞馬遜使用的EC2 Inf1晶片正是強化了「推理」的部分來達到30%效能成長與45%成本降低。



小編認為系統轉移到專屬的晶片上是必然的結果，但究竟是GPU真的有效能問題，還是亞馬遜早有跳出來自己做想法就不知道了。不過雲端的進步能帶來的幫助肯定是巨大的，如果以後出外景只要帶顆Alexa直接錄音，下班就有更精準的逐字稿了不知道工作會變多輕鬆XD。


★沒新聞心癢？加入PCDIY!官方Telegram頻道：https://t.me/PCDIY
☆「找嘸人」聊科技？加入PCDIY! Telegram討論群：https://t.me/PCDIY_Chat