NVIDIA 和 Google Cloud 宣布開展新合作，幫助世界各地的新創公司加速建立生成式人工智慧（AI）應用程式和服務。

此合作於今天在美國拉斯維加斯舉行的Google Cloud Next '24大會上宣布，將結合針對新創公司的NVIDIA Inception計畫和Google for Startups Cloud計畫，以擴大獲得雲端積分（cloud credit）、市場推廣支援和技術專業知識，協助新創公司更快地為客戶提供價值。

NVIDIA Inception 是一項支援超過 18,000 家新創公司的全球計劃，其合格會員將能夠加速使用 Google Cloud 基礎設施，並獲得 Google Cloud 積分（credit），專注於 AI 的企業最高可獲得 350,000 美元的積分，並可用於NVIDIA DGX Cloud。

Google for Startups Cloud 計畫成員可以加入 NVIDIA Inception 計畫，並獲得技術專業知識、NVIDIA 深度學習機構課程學分、NVIDIA 硬體和軟體等。Google for Startups Cloud 計畫的合格成員還可以參與 NVIDIA Inception Capital Connect，讓新創公司能夠接觸到對該領域感興趣的創投公司。

參與這兩個計畫的高成長新興軟體製造商也可以獲得加快入駐Google Cloud Marketplace、共同行銷和產品加速支援。

此次合作是兩家公司為幫助降低各種規模企業開發生成式AI應用相關成本和障礙而發布的一系列公告中的最新一項。新創公司尤其受到AI投資相關高成本的限制。

需要全端人工智慧平台

今年 2 月，Google DeepMind 推出了 Gemma，這是一系列最先進的開放式模型。 NVIDIA 與 Google 合作，近期為Gemma在所有 NVIDIA AI 平台上進行了最佳化，有助於降低客戶成本，並加快針對特定領域用例的創新工作。

兩家公司的團隊緊密合作，利用NVIDIA TensorRT-LLM這個用於最佳化大型語言模型推論的開源庫來加速 Gemma 在 NVIDIA GPU 上運行時的效能，Gemma 採用與建立Google DeepMind 迄今為止功能最強大的模型Gemini相同的研究和技術。

NVIDIA NIM微服務是 NVIDIA AI Enterprise 軟體平台的一部分，它與 Google Kubernetes Engine（GKE）一起為開發 AI驅動應用程式以及將最佳化的AI 模型部署到生產環境提供了簡化路徑。NIM 基於 NVIDIA Triton 推論伺服器和 TensorRT-LLM 等推論引擎構建，支援各種領先的 AI 模型，並提供無縫、可擴展的 AI 推論，以加速企業中的生成式 AI 部署。

包括 Gemma 7B、RecurrentGemma 和 CodeGemma在內的Gemma 系列模型可從NVIDIA API 目錄中獲得，使用者可以透過瀏覽器進行試用，使用 API 端點進行原型開發，並使用 NIM 進行自主託管。

透過 GKE 和 Google Cloud HPC 工具套件，Google Cloud讓使用者可以更輕鬆地在其平台上部署 NVIDIA NeMo框架。這使得開發人員能夠自動化和擴展生成式AI模型的訓練和服務，使他們能夠透過可客製化的藍圖快速部署完整的環境，加速開發流程。

作為NVIDIA AI Enterprise 的一部分，NVIDIA NeMo也可在 Google Cloud Marketplace 中取得，為客戶提供了另一種輕鬆存取 NeMo 和其他框架以加速 AI 開發的方式。

為了進一步擴大 NVIDIA 加速的生成式 AI 運算的可用性，Google Cloud 也宣布 A3 Mega 將於下個月全面上市。這些執行個體是其 A3 虛擬機器系列的擴展，由 NVIDIA H100 Tensor核心GPU 驅動。新執行個體將使 A3 虛擬機器的 GPU 到 GPU之間網路頻寬增加一倍。

Google Cloud A3 上的新機密運算虛擬機器還將包括對機密運算的支援，以幫助客戶保護敏感資料的機密性和完整性，並在訓練和推論過程中保護應用程式和AI 工作負載，且使用H100 GPU加速時無需更改程式碼。這些由 GPU 驅動的機密運算虛擬機器將於今年以預覽版的形式提供。

下一步：基於 NVIDIA Blackwell 平台的 GPU

以 NVIDIA Blackwell 平台為基礎的NVIDIA最新 GPU 將於明年初導入 Google Cloud，共有兩種版本：NVIDIA HGX B200 和 NVIDIA GB200 NVL72。

HGX B200 專為最嚴苛的AI、資料分析和高效能運算工作負載而設計，而 GB200 NVL72 專為下一前沿、大規模、兆級參數的模型訓練和即時推論而設計。

NVIDIA GB200 NVL72 連接36 個Grace Blackwell 超級晶片，每個超級晶片配備兩個NVIDIA Blackwell GPU，並透過900GB/s 晶片間互連連接一個NVIDIA Grace CPU，在一個NVIDIA NVLink 域內支援多達72 個Blackwell GPU以及130TB/s 的頻寬。與上一代產品相比，NVIDIA GB200 NVL72 克服了通訊瓶頸，並作為單一 GPU運行，即時大型語言模型的推論速度提高了 30 倍，訓練速度提高了 4 倍。

NVIDIA GB200 NVL72是一款多節點機架規模系統，將與Google Cloud第四代先進液冷系統結合。

NVIDIA 上個月宣布，提供企業開發人員使用、針對生成式 AI 需求進行最佳化的 AI 平台NVIDIA DGX Cloud目前已可在由 H100 GPU 驅動的 A3 虛擬機器上使用。搭載 GB200 NVL72 的 DGX Cloud 也將於 2025 年在 Google Cloud 上提供。

→更多的【PCDIY!業界新聞】： 請見

→更多的【PCDIY!賣場情報】： 請見

→更多的【PCDIY!科技情報】： 請見

→更多的【IT資訊新聞】： 請見

→更多的【ITMan!資訊經理人】： 請見

→更多的【PCDIY!八卦】： 請見

延伸閱讀

(01)光華商場的新危機，淘寶網帶來的跨境電商價格戰！
(02)48顆壞25顆》威騰WD RE 3TB硬碟驚爆鬧機瘟，WD3000FYYZ死機地雷硬碟故障率高到嚇人！
(03)高雄建國電腦商圈爆倒店潮，引爆網友熱議！
(04)Seagate硬碟廣告：我也不想當死雞隊友啊，引爆玩家熱議！
(05)PTT寫手門事件：電蝦板主發表不自殺聲明，引爆網友熱議！
(06)記憶體插上16GB有多爽，引爆網友熱議！
(07)英特爾Intel 10GbE網路卡X540T2，淘寶網水貨價格殺很大！
(08)SSD爆發連環關門潮，憶正Memoright驚傳財務危機疑似倒閉！
(09)幫組電腦到自己貼錢的經驗，引爆網友熱議！
(10)教授認證防毒軟體「360安全衛士」，引爆網友熱議！
(11)DDR4記憶體金手指歪掉惹，引爆網友熱議！
(12)原價屋的商業模式，引爆網友熱議！
(13)Intel CPU神保固，舊換新大升級引爆網友狂推聯強貨！
(14)日本寬頻網路10G光纖上網，引爆網友熱議！
(15)Windows XP再戰十年，引爆網友熱議！
(16)光華商場的下一步，全世界都在看！
(17)東芝TOSHIBA Harrier MG03ACA300 3TB企業級硬碟，中國水貨價格殺很大！
(18)洋垃圾神器，Xeon E5-2670實測開箱大作戰！
(19)硬碟故障資料救援，等了一年八個月...
(20)新一代玩家聖物，6700元買16核心32執行緒Xeon E5-2675 v3處理器！
(21)淘寶網洋垃圾再顯神威，1999元買到8核心16執行緒Xeon E5-2670神器級處理器！
(22)洋垃圾戰神，5999元買14核心28執行緒Xeon E5-2683v3神器級處理器！
(23)硬碟用SSD有多爽，引爆網友熱議！
(24)磁碟陣列要選RAID 5還是RAID 6 引爆網友熱議！
(25)電腦CPU沒三萬沒法玩這遊戲，引爆網友熱議！
(26)為什麼有人要推AMD CPU菜單，引爆網友熱議！
(27)200TB資料怎麼儲存，引爆網友熱議！
(28)硬碟故障資料救援報價3萬8 引爆網友熱議！
(29)NVIDIA顯示卡的品牌怎麼挑選 引爆網友熱議！
(30)高科技竹筷，對付笨重顯示卡的神兵利器！
(31)電腦機殼價格破萬 引爆網友熱議！
(32)be quiet!電源供應器爆假貨，引爆了鍵盤大戰！