焦點

Nutanix宣布將AI平台擴展至公有雲 Nutanix Enterprise AI提供在地端、邊緣易於使用的統一生成式 AI 體驗,現在支援在公有雲上使用

文.圖/張國華 2024-11-13 13:12:08

混合多雲運算領導者NutanixⓇ(納斯達克交易所代號:NTNX)今(13)日宣布擴展人工智慧(AI)基礎設施平台,推出新的雲端原生解決方案Nutanix Enterprise AI(NAI),可在任何Kubernetes平台、邊緣、核心資料中心,以及在AWS Elastic Kubernetes Service(EKS)、Azure Managed Kubernetes Service(AKS)和Google Kubernetes Engine(GKE)等公有雲服務上部署。NAI提供了一套統一的混合多雲操作模式,以加速AI工作負載,使企業能夠在自行選擇的安全位置利用其模型和數據,同時提高投資回報率。透過利用NVIDIA NIM優化基礎模型的性能,Nutanix Enterprise AI幫助企業安全地部署、運行和擴展大型語言模型 (LLM) 的推理端點,以支持在數分鐘而內部署生成式AI應用程式,取代數天或數周的冗長流程。

生成式 AI 本質上是一種混合工作負載,新應用程式通常在公有雲上構建;之後使用在地端的私有數據進行模型微調;而與業務邏輯最緊密關聯的推理部署,可能位於邊緣、地端或公有雲。這種分散、混合式的生成式AI工作流程可能會為企業帶來複雜度、資料隱私、安全性和成本方面的挑戰。

Nutanix Enterprise AI提供了一套統一的多雲操作模式,結合了NVIDIA NIM優化的推理微服務和來自Hugging Face的開放式基礎模型,能夠以簡單的方式安全地部署、擴展和運行LLM。這使客戶能夠建立日常營運、具有彈性、安全性的企業級GenAI基礎設施,以支持關鍵業務的應用程式在地端或AWS Elastic Kubernetes Service (EKS)、Azure Managed Kubernetes Service(AKS)和 Google Kubernetes Engine(GKE)等公有雲上的運行。

此外,相較於根據難以預測的使用量或基於token的定價模式,Nutanix Enterprise AI以基礎設施資源為基準,提供公開透明的定價模式,這對於希望最大化生成式AI投資獲回報的客戶來說非常重要。

Nutanix Enterprise AI是Nutanix GPT-in-a-Box 2.0的一部分。GPT-in-a-Box還包括 Nutanix雲端基礎架構、Nutanix Kubernetes平台和Nutanix統一儲存,並提供支持客戶配置和調整大小需求的服務,以進行地端的訓練和推論。對於希望在公有雲進行部署的客戶,Nutanix Enterprise AI可以部署在任何Kubernetes環境中,且運作與地端部署保持一致。

Nutanix產品管理資深副總裁Thomas Cornely表示:「透過Nutanix Enterprise AI,我們協助客戶以簡單且安全的方式在地端或公有雲上運行生成式AI應用程式。Nutanix Enterprise AI可在任何Kubernetes平台上運行,讓客戶能夠使用成本公開的模型並選擇安全的位置,運行其AI應用程式。」

Nutanix Enterprise AI可以與NVIDIA全端AI平台一起部署,並通過了NVIDIA AI Enterprise軟體平台驗證,其中包括NVIDIA NIM,這是一組易於使用的微服務,旨在安全可靠地部署高性能AI模型推理。Nutanix-GPT-in-a-Box也是通過NVIDIA認證的系統,確保了性能的可靠性。

NVIDIA企業AI副總裁Justin Boitano表示:「生成式AI工作負載本質上具有混合特性,訓練、客製化和推論過程均在公有雲、地端系統和邊緣位置上進行。將NVIDIA NIM整合至Nutanix Enterprise AI有助提供一套統一的多雲模式及安全的API,讓客戶能夠在不同環境中部署AI,同時確保關鍵業務應用程式所需的高效能和安全性。」

Nutanix Enterprise AI可以幫助客戶:
● 解決AI技術人才短缺問題:簡易性、不同化的選擇及內建功能讓IT管理人員能輕鬆管理AI,協助資料科學家和開發人員利用最新的模型和NVIDIA加速運算,促進AI開發。
● 消除障礙,建立AI就緒的平台:不少希望採用生成式AI的企業,在建立適合支援AI工作負載平台時都面臨挑戰,其中包括確保地端基礎架構與多個公有雲保持一致。Nutanix Enterprise AI透過簡單的UI支援工作流程解決這個問題,協助客戶在短時間内部署和測試大型語言模型(LLM)的推理端點。平台支援能在任何環境運行的NVIDIA NIM微服務,為客戶提供選擇,確保模型在雲端及地端環境中均可發揮最佳表現。該平台亦支持 Hugging Face及其他模型標準。此外,與Nutanix Kubernetes Platform的原生整合能夠確保與Nutanix雲端平台保持一致,讓客戶能選擇在任何Kubernetes執行環境上運行的選項,包括具備NVIDIA加速運算的 AWS EKS、Azure AKS 或 Google Cloud GKE。
● 降低數據隱私和安全風險:Nutanix Enterprise AI讓客戶能自行控制運算資源上的運行模型和數據,有助降低隱私和安全風險。此外,Nutanix Enterprise AI還提供一目了然的儀表板提供客戶進行疑難排查、可觀測性和資源運用管理,並具備快捷且安全的角色型存取控制(RBAC),確保LLM的存取控制明確可控。對於需要鞏固安全的企業而言,他們亦能在隔離(air-gapped)或dark-site環境中的部署。
● 為生成式AI工作負載提供企業級基礎架構:在Nutanix Cloud Platform運行關鍵業務應用程式的客戶現在可以將同樣高彈性、日常營運和安全應用於生成式AI工作負載,享受企業級基礎架構的體驗。

Nutanix Enterprise AI的主要客戶應用場景包括:透過分析客戶回饋和文件以生成式AI改善客戶體驗;利用人工智慧助手和文件處理以加快生成代碼和內容;在特定領域的數據上微調模型以加快生成代碼和內容;鞏固數據安全,包括利用AI模型進行詐騙檢測、威脅偵測、增強警報及自動生成政策;並透過在私人數據上微調模型以改善數據分析。

Hugging Face產品總監Jeff Boudier表示:「有賴Nutanix與Hugging Face的深度合作,Nutanix Enterprise AI的客戶可以在簡單易用、經過完整測試的架構上無縫部署最受歡迎的開源模型,該模型現在也可在公有雲中運行。」

IDC研究副總裁Dave Pearson表示:「透過從企業到公有雲的環境中提供一致的體驗,Nutanix Enterprise AI旨在為企業打造一個便於使用的基礎架構平台,支援企業從公有雲到邊緣運算上發展AI的每一步。」

在地端、邊緣和公有雲上運行的Nutanix Enterprise AI以及Nutanix GPT-in-a-Box 2.0現已開放提供客戶使用。如欲了解更多詳情,請瀏覽:Nutanix.com/enterprise-ai。

→更多的【PCDIY!業界新聞】: 請見

→更多的【PCDIY!賣場情報】: 請見

→更多的【PCDIY!科技情報】: 請見

→更多的【IT資訊新聞】: 請見

→更多的【ITMan!資訊經理人】: 請見

→更多的【PCDIY!八卦】: 請見

延伸閱讀

(01)光華商場的新危機,淘寶網帶來的跨境電商價格戰!
(02)48顆壞25顆》威騰WD RE 3TB硬碟驚爆鬧機瘟,WD3000FYYZ死機地雷硬碟故障率高到嚇人!
(03)高雄建國電腦商圈爆倒店潮,引爆網友熱議!
(04)Seagate硬碟廣告:我也不想當死雞隊友啊,引爆玩家熱議!
(05)PTT寫手門事件:電蝦板主發表不自殺聲明,引爆網友熱議!
(06)記憶體插上16GB有多爽,引爆網友熱議!
(07)英特爾Intel 10GbE網路卡X540T2,淘寶網水貨價格殺很大!
(08)SSD爆發連環關門潮,憶正Memoright驚傳財務危機疑似倒閉!
(09)幫組電腦到自己貼錢的經驗,引爆網友熱議!
(10)教授認證防毒軟體「360安全衛士」,引爆網友熱議!
(11)DDR4記憶體金手指歪掉惹,引爆網友熱議!
(12)原價屋的商業模式,引爆網友熱議!
(13)Intel CPU神保固,舊換新大升級引爆網友狂推聯強貨!
(14)日本寬頻網路10G光纖上網,引爆網友熱議!
(15)Windows XP再戰十年,引爆網友熱議!
(16)光華商場的下一步,全世界都在看!
(17)東芝TOSHIBA Harrier MG03ACA300 3TB企業級硬碟,中國水貨價格殺很大!
(18)洋垃圾神器,Xeon E5-2670實測開箱大作戰!
(19)硬碟故障資料救援,等了一年八個月...
(20)新一代玩家聖物,6700元買16核心32執行緒Xeon E5-2675 v3處理器!
(21)淘寶網洋垃圾再顯神威,1999元買到8核心16執行緒Xeon E5-2670神器級處理器!
(22)洋垃圾戰神,5999元買14核心28執行緒Xeon E5-2683v3神器級處理器!
(23)硬碟用SSD有多爽,引爆網友熱議!
(24)磁碟陣列要選RAID 5還是RAID 6 引爆網友熱議!
(25)電腦CPU沒三萬沒法玩這遊戲,引爆網友熱議!
(26)為什麼有人要推AMD CPU菜單,引爆網友熱議!
(27)200TB資料怎麼儲存,引爆網友熱議!
(28)硬碟故障資料救援報價3萬8 引爆網友熱議!
(29)NVIDIA顯示卡的品牌怎麼挑選 引爆網友熱議!
(30)高科技竹筷,對付笨重顯示卡的神兵利器!
(31)電腦機殼價格破萬 引爆網友熱議!
(32)be quiet!電源供應器爆假貨,引爆了鍵盤大戰!
















































發表您的看法

請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。

請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。

請勿侵犯個人隱私權,將他人資料公開張貼在留言版內。

請勿重複留言(包括跨版重複留言)或發表與各文章主題無關的文章。

請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。

您在留言版發表的內容需自負言論之法律責任,所有言論不代表PCDIY!雜誌立場,違反上述規定之留言,PCDIY!雜誌有權逕行刪除您的留言。

最近新增