在幾個月之前，IT 行業發生了一件震驚全球的大事——ChatGPT 3.5 公測版正 式發佈。從那時起，我們對 AI（尤其是生成式 AI）的關注、創新和投資達到了 空前的熱度。對比前幾次對 AI 的炒作，這次的不同之處在於生成式 AI 能讓我們 以對話的方式與強大的 AI 工具進行交互，這種自然語言交互在與「類似人類的」 創造力相結合後，能夠生成包括文本、程式碼、視訊、音訊在內的全新內容。

如今的大型語言模型（LLM）讓英語、漢語等母語變成了真正的程式設計語言， 我們在這些模型中輸入的提示詞，基本上就是它們用來運算答案的程式碼，這是 有史以來我們距離實現程式設計真正普及化最近的一次。

這一切都在告訴人們，我們正處在一次千載難逢的革命浪潮中，這將為軟體發展、 客戶支援、銷售、市場等主要的業務部門帶來轉型機遇。新一輪 AI 創新浪潮的 加快將對整個全球經濟產生深遠影響。有了生成式 AI，我們可以透過解決不同


學習者的差異性來重塑教育 1、幫助醫生做出臨床診斷 2、協助客戶做出投資決

策 3 等等，這都還只是冰山一角，根據麥肯錫最近的一份報告顯示，生成式 AI 每 年可為全球創造高達 7.9 萬億美元的經濟價值 4。

必須解決的三大挑戰

與以往此類大規模創新突破的早期階段一樣，我們在更加廣泛地採用 AI 方面， 遇到了一些重大的障礙，而且若要在企業中充分發揮生成式 AI 的價值和潛力， 我們必須共同解決三大核心挑戰。

挑戰一：將天價變成平價

訓練和管理當今的生成式 AI 模型既複雜又昂貴，需要耗費大量專用算力和高速 網路以及無數記憶體。目前，AI 模型的效能與運算基礎設施的實際比例為 1:1， 在這種情況下既無法擴展，也不可持續。風險投資機構 Andreessen Horowitz 最近將訓練 ChatGPT 這樣的模型描述為「人類迄今為止運算密集度最高的任務 之一」5。目前，單次訓練的價格從 50 萬美元到 460 萬美元不等 6，而且隨著模 型的更新，訓練將成為一項持續性的花費。

看到這些令人瞠目結舌的費用，許多人便得出結論：全球將只會有極少數像

ChatGPT 這樣的「超大型 LLM」。但其實還有另一條出路，未來一般企業都將


能以可承受的價格構建並運行自己的定制化 AI 模型，這條路的關鍵在於靈活性

和選擇性，儘管大多數資訊長都計畫使用超大型 LLM 來處理各種案例，但他們 也想要構建大量較小的 AI 模型，以便針對特定任務進行優化。這些模型通常基 於開源軟體。事實上，目前開源 AI 模型的創新數量之大令人吃驚。可以預見的


是，許多企業將把這些開放模型作為許多案例的首選，而不再依賴目前佔據主導

地位的大型專有 LLM。


這些開放的專用模型將充分利用企業獨有的知識財產——領域專用資料。我們 可以在專門的基礎設施上經濟且高效地運行這些較小的 AI 系統，包括更加便宜 的 GPU（圖形處理單元）以及經過改良的低成本 CPU，提供 AI 工作負載所需要 的性能和輸送量。透過降低成本以及構建兼具靈活性和選擇性的解決方案，我們 可以開闢一條對於主流企業來說更加可及的 AI 創新路徑。

挑戰二：將專業的 AI 知識變成普通人可以理解的 AI 知識

如今，AI 模型的構建、微調和運行都需要高度專業化的人才，而且這些人才供不 應求。執行長和資訊長幾乎都會把它列為首要難題之一。他們敏銳地意識到 AI 開源軟體領域發展迅速，並希望在最新的創新成果出現時，能夠快速、輕鬆地遷 移過去，而不會被鎖定在任何一個平台或廠商上。如果只有很小一部分專業技術 人員懂得當今 AI 模型背後的「奧秘」，那麼就很難實現這種適應性。

為了填補這一技能缺口，我們需要從根本上簡化構建和訓練 AI 模型的流程與工 具。這便是參考架構的「用武之地」，大部分由於內部人員缺乏相關專業知識而 無法從頭開始構建 AI 解決方案的企業機構可透過它獲得藍圖和可行的途徑。

挑戰三：將風險變成信用

最後或許也是最重要的一點是，我們需要將風險變成信用。當前的 AI 模型會帶 來隱私問題、法律和監管問題、智慧財產權洩露等巨大的風險。這些風險有可能 損害公司聲譽、傷害客戶和員工並對收入產生負面影響。在員工不小心將敏感的 內部資料洩露到 ChatGPT 等工具上後，許多企業都制定了限制員工使用生成式



生「幻覺」，創造出無意義、無關和/或不準確的新內容。


因此我們行業需要制定一套強有力的道德準則來保障並加強公平性、隱私性、責 任追究、他人的智慧財產權以及訓練資料的透明度。一個龐大且不斷擴張的組織 生態正在努力解決 AI 可解釋性 7、資料完整性 8 和資料隱私 9 等核心問題。這個 開源社群正作為這場運動的中心進行創新，努力幫助企業以安全可控的方式訓練 和部署 AI 模型。

下一輪技術創新浪潮

正如行動應用革命在過去 15 年中改變了商業以及我們與技術的關係，新一輪 AI 應用浪潮將大幅提升工作者的生產力並加快全球經濟發展。我們正處於新一輪超 級創新週期的初期。我們共同面臨的挑戰是如何讓這項強大的新技術變得更加經 濟、可實現和可信。

世界各地 AI 決策者普遍認為我們需要實現戰略上的平衡：在存在未知因素的情 況下，我們必須謹慎行事，尤其是在保密、隱私和專有資訊濫用方面。與此同時， 我們還必須讓企業能夠快速接受新的 AI 模型，這樣他們才能以負責和道德的方 式參與到下一輪創新浪潮中。

→更多的【PCDIY!業界新聞】： 請見

→更多的【PCDIY!賣場情報】： 請見

→更多的【PCDIY!科技情報】： 請見

→更多的【IT資訊新聞】： 請見

→更多的【ITMan!資訊經理人】： 請見

→更多的【PCDIY!八卦】： 請見

延伸閱讀

(01)光華商場的新危機，淘寶網帶來的跨境電商價格戰！
(02)48顆壞25顆》威騰WD RE 3TB硬碟驚爆鬧機瘟，WD3000FYYZ死機地雷硬碟故障率高到嚇人！
(03)高雄建國電腦商圈爆倒店潮，引爆網友熱議！
(04)Seagate硬碟廣告：我也不想當死雞隊友啊，引爆玩家熱議！
(05)PTT寫手門事件：電蝦板主發表不自殺聲明，引爆網友熱議！
(06)記憶體插上16GB有多爽，引爆網友熱議！
(07)英特爾Intel 10GbE網路卡X540T2，淘寶網水貨價格殺很大！
(08)SSD爆發連環關門潮，憶正Memoright驚傳財務危機疑似倒閉！
(09)幫組電腦到自己貼錢的經驗，引爆網友熱議！
(10)教授認證防毒軟體「360安全衛士」，引爆網友熱議！
(11)DDR4記憶體金手指歪掉惹，引爆網友熱議！
(12)原價屋的商業模式，引爆網友熱議！
(13)Intel CPU神保固，舊換新大升級引爆網友狂推聯強貨！
(14)日本寬頻網路10G光纖上網，引爆網友熱議！
(15)Windows XP再戰十年，引爆網友熱議！
(16)光華商場的下一步，全世界都在看！
(17)東芝TOSHIBA Harrier MG03ACA300 3TB企業級硬碟，中國水貨價格殺很大！
(18)洋垃圾神器，Xeon E5-2670實測開箱大作戰！
(19)硬碟故障資料救援，等了一年八個月...
(20)新一代玩家聖物，6700元買16核心32執行緒Xeon E5-2675 v3處理器！
(21)淘寶網洋垃圾再顯神威，1999元買到8核心16執行緒Xeon E5-2670神器級處理器！
(22)洋垃圾戰神，5999元買14核心28執行緒Xeon E5-2683v3神器級處理器！
(23)硬碟用SSD有多爽，引爆網友熱議！
(24)磁碟陣列要選RAID 5還是RAID 6 引爆網友熱議！
(25)電腦CPU沒三萬沒法玩這遊戲，引爆網友熱議！
(26)為什麼有人要推AMD CPU菜單，引爆網友熱議！
(27)200TB資料怎麼儲存，引爆網友熱議！
(28)硬碟故障資料救援報價3萬8 引爆網友熱議！
(29)NVIDIA顯示卡的品牌怎麼挑選 引爆網友熱議！
(30)高科技竹筷，對付笨重顯示卡的神兵利器！
(31)電腦機殼價格破萬 引爆網友熱議！
(32)be quiet!電源供應器爆假貨，引爆了鍵盤大戰！