ITMan!資訊經理人

• 在企業中發揮生成式 AI 的價值

  在幾個月之前，IT 行業發生了一件震驚全球的大事——ChatGPT 3.5 公測版正 式發佈。從那時起，我們對 AI（尤其是生成式 AI）的關注、創新和投資達到了 空前的熱度。對比前幾次對 AI 的炒作，這次的不同之處在於生成式 AI 能讓我們 以對話的方式與強大的 AI 工具進行交互，這種自然語言交互在與「類似人類的」 創造力相結合後，能夠生成包括文本、程式碼、視訊、音訊在內的全新內容。 如今的大型語言模型（LLM）讓英語、漢語等母語變成了真正的程式設計語言， 我們在這些模型中輸入的提示詞，基本上就是它們用來運算答案的程式碼，這是 有史以來我們距離實現程式設計真正普及化最近的一次。 這一切都在告訴人們，我們正處在一次千載難逢的革命浪潮中，這將為軟體發展、 客戶支援、銷售、市場等主要的業務部門帶來轉型機遇。新一輪 AI 創新浪潮的 加快將對整個全球經濟產生深遠影響。有了生成式 AI，我們可以透過解決不同 學習者的差異性來重塑教育 1、幫助醫生做出臨床診斷 2、協助客戶做出投資決 策 3 等等，這都還只是冰山一角，根據麥肯錫最近的一份報告顯示，生成式 AI 每 年可為全球創造高達 7.9 萬億美元的經濟價值 4。 與以往此類大規模創新突破的早期階段一樣，我們在更加廣泛地採用 AI 方面， 遇到了一些重大的障礙，而且若要在企業中充分發揮生成式 AI 的價值和潛力， 我們必須共同解決三大核心挑戰。 訓練和管理當今的生成式 AI 模型既複雜又昂貴，需要耗費大量專用算力和高速 網路以及無數記憶體。目前，AI 模型的效能與運算基礎設施的實際比例為 1:1， 在這種情況下既無法擴展，也不可持續。風險投資機構 Andreessen Horowitz 最近將訓練 ChatGPT 這樣的模型描述為「人類迄今為止運算密集度最高的任務 之一」5。目前，單次訓練的價格從 50 萬美元到 460 萬美元不等 6，而且隨著模 型的更新，訓練將成為一項持續性的花費。 看到這些令人瞠目結舌的費用，許多人便得出結論：全球將只會有極少數像 ChatGPT 這樣的「超大型 LLM」。但其實還有另一條出路，未來一般企業都將 能以可承受的價格構建並運行自己的定制化 AI 模型，這條路的關鍵在於靈活性 和選擇性，儘管大多數資訊長都計畫使用超大型 LLM 來處理各種案例，但他們 也想要構建大量較小的 AI 模型，以便針對特定任務進行優化。這些模型通常基 於開源軟體。事實上，目前開源 AI 模型的創新數量之大令人吃驚。可以預見的 是，許多企業將把這些開放模型作為許多案例的首選，而不再依賴目前佔據主導 地位的大型專有 LLM。 這些開放的專用模型將充分利用企業獨有的知識財產——領域專用資料。我們 可以在專門的基礎設施上經濟且高效地運行這些較小的 AI 系統，包括更加便宜 的 GPU（圖形處理單元）以及經過改良的低成本 CPU，提供 AI 工作負載所需要 的性能和輸送量。透過降低成本以及構建兼具靈活性和選擇性的解決方案，我們 可以開闢一條對於主流企業來說更加可及的 AI 創新路徑。 如今，AI 模型的構建、微調和運行都需要高度專業化的人才，而且這些人才供不 應求。執行長和資訊長幾乎都會把它列為首要難題之一。他們敏銳地意識到 AI 開源軟體領域發展迅速，並希望在最新的創新成果出現時，能夠快速、輕鬆地遷 移過去，而不會被鎖定在任何一個平台或廠商上。如果只有很小一部分專業技術 人員懂得當今 AI 模型背後的「奧秘」，那麼就很難實現這種適應性。 為了填補這一技能缺口，我們需要從根本上簡化構建和訓練 AI 模型的流程與工 具。這便是參考架構的「用武之地」，大部分由於內部人員缺乏相關專業知識而 無法從頭開始構建 AI 解決方案的企業機構可透過它獲得藍圖和可行的途徑。 最後或許也是最重要的一點是，我們需要將風險變成信用。當前的 AI 模型會帶 來隱私問題、法律和監管問題、智慧財產權洩露等巨大的風險。這些風險有可能 損害公司聲譽、傷害客戶和員工並對收入產生負面影響。在員工不小心將敏感的 內部資料洩露到 ChatGPT 等工具上後，許多企業都制定了限制員工使用生成式 生「幻覺」，創造出無意義、無關和/或不準確的新內容。 因此我們行業需要制定一套強有力的道德準則來保障並加強公平性、隱私性、責 任追究、他人的智慧財產權以及訓練資料的透明度。一個龐大且不斷擴張的組織 生態正在努力解決 AI 可解釋性 7、資料完整性 8 和資料隱私 9 等核心問題。這個 開源社群正作為這場運動的中心進行創新，努力幫助企業以安全可控的方式訓練 和部署 AI 模型。 正如行動應用革命在過去 15 年中改變了商業以及我們與技術的關係，新一輪 AI 應用浪潮將大幅提升工作者的生產力並加快全球經濟發展。我們正處於新一輪超 級創新週期的初期。我們共同面臨的挑戰是如何讓這項強大的新技術變得更加經 濟、可實現和可信。 世界各地 AI 決策者普遍認為我們需要實現戰略上的平衡：在存在未知因素的情 況下，我們必須謹慎行事，尤其是在保密、隱私和專有資訊濫用方面。與此同時， 我們還必須讓企業能夠快速接受新的 AI 模型，這樣他們才能以負責和道德的方 式參與到下一輪創新浪潮中。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• UL Solutions 在台灣獲認可為電池及電動車充電系統 CB 測試實驗室

  安全科學領域的全球專家 UL Solutions 今日宣布，其位於桃園蘆竹的電動載具暨儲能測試實驗室，獲國際電工委員會 (IEC) 電工產品合格測試與認證組織 (IECEE) 認可為 CB 測試實驗室 (CBTL)。 依據 IECEE CB 計畫，UL Solutions 電動載具暨儲能測試實驗室將具 CBTL 資格，可為製造商提供在地、完整的電池和電動車充電測試服務。 UL Solutions 副總裁暨台灣總經理陳宗弘表示，「電池和電動車充電製造商進軍全球市場的需求日增。 UL Solutions 在台灣的實驗室能取得國際標準組織認可，成為電池和電動車充電系統的 CBTL 是在地廠商的一大福音，我們亦將持續擴大測試範圍，希望能引導製造商符合複雜的國際要求，順利進入目標市場。」 UL Solutions 於去年七月在台灣開設最先進的電動載具暨儲能測試實驗室，協助製造商縮短測試時間，降低成本並加速產品的上市。 該實驗室為客戶提供廣泛的電動自行車 (e-bike) 電源系統，以及電動車充電電源與儲能電池容量測試。實驗室的測試能量能滿足全球市場的安全需求，是台灣唯一一個有能力在單一地點測試電動載具包括電動車和電動自行車電池系統的實驗室。 IECEE 是基於 IEC 國際標準的多邊認證體系。IECEE CB 計畫提供以 IEC 國際標準為本的測試，以取得國際上相互認可的認證。 UL Solutions 依據 IECEE CB 計畫成為 CBTL，可根據適用的 IEC 國際標準，執行電池和電動車充電系統的 CB 測試，提供進入全球市場的認證服務，包括： • IEC 61851-1:2017, 電動車傳導充電系統 — 第1部分：一般要求。 • IEC 61851-23:2014，電動車傳導充電系統 — 第 23 部分： 直流電動車充電站。 • IEC 61851-24:2014，電動車傳導充電系統 — 第 24 部分： 用於控制直流充電，電動車與直流充電站間的數位通訊 • IEC 62133-2:2017, 含鹼性及其他非酸性電解質之二次單電池及電池組 — 用於可攜式應用之可攜式密封型二次單電池與由其所組成的電池組之安全要求 — 第2部分：鋰系統 • IEC 62619:2017，含鹼性或其他非酸性電解質的二次電池芯和電池組 — 用於產業應用的二次鋰電池芯和蓄電池。 • IEC 62752:2016，電動道路車模式 2 充電的電纜內控制和保護裝置 (IC-CPD)。 • IEC 63056:2020，含鹼性或其他非酸性電解質的二次電池芯和電池組 — 用於能源儲存系統的二次鋰電池芯和電池的安全要求。 • IEC 63057:2020，含鹼性或其他非酸性電解質的二次電池芯和電池組 — 用於道路車輛而非推進裝置的二次鋰電池的安全要求。 「電動化正在形塑全球交通運輸的未來，台灣當然也在這個變革的行列，對安全必須加以重視。」陳宗弘補充。 「我們的實驗室拿到指定的 CBTL 資格，代表 UL Solutions 可以協助製造商證明其電池和電動車充電技術符合重要的安規要求，能持續邁向一個更永續的未來。」 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• 2023 AWS台灣雲端高峰會盛大登場！ 聚焦生成式AI熱潮及物聯網機遇，展示企業上雲新思考

  Amazon Web Services（AWS）於2日至3日在台北舉辦一年一度的AWS台灣雲端高峰會（AWS Summit Taiwan）。此次高峰會以「AI熱潮席捲全球，企業上雲勢在必行」為主題，深度剖析企業如何在人工智慧新紀元中運用雲端工具創造差異化的競爭利基。AWS全球IoT物聯網副總裁Yasser Alsaied及AWS企業策略師Gregor Hohpe也蒞臨台灣，分享國際最前瞻的物聯網、資料策略及AI等議題與雲端趨勢。包括緯穎科技、Deloitte勤業眾信、趨勢科技、Gogolook走著瞧等多家技術領先的客戶與合作夥伴將在兩天的活動中，分享他們如何善用AWS服務加速創新轉型，以及拓展業務的卓越成果。 AWS台灣暨香港總經理王定愷表示：「面對生成式AI等前瞻科技帶來的挑戰和機遇，企業都應該積極擁抱技術革新，以具有創造力的方式想像未來的可能性，重塑企業及產業的未來。AWS在台灣深耕超過十年，未來將持續創新，為處於不同技術階段的企業提供全方位的服務與工具，幫助企業抓住科技創新的新機遇，鍛造基業長青。」 為幫助台灣與會者掌握全球最新雲端趨勢，AWS特別邀請到海外重磅嘉賓進行主題演講分享。AWS IoT物聯網副總裁Yasser Alsaied於首日分享，無論是將虛擬與實體世界的資訊相連接，進而更快速地獲得明智的業務決策，還是帶動長期的業務創新、創造全新的業務體驗，透過AWS深入且廣泛的服務、解決方案以及合作夥伴方案，AWS物聯網技術將為各行各業、不同的應用帶來變革。首先，AWS在底層雲端基礎設施上，為客戶專門打造物聯網服務，能幫助客戶設計、連接和管理物聯網應用程式，並分析和處理資料；同時也與合作夥伴攜手提供專門的物聯網產業服務，支援客戶特定垂直產業應用。AWS還為客戶把關從雲端到邊緣的安全性，確保設備和資料的安全。Yasser Alsaied也解析AWS物聯網服務如何幫助智慧工廠、智慧家庭、聯網汽車等多元產業更高效地拓展業務，助力原本就具備硬體優勢的台灣企業在全球競爭中成功突圍。 此外，AWS企業策略師Gregor Hohpe也將於3日分享在資料爆炸及生成式AI的紀元下，客戶如何運用AWS建構資料管理策略及進行創新，並在提高效率的同時兼顧企業資料安全。從資料儲存、分析、資料庫到人工智慧與機器學習，AWS在資料管理方面的創新投入已經超過17年。AWS從三個方面助力客戶建立安全、簡單、大規模的端到端資料策略，包括，提供全面的資料管理工具，以因應客戶不同規模、不同需求的資料型態；加強資料服務之間的無縫整合、推動零ETL（Extract萃取、Transform轉置、Load載入）的未來，讓客戶能夠更方便地挖掘資料的價值；提供端到端的資料治理，使團隊能更安全快速地從資料中萃取價值。 AWS始終以不斷降低人工智慧及機器學習的門檻為目標和願景，提供一系列的技術、服務和工具，無論各個企業的技術水準與儲備人才的技術水平為何，AWS都能幫助所有企業充分釋放生成式AI的潛力。AWS透過提供靈活豐富的模型選擇，並在保證客戶私有資料安全的前提下，使客戶利用自身資料結合基礎模型，更簡易地構建自己的客製化模型。同時，還針對不同場域，幫助企業在基礎模型上建立更佳的生成式AI應用。最後，AWS還為企業提供超大規模、高性價比、低延遲的雲端基礎設施來支援持續的訓練和大規模的推理。近日，AWS在紐約高峰會上宣布一系列全新的生成式AI工具，包括Amazon Bedrock拓展代理（Agents）功能、Amazon QuickSight全新生成式BI（Business Intelligence）功能、Amazon Entity Resolution機器學習資料分析服務等，皆是期望能幫助客戶進一步釋放資料價值和生成式AI的潛力，在激烈的競爭中脫穎而出。 除了精采的主題演講，本次高峰會亦邀請音樂品牌華風數位旗下嘻哈歌手CED、創作女聲Jocelyn 9.4.0親臨現場，透過AI應用新創公司KKLab利用Amazon SageMaker打造的生成式AI軟體──Lyricist.ai靈魂寫手，與現場與會者共創歌詞。此外，會場內特別設有多個實作區域，提供開發者與各界技術專家交流機會。深受台灣開發者所喜愛的「AWS DeepRacer自駕車聯賽」睽違四年亦回歸實體舉辦，參賽者將現場爭奪前往美國全球年度盛會AWS re:Invent參加DeepRacer總決賽的資格。同時，AWS今年也與全球擁有超過2億玩家的遊戲龍頭Riot Games合作，舉辦《英雄聯盟》聯名活動「AWS GameDay : 英雄聯盟電競版」，參賽者將用《英雄聯盟》電競賽事資料，現場以AI打造贏家預測模型。 此次高峰會將匯集超過70位雲端專家所組成的強大講師陣容，開設近50場涵蓋不同產業及技術領域的精彩演講，預計線上實體合計將有超過五千人次參加。高峰會也獨家設置AWS產業應用展示區，幫助參加者了解AWS最新的服務與豐富的產業解決方案。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• 西門子推出 Calibre DesignEnhancer，實現「Calibre 設計即正確」IC 佈局最佳化

  西門子數位化工業軟體日前推出創新解決方案 Calibre® DesignEnhancer，能幫助積體電路（IC）、自動佈局佈線（P&R）和全客製化設計團隊在 IC 設計和驗證過程中實現「Calibre 設計即正確」設計佈局修改，從而顯著提高生產力、提升設計品質並加快上市速度。 Calibre DesignEnhancer 是西門子 Calibre® nmPlatform IC 實體驗證平台「左移」系列工具之最新產品，可幫助客製化與數位設計團隊快速準確地最佳化設計，以減少或消除壓降（IR drop）與電子遷移（EM）等問題，進而提升實體驗證準備就緒能力。Calibre DesignEnhancer 可在 IC 設計和實作階段期間，支援自動最佳化佈局，幫助客戶更快地達成「DRC-clean」，以實現 tapeout，同時提高設計可製造性和電路可靠性。 STMicroelectronics 智慧電源技術研發設計支援總監 Pier Luigi Rolandi 表示：「Calibre DesignEnhancer 解決方案能夠幫助我們持續加強 IC 設計，在處理和解決電路電阻值過大和 IR 壓降等問題方面表現出色。」 在對 IC 設計進行實體驗證之前，工程師通常須依賴第三方 P&R 工具來整合設計，以實現可製造性（DFM）最佳化，這通常需要執行多次驗證才能最終得到「DRC - clean」的結果。有了西門子全新的 Calibre DesignEnhancer 工具，設計團隊可以顯著縮短驗證周期時間並減少 EM/IR 問題，同時為實體驗證做好佈局準備。 • 貫孔修改可自動分析佈局，並最多插入超過 100 萬個 Calibre-Clean的「設計即正確」貫孔，以減少貫孔電阻對 EM/IR 和可靠性的影響。基於對佈局和 Signoff 設計規則的透徹了解，貫孔插入可以幫助客戶實現其功耗目標，而不會影響效能或面積指標。 • 電源/接地增強功能可自動分析佈局，並在開放軌道中插入 Calibre nmDRC-Clean 的貫孔和互連，進而建立並行運作，以降低電源/接地結構上的電阻，並減少與電源線相關的 IR 和 EM 問題。使用 Calibre DesignEnhancer 工具可為客戶減少多達 90% 的 IR 壓降問題。 • 填充單元插入可最佳化實體驗證就緒所需的去耦電容（DCAP）和填充單元插入。此種插入取代了傳統的 P&R 填充單元插入流程，有助於提供更高品質的結果，並使執行時間加快 10 倍之多。 西門子數位化工業軟體 Calibre 設計解決方案部門的實體驗證產品管理資深總監 Michael White 表示：「當今 IC 設計環境充滿了挑戰，採用先進製程的工程團隊在工作中往往受到給定的面積和專案時間表的約束，因此很難最佳化佈局以實現可製造性和高效能。藉著使用 Calibre DesignEnhancer 軟體，設計師可以在設計週期的早期發揮 Calibre 的多邊形處理速度和準確度優勢，這有助於避免設計週期後期出現意外情況。」 Calibre DesignEnhancer 解決方案採用了經過驗證的技術、引擎和 Calibre 的合格規則集，可以幫助客戶獲得設計即正確、Calibre DRC-Clean並準備好 Signoff 驗證的結果。此方案可以將 OASIS、GDS 和 LEF/DEF 檔案作為輸入文件讀取，並以 OASIS、GDS 或增量 DEF 檔案的任何組合輸出佈局修改，幫助設計團隊輕鬆地將 Calibre DesignEnhancer 軟體變更返標註（back-annotate）至設計資料庫中，以使用常用的功耗時序分析工具執行功耗和時序分析，從而在設計生命週期的前期提供進一步分析的方法。 Calibre DesignEnhancer 工具使用業界的介面標準，與所有主要設計和實作環境整合，提供了一個易於使用的工作環境。Calibre DesignEnhancer 套件現在可供所有支援 130 nm 到 2 nm 設計的領先晶圓代工廠使用，具體情況取決於使用模型和技術。 有關 Calibre DesignEnhancer 工具的更多資訊，請造訪：https://eda.sw.siemens.com/en-US/ic/calibre-design/design-for-manufacturing/designenhancer/ →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• Pixar、Adobe、Apple、Autodesk 和 NVIDIA 組成 OpenUSD 聯盟，推動 3D 內容的開放標準 促進全球合作通用場景描述的聯盟

  Pixar、 Adobe、Apple、Autodesk和 NVIDIA與 Linux 基金會附屬機構聯合開發基金會 (JDF) 今天宣布成立 OpenUSD 聯盟 (AOUSD)，以促進Pixar通用場景描述技術的標準化、開發、發展和成長。 該聯盟旨在透過提升開放通用場景描述 (OpenUSD) 的功能來標準化 3D 生態系統。 透過推廣 3D 工具和資料更強大的互通性，該聯盟將使開發人員和內容創作者能夠描述、編寫和模擬大型 3D 專案，並構建範圍不斷擴大的 3D 產品和服務。 OpenUSD是由Pixar動畫工作室 (Pixar Animation Studios) 所創建，是一種高效能的3D場景描述技術，可提供跨工具、資料和工作流程的強大互通性。OpenUSD以其協助捕捉藝術表現和簡化電影內容製作的能力而著稱，其強大功能和靈活性使其成為滿足新產業和應用程式需求的理想內容平台。 該聯盟將制訂詳細說明 OpenUSD 功能的書面規範。 這將實現更大的相容性和被更廣泛的採用、整合和實施，並允許其他標準機構將其納入自家規範中。此專案將由 Linux 基金會的 JDF來主管 ，它將能夠實現開放、高效和有效的 OpenUSD 規範發展，同時協助取得國際標準化組織 (ISO) 認證。 AOUSD將提供一個主要論壇，共同定義整個產業對此技術的改善方向。該聯盟邀請眾多公司和組織加入並參與塑造OpenUSD的未來。 Pixar技術長暨AOUSD主席Steve May表示：「通用場景描述 (Universal Scene Description, USD) 是由Pixar發明的，是我們最先進的動畫製作流程的技術基礎， OpenUSD是Pixar基於多年來在電影製作中的研究和應用。我們於2016年將該項目開源，現在OpenUSD的影響力已擴展到電影、視覺效果、動畫以及其他越來越依賴3D資料進行媒體交換的產業。隨著AOUSD的宣布成立，我們揭示了令人興奮的下一步：OpenUSD的技術將持續發展並成為國際標準。」 Adobe 3D&I 資深工程總監 Guido Quaroni 表示：「在 Adobe，我們致力於為藝術家提供一套在各種設備上運行的靈活而強大的解決方案。 在創作過程中利用通用的 3D 資料可以增加每個軟體套件和設備所帶來的價值。 OpenUSD 的創建就是為了成為這些『乘數』之一，看到多元的公司聯合起來支持這項創新和開放的技術令人感到興奮。」 Apple視覺產品團隊副總裁 Mike Rockwell 表示：「OpenUSD 將有助於加速下一代擴增實境的體驗，從藝術創作到內容呈現，並且產生不斷擴大的空間運算應用程式。Apple 一直是通用場景描述發展的積極貢獻者，它是突破性的 VisionOS 平台以及新的 Reality Composer Pro 開發工具的重要技術。我們期待著促進其發展成為被廣泛採用的標準。」 Autodesk 媒體與娛樂部研究員 Gordon Bradley 表示：「無論您是要建構 CG 世界或數位孿生，還是規劃 3D 網路，內容創作者都需要一種有結合力的方式來跨工具、服務和平台協作和共享資料。Autodesk 很高興能夠支持 OpenUSD 聯盟，因為它推動了視覺效果、動畫等方面的 3D 互通性，並支持我們幫助客戶設計和創造更美好世界的願景。」 NVIDIA的開源和標準總監Guy Martin表示：「OpenUSD為3D開發者、藝術家和設計師提供了完整的基礎，透過可以廣泛的多應用程式互通性，應對大規模的工業、數位內容創作和模擬工作負載。這個聯盟是一個獨特的機會，可以透過建立跨行業的正式標準和舉措來加速全球的OpenUSD合作，實現3D世界和工業數位化的目標。」 AOUSD 指導委員會成員將於 8 月 6 日學院軟體基金會的開源日以及台灣時間 8 月 9 日上午4 點在SIGGRAPH大會中 Autodesk Vision Series上發表演講。 欲瞭解更多關於AOUSD的消息以及如何加入，請瀏覽 www.aousd.org。請於2023年8月6日至網頁觀看學院軟體基金會有關USD的座談會。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• Amazon OpenSearch Serverless向量引擎預覽版正式推出 助力客戶輕鬆打造現代生成式AI應用

  Amazon Web Services（AWS）宣布推出Amazon OpenSearch Serverless向量引擎預覽版。該向量引擎在Amazon OpenSearch Serverless中提供了一種簡單、可拓展、高效能的相似性搜尋功能，讓用戶能夠輕鬆打造由現代化機器學習（ML）的增強搜尋體驗和生成式AI應用程式，毋須管理底層向量資料庫基礎設施。 所有產業的企業都在迅速採用生成式AI，因為它能夠處理龐大的資料集、生成自動化內容，並提供媲美人類的互動式回應。透過整合聊天機器人、問答系統和個人化推薦等先進的對話生成式AI應用程式，客戶正在想方設法澈底變革終端使用者體驗以及與數位平台的交流。這些對話應用程式讓使用者能夠用自然語言進行搜尋和查詢，並透過理解語義、用戶意圖和查詢上下文，生成酷似人類的回應。 機器學習的增強搜尋應用和生成式AI的應用程式都需要使用向量嵌入，向量嵌入作為文本、圖像、音訊和影片資料的數位表示，可以用來生成動態的相關內容。向量嵌入基於使用者私有資料進行訓練，代表資訊的語義和內容屬性。理想情況下，這些嵌入可以就近儲存和管理，如接近現有的搜尋引擎或資料庫等特定領域資料集。由此，企業能夠透過處理用戶查詢找到最近的向量，並將它們與其他詮釋資料結合，進而整合搜尋結果。這一過程完全毋須依賴外部資料來源或其它應用程式。客戶希望向量資料庫是易於打造的，且便於從原型設計快速進入到生產環境，這樣他們就可以將精力集中在創建差異化應用程式上。Amazon OpenSearch Serverless向量引擎擴展了Amazon OpenSearch的搜尋能力，使使用者能夠即時儲存、搜尋和追溯數十億向量嵌入，並精確進行相似性匹配和語義搜尋，毋須考慮底層基礎設施。 打造於Amazon OpenSearch Serverless的向量引擎得益於其穩健的架構。使用向量引擎，使用者不必擔心後端基礎設施的大小選擇、調整和縮放問題。向量引擎可自動調整資源，來適應不斷變化的工作負載模式和需求，進而提供始終如一的快速效能和適當規模。即便向量數量從原型設計期間的數千個猛增至生產環境中的數億個，向量引擎也可以無縫擴展，毋須重新索引或重新載入資料來擴大基礎設施。此外，向量引擎為索引和工作負載搜尋提供了單獨的運算資源，讓用戶可以即時無縫地獲得、更新和刪除向量，同時確保使用者查詢效能絲毫不受影響。所有資料都長久地儲存在Amazon Simple Storage Service（Amazon S3）中，因此用戶可以獲得與Amazon S3相同的資料持久性保證（11個9，即99.999999999%）。儘管目前還處於預覽階段，但向量引擎是為生產環境工作負載設計的，具有因應可用區（Availability Zone）服務中斷和基礎設施故障的餘裕機制。 Amazon OpenSearch Serverless向量引擎由開源OpenSearch專案中的k近鄰（kNN）搜尋功能提供支援，該功能能夠提供可靠而精確的結果。如今，許多客戶在託管集群中使用OpenSearch kNN搜尋，以便在應用程式中提供語義搜尋和個人化推薦。向量引擎的使用者體驗與Serverless環境一樣簡單易用。向量引擎支援歐氏距離、餘弦相似度和內積等常用的距離指標，可容納16,000個維度，因此非常適合支援各種基礎模型及其他AI/ML模型。使用者還可以儲存各種資料的不同欄位，例如詮釋資料中的數位、布林值、日期、關鍵字和地理位置，以及包含描述性資訊的文本等，來為儲存的向量添加更多上下文資訊。多種類型資料的合併能降低複雜性，提升可維護性，並且避免資料重複、版本相容性挑戰和授權問題，有效地簡化應用程式棧。向量引擎支援相同的OpenSearch開源套件API，讓用戶可以充分利用其豐富的查詢功能，例如全文檢索搜尋、進階篩選、聚合、地理空間查詢、巢狀查詢，以加快資料檢索和增強搜尋結果。以要求查找距離用戶15英里以內的結果的應用為例，向量引擎可以在單個查詢中完成這項任務，而不需要維護兩個不同系統，並利用應用邏輯將結果合併。透過整合LangChain、Amazon Bedrock和Amazon SageMaker，用戶可以輕鬆地將偏好的機器學習和AI系統與向量引擎整合。 向量引擎支援不同領域的廣泛應用，包括圖像搜尋、文檔搜尋、音樂檢索、產品推薦、影片搜尋、基於位置的搜尋、詐騙偵測以及異常偵測。AWS預測，將詞彙搜尋方法與先進的機器學習和生成式AI功能結合的混合搜尋將會日益流行。例如，當使用者在電子商務網站上搜尋「紅色襯衫」時，語義搜尋透過檢索所有紅色來擴大搜尋範圍，同時在詞法（BM25演算法）搜尋上調整和強化邏輯。利用Amazon OpenSearch篩選功能，企業可以為用戶提供基於尺寸、品牌、價格範圍和附近商店存貨狀況等資訊來優化搜尋選項，進一步強化搜尋結果的關聯性，以便打造更個人化、更精準的體驗。向量引擎支援的混合搜尋使得用戶能夠在單個查詢調用中查詢向量嵌入、詮釋資料和描述性資訊，進而在不建立複雜應用程式碼的情況下，輕鬆地提供更準確的、與上下文相關的搜尋結果。 AWS近日宣布推出向量引擎的預覽版，用戶可以立即開始試用。 在向量引擎正式可用之前，AWS計畫推出兩項功能來降低客戶首個集合的成本。第一項功能是新的開發-測試（dev-test）選項，它能讓使用者在沒有備份或副本的情況下啟動集合，進而將入門成本降低50%。向量引擎仍然提供持久性保證，因為它將所有資料保存在Amazon S3中。第二項功能是在初始階段配置0.5 OCU（OpenSearch計算單位）資源，資源將根據使用者的實際工作負載來擴展；如果初始工作負載的規模是數萬到數十萬個向量（取決於維度數量），用戶則可以進一步降低成本。除了這兩項功能外，AWS將把支援使用者首個集合所需的最低OCU從每小時4個降至每小時1個。 AWS還在開發一些新功能，在未來幾個月，將會實現工作負載暫停與恢復能力，這項新功能對向量引擎十分有用，因為許多應用不需要持續索引資料。 最後，AWS持續致力於優化向量圖的效能和記憶體使用，包括改進快取和合併等功能。 在AWS致力於降低用戶成本的同時，AWS將提供1400 OCU小時/每月的免費向量集合，直到開發-測試選項宣布可用為止。 Amazon OpenSearch Serverless向量引擎預覽版現已在全球八個Region可用：美國東部（俄亥俄州）、美國東部（維吉尼亞州北部）、美國西部（奧勒岡州）、亞太地區（新加坡）、亞太地區（雪梨）、亞太地區（東京）、歐洲（法蘭克福）和歐洲（愛爾蘭）。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• HPE首辦伺服器開箱活動！ 盼吸引多元頂尖人才加入、共創包容職場

  Hewlett Packard Enterprise （NYSE: HPE）是邊緣至雲端、平台即服務的全球領導廠商。為提供客戶伺服器、雲端與IT服務的數位轉型最佳方案，HPE今年也針對大學、碩士科技相關科系學生、職場新鮮人舉辦活動，首度讓學生有機會拆解伺服器，並舉辦女力職涯講座，希望吸引更多頂尖人才加入HPE。 其中針對大學、碩士科技相關科系學生舉辦「訂閱人生主頻道——帶你開箱HPE」活動吸引近百位電機工程、硬體研發、軟體開發、企業管理等領域學生參與，帶領學生直擊HPE台灣研發中心，認識產品研發流程。 此外，HPE也首度讓學生實際拆解一般人難以親炙的伺服器，從了解伺服器各部份功能與生命週期開始，搭配闖關遊戲，讓學生分辨伺服器零組件、並實際操作伺服器，理解伺服器對新科技演進的重要性。參與學生在會後反應熱烈，表示希望能成為HPE一員。 另一方面，針對職場新鮮人、即將畢業進入職場的女性學生，HPE也舉辦「訂閱人生主頻道——科技女子圖鑑」，邀請近百位電機工程、硬體研發、軟體開發、企業管理等相關科系學生，以及科技產業新鮮人聆聽HPE女性主管、供應鏈與研發團隊女性同仁分享職涯，並了解HPE內部員工資源團體（Employee Resource Groups）運作，期望她們勇敢在職涯路上訂閱自己的主頻道，擴展自己的職涯圖鑑。 「HPE持續在內部和外部提倡多元、平等與包容原則（DE&I），」HPE標準運算系統事業群全球副總裁郭崧俠說，「我們希望未來可以持續透過舉辦各種活動和努力，吸引台灣更多新鮮人與多元人才加入HPE團隊。我們相信DE&I是創新的動力。」 HPE多年來積極落實「多元、平等、包容」（DE&I）為基礎的企業理念，吸引不同性別、年齡、種族、膚色、個性、技能的人才進入HPE，並提供內部員工更寬廣空間，能自由在充滿彈性的環境中發揮個人最大潛力。 例如，HPE舉辦多元性別活動講座、員工商業行為準則訓練，把歧視、騷擾零容忍概念分享給員工，營造友善、平權的幸福職場環境，以培養同仁多元共融意識。 而在員工福利層面，HPE也領先業界提供25週全薪育嬰津貼假，不管是女性、男性或多元家庭都可申請，供生產後或領養子女的同仁。 另外，HPE內部有多個促進性別平權的團體，包括女性資源團體WERG、性別友善認同團體PRIDE、青年員工互聯網YEN，透過舉辦活動，培養團隊同仁尊重彼此差異的胸懷。 在內部不斷重視多元共融價值下，HPE今年6月發布的《HPE Living Progress Report永續報告書 2022》也宣示，未來在女性和多元人才方面，每年提升一個百分點；而女性擔任高層主管職位人數，每一年也同樣要提升一個百分點。 HPE期許，透過STEM教育向下扎根，可帶動年輕族群加入HPE，以跨世代團隊為客戶提供最佳解決方案，也希望透過更多女力、多元族群進入HPE，使HPE的員工組成更加多元。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• 英特爾推出一系列參考套件加速AI開發

  英特爾公布推出共34個開放原始碼的人工智慧（AI）參考套件，這是多年來與Accenture合作的成果，將協助開發者和資料科學家更快、更輕鬆地部署AI。每個套件均包含模型程式碼、訓練資料、機器學習流程說明、函式庫和oneAPI等組成要素，藉此讓不同組織能夠在多樣化架構的內部、雲端、邊緣環境中使用並最佳化AI應用。 「英特爾AI參考套件為數百萬的開發者和資料科學家，提供簡易、高效能且具成本效益的方式，來建立和擴展他們在健康與生命科學、金融服務、製造、零售及其它更多領域的AI應用。英特爾不僅運用我們的AI加速處理器和系統，更透過英特爾對於開放式AI軟體生態系的貢獻，致力實現AI無所不在的未來。這些參考套件採用英特爾的AI軟體產品組合，並在開放、基於標準的oneAPI多架構程式設計模型之基礎上建構而成。」 －Wei Li，英特爾副總裁暨AI與分析總經理 AI參考套件使用oneAPI開放、基於標準的異質程式設計模型，以及英特爾的端到端AI軟體產品組合和要件，例如Intel AI Analytics工具包和Intel® Distribution of OpenVINO工具包所，以簡化開發者在應用中導入AI的流程、加強現有的智慧解決方案並加速部署。結果顯示，與傳統模型開發工作流程相較之下，其工作流程更短、效率更高，效能因而獲得改善。 已預先組態的套件能夠簡化消費性產品、能源與公用事業、金融服務、健康與生命科學、製造、零售以及電信等多種產業的AI開發解決方案。以下列舉部份產業優勢為例： 專為企業對話式AI聊天機器人互動所設計的AI參考套件，讓使用者透過oneAPI的最佳化功能，可體驗到批次（batch）模式下的推論速度提升45％。1 專為生命科學視覺品質控制檢測自動化所設計的AI參考套件，藉由oneAPI的最佳化功能，其視覺缺陷偵測訓練速度提升20％、推論速度提升55％。2 為了讓開發者能夠預測公用事業資產的狀況並提供更高的服務可靠性，提供能將預測準確率提升25％的AI套件。3 這些AI參考套件能夠將解決問題所需時間，從數週縮短至數天，克服專有環境的限制，協助資料科學家和開發者以更低的成本加速模型訓練。透過oneAPI的AI工具和最佳化，最大程度提升開放式加速運算應用的可移轉性（portability）。 Accenture常務董事John Giubileo表示：「與英特爾攜手為開放原始碼社群打造AI參考套件，讓我們客戶的AI工作負載具備更高的生產力。這些基於oneAPI的套件，為開發者的AI專案提供可移轉且高效率的解決方案，進而降低專案複雜性，縮短於不同產業部署所需時間。」 透過社群的回饋與貢獻，將持續更新部分套件，包含視覺品質檢測、企業對話式AI聊天機器人設置、預測性資產狀況分析、醫學影像診斷、文件自動化、AI結構化資料生成等參考套件。 AI參考套件可透過英特爾網頁或是GitHub免費取得。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• 亞洲唯一！台智雲OneAI加速精準醫療

  AI算力浪潮推動全球產業創新轉型，台智雲以亞洲唯一商用AI超算服務優勢，跨足2023亞洲生技展。將台灣杉二號超級電腦算力整合NVIDIA優化的GPU運算框架，協助生醫產業輕鬆完成基因二級分析、藥物開發、醫學成像、加速分析，並以聯合學習技術和彈性多元化的雲端資料儲存方案，驅動醫療創新技術的研發與智慧轉型。 華碩雲端暨台智雲總經理吳漢章表示，「華碩集團自2022年起與NVIDIA 協助國衛院成立AI生醫創新中心，共同推動AI算力在生物科技領域的重大發展。本次攜手工研院整合AI應用與生醫工程的完整流程，一次滿足資料處理、運算環境架設、AI生醫模型訓練或技術工具打造的需求，以AI超算平台加速生醫技術研發及應用。」 台智雲整合醫療產業需求和AI技術工具推出OneAI，在無須程式編碼條件下，三個步驟即可完成基因二級分析，體現高效益、低門檻特色。台智雲AI超級電腦採RAPIDS函式庫，以GPU高效運算處理龐雜資料，將訓練時間從數小時縮短為幾分鐘；再搭配涵蓋化學資訊學探索、分子動力學模擬、蛋白質結構預測、生物分子結構探索的NVIDIA Clara for Drug Discovery深度學習演算法，加速新藥開發。基因二級分析則採高輸出量、高精準度的NVIDIA Parabricks GPU加速分析，比傳統CPU解決方案速度快80倍，節省50%運算成本。透過MONAI（Medical Open Network for AI）開源深度學習框架，所提供逾20個預訓練的醫學影像辨識模型，可提升6倍成效。 今年亞洲生技展，台智雲亦偕同工研院、國衛院、NVIDIA、台基盟生技舉辦「AI超算與生醫產業的整合應用論壇」，共同分享整合AI超算與生醫技術發展的最新應用，並與工研院簽署合作MOU，優化酵素對接靶點技術、數位化分子篩選技術等應用方案，協助生醫產業輕鬆完成資料分析與模型訓練，展現台灣產研的技術能量和跨界整合的數位優勢。 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• Nutanix助飛綠Felli Group加速淨零減碳 邁向智慧製造 落實碳足跡盤查 擘劃數位轉型藍圖

  混合多雲運算領導者Nutanix（納斯達克交易所代號：NTNX）今日宣布協助家居用品領導品牌飛綠（Felli Group）選用Nutanix服務，將傳統三層式架構更換為Nutanix超融合基礎架構，在全球ESG風潮的廣泛倡議下，飛綠營運作業及生產線逐一進行數位與永續兼具的雙軌轉型，更迎向全新的智慧製造里程碑。 深耕台灣近40年，飛綠從製造、國際貿易再跨入零售市場，秉持著全面引領、人本創新、安心永續的集團核心精神，落實設計研發、製造、銷售等一條龍作業，企業核心競爭力與時俱進的同時，卻也在三層式基礎架構中累積了龐大數據資料。飛綠資訊長陳志強表示：「飛綠在檢視舊有基礎架構時發現，有些應用效能可以再優化，而Nutanix的超融合基礎架構最適合此刻位處轉型階段的我們，也因此我們在辦公室和工廠端皆導入Nutanix超融合架構。」 採用Nutanix的超融合基礎架構後，不需再額外安裝SAN交換機、儲存設備等相關硬體，不僅機櫃佔用的空間大幅縮減，機房設備所耗費的能效也較以往減少62%*，滿足全球客戶對於供應商的減碳要求。借助Nutanix穩定的基礎架構及容錯機制，飛綠順利轉移SAP ERP、Business Warehouse既有系統，在提升終端使用者操作速度的同時，更有效節省雲端費用支出。與Nutanix合作之後，操作速度提升將近50%*，使用者登錄系統從過去30秒到現在只需15秒*；成本方面，飛綠預估未來可省下3,000多萬新台幣的雲端租賃費用，確實提升整體效能與成本效益。 此外，便捷的解決方案大幅提升系統效能，減輕資訊人員管理心力。得益於Nutanix AHV Hypervisor具備的自動告警功能，系統遇到用量超標或有特殊事件都會預先提醒，減少以往花在重複查修的時間，同時又能確保營運資料無任何閃失。 Nutanix大中華區董事總經理張元正表示：「Nutanix很高興能與飛綠合作，協助業者透過穩健的超融合基礎架構，落實碳足跡盤查、逐步邁向永續的智慧製造。未來將持續推動各行各業進行淨零減碳，加速製造及傳統產業的雙軌轉型。」 →更多的【PCDIY!業界新聞】： →更多的【PCDIY!賣場情報】： →更多的【PCDIY!科技情報】： →更多的【IT資訊新聞】： →更多的【ITMan!資訊經理人】： →更多的【PCDIY!八卦】：

• «
• 67
• 68
• 69
• 70
• 71
• 72
• 73
• »