AI PC 人工智慧 神兵利器
-
在企業中發揮生成式 AI 的價值
在幾個月之前,IT 行業發生了一件震驚全球的大事——ChatGPT 3.5 公測版正 式發佈。從那時起,我們對 AI(尤其是生成式 AI)的關注、創新和投資達到了 空前的熱度。對比前幾次對 AI 的炒作,這次的不同之處在於生成式 AI 能讓我們 以對話的方式與強大的 AI 工具進行交互,這種自然語言交互在與「類似人類的」 創造力相結合後,能夠生成包括文本、程式碼、視訊、音訊在內的全新內容。 如今的大型語言模型(LLM)讓英語、漢語等母語變成了真正的程式設計語言, 我們在這些模型中輸入的提示詞,基本上就是它們用來運算答案的程式碼,這是 有史以來我們距離實現程式設計真正普及化最近的一次。 這一切都在告訴人們,我們正處在一次千載難逢的革命浪潮中,這將為軟體發展、 客戶支援、銷售、市場等主要的業務部門帶來轉型機遇。新一輪 AI 創新浪潮的 加快將對整個全球經濟產生深遠影響。有了生成式 AI,我們可以透過解決不同 學習者的差異性來重塑教育 1、幫助醫生做出臨床診斷 2、協助客戶做出投資決 策 3 等等,這都還只是冰山一角,根據麥肯錫最近的一份報告顯示,生成式 AI 每 年可為全球創造高達 7.9 萬億美元的經濟價值 4。 與以往此類大規模創新突破的早期階段一樣,我們在更加廣泛地採用 AI 方面, 遇到了一些重大的障礙,而且若要在企業中充分發揮生成式 AI 的價值和潛力, 我們必須共同解決三大核心挑戰。 訓練和管理當今的生成式 AI 模型既複雜又昂貴,需要耗費大量專用算力和高速 網路以及無數記憶體。目前,AI 模型的效能與運算基礎設施的實際比例為 1:1, 在這種情況下既無法擴展,也不可持續。風險投資機構 Andreessen Horowitz 最近將訓練 ChatGPT 這樣的模型描述為「人類迄今為止運算密集度最高的任務 之一」5。目前,單次訓練的價格從 50 萬美元到 460 萬美元不等 6,而且隨著模 型的更新,訓練將成為一項持續性的花費。 看到這些令人瞠目結舌的費用,許多人便得出結論:全球將只會有極少數像 ChatGPT 這樣的「超大型 LLM」。但其實還有另一條出路,未來一般企業都將 能以可承受的價格構建並運行自己的定制化 AI 模型,這條路的關鍵在於靈活性 和選擇性,儘管大多數資訊長都計畫使用超大型 LLM 來處理各種案例,但他們 也想要構建大量較小的 AI 模型,以便針對特定任務進行優化。這些模型通常基 於開源軟體。事實上,目前開源 AI 模型的創新數量之大令人吃驚。可以預見的 是,許多企業將把這些開放模型作為許多案例的首選,而不再依賴目前佔據主導 地位的大型專有 LLM。 這些開放的專用模型將充分利用企業獨有的知識財產——領域專用資料。我們 可以在專門的基礎設施上經濟且高效地運行這些較小的 AI 系統,包括更加便宜 的 GPU(圖形處理單元)以及經過改良的低成本 CPU,提供 AI 工作負載所需要 的性能和輸送量。透過降低成本以及構建兼具靈活性和選擇性的解決方案,我們 可以開闢一條對於主流企業來說更加可及的 AI 創新路徑。 如今,AI 模型的構建、微調和運行都需要高度專業化的人才,而且這些人才供不 應求。執行長和資訊長幾乎都會把它列為首要難題之一。他們敏銳地意識到 AI 開源軟體領域發展迅速,並希望在最新的創新成果出現時,能夠快速、輕鬆地遷 移過去,而不會被鎖定在任何一個平台或廠商上。如果只有很小一部分專業技術 人員懂得當今 AI 模型背後的「奧秘」,那麼就很難實現這種適應性。 為了填補這一技能缺口,我們需要從根本上簡化構建和訓練 AI 模型的流程與工 具。這便是參考架構的「用武之地」,大部分由於內部人員缺乏相關專業知識而 無法從頭開始構建 AI 解決方案的企業機構可透過它獲得藍圖和可行的途徑。 最後或許也是最重要的一點是,我們需要將風險變成信用。當前的 AI 模型會帶 來隱私問題、法律和監管問題、智慧財產權洩露等巨大的風險。這些風險有可能 損害公司聲譽、傷害客戶和員工並對收入產生負面影響。在員工不小心將敏感的 內部資料洩露到 ChatGPT 等工具上後,許多企業都制定了限制員工使用生成式 生「幻覺」,創造出無意義、無關和/或不準確的新內容。 因此我們行業需要制定一套強有力的道德準則來保障並加強公平性、隱私性、責 任追究、他人的智慧財產權以及訓練資料的透明度。一個龐大且不斷擴張的組織 生態正在努力解決 AI 可解釋性 7、資料完整性 8 和資料隱私 9 等核心問題。這個 開源社群正作為這場運動的中心進行創新,努力幫助企業以安全可控的方式訓練 和部署 AI 模型。 正如行動應用革命在過去 15 年中改變了商業以及我們與技術的關係,新一輪 AI 應用浪潮將大幅提升工作者的生產力並加快全球經濟發展。我們正處於新一輪超 級創新週期的初期。我們共同面臨的挑戰是如何讓這項強大的新技術變得更加經 濟、可實現和可信。 世界各地 AI 決策者普遍認為我們需要實現戰略上的平衡:在存在未知因素的情 況下,我們必須謹慎行事,尤其是在保密、隱私和專有資訊濫用方面。與此同時, 我們還必須讓企業能夠快速接受新的 AI 模型,這樣他們才能以負責和道德的方 式參與到下一輪創新浪潮中。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
小家庭救星!兼具AI與美感的洗乾衣機首選 LG WashTower AI智控洗乾衣機 一機抵兩機 洗乾衣最呵護 洗衣13公斤+乾衣10公斤 全新容量貼心登場
智慧家電領導品牌LG於2019年領先業界開展一體成型洗乾衣機市場,引進洗衣19公斤+乾衣16公斤的LG WashTower™AI智控洗乾衣機並獲得廣大消費者青睞,每年創造超過6,000台的驚人銷售!LG看準台灣市場及因應台灣住宅型態與消費者使用習慣,今年更貼心推出洗衣13公斤+乾衣10公斤的全新容量,寬60公分極窄美型設計,不僅完美對應台灣小家庭使用情境,165.5公分的高度更符合人體工學,容易操作使用,且一體成型絕美外觀,能夠完美搭配不同的居家裝潢,大幅提升居家質感,原來洗衣空間也能如此精緻優雅,加上AI智控偵測選擇最適洗乾衣行程,還能保護衣料,讓洗乾衣行程優雅又享受! 極窄美型 LG WashTower™AI智控洗乾衣機給你最佳解方 根據內政部人口統計資料顯示,台灣戶數呈現逐年增加的趨勢,相較2021年,台灣2022年的1至3人家戶數大幅提高,但3人以上戶數卻呈現下降趨勢,顯示台灣的家庭結構改變,小家庭已成為主流,然而小家庭的人口結構改變及台灣公設比提高造成的居家空間減少,在家電的選擇上也衍伸許多困擾,LG洞察小家庭的洗乾衣痛點,推出極窄美型LG WashTower™AI智控洗乾衣機,提供小家庭符合空間與品質的最完美洗乾衣機選擇!而其簡約時尚外觀,讓洗衣機不再只能放在陽台,而是能完美融入不同風格的居家裝潢,不論室內、室外,都能打造完美的洗衣空間,直角俐落造型更方便與櫃體結合,不但使空間運用更加靈活,也為居家空間注入優雅氛圍。 困擾一-空間擁擠卻又不想妥協洗乾衣品質:內政部統計,國人購屋面積愈來愈小,今年前4月平均買賣移轉面積為30.6坪,台北市甚至只剩下22.3坪,台灣人的小宅趨勢日漸明顯,家庭空間不允許同時購買洗衣機與乾衣機,LG推出全新極窄美型WashTower™AI智控洗乾衣機,寬度僅60公分的極窄尺寸可以輕鬆擺放於窄小空間,高度則僅有165.5公分,讓嬌小使用者更易於操作。體積雖小卻也有著不俗的大容量:洗衣13 公斤+乾衣10公斤,能輕鬆滿足小家庭的洗乾衣需求,承襲垂直流線式一體成型的設計,即使是一體成型的洗乾衣機,WashTower™AI智控洗乾衣機仍採用低溫除濕式乾衣,不排廢氣、不過度烘乾,以低溫乾衣方式用心呵護衣物! 困擾二-雙薪家庭生活忙碌,時間就是金錢:許多消費者都分享希望能縮短洗衣時間,否則回家後時間有限,常常被洗衣工作綁住,LG WashTower™AI智控洗乾衣機將「蒸、洗、脫、烘」四大功能合一,單一機體就能輕鬆解決洗衣、晾衣的困擾,大幅提升洗衣效率,且TurboWash™ 360°勁速洗使用4道變頻噴射水流來達成最佳的洗淨效果,搭配乾衣預熱準備,無需額外等待加熱時間,就能為衣物準備好最佳乾衣環境,1小時內輕鬆完成洗滌、乾衣行程 ,不只加快洗衣時間,還能維持相同的洗滌效果,絕對是忙碌家庭的貼心幫手! 洗衣、晾衣一直是現代人最討厭的家事之一,夏天晾衣滿身大汗,冬天在陽台晾衣容易導致手腳冰冷,與其身陷洗衣、晾衣的痛苦輪迴中,不如選擇一台最聰明的洗乾衣機!LG WashTower™AI智控洗乾衣機擁有AI DD™智慧直驅變頻馬達,能智慧偵測衣物材質與重量,透過AI大數據自動選擇最適合的洗衣行程,有效減少衣物 10% 受損 ,以及Smart Pairing™ 智慧行程配對,自動傳輸洗程資訊至乾衣機,自動選擇適配的乾衣行程,只需按下開始即可啟動,讓衣物清潔、護理一次完成,洗乾衣變成一件輕鬆小事,且擁有全觸控中央控制面板,不須蹲下或使用板凳即可輕鬆同時操控上下雙機,貼心設計讓你體驗最智慧輕鬆的洗乾衣享受! LG WashTower™AI智控洗乾衣機13公斤洗衣+10公斤乾衣容量全新上市,擁有Objet Collection® 色系石墨綠搭配雪霧白(WD-S1310GB建議售價NT$82,900)、尊爵黑(WD-S1310B建議售價NT$80,900)以及冰瓷白(WD-S1310W建議售價NT$79,900),在8月4日於LG官方線上商城開放預購 。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
2023 AWS台灣雲端高峰會盛大登場! 聚焦生成式AI熱潮及物聯網機遇,展示企業上雲新思考
Amazon Web Services(AWS)於2日至3日在台北舉辦一年一度的AWS台灣雲端高峰會(AWS Summit Taiwan)。此次高峰會以「AI熱潮席捲全球,企業上雲勢在必行」為主題,深度剖析企業如何在人工智慧新紀元中運用雲端工具創造差異化的競爭利基。AWS全球IoT物聯網副總裁Yasser Alsaied及AWS企業策略師Gregor Hohpe也蒞臨台灣,分享國際最前瞻的物聯網、資料策略及AI等議題與雲端趨勢。包括緯穎科技、Deloitte勤業眾信、趨勢科技、Gogolook走著瞧等多家技術領先的客戶與合作夥伴將在兩天的活動中,分享他們如何善用AWS服務加速創新轉型,以及拓展業務的卓越成果。 AWS台灣暨香港總經理王定愷表示:「面對生成式AI等前瞻科技帶來的挑戰和機遇,企業都應該積極擁抱技術革新,以具有創造力的方式想像未來的可能性,重塑企業及產業的未來。AWS在台灣深耕超過十年,未來將持續創新,為處於不同技術階段的企業提供全方位的服務與工具,幫助企業抓住科技創新的新機遇,鍛造基業長青。」 為幫助台灣與會者掌握全球最新雲端趨勢,AWS特別邀請到海外重磅嘉賓進行主題演講分享。AWS IoT物聯網副總裁Yasser Alsaied於首日分享,無論是將虛擬與實體世界的資訊相連接,進而更快速地獲得明智的業務決策,還是帶動長期的業務創新、創造全新的業務體驗,透過AWS深入且廣泛的服務、解決方案以及合作夥伴方案,AWS物聯網技術將為各行各業、不同的應用帶來變革。首先,AWS在底層雲端基礎設施上,為客戶專門打造物聯網服務,能幫助客戶設計、連接和管理物聯網應用程式,並分析和處理資料;同時也與合作夥伴攜手提供專門的物聯網產業服務,支援客戶特定垂直產業應用。AWS還為客戶把關從雲端到邊緣的安全性,確保設備和資料的安全。Yasser Alsaied也解析AWS物聯網服務如何幫助智慧工廠、智慧家庭、聯網汽車等多元產業更高效地拓展業務,助力原本就具備硬體優勢的台灣企業在全球競爭中成功突圍。 此外,AWS企業策略師Gregor Hohpe也將於3日分享在資料爆炸及生成式AI的紀元下,客戶如何運用AWS建構資料管理策略及進行創新,並在提高效率的同時兼顧企業資料安全。從資料儲存、分析、資料庫到人工智慧與機器學習,AWS在資料管理方面的創新投入已經超過17年。AWS從三個方面助力客戶建立安全、簡單、大規模的端到端資料策略,包括,提供全面的資料管理工具,以因應客戶不同規模、不同需求的資料型態;加強資料服務之間的無縫整合、推動零ETL(Extract萃取、Transform轉置、Load載入)的未來,讓客戶能夠更方便地挖掘資料的價值;提供端到端的資料治理,使團隊能更安全快速地從資料中萃取價值。 AWS始終以不斷降低人工智慧及機器學習的門檻為目標和願景,提供一系列的技術、服務和工具,無論各個企業的技術水準與儲備人才的技術水平為何,AWS都能幫助所有企業充分釋放生成式AI的潛力。AWS透過提供靈活豐富的模型選擇,並在保證客戶私有資料安全的前提下,使客戶利用自身資料結合基礎模型,更簡易地構建自己的客製化模型。同時,還針對不同場域,幫助企業在基礎模型上建立更佳的生成式AI應用。最後,AWS還為企業提供超大規模、高性價比、低延遲的雲端基礎設施來支援持續的訓練和大規模的推理。近日,AWS在紐約高峰會上宣布一系列全新的生成式AI工具,包括Amazon Bedrock拓展代理(Agents)功能、Amazon QuickSight全新生成式BI(Business Intelligence)功能、Amazon Entity Resolution機器學習資料分析服務等,皆是期望能幫助客戶進一步釋放資料價值和生成式AI的潛力,在激烈的競爭中脫穎而出。 除了精采的主題演講,本次高峰會亦邀請音樂品牌華風數位旗下嘻哈歌手CED、創作女聲Jocelyn 9.4.0親臨現場,透過AI應用新創公司KKLab利用Amazon SageMaker打造的生成式AI軟體──Lyricist.ai靈魂寫手,與現場與會者共創歌詞。此外,會場內特別設有多個實作區域,提供開發者與各界技術專家交流機會。深受台灣開發者所喜愛的「AWS DeepRacer自駕車聯賽」睽違四年亦回歸實體舉辦,參賽者將現場爭奪前往美國全球年度盛會AWS re:Invent參加DeepRacer總決賽的資格。同時,AWS今年也與全球擁有超過2億玩家的遊戲龍頭Riot Games合作,舉辦《英雄聯盟》聯名活動「AWS GameDay : 英雄聯盟電競版」,參賽者將用《英雄聯盟》電競賽事資料,現場以AI打造贏家預測模型。 此次高峰會將匯集超過70位雲端專家所組成的強大講師陣容,開設近50場涵蓋不同產業及技術領域的精彩演講,預計線上實體合計將有超過五千人次參加。高峰會也獨家設置AWS產業應用展示區,幫助參加者了解AWS最新的服務與豐富的產業解決方案。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
AI推論首選!華碩新一代邊緣電腦PE1100N
華碩智慧物聯網(ASUS IoT)今推出超精巧邊緣電腦PE1100N,以獨步全球的新一代NVIDIA Jetson Orin系列平台為基礎,適用邊緣AI推論,同時採用無風扇設計,運作更悄然安靜,再加上豐富的工業連線能力,使用更彈性靈活。此外,PE1100N另支援寬溫作業與寬壓電源,可提升多功能性與耐用性。 憑藉強大的Jeston平台、Arm®處理器與嵌入式NVIDIA GPU,PE1100N提供絕佳的高效能運算,可運用於智慧城市、運輸與製造等多種領域,包括:交通分析、行人追蹤、計數與監控系統;特別是其精巧尺寸與抗震設計,格外適合自動導引搬運車(AGV)、自主行動機器人(ARM),以及搭載AI功能的自動光學檢測(AOI)等應用。 PE1100N內嵌世界首屈一指的邊緣AI平台NVIDIA® Jetson Orin™,能以10至25W的低功率與每秒高達100兆次的運算速度,執行深度學習與電腦視覺任務,效能是上一代裝置的5倍;每幀數所消耗的功率,與傳統基於x86架構的平台相比,更高出18倍! 開發人員亦可透過PE1100N,搭配既有SDK與Library執行AI和機器學習,且幾乎不需改動程式碼,就能流暢接軌Jetson平台,讓專案計畫從開發到部署更加輕鬆。此外,PE1100N另支援 NVIDIA Isaac™機器人作業系統(ROS)SDK,將協助使用者加速開發 ROS 2專案。 極精巧的PE1100N採無風扇的堅固設計,利用特殊金屬散熱片與鋁擠型外殼進行高效靜音散熱,在-20°至50°C寬溫範圍下皆能維持穩定運作;多樣化的I/O連接埠,包括:LAN、DIO、COM、USB 3.2 Type-C與Type-A,可對應多種工業用途;支援控制器區域網路(CAN)和配備Micro-USB除錯連接埠,系統維護更事半功倍。 同時用戶也可選配WiFi與Bluetooth模組,提供順暢無縫的無線與雲端連線功能;而M.2 B Key可安裝4G / 5G無線傳輸模組,也支援雙SIM卡插槽;加上GPS功能,將為智慧運輸解決方案提供更精確的裝置追蹤和資料收集。 全新PE1100N擁有兩種系列,分別採用NVIDIA Jetson Orin NX與Jetson Orin Nano,可滿足所有AI效能需求;更多產品資訊,請參考:ASUS PE1100N →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
Amazon OpenSearch Serverless向量引擎預覽版正式推出 助力客戶輕鬆打造現代生成式AI應用
Amazon Web Services(AWS)宣布推出Amazon OpenSearch Serverless向量引擎預覽版。該向量引擎在Amazon OpenSearch Serverless中提供了一種簡單、可拓展、高效能的相似性搜尋功能,讓用戶能夠輕鬆打造由現代化機器學習(ML)的增強搜尋體驗和生成式AI應用程式,毋須管理底層向量資料庫基礎設施。 所有產業的企業都在迅速採用生成式AI,因為它能夠處理龐大的資料集、生成自動化內容,並提供媲美人類的互動式回應。透過整合聊天機器人、問答系統和個人化推薦等先進的對話生成式AI應用程式,客戶正在想方設法澈底變革終端使用者體驗以及與數位平台的交流。這些對話應用程式讓使用者能夠用自然語言進行搜尋和查詢,並透過理解語義、用戶意圖和查詢上下文,生成酷似人類的回應。 機器學習的增強搜尋應用和生成式AI的應用程式都需要使用向量嵌入,向量嵌入作為文本、圖像、音訊和影片資料的數位表示,可以用來生成動態的相關內容。向量嵌入基於使用者私有資料進行訓練,代表資訊的語義和內容屬性。理想情況下,這些嵌入可以就近儲存和管理,如接近現有的搜尋引擎或資料庫等特定領域資料集。由此,企業能夠透過處理用戶查詢找到最近的向量,並將它們與其他詮釋資料結合,進而整合搜尋結果。這一過程完全毋須依賴外部資料來源或其它應用程式。客戶希望向量資料庫是易於打造的,且便於從原型設計快速進入到生產環境,這樣他們就可以將精力集中在創建差異化應用程式上。Amazon OpenSearch Serverless向量引擎擴展了Amazon OpenSearch的搜尋能力,使使用者能夠即時儲存、搜尋和追溯數十億向量嵌入,並精確進行相似性匹配和語義搜尋,毋須考慮底層基礎設施。 打造於Amazon OpenSearch Serverless的向量引擎得益於其穩健的架構。使用向量引擎,使用者不必擔心後端基礎設施的大小選擇、調整和縮放問題。向量引擎可自動調整資源,來適應不斷變化的工作負載模式和需求,進而提供始終如一的快速效能和適當規模。即便向量數量從原型設計期間的數千個猛增至生產環境中的數億個,向量引擎也可以無縫擴展,毋須重新索引或重新載入資料來擴大基礎設施。此外,向量引擎為索引和工作負載搜尋提供了單獨的運算資源,讓用戶可以即時無縫地獲得、更新和刪除向量,同時確保使用者查詢效能絲毫不受影響。所有資料都長久地儲存在Amazon Simple Storage Service(Amazon S3)中,因此用戶可以獲得與Amazon S3相同的資料持久性保證(11個9,即99.999999999%)。儘管目前還處於預覽階段,但向量引擎是為生產環境工作負載設計的,具有因應可用區(Availability Zone)服務中斷和基礎設施故障的餘裕機制。 Amazon OpenSearch Serverless向量引擎由開源OpenSearch專案中的k近鄰(kNN)搜尋功能提供支援,該功能能夠提供可靠而精確的結果。如今,許多客戶在託管集群中使用OpenSearch kNN搜尋,以便在應用程式中提供語義搜尋和個人化推薦。向量引擎的使用者體驗與Serverless環境一樣簡單易用。向量引擎支援歐氏距離、餘弦相似度和內積等常用的距離指標,可容納16,000個維度,因此非常適合支援各種基礎模型及其他AI/ML模型。使用者還可以儲存各種資料的不同欄位,例如詮釋資料中的數位、布林值、日期、關鍵字和地理位置,以及包含描述性資訊的文本等,來為儲存的向量添加更多上下文資訊。多種類型資料的合併能降低複雜性,提升可維護性,並且避免資料重複、版本相容性挑戰和授權問題,有效地簡化應用程式棧。向量引擎支援相同的OpenSearch開源套件API,讓用戶可以充分利用其豐富的查詢功能,例如全文檢索搜尋、進階篩選、聚合、地理空間查詢、巢狀查詢,以加快資料檢索和增強搜尋結果。以要求查找距離用戶15英里以內的結果的應用為例,向量引擎可以在單個查詢中完成這項任務,而不需要維護兩個不同系統,並利用應用邏輯將結果合併。透過整合LangChain、Amazon Bedrock和Amazon SageMaker,用戶可以輕鬆地將偏好的機器學習和AI系統與向量引擎整合。 向量引擎支援不同領域的廣泛應用,包括圖像搜尋、文檔搜尋、音樂檢索、產品推薦、影片搜尋、基於位置的搜尋、詐騙偵測以及異常偵測。AWS預測,將詞彙搜尋方法與先進的機器學習和生成式AI功能結合的混合搜尋將會日益流行。例如,當使用者在電子商務網站上搜尋「紅色襯衫」時,語義搜尋透過檢索所有紅色來擴大搜尋範圍,同時在詞法(BM25演算法)搜尋上調整和強化邏輯。利用Amazon OpenSearch篩選功能,企業可以為用戶提供基於尺寸、品牌、價格範圍和附近商店存貨狀況等資訊來優化搜尋選項,進一步強化搜尋結果的關聯性,以便打造更個人化、更精準的體驗。向量引擎支援的混合搜尋使得用戶能夠在單個查詢調用中查詢向量嵌入、詮釋資料和描述性資訊,進而在不建立複雜應用程式碼的情況下,輕鬆地提供更準確的、與上下文相關的搜尋結果。 AWS近日宣布推出向量引擎的預覽版,用戶可以立即開始試用。 在向量引擎正式可用之前,AWS計畫推出兩項功能來降低客戶首個集合的成本。第一項功能是新的開發-測試(dev-test)選項,它能讓使用者在沒有備份或副本的情況下啟動集合,進而將入門成本降低50%。向量引擎仍然提供持久性保證,因為它將所有資料保存在Amazon S3中。第二項功能是在初始階段配置0.5 OCU(OpenSearch計算單位)資源,資源將根據使用者的實際工作負載來擴展;如果初始工作負載的規模是數萬到數十萬個向量(取決於維度數量),用戶則可以進一步降低成本。除了這兩項功能外,AWS將把支援使用者首個集合所需的最低OCU從每小時4個降至每小時1個。 AWS還在開發一些新功能,在未來幾個月,將會實現工作負載暫停與恢復能力,這項新功能對向量引擎十分有用,因為許多應用不需要持續索引資料。 最後,AWS持續致力於優化向量圖的效能和記憶體使用,包括改進快取和合併等功能。 在AWS致力於降低用戶成本的同時,AWS將提供1400 OCU小時/每月的免費向量集合,直到開發-測試選項宣布可用為止。 Amazon OpenSearch Serverless向量引擎預覽版現已在全球八個Region可用:美國東部(俄亥俄州)、美國東部(維吉尼亞州北部)、美國西部(奧勒岡州)、亞太地區(新加坡)、亞太地區(雪梨)、亞太地區(東京)、歐洲(法蘭克福)和歐洲(愛爾蘭)。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
英特爾推出一系列參考套件加速AI開發
英特爾公布推出共34個開放原始碼的人工智慧(AI)參考套件,這是多年來與Accenture合作的成果,將協助開發者和資料科學家更快、更輕鬆地部署AI。每個套件均包含模型程式碼、訓練資料、機器學習流程說明、函式庫和oneAPI等組成要素,藉此讓不同組織能夠在多樣化架構的內部、雲端、邊緣環境中使用並最佳化AI應用。 「英特爾AI參考套件為數百萬的開發者和資料科學家,提供簡易、高效能且具成本效益的方式,來建立和擴展他們在健康與生命科學、金融服務、製造、零售及其它更多領域的AI應用。英特爾不僅運用我們的AI加速處理器和系統,更透過英特爾對於開放式AI軟體生態系的貢獻,致力實現AI無所不在的未來。這些參考套件採用英特爾的AI軟體產品組合,並在開放、基於標準的oneAPI多架構程式設計模型之基礎上建構而成。」 -Wei Li,英特爾副總裁暨AI與分析總經理 AI參考套件使用oneAPI開放、基於標準的異質程式設計模型,以及英特爾的端到端AI軟體產品組合和要件,例如Intel AI Analytics工具包和Intel® Distribution of OpenVINO工具包所,以簡化開發者在應用中導入AI的流程、加強現有的智慧解決方案並加速部署。結果顯示,與傳統模型開發工作流程相較之下,其工作流程更短、效率更高,效能因而獲得改善。 已預先組態的套件能夠簡化消費性產品、能源與公用事業、金融服務、健康與生命科學、製造、零售以及電信等多種產業的AI開發解決方案。以下列舉部份產業優勢為例: 專為企業對話式AI聊天機器人互動所設計的AI參考套件,讓使用者透過oneAPI的最佳化功能,可體驗到批次(batch)模式下的推論速度提升45%。1 專為生命科學視覺品質控制檢測自動化所設計的AI參考套件,藉由oneAPI的最佳化功能,其視覺缺陷偵測訓練速度提升20%、推論速度提升55%。2 為了讓開發者能夠預測公用事業資產的狀況並提供更高的服務可靠性,提供能將預測準確率提升25%的AI套件。3 這些AI參考套件能夠將解決問題所需時間,從數週縮短至數天,克服專有環境的限制,協助資料科學家和開發者以更低的成本加速模型訓練。透過oneAPI的AI工具和最佳化,最大程度提升開放式加速運算應用的可移轉性(portability)。 Accenture常務董事John Giubileo表示:「與英特爾攜手為開放原始碼社群打造AI參考套件,讓我們客戶的AI工作負載具備更高的生產力。這些基於oneAPI的套件,為開發者的AI專案提供可移轉且高效率的解決方案,進而降低專案複雜性,縮短於不同產業部署所需時間。」 透過社群的回饋與貢獻,將持續更新部分套件,包含視覺品質檢測、企業對話式AI聊天機器人設置、預測性資產狀況分析、醫學影像診斷、文件自動化、AI結構化資料生成等參考套件。 AI參考套件可透過英特爾網頁或是GitHub免費取得。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
亞洲唯一!台智雲OneAI加速精準醫療
AI算力浪潮推動全球產業創新轉型,台智雲以亞洲唯一商用AI超算服務優勢,跨足2023亞洲生技展。將台灣杉二號超級電腦算力整合NVIDIA優化的GPU運算框架,協助生醫產業輕鬆完成基因二級分析、藥物開發、醫學成像、加速分析,並以聯合學習技術和彈性多元化的雲端資料儲存方案,驅動醫療創新技術的研發與智慧轉型。 華碩雲端暨台智雲總經理吳漢章表示,「華碩集團自2022年起與NVIDIA 協助國衛院成立AI生醫創新中心,共同推動AI算力在生物科技領域的重大發展。本次攜手工研院整合AI應用與生醫工程的完整流程,一次滿足資料處理、運算環境架設、AI生醫模型訓練或技術工具打造的需求,以AI超算平台加速生醫技術研發及應用。」 台智雲整合醫療產業需求和AI技術工具推出OneAI,在無須程式編碼條件下,三個步驟即可完成基因二級分析,體現高效益、低門檻特色。台智雲AI超級電腦採RAPIDS函式庫,以GPU高效運算處理龐雜資料,將訓練時間從數小時縮短為幾分鐘;再搭配涵蓋化學資訊學探索、分子動力學模擬、蛋白質結構預測、生物分子結構探索的NVIDIA Clara for Drug Discovery深度學習演算法,加速新藥開發。基因二級分析則採高輸出量、高精準度的NVIDIA Parabricks GPU加速分析,比傳統CPU解決方案速度快80倍,節省50%運算成本。透過MONAI(Medical Open Network for AI)開源深度學習框架,所提供逾20個預訓練的醫學影像辨識模型,可提升6倍成效。 今年亞洲生技展,台智雲亦偕同工研院、國衛院、NVIDIA、台基盟生技舉辦「AI超算與生醫產業的整合應用論壇」,共同分享整合AI超算與生醫技術發展的最新應用,並與工研院簽署合作MOU,優化酵素對接靶點技術、數位化分子篩選技術等應用方案,協助生醫產業輕鬆完成資料分析與模型訓練,展現台灣產研的技術能量和跨界整合的數位優勢。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
NEC開發並推出專為企業使用的生成式 AI 服務
NEC 集團(NEC Corporation, TSE:6701)已開發並將提供可針對每個客戶進行客製化的生成式人工智慧(AI)服務,協助客戶因應新技術帶來的商業變革,並為企業創造新價值。此一新的「NEC生成式AI服務」將從今年七月起於日本推出,提供獲有專利的大型語言模型(LLM)授權、專用的硬體、軟體以及諮詢服務等,並將在 2024 會計年度後逐步擴展到新的市場。 此外,NEC已與近10家公司和大學合作,於7月推出「NEC生成式AI進階客戶計畫」,透過該計畫,NEC將與客戶合作,支援他們創建模型,以及開發善用LLM的軟體、組織等。 另外,NEC在今年7月1日成立了「NEC 生成式AI中心」,作為專門推動客戶業務轉型的部門,此部門由研究人員、提供精準AI指導的提示工程師(prompt engineer)、顧問、數位信任專家等專業人員組成。NEC的目標是藉由這些生成式AI相關業務,在未來三年內達成500億日元(約 3.46 億美元)的銷售額。 生成式AI領域正受到市場極大的關注,這是因為各個企業和地方政府都考慮使用各種語言模型進行業務轉型,例如 ChatGPT,在2022年11月推出服務後兩個月內用戶數量就超過一億。 然而,使用生成式AI時,將面臨資訊洩露和安全弱點等安全問題,以及與系統準確性和持續使用相關的問題。此外,企業的AI應用必須致力於比翻譯和摘要更重要的用途,例如針對公司所累積的知識建立模型,以及開發一套促進公司內部AI使用的系統。 NEC集團於今年五月開始在內部業務中使用生成式AI,在兩週內建立了員工可以安心、安全使用的環境和系統。該系統連結到內部聯繫和網路會議工具等內部系統,目前約有二萬名使用者,每天使用約一萬次。 系統導入後已見有成效,例如開發內部系統所需編寫原始碼的工時減少了80%,產生文件所需的時間減少了50%,以及撰寫會議記錄所需時間從平均30分鐘減少到約5分鐘。 NEC將除了繼續利用該系統來改進文件校對及所有員工其他共同任務的效率外,也將運用在軟體開發等專業領域,並展現NEC藉由內部使用LLM相關服務所累積的專業知識。 在解決這些挑戰和內部使用經驗的基礎上,現在NEC將運用自有的生成式AI協助客戶創造新的企業價值。 ● 精通日語:在業務營運所需的知識量和閱讀理解能力方面達到頂尖水準 ● 輕量級:模型的規模輕巧,可在標準GPU伺服器上執行 NEC生成式AI服務 NEC將以其積累的專業經驗和創新精神為基礎,藉由「NEC生成式AI服務選單」方式,開始逐步提供一站式支援服務項目給客戶。透過諮詢和假設性測試等服務,NEC將能提高客戶的業務運作轉型速度和成效。 NEC還將提供「NEC生成式AI框架」軟體,以促進LLM整合到客戶的營運環境中。 「Microsoft Azure OpenAI 服務」和NEC的LLM將根據客戶的需求提供。為滿足客戶處理機密資訊的需求,NEC也提供結合雲端服務和本地環境的安全環境。 這些服務將以NEC印西資料中心為核心,連結「Microsoft Azure ExpressRoute」,提供安全性和低延遲。結合NEC獲有專利的LLM、NEC生成式AI框架和「NEC生成式AI 設備伺服器」硬體平台,就能成功建置安全的LLM環境。 該計畫提供完整的支援服務,協助客戶運用生成式AI創造企業價值,包括建立公司專用的語言模型、開發適用於業務的應用程式、改善環境和人力資源發展,以及促進參與公司之間的互動。 ● 透過由顧問主持的工作坊,擬定LLM運用策略、情境、使用案例和內部操作指南。 ● 在私有環境中進行展示實驗,包括使用NEC專利的LLM,並利用NEC LLM學習公司內部的資料以建立個別調整的模型。 ● 對高階人力的AI領域發展,進行NEC尖端技術服務的進階試驗,並提供有關LLM 運用的培訓會議及實作訓練。 ● 促進不同產業之間的意見交流,構建新的商業模式。 「微軟歡迎NEC推出生成式AI服務,」微軟公司副總裁暨微軟日本公司董事長津坂美樹(Miki Tsusaka)表示。「生成式AI被視為歷史性和顛覆性的技術轉捩點,可與網際網路的興起或工業革命相媲美。NEC是最早專注於此一領域的公司之一,並持續與我們共同合作實現了AI。透過NEC和微軟的全球策略合作夥伴關係,客戶將能運用具備安全資料處理功能的微軟Azure OpenAI服務,以及NEC多元的技術方案,包括NEC印西資料中心。我們雙方將攜手加快客戶的數位轉型,實現工作方式的創新。」 「NEC 將提供一個安全可靠的生成式AI環境,此環境不但反映我們和微軟的策略夥伴關係,也結合了基於NEC長期累積的AI專業知識的LLM,以及和微軟Azure OpenAI,」NEC 集團執行副總裁暨數位長吉崎敏文(Toshifumi Yoshizaki)表示。「此外,在新的合作夥伴計畫下,我們將匯集客戶和學術界的智慧,致力實現生產力的大躍進。」 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
遠傳與英特爾宣布合作IRTI計畫 遠傳5G遠距診療 結合「喉癌AI嗓音模型」
國際生技產業盛事「2023亞洲生技大會」(Bio Asia 2023)於今(27)日起,一連五天於台北南港展覽館盛大展開,遠傳於會中宣布與全球晶片領導大廠英特爾共同推動Intel RISE Technology Initiative(IRTI)專案計畫,並首次展示遠距診療結合「喉癌病徵辨識AI嗓音模型」成果。運用遠傳「5G遠距診療平台」,結合英特爾「OpenFL聯邦學習技術」、亞東醫院「嗓音資料庫」、捷絡生物科技「MetaLite軟體」,共同建立「喉癌病徵辨識AI嗓音模型」,辨識早期喉癌準確率高達8成,讓偏鄉民眾能透過5G遠距診療及早發現病徵,把握黃金治療期。 遠傳電信企業暨國際事業群執行副總經理曾詩淵表示:「英特爾一直是遠傳重要的合作夥伴,本次透過Intel IRTI專案計畫,攜手亞東醫院、捷絡生物科技公司,跳脫傳統侵入性檢查,透過人工智慧與聯邦學習整合發展『早期喉癌嗓音辨識』新方法,結合、優化遠傳自主開發的『5G遠距診療平台』,整合各醫療院所系統去識別化聲音辨識模型,提高喉癌辨識率。透過科技創新,持續為遠傳長期投入的遠距醫療發展注入新量能,為社會、偏鄉帶來更美好的永續生活。」 英特爾公司業務行銷暨公關事業群副總裁汪佳慧表示:「英特爾長期以來致力於運用創新科技促進智慧醫療發展,並攜手生態系夥伴擴大和加速其應用,期許讓更多人們受益。繼先前締結5G姐妹實驗室,很榮幸再度與遠傳電信合作,結合亞東醫院及捷絡生物科技在喉癌與AI模型的專長,共同發展出早期喉癌檢測技術,用以服務偏鄉與醫療資源匱乏區域。在此次合作中,運用英特爾最新第4代Intel Xeon可擴充處理器,以及OpenFL聯邦學習技術,不僅滿足AI運算所需的優異效能,更能兼顧安全所需,保護民眾的隱私資料。」 亞東醫院院長邱冠明表示:「亞東醫院在新冠疫情期間即透過遠傳電信的遠距診療平台提供居家照護與遠距醫療服務,疫情後則大力轉型為智慧醫院,日後有望結合遠傳、英特爾與捷絡生物科技的軟硬體技術,預先提供民眾嗓音篩檢,讓高風險患者能提早安排就醫診治。」 各地合作醫院將運用亞東醫院開發的「AI嗓音模型」蒐集喉癌患者嗓音特徵;透過英特爾最新第4代Intel Xeon可擴充處理器,其內建Intel Advanced Matrix Extension(Intel AMX)加速器可提升AI模型的運算速度;捷絡生物科技「MetaLite」軟體則能結合英特爾OpenFL框架,讓模型持續吸收特徵、提升辨識能力。遠傳自主開發的「5G遠距診療平台」,使醫療資源較為缺乏的偏鄉與離島民眾,得以就近在衛生所、地區醫院進行遠距看診,讓偏鄉醫療零距離。這項聯合展示在清華大學展位深受矚目。 咽喉疾病由於位置較深,需安排內視鏡檢測才能確認病況。早期喉癌患者如透過手術或放射線治療,成功率可達8至9成,若延誤治療,則可能需要大面積切除、甚至切除整個喉部,將永遠失去正常發聲功能,治癒率低於5成。大部分喉癌患者的初始症狀都是聲音沙啞,亞東醫院嗓音中心開發的「AI嗓音模型」,只要透過麥克風收集患者2至3秒的聲音,就能預測罹患喉癌機率,準確率高達8成。結合遠傳「5G遠距診療平台」、英特爾與捷絡生物科技的軟硬體技術,將大幅提升偏鄉與離島地區醫療量能。 面對台灣社會龐大的高齡長照、慢性病醫療與偏鄉醫療需求,遠傳自2020年於台東推出全台第一個遠距診療服務,至今已遍及12縣市、35鄉鎮、261村里,服務超過3萬人次,年底更將導入馬祖4個鄉鎮,科別包含眼科、皮膚科、耳鼻喉科。遠距診療平台是由遠傳自主開發,可整合醫療院所系統、虛擬健保卡認證、電子病歷,並運用5G高頻寬、低延遲特性,即時傳輸醫學影像並由遠端的專科醫師即時判讀,透過科技力,提升離島居民醫療資源、就醫即時性。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
-
雲動力資訊攜手Google Cloud導入AI提升國內業者競爭力
數位轉型服務商伊雲谷(6689)旗下子公司雲動力資訊為Google Cloud 菁英合作夥伴(Google Cloud Certificate Premier Partner),雲端技術能力深獲肯定,近期偕同集團致力於協助金融、公部門等產業數位轉型。雲動力積極響應數位產業署「與國際共創先進網路應用服務解決方案」政策方向,擔任產業解題專家並整合Google Cloud與AI解決方案,助力企業升級。雲動力於7月26日辦理「國際雲端應用服務媒合會」(以下簡稱媒合會),協助企業與國際原廠交流,加速台灣企業數位轉型盼提升國內各產業競爭力與韌性。 雲動力資訊創辦人暨執行長莊志仁表示:「感謝數位產業署的支持,我們與資策會攜手合作,透過媒合會匯聚Google Cloud最新AI技術,並為企業量身打造符合國際市場趨勢的AI雲端解決方案,扎實的為企業提升營收,並推動各式合作、激發創新,共同開發新服務和應用。」 媒合會現場,Google Workspace台灣銷售總監江鳴雷介紹AI世代協作雲的新篇章,讓使用者與生成式AI協作,只需使用簡單的關鍵提示詞Prompt,即可快速生成各式內容。這些功能有助於撰寫文字、整理內容、產出可視化內容、加快工作流程、提供更豐富的會議體驗,可為企業提供強大的全新工作方式。Google Cloud 台灣業務經理李長軒則圍繞Google AI技術,介紹針對零售產業新推出的AI解決方案,透過AI 為顧客提供更精準的產品推薦,在海外客戶應用實例中大幅提升零售商銷售業績。 雲動力資訊於去(2022)年12月獲得Google Cloud基礎架構專業認證 (Google Cloud Partner Infrastructure Specialization),更是台灣唯一具備「雲端開發能力」的Google Cloud合作夥伴,已協助數十家企業開發各式原生的雲端服務,雲動力資訊將在Google支持下發展更深厚的雲端建構、資安、應用開發等技術力,協助製造業、零售業、公部門、娛樂產業及 Web 3.0 等領域的革新發展,並導入生成式AI以及各式Google Cloud AI服務,盼為企業帶來前所未有的創新和競爭力。 雲動力以深耕雲端技術服務為本,從使用者角度出發,協助企業更精準並自動化的導入雲端技術,結合伊雲谷堅實的產業服務力和產品多元性,持續以豐富的產業經驗及技術能力,滿足台灣市場高速成長的雲端需求,共同提供企業更完善的數位解決方案。 雲動力資訊成立於 2021 年,致力於 Google 相關雲端產品的銷售及技術服務。因應現行企業已不僅止於「使用雲端」,而更著重於「優化雲端應用」,故團隊創立初期即透過多位任職於「深度使用Google Cloud之企業客戶」技術長及資訊長組成,從用戶端及技術面需求出發,深入替客戶量身訂製及優化所需的雲端服務,既有產品除Google Cloud公有雲外,在 Google Workspace 更以自主研發虛擬辦公室產品 Helium 取得佳績,並提供雲端技術諮詢及人力招聘等服務性產品,獲得包含台灣數十家上市櫃企業導入及青睞。 →更多的【PCDIY!業界新聞】: →更多的【PCDIY!賣場情報】: →更多的【PCDIY!科技情報】: →更多的【IT資訊新聞】: →更多的【ITMan!資訊經理人】: →更多的【PCDIY!八卦】:
最多人點閱
- 「Intel Core Ultra 200S」CPU強勢來襲,史上最強「Intel第15代 研發代號 Arrow Lake」桌上型電腦處理器「台積電 TSMC 神隊友代工」LGA1851腳位「Core Ultra 5 245K/KF、Core Ultra 7 265K/KF、Core Ultra 9 285K處理器 與 Z890主機板」聯袂登場!
- AMD Ryzen 7 8700G實測開箱,Radeon 780M Graphics內顯與Ryzen AI火力加持「次世代1080p 遊戲 處理器」強勢來襲!
- Supermicro SUPERO X13SWA-TF實測開箱,史上最強「8+3+1+1共13相供電」Intel W790「AI加速 四組PCIe 5.0 x16雙插槽顯示卡擴充」 HEDT高階桌機工作站主機板!
- Intel Xeon W-2400與W-3400處理器完全解密!研發代號Sapphire Rapids-WS與W790晶片組主機板 HEDT高階桌機工作站 LGA4677腳位 強大運算核心 正式登場,史上最強大24核心48執行緒Xeon w7-2495X 56核心112執行緒Xeon w9-3495X強勢來襲!
- GIGABYTE Server MW83-RP0實測開箱,史上最強「8+3+1+1共13相供電」實戰Intel Xeon w9-3495x為終極效能而生「AI加速 四組PCIe 5.0 x16雙插槽顯示卡擴充」HEDT工作站主機板!
- AMD Ryzen Threadripper 7000 & Threadripper 7000 PRO處理器完全解密!史上最強HEDT TRX50高階桌機、Workstation WRX90工作站平台 提供最高64核心128執行緒7980X 96核心192執行緒7995WX 具備DDR5 R-DIMM、PCIe 5.0 x16與PCIe Gen 5 SSD超強戰鬥力!
- ASUS Pro WS W790-ACE實測開箱,史上最強「12+1+1共14相供電」Intel Xeon w9-3495X處理器最佳拍檔「AI加速 三組PCIe 5.0 x16雙插槽顯示卡擴充」HEDT工作站主機板!
- ASUS Pro WS WRX90E-SAGE SE實測開箱,史上最強「32+3+3+3共41相供電」AMD Ryzen Threadripper PRO 7995WX「AI加速 四組PCIe 5.0 x16雙插槽顯示卡擴充」為終極運算效能而生HEDT高階桌機工作站主機板!
- Intel Xeon w9-3495X實測開箱,史上最強56核心112執行緒 採用LGA4677腳位 對應W790主機板 次世代 HEDT高階桌機 工作站 處理器重裝上陣!
- 微星MPG B650 EDGE WIFI實測開箱,AMD B650玩家級主機板優質精品 feat. AMD Ryzen 5 8600G/ 7 8700G
- 威剛 ADATA DDR5-4800 256GB R-DIMM 套裝(32GB x8)實測開箱,Intel W790伺服器級工作站主機板「八記憶體通道」PC DIY火力全開評測!
- AMD Ryzen Threadripper 7980X實測開箱,史上最強64核心128執行緒 採用sTR5腳位 對應TRX50、WRX90主機板 次世代 HEDT高階桌機處理器強勢登場!