NVIDIA開源軟體可協助開發人員在AI聊天機器人上增加護欄

NVIDIA開源軟體可協助開發人員在AI聊天機器人上增加護欄

文．圖／陳一飛 2023-04-26 11:11:11

最新發布的開源軟體可以協助開發人員引導生成式AI應用程式創建令人印象深刻的文字回應，並使其保持在正軌上。

NeMo Guardrails將有助於確保由大型語言模型（LLMs）所驅動的智慧應用程式能夠準確、適當、切題且安全。該軟體包括企業需要的所有代碼、範例和文檔，為企業用於產生文字的AI應用程式增加安全性。

現今很多產業都在採用大型語言模型（ LLMs），它是這些AI 應用程式背後的強大引擎。他們回答客戶的問題，總結冗長的文件，甚至編寫軟體和加速藥物設計。

NeMo Guardrails 旨在協助使用者保護這個新類型人工智慧應用程式的安全。

強大的模型，堅固的護欄

生成式人工智慧的安全是整個產業關注的重點，NVIDIA 設計了 NeMo Guardrails 可適用於所有大型語言模型（ LLMs）一起使用，像是 Open AI 的 ChatGPT。該軟體可讓開發人員校準以大型語言模型驅動的應用程式，使其安全並維持在一個公司專業領域範圍內。

NeMo Guardrails 可以讓開發人員建立三種限制：
● 主題安全護欄可以避免應用程式偏離到不想要的領域。例如，它們可以防止客戶服務助理回答關於天氣的問題。
● 安全護欄確保應用程式回覆準確、適當的資訊。它們可以過濾不必要的語言，並強制要求只引用可信的來源。
● 保全護欄限制應用程式僅與已知為安全的外部連結建立連接。

即使不是機器學習專家或資料科學家，幾乎每個軟體開發人員都可以使用NeMo Guardrails，以幾行程式碼快速建立新規則。

駕馭熟悉的工具

由於 NeMo Guardrails 是開放原始碼的，因此它可以與企業應用程式開發人員使用的所有工具配合使用。例如，它可以在 LangChain 上運行，LangChain 是一個開放原始碼工具包，開發人員正在快速採用它，將第三方應用程式與大型語言模型的強大功能整合。

「使用者可以輕鬆地將 NeMo Guardrails 加入 LangChain 工作流程，快速為他們的 AI 應用程式建立安全限制。」LangChain 工具包創造者 Harrison Chase 說道，他也以此命名其新創公司。

此外，NeMo Guardrails 是設計能夠廣泛的與以大型語言模型驅動的應用程式協作，像是Zapier。Zapier這個自動化平台已有超過 220 萬家企業使用，可直接展現用戶如何將人工智慧融入到他們的工作中。

Zapier AI 首席產品經理 Reid Robinson表示：「安全、保障和信任是負責任 AI 開發的基石，我們對 NVIDIA 將這些護欄嵌入 AI 系統的積極方法感到興奮。我們期待未來將人工智慧作為可靠且值得信賴的一部分所帶來的好處。」

NVIDIA以開放原始碼的形式提供

NVIDIA正在將NeMo Guardrails整合至NVIDIA NeMo框架中，該框架包括使用者使用公司專有資料集進行語言模型訓練和調整所需的一切。

NeMo Framework已經在GitHub上以開源形式提供。企業也可以透過NVIDIA AI Enterprise取得完整的企業支援服務。

NeMo 也是以服務的方式提供，它是 NVIDIA AI Foundations 的一部分，它是一系列供企業使用的雲端服務，他們可以基於自己的數據集和領域知識來創建和運行定制的生成式人工智慧模型。

透過使用NeMo，韓國領先的行動網路營運商打造了一個智慧助理，該助理已與其客戶進行了800萬次對話。瑞典一個研究團隊使用 NeMo 創建了可以協助該國醫院、政府和企業辦公室自動化文本功能的大型語言模型。

與社群一同持續努力

為生成式AI建立良好的護欄是一個艱難的問題，隨著AI的演化，需要大量持續不斷的研究。

NVIDIA經過多年研究發展出NeMo Guardrails，並將其開源，對開發者社群的開發能量和在AI安全方面的工作做出貢獻。

我們在建立生成式AI護欄上的共同努力將能協助公司將其智慧服務符合安全、隱私和保障要求的一致要求，從而使這些創新引擎保持在正軌上。

→更多的【PCDIY!業界新聞】：請見

→更多的【PCDIY!賣場情報】：請見

→更多的【PCDIY!科技情報】：請見

→更多的【IT資訊新聞】：請見

→更多的【ITMan!資訊經理人】：請見

→更多的【PCDIY!八卦】：請見

延伸閱讀

資料很貴的！叫你備份不聽！你知道硬碟故障資料救援：「救個資料，報價『3萬8』嗎？」

「黑心電源供應器」大爆發！大家可要小心一點阿！太恐怖了啦!!!

什麼！硬碟大廠Seagate，最新的行銷活動廣告，裡面居然出現：「我也不想當『死雞』隊友啊.................」

電腦展的話，不少人是醉翁之意不在酒，不是去看電腦展，而是去看妹展的！到底看妹，是要怎麼看呢？

磁碟陣列要選RAID 5還是RAID 6？有需要再用Hot spare嗎？這是一個好問題！

硬碟世界最「狂」記錄：「威騰WD RE 3TB硬碟驚爆鬧機瘟，48顆就壞25顆，死亡率高達52.08%...................」

什麼終身保固？網友說：「覺得被騙了！」終身保固≠終身換新≠終生免費，你覺得呢？

淘寶網帶來的跨境電商價格戰，對光華商場來說，是新危機？還是新轉機？

珍惜生命，遠離(成為)工具人

這邊有批8核心16執行緒CPU好便宜啊!!!

硬碟故障資料救援，等了一年八個月...

隨著香港電訊、日本So-net寬頻上網業者，陸續提供10G光纖上網，讓玩家與專業用戶享受高速上網的極速快感。反觀我們台灣，中華電信HiNet還在供裝光世代500M/250M與光世代1G/600M，可以說：「人家都上太空，我們還在殺豬公!!!」

高雄建國電腦商場，周圍稱為建國電腦商圈、建國3C商圈，爆發了倒店潮。網友議論紛紛，有的玩家認為跟原價屋有關，認為原價屋是殺手，真的是這樣嗎？

這個店家，讓各地店員嗆不爽去台北買這句話，從此走入歷史！

批踢踢實業坊PTT，這幾天有個網友PO文：「[請益] 約200T的貯存方案(預算10W～20W)」

高科技竹筷來啦！

SSD熱賣，玩家的最終看法：「用過，就回不去了！」

DDR4記憶體金手指歪掉惹..................

中國來的「360安全衛士防毒軟體」，「360安全卫士」這次獲得教授認證了！教授認證的「神防毒軟體」，這到底是「教授級防毒軟體」，還是防毒軟體是「會叫的野獸？」

電腦機殼破萬，是在搞什麼東西呢？

硬碟容量那麼大，玩家與專業用戶都在存什麼東西呢？原來答案是：「硬碟就是要裝謎片阿不然要幹嘛！」

什麼？Windows XP作業系統，還有老玩家在用呀！沒錯，真的是令人驚呆了！而且，這些玩家，宣稱：「打死不退、寧死不屈」，堅信：「再戰十年」

更多焦點

發表您的看法: 請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。; 請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。; 請勿侵犯個人隱私權，將他人資料公開張貼在留言版內。; 請勿重複留言（包括跨版重複留言）或發表與各文章主題無關的文章。; 請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。; 您在留言版發表的內容需自負言論之法律責任，所有言論不代表PCDIY!雜誌立場，違反上述規定之留言，PCDIY!雜誌有權逕行刪除您的留言。

焦點

NVIDIA開源軟體可協助開發人員在AI聊天機器人上增加護欄

強大的模型，堅固的護欄

駕馭熟悉的工具

NVIDIA以開放原始碼的形式提供

與社群一同持續努力

延伸閱讀

最近新增

最多人點閱