Meta 推出 Purple Llama 實現安全及負責任的 AI 開發

焦點

Meta 推出 Purple Llama 實現安全及負責任的 AI 開發

文．圖／張國華 2023-12-08 16:15:59

● Meta 宣布推出 Purple Llama，以開放式信任與安全評測工具為特色的保護傘計畫，協助開發者負責任地建構 AI 模型。
● 首先，Purple Llama 將提供評測方式與工具，用於網路安全及輸入與輸出上。
許多 AI 創新內容都是建立在開放模型之上，Meta 的 Llama 模型下載數量也突破 1 億次！在這波創新中，為了建立對開發者的信任，Meta 宣布推出 Purple Llama，該項保護傘計畫將匯集各類評測方式與工具，幫助開發者負責任地運用開放的生成式 AI 模型建構。

為什麼選擇紫色？

引用資安領域的概念，為了應對生成式 AI 帶來的挑戰，需要同時模擬攻擊（紅隊）與防禦（藍隊）的模式，紫隊便是由紅隊及藍隊協作組成，同時考量評估風險與減輕潛在威脅的作法。

網路安全

Meta 推出業界第一套針對大型語言模型的網路安全評測工具，這些標準是基於產業指南及規範，並與 Meta 的安全專家合作建構而成。透過 Purple Llama 的初始版本，期待提供工具應對向白宮做出的安全承諾中概述的風險，包括：
● 量化大型語言模型網路安全風險的指標
● 評估不安全程式碼建議發生頻率的工具
● 評估使大型語言模型難以產生惡意程式碼或協助網路攻擊的工具

相信透過這些工具，可從本質上減少由大型語言模型建議出不安全生成式 AI 程式碼的頻率，並減少對網路上攻擊者的幫助。

輸入與輸出

如 Llama 2 負責任使用指南中所述，Meta 建議開發者根據適合的內容規範，檢查及過濾大型語言模型的所有輸入及輸出內容。為了支持開發者執行此流程，Meta 發布 Llama Guard，此項公開可用的基礎模型幫助開發者避免產出具潛在風險的輸出。為持續實現公開、透明的科學研究精神，Meta 將在論文中公開研究方法及對結果的延伸討論。此模型已經過一系列公開可用的資料集訓練，能夠檢測常見的潛在風險或違規內容，最終期待開發者能根據各自需求自行調整合適的內容，支援相關使用狀況，並更輕鬆地採用最佳作法，進而改善整個開放生態系。

開放的生態系

Meta 已非首次採用開放的 AI 策略，探索性研究、開放科學研究精神及相互合作，是 Meta 在 AI 工作的基礎，Meta 相信這是創建開放生態系的重要契機。今年 7 月，Meta 與 100 多個合作夥伴共同推出 Llama 2，這種合作精神位居業界領先地位，其中許多合作夥伴亦與 Meta 於開放式信任與安全方面合作，包含 AI 聯盟（AI Alliance）、AMD、Anyscale、AWS、Bain、CloudFlare、Databricks、Dell Technologies、Dropbox、Google Cloud、Hugging Face、IBM、Intel、Microsoft、MLCommons、Nvidia、Oracle、Orange、Scale AI、Together.AI 等，Meta 很期待與擁有共同願景的合作夥伴們，一同為負責任地開發生成式 AI 開放生態系而努力。

→更多的【PCDIY!業界新聞】：請見

→更多的【PCDIY!賣場情報】：請見

→更多的【PCDIY!科技情報】：請見

→更多的【IT資訊新聞】：請見

→更多的【ITMan!資訊經理人】：請見

→更多的【PCDIY!八卦】：請見

延伸閱讀

資料很貴的！叫你備份不聽！你知道硬碟故障資料救援：「救個資料，報價『3萬8』嗎？」

「黑心電源供應器」大爆發！大家可要小心一點阿！太恐怖了啦!!!

什麼！硬碟大廠Seagate，最新的行銷活動廣告，裡面居然出現：「我也不想當『死雞』隊友啊.................」

電腦展的話，不少人是醉翁之意不在酒，不是去看電腦展，而是去看妹展的！到底看妹，是要怎麼看呢？

磁碟陣列要選RAID 5還是RAID 6？有需要再用Hot spare嗎？這是一個好問題！

硬碟世界最「狂」記錄：「威騰WD RE 3TB硬碟驚爆鬧機瘟，48顆就壞25顆，死亡率高達52.08%...................」

什麼終身保固？網友說：「覺得被騙了！」終身保固≠終身換新≠終生免費，你覺得呢？

淘寶網帶來的跨境電商價格戰，對光華商場來說，是新危機？還是新轉機？

珍惜生命，遠離(成為)工具人

這邊有批8核心16執行緒CPU好便宜啊!!!

硬碟故障資料救援，等了一年八個月...

隨著香港電訊、日本So-net寬頻上網業者，陸續提供10G光纖上網，讓玩家與專業用戶享受高速上網的極速快感。反觀我們台灣，中華電信HiNet還在供裝光世代500M/250M與光世代1G/600M，可以說：「人家都上太空，我們還在殺豬公!!!」

高雄建國電腦商場，周圍稱為建國電腦商圈、建國3C商圈，爆發了倒店潮。網友議論紛紛，有的玩家認為跟原價屋有關，認為原價屋是殺手，真的是這樣嗎？

這個店家，讓各地店員嗆不爽去台北買這句話，從此走入歷史！

批踢踢實業坊PTT，這幾天有個網友PO文：「[請益] 約200T的貯存方案(預算10W～20W)」

高科技竹筷來啦！

SSD熱賣，玩家的最終看法：「用過，就回不去了！」

DDR4記憶體金手指歪掉惹..................

中國來的「360安全衛士防毒軟體」，「360安全卫士」這次獲得教授認證了！教授認證的「神防毒軟體」，這到底是「教授級防毒軟體」，還是防毒軟體是「會叫的野獸？」

電腦機殼破萬，是在搞什麼東西呢？

硬碟容量那麼大，玩家與專業用戶都在存什麼東西呢？原來答案是：「硬碟就是要裝謎片阿不然要幹嘛！」

什麼？Windows XP作業系統，還有老玩家在用呀！沒錯，真的是令人驚呆了！而且，這些玩家，宣稱：「打死不退、寧死不屈」，堅信：「再戰十年」

更多焦點

發表您的看法: 請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。; 請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。; 請勿侵犯個人隱私權，將他人資料公開張貼在留言版內。; 請勿重複留言（包括跨版重複留言）或發表與各文章主題無關的文章。; 請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。; 您在留言版發表的內容需自負言論之法律責任，所有言論不代表PCDIY!雜誌立場，違反上述規定之留言，PCDIY!雜誌有權逕行刪除您的留言。

焦點

Meta 推出 Purple Llama 實現安全及負責任的 AI 開發

為什麼選擇紫色？

網路安全

輸入與輸出

開放的生態系

延伸閱讀

最近新增

最多人點閱