Check Point Software、Lakera 與英國 AISI 聯手開創 AI 安全新標竿三方共同推出 AI 代理專用 LLM 開源安全基準測試

焦點

ITMan!資訊新聞 PCDIY!業界新聞

Check Point Software、Lakera 與英國 AISI 聯手開創 AI 安全新標竿三方共同推出 AI 代理專用 LLM 開源安全基準測試

文．圖／張國華 2025-11-10 18:13:23

網路安全解決方案的先驅者及全球領導廠商 Check Point Software Technologies Ltd.（納斯達克股票代碼：CHKP）攜手近期收購、專注於 Agentic AI 應用的 AI 原生安全平台 Lakera，以及英國人工智慧安全研究所（簡稱 AISI）共同宣布推出開源安全評估工具—骨幹破壞基準測試（backbone breaker benchmark；後稱 b3），此工具是專為 AI 代理（AI agent）中的大型語言模型（LLM）安全性而設計。

b3 奠基於「威脅快照（threat snapshots）」的新概念上，聚焦於 LLM 最容易出現漏洞的關鍵節點進行測試，使開發者和模型供應商能無需建構完整且複雜的代理工作流程，即可評估其系統真實對抗安全挑戰時的抗壓能力。

Check Point 旗下的 Lakera 聯合創辦人暨首席科學家 Mateo Rojas-Carulla 表示：「我們打造 b3 安全基準測試是因為當今 AI 代理的安全性完全取決於其背後的 LLM 模型，威脅快照功能使我們能系統性地揭露那些至今仍隱藏在複雜代理工作流程中的漏洞。我們透過將這項基準測試開放給全球使用者，使開發者和模型供應商能以實際可行的方法衡量並提升安全態勢。」

此基準測試結合 10 個具代表性的代理「威脅快照」，以及透過遊戲化紅隊對抗平台 Gandalf: Agent Breaker[註] 收集的 19,433 筆高品質群眾外包（crowdsourced）對抗攻擊資料集，用以評估系統對各類攻擊的易受性，包括系統提示外洩、釣魚連結植入、惡意程式碼注入、拒絕服務攻擊以及未授權工具調用等。

系統進一步針對 31 款主流 LLM 進行初步測試，關鍵洞察如下：

• 強化的推理能力可顯著提升安全性
• 模型規模與安全效能之間無相關性
• 儘管頂尖開源模型的安全差距正在縮小，但閉源模型整體表現通常優於開源模型

b3 基準測試現已以開源授權形式發布，詳情請見 https://arxiv.org/abs/2510.22620

Gandalf: Agent Breaker 是一款駭客模擬遊戲，挑戰玩家在真實場景中破解並利用 AI 代理的能力。遊戲內建的十款生成式 AI 應用程式模擬現實世界中 AI 代理的行為模式，每款應用均設有不同難度等級、分層防禦機制及新穎攻擊面，考驗玩家從提示工程（prompt engineering）到紅隊對抗等全方位技能。部分應用以聊天互動為主，其餘則需運用程式碼思維、檔案處理、記憶體管理或外部工具使用。

Gandalf: Agent Breaker 的初始版本誕生於 Lakera 內部的黑客松活動，當時藍隊與紅隊試圖為持有秘密密碼的 LLM 建立最強防禦與攻擊策略。自 2023 年發布以來，它已成為全球規模最大的紅隊社群，累計生成逾 8000 萬筆資料點。這款原本作為趣味遊戲的工具，透過揭示生成式 AI 應用中的現實漏洞，有效提升了人們對「AI-First」安全重要性的認知。

→更多的【PCDIY!業界新聞】：請見

→更多的【PCDIY!賣場情報】：請見

→更多的【PCDIY!科技情報】：請見

→更多的【IT資訊新聞】：請見

→更多的【ITMan!資訊經理人】：請見

→更多的【PCDIY!八卦】：請見

延伸閱讀

資料很貴的！叫你備份不聽！你知道硬碟故障資料救援：「救個資料，報價『3萬8』嗎？」

「黑心電源供應器」大爆發！大家可要小心一點阿！太恐怖了啦!!!

什麼！硬碟大廠Seagate，最新的行銷活動廣告，裡面居然出現：「我也不想當『死雞』隊友啊.................」

電腦展的話，不少人是醉翁之意不在酒，不是去看電腦展，而是去看妹展的！到底看妹，是要怎麼看呢？

磁碟陣列要選RAID 5還是RAID 6？有需要再用Hot spare嗎？這是一個好問題！

硬碟世界最「狂」記錄：「威騰WD RE 3TB硬碟驚爆鬧機瘟，48顆就壞25顆，死亡率高達52.08%...................」

什麼終身保固？網友說：「覺得被騙了！」終身保固≠終身換新≠終生免費，你覺得呢？

淘寶網帶來的跨境電商價格戰，對光華商場來說，是新危機？還是新轉機？

珍惜生命，遠離(成為)工具人

這邊有批8核心16執行緒CPU好便宜啊!!!

硬碟故障資料救援，等了一年八個月...

隨著香港電訊、日本So-net寬頻上網業者，陸續提供10G光纖上網，讓玩家與專業用戶享受高速上網的極速快感。反觀我們台灣，中華電信HiNet還在供裝光世代500M/250M與光世代1G/600M，可以說：「人家都上太空，我們還在殺豬公!!!」

高雄建國電腦商場，周圍稱為建國電腦商圈、建國3C商圈，爆發了倒店潮。網友議論紛紛，有的玩家認為跟原價屋有關，認為原價屋是殺手，真的是這樣嗎？

這個店家，讓各地店員嗆不爽去台北買這句話，從此走入歷史！

批踢踢實業坊PTT，這幾天有個網友PO文：「[請益] 約200T的貯存方案(預算10W～20W)」

高科技竹筷來啦！

SSD熱賣，玩家的最終看法：「用過，就回不去了！」

DDR4記憶體金手指歪掉惹..................

中國來的「360安全衛士防毒軟體」，「360安全卫士」這次獲得教授認證了！教授認證的「神防毒軟體」，這到底是「教授級防毒軟體」，還是防毒軟體是「會叫的野獸？」

電腦機殼破萬，是在搞什麼東西呢？

硬碟容量那麼大，玩家與專業用戶都在存什麼東西呢？原來答案是：「硬碟就是要裝謎片阿不然要幹嘛！」

什麼？Windows XP作業系統，還有老玩家在用呀！沒錯，真的是令人驚呆了！而且，這些玩家，宣稱：「打死不退、寧死不屈」，堅信：「再戰十年」

更多焦點

發表您的看法: 請勿張貼任何涉及冒名、人身攻擊、情緒謾罵、或內容涉及非法的言論。; 請勿張貼任何帶有商業或宣傳、廣告用途的垃圾內容及連結。; 請勿侵犯個人隱私權，將他人資料公開張貼在留言版內。; 請勿重複留言（包括跨版重複留言）或發表與各文章主題無關的文章。; 請勿張貼涉及未經證實或明顯傷害個人名譽或企業形象聲譽的文章。; 您在留言版發表的內容需自負言論之法律責任，所有言論不代表PCDIY!雜誌立場，違反上述規定之留言，PCDIY!雜誌有權逕行刪除您的留言。

焦點

Check Point Software、Lakera 與英國 AISI 聯手開創 AI 安全新標竿三方共同推出 AI 代理專用 LLM 開源安全基準測試

系統進一步針對 31 款主流 LLM 進行初步測試，關鍵洞察如下：

b3 基準測試現已以開源授權形式發布，詳情請見 https://arxiv.org/abs/2510.22620

延伸閱讀

最近新增

最多人點閱

焦點

Check Point Software、Lakera 與英國 AISI 聯手開創 AI 安全新標竿 三方共同推出 AI 代理專用 LLM 開源安全基準測試

系統進一步針對 31 款主流 LLM 進行初步測試，關鍵洞察如下：

b3 基準測試現已以開源授權形式發布，詳情請見 https://arxiv.org/abs/2510.22620

延伸閱讀

最近新增

最多人點閱

Check Point Software、Lakera 與英國 AISI 聯手開創 AI 安全新標竿三方共同推出 AI 代理專用 LLM 開源安全基準測試