讓世界再次看見臺灣AI資安實力,奧義兩款產品列入OWASP AI 安全地圖
其中一款是去年7月推出的新世代AI防火牆安全模組XecGuard,被OWASP列入該份地圖的企業導入AI階段,分別是:營運(Operate)、部署(Deploy)、測試與評估(Test& Evaluate)、增強與資料微調(Augment, Fine Tune Data)。這項產品可強化大型語言模型(LLM)的安全防禦能力,在AI服務運作過程中,提供即時防止敏感資料外洩的機制,實現自主與量化的資安管理,持續監控與分析對話內容,藉此偵測AI代理是否被引導執行偏離任務的工具呼叫程序,或是產生不安全的工作流程。除此之外,XecGuard可提供API與閘道模式,因應不同產業對於法規遵循、資料主權與部署的需求,也能快速整合既有的AI應用系統、AI代理架構與內部作業流程。
另一款是XecART,被列入OWASP AI安全解決方案地圖的企業導入 AI階段,涵蓋:範圍與規畫(Scope& Plan)、開發與實驗(Develop& Experiment),以及測試與評估。這款產品專攻AI紅隊安全評測(AI Red Teaming),去年奧義陸續在幾篇新聞稿提及,像是6月底針對蘋果裝置端基礎模型的分析,7月發表XecGuard,直到12月接受日本週刊 BCN 報導,XecART這個稱呼才真正浮上檯面,今年2月正式於台灣證券交易所創新板掛牌交易,XecART則以「模型自動化評測」再度被提到。
在4月底奧義宣布入選OWASP AI安全解決方案地圖的消息中,他們更具體描繪XecART的特色,像是精準模擬攻擊路徑,確保AI代理的行為能夠遵循企業與組織的政策,並且針對目標偏移、提示注入、工具濫用等風險,提供多回合的對話循環測試與自動化紅隊演練,藉此協助企業驗證在多AI代理環境下,AI代理是否安全、穩定及遵循規範。
奧義智慧攜手臺灣AI業者APMIC,打造新世代AI防火牆安全模組
奧義智慧科技技術長暨共同創辦人邱銘彰表示,該公司推出的AI防火牆XecGuard不是傳統資安意義上的防火牆,而是一種革命性的LoRA(Low-Rank Adaptation)安全升級模組,是基於「模型」的安全模型,可以防範AI的提示詞注入(Prompt Injection)、提示詞竊取(Prompt Extraction)以及各種形式的「越獄」(Jailbreak)的AI安全防護工具
www.ithome.com.tw




Comments (0)