新聞

【拉斯維加斯直擊】隨著LLM（大型語言模型）應用普及，以及Agentic AI快速崛起，新技術用於推動企業轉型的同時，也帶來前所未有的資安威脅，促使全球資安廠商紛紛提出對策，並加速研發對應的防護方案。資安大廠趨勢科技（Trend Micro）亦不例外，該公司旗下TrendAI事業群在8月初美國黑帽大會（Black Hat USA）期間，建議企業應從4大核心面向切入，重塑新一代AI資安風險管理架構。

企業布局Security for AI，應從4大核心面向出發

AI資安解決方案推陳出新，相關技術名詞也持續浮出檯面，從Shadow AI Discovery，到AI Firewall、AI Gateway、AI Guardrails，還有AI Runtime Security、AIDR等，如今防護範圍又延伸至Agentic Security、MCP Security，以控管Agent的身分、權限、工具呼叫及跨系統行為。面對當前局面，企業在2026年布局Security for AI時，究竟該以何種思維來因應？

對此問題，TrendAI平臺暨業務長及TrendAI負責人金敬秀（Rachel Jin）指出，隨著AI技術快速演進，技術名詞也隨新工具與新方法不斷衍生，例如Prompt（提示詞）、MCP（Model Context Protocol）等；另一方面，也有將傳統資安分類轉移至AI資安領域的現象，從雲端CSPM延伸為AI-SPM就是相當典型的例子。

她認為，由於市場對專有名詞的定義尚未完全定型，許多單點功能也將逐步整併，若過早將產品綁定在狹隘或未成熟的分類中，反而會限制防護價值；因此，趨勢科技主張從客戶「預期成效（Outcome）」來定義解決方案。

金敬秀直言，傳統定義的產品分類到了AI時代已相互融合，目前很難單靠一種新定義的AI Security類別涵蓋所有範疇。因此，趨勢科技當前的產品布局策略，聚焦於解決4大核心問題：可視性（Visibility）、所有權（Ownership）、可觀測性（Observability）與治理（Governance）。

若進一步拆解這4大防禦軸線的落地實踐，金敬秀指出，首要之務正是「可視性」。防禦方需精準掌握正在呼叫AI Agent或使用AI工具的人員，或是身分，進而評估具有風險的AI使用行為，以及流入AI工具的敏感資料。企業應透過端點、電子郵件及雲端等多維度感測器，建立完整的AI使用輪廓。

在所有權方面，金敬秀特別指出，此概念在市場上算是相當新穎的議題。隨著AI Agent能自主執行任務，企業必須釐清責任歸屬；就像企業招聘新員工時會明確規範其職責、工具權限與資料存取範圍一樣，現行的AI Agent仍缺乏這套完整的體系。

因此，在AI Agent誕生之初，防禦方就必須賦予明確的所有者與存取控制規範，包含釐清Agent執行操作時代表何人、有多少Agent在運行及其所有者是誰、是否具備過大權限，以及持有的Token、金鑰或機密憑證是否可能被竊取。

在可觀測性方面，企業防禦不能僅停留在發現資產，還需要進一步深入掌握AI與Agent的動態行為。防禦方必須能掌握AI系統在做什麼、是否有潛在危害或異常狀況，並建立提示詞（Prompts）與工具呼叫（Tool Calls）的稽核軌跡，進一步偵測行為異常、模型漂移或有害輸出，藉此全面評估整體運作的潛在風險。

最後在治理方面，則是針對整體AI生態系統建立全面的管理與處置機制。金敬秀表示，治理包含多重安全維度的管控，例如當模型遭遇越獄攻擊時該如何防範、當Agent試圖執行有害操作時有何應變機制，以及如何確保Agent所呼叫的第三方工具或MCP伺服器具備安全性。

綜觀上述4大防禦發展原則，尤其是「所有權」的實務探討，更是新的重點。畢竟，一旦AI Agent執行非預期的有害行為時，責任究竟該由開發人員或維運管理者承擔，還是目前根本處於權責未明的真空狀態？如今我們看到，TrendAI已經在資安產品研發與企業實務落地治理層面展開布局，期望解決這方面的挑戰。

金敬秀強調，如今AI已貫穿企業各項業務流程，客戶最關切的資安議題都不外乎這幾大範疇；這4大方向不僅是趨勢科技當前產品研發的主軸，也是她在與客戶溝通時深刻體會到的市場心聲。因此，臺灣企業在強化AI安全時，亦能從這些角度切入防禦布局。