新聞

AI代理開始能自行存取企業資料、呼叫API與外部工具，甚至連續執行多項任務後，企業既有的資安監控與事件處理方式也面臨新的挑戰。過去由資安人員逐一調查警示的流程，可能難以及時掌握代理快速且連續的操作。雲端服務業者AWS與資安教育及研究機構SANS Institute近期提出AI代理安全建議，企業除了要加強異常偵測，也需要管好代理的身分與權限，並依操作可能造成的影響，決定哪些任務可由代理自動執行、哪些需要先由人工確認。

首先是身分與權限控管。企業應讓每個AI代理具有各自的非人類身分（Nonhuman Identity，NHI），並使用短效且存取範圍受限的憑證，避免不同代理共用具有廣泛存取權限的憑證。代理每次提出存取請求時，也都要個別進行身分驗證與權限檢查，確認這次操作仍在授權範圍內。

要找出AI代理是否出現異常，企業還需要先掌握各代理平常會存取哪些資料、呼叫哪些工具，以及工具呼叫的頻率與順序，建立正常行為基準。對風險最高的AI代理，可優先蒐集至少30天的正常操作資料，再依實際行為調整異常偵測規則。

至於哪些操作可以讓AI代理自行完成，則要視可能造成的影響而定。影響較低、且系統高度確信操作屬於正常行為時，可讓代理直接執行。可能造成重大影響的操作，即使目前沒有發現異常，也應先由人工確認。若偵測到代理行為異常，但系統對判斷結果的信心仍低，可先限制該代理繼續存取資料或呼叫工具，再由資安人員複核。若系統偵測到安全威脅，則應同步從身分、網路、應用程式及資料等層面限制代理活動，包括撤銷存取憑證、隔離相關工作負載、停用特定工具，以及限制資料存取。

AI代理還可能透過第三方API、外部工具及Model Context Protocol（MCP）伺服器連接其他系統，因此，這些外部工具與服務也需要納入AI代理的權限與資料存取控管。企業應建立經核准的外部工具與伺服器清單，限制工具可存取的資料與系統資源，並檢查外部工具傳回的內容。AWS與SANS也提醒，提示詞不能取代真正的存取控制；即使已在提示詞中限制代理的操作範圍，代理實際能存取哪些資料、呼叫哪些工具，仍須由系統權限機制控管。