【臺灣資安大會直擊】元智大學王仁甫：AI代理與開源模型正重塑資安風險，企業需建立制度化、自動化的漏洞治理與AI責任機制

他認為，企業除了關心導入AI所帶來的效率提升之外，也不能輕忽AI帶來的資安風險，包括AI讓漏洞生成、攻擊自動化與惡意程式演化速度全面加快。

AI讓漏洞與惡意程式生成速度大幅提升

他引用微軟數位防禦報告指出，AI已開始被駭客大量應用於惡意程式生成與自動化攻擊。目前每年新增漏洞數量已接近5萬個，惡意程式樣本一年新增約30萬種，全球累積病毒數量更已達13億隻。「未來病毒將會比人類還多」。

他指出，過去駭客需要花費大量時間撰寫攻擊程式，但AI出現後，漏洞利用與攻擊工具生成速度明顯加快，「病毒開始有大腦」，甚至能自動判斷受害主機的防護環境，再決定如何繞過偵測。

AI也正在改變資安人才需求結構。過去大量企業投入AI模型開發，但隨著AI系統越來越複雜，資安工程師需求正在快速上升，因為AI本身也需要被保護。

代理AI與開源模型成為新的攻擊面

現在獲得較多關注的代理型AI也帶來的新風險。

王仁甫指出，未來AI不只是聊天工具，而是能主動執行任務、呼叫外部API、讀取資料與操作系統的代理程式。當企業大量導入AI代理後，將使得攻擊面也同步擴大。

他提到，包含大型語言模型（LLM）、開源AI模型、外部API、AI Plugin、RAG架構等等，都可能成為供應鏈攻擊入口。

其中開源模型面臨的風險更高。他表示，只要是Open Source，就可能存在漏洞或後門，甚至可能在模型微調（Fine-tuning）或套件更新時被植入惡意程式。

OWASP近幾年已將AI代理風險列入重要議題，包括Prompt Injection、API安全、權限濫用、Agent越權操作、第三方模型驗證等等，這些都已成為企業AI治理的重要課題。

高風險漏洞的利用時間正在急速縮短

除了AI本身風險，王仁甫也指出，漏洞被利用的速度正在急速縮短。

他表示，目前高風險漏洞平均128天內就可能遭到大量利用，且約3至4成的高風險漏洞很快就會出現攻擊程式。以CISA的KEV（Known Exploited Vulnerabilities）漏洞名單，幾乎都是已遭實際攻擊利用的重大漏洞。

他認為，過去企業「延後修補」的策略已不再適用，未來漏洞治理必須向自動化與即時化發展，包括弱點掃描、Open Source元件盤點、自動化修補、AI供應鏈治理、API安全管理，都會成為企業必要能力。

歐盟CRA與AI Act提高企業的資安責任

在法遵方面，王仁甫分析近年歐盟AI法案與資安法規發展，如歐盟AI Act、Cyber Resilience Act（CRA），其中CRA已正式實施，未來包含AI軟體、IoT設備與數位產品，都將受到更嚴格監管，例如高風險產品需第三方驗證、漏洞需強制通報、安全事件的揭露、軟體供應鏈需可追溯。

他指出，CRA對開源軟體帶來巨大衝擊。過去開源開發者多半不需承擔產品責任，但未來若開源套件出現漏洞，可能也需負擔通報與安全義務。他認為，這可能改變整個Open Source生態與AI產業模式。

歐盟AI Act建立高風險AI分類制度，對於資料、模型透明度、即時監控、安全性、風險管理都提出具體的要求，相較之下，王仁甫認為臺灣的AI治理制度相對鬆散，對於AI漏洞通報、高風險AI監管與供應鏈治理規範仍顯不足，臺灣的企業若未來要進入歐盟市場，需要提早建立符合國際規範的AI治理能力。

未來AI治理的4大核心方向

王仁甫歸納AI治理歸的4大核心方向，分別是資料品質與完整性、AI透明性與可稽核性、偏誤與公平性控制、責任歸屬。

他強調，企業未來不能只是「導入AI」，還必須建立完整的AI治理與資安管理機制，包括資料保護、權限控管、模型來源驗證，以及AI決策可追溯能力。如果做不到這些，AI帶來的風險可能將超過其帶來的效率與效益。