【臺灣資安大會直擊】2026年底9成資訊都是AI撰寫？趨勢科技揭示AI演進下的4大內外部風險

隨著AI技術突飛猛進，網路犯罪態勢也呈現重大轉變，Ryan Flores對此提出的說明可歸納為4大要點。在內部風險方面有1項重要態勢：AI系統本身也會存在需要修補的漏洞，近兩年來的AI漏洞暴增，2024年有1,583個，2025年有2,130個；而在外部威脅上則有3項重要態勢，包括內容生成成本大幅降低、身分冒充變得可規模化，以及攻擊邏輯從傳統惡意程式轉為更難防範的惡意提示詞。

AI漏洞七年間暴增10倍

隨著全球迎接AI轉型，但AI漏洞數量激增的狀況不容忽視，Ryan Flores指出，在2018年，針對AI軟體堆疊（AI software stack）所發現的漏洞僅有178個，然而到了2025年，這個數字已經飆升至2,130個。他指出，這些漏洞存在於整個AI技術堆疊中，包含AI供應鏈、LLM生態系統、代理式AI模型、Data pipelines，以及GPU與硬體架構本身。這也是因為AI技術堆疊的開發速度極快，成為企業不能忽視的風險。

內容生成與身分偽冒規模擴大，威脅防不勝防

再從威脅面來看，首要焦點是：內容生成武器化，假資訊與詐騙內容大規模量產。生成式AI技術進步程度驚人，但Ryan Flores指出，其氾濫程度可能超乎想像。他提到，已有研究人員預測到今年年底，90%的線上內容將由AI生成，另一項研究顯示，目前網路已有60%的內容是AI生成的。

趨勢科技研究團隊也曾進行一項實驗，評估大規模產製假內容的實際門檻。結果顯示，在幾乎不需撰寫程式碼的情況下，使用免費服務或是只花20美元訂閱費，就能建立電商平台上的假賣家、假商品與假人設。這顯示攻擊者如今可用近乎零成本發動大規模詐騙，同時也進一步用於釣魚詐騙、BEC詐騙與資訊作戰。

其次是身分偽造進化，容易產生大規模濫用問題。Ryan Flores以北韓駭客偽裝IT人員應聘活動為例，指出駭客透過LinkedIn與GitHub資料包裝履歷，配合Deepfake與AI即時應答通過遠端面試，受聘後伺機竊取機敏資訊，甚至發動勒索攻擊。更嚴峻的是，駭客也會反向假扮雇主設局，藉由發布假職缺面試真實求職者，並誘騙其下載惡意軟體以竊取個資，甚至劫持真實帳號，作為下一波攻擊的完美掩護。這類針對企業招募與信任機制的挑戰，未來恐有更大規模活動需要企業因應。

最後一個重要變化，是攻擊方式從惡意程式碼走向惡意提示詞。Ryan Flores特別舉出兩例說明：一是俄羅斯駭客組織APT28使用的「LameHug」手法，將惡意行為包裝在看似正常的工具流程中，刻意偽裝成AI圖像生成應用，實則內嵌大型語言模型運算能力來驅動攻擊，引導模型搜尋並外洩受害端的PDF與Word文件。

另一組織Shadow-Earth-040則結合Claude與Shodan等工具，將攻擊鏈中的多個步驟自動化。在Ryan Flores展示的投影片中，可看出該組織使用的25個攻擊手法中，有23個手法都能自動化執行。此外，針對客服流程的提示注入攻擊也值得留意。在趨勢科技的概念驗證中，只要一封含惡意指令的郵件進入未妥善過濾的流程，就可能誘發AI代理程序執行高風險操作，甚至滲透資料庫。

實踐AIFearlessly，跨界聯手面對AI威脅

在演說最後，Ryan Flores勉勵大家要能「無畏AI」（AIFearlessly），並指出這需要跨界合作才能共同做到。他提到，趨勢科技正積極與各界聯手，包括參與安全AI聯盟（CoSA），以及與國際刑警組織（Interpol）合作Project SynthWave，共同提升執法機關對深偽技術的偵測力。

針對AI安全性，趨勢科技自2024年底也展開AISIR專案，已發現涵蓋近百家供應商、逾60個安全漏洞，致力於降低AI生態系快速更新帶來的風險。近期，該公司更與Anthropic合作加入網路驗證計畫（Cyber Verification Program），運用最新高階模型，強化漏洞研究與防禦測試的能量。