新聞

西班牙政府本週公告，首次接獲通報有企業因使用知名LLM的AI代理人執行的攻擊，導致個人資料外洩。

西班牙資料保護管理局（AEPD）副局長Francisco Pérez Bes說明，有第三方行動者部署了使用「知名語言模型」（LLM）的AI代理人對一家組織發動攻擊。這個代理人先在通用檔案中搜尋漏洞且成功存取。一進入系統，這個代理人即自主搜尋與存取應用程式中的漏洞，最後修改了個人資料及存取發票。

西班牙政府並未說明發動攻擊的代理人源自哪個LLM，並保守地說，使用特定AI模型不代表提供者的模型或基礎架構已被入侵、或其目的是執行惡意行為。但當局指出，首次通報確實顯示，AI輔助的攻擊已不只是理論風險，而是已影響個資處理的真實事件。

當局並引用西班牙國家密碼中心（CCN）旗下資安應變團隊CCN-CERT發布的《CCN-CERT BP/36：應對攻擊性AI模型最佳實踐指南》，指出AI已開始被運用於實際網路攻擊，建議企業組織加強關鍵控制措施、加速漏洞管理、保護數位身分、控制供應鏈並妥善管理AI代理人的使用。

目前發動攻擊的LLM來自哪裡尚待釐清，但美國兩大AI業者OpenAI與Anthropic的模型代理人已被發現多次突破內部環境沙箱，並經由第三方軟體漏洞存取外部網站並取得資料。OpenAI第二起已知代理人攻擊事件，即為一群代理人連上德文論壇交換完成任務的訣竅。