新聞

思科（Cisco）旗下資安研究團隊Talos周二（9/22）宣布開源AI惡意程式研究工具CAIRN，可透過AI提示詞、API端點及其他使用痕跡，搜尋、分類及追蹤整合AI功能的惡意程式，無須下載或執行惡意程式檔案即可進行初步分析。

CAIRN全名為認知特徵情報研究網路（Cognitive Artifact Intelligence Research Network），主要用來辨識及追蹤整合AI功能的惡意程式。這些惡意程式可能利用大型語言模型（LLM）分析受害電腦的環境、產生指令，甚至自主決定下一步攻擊行動。CAIRN的研究範圍也涵蓋專門攻擊AI系統、竊取AI服務憑證及濫用AI生態系的惡意程式。

CAIRN採取以中繼資料為優先（Metadata-first）的分析架構，利用VirusTotal既有的檔案資訊、擷取字串及沙箱行為紀錄，尋找疑似整合AI功能的惡意程式，再透過不同樣本之間的關聯，追蹤相關惡意程式家族及攻擊活動。

該工具內建24種樣本搜尋及篩選條件，結合惡意程式偵測工具YARA的規則、語意分群及關聯圖譜，將偵測結果分為3個層級，依序辨識樣本的AI相關特徵、判斷這些特徵是否涉及攻擊行為，以及歸類特定惡意程式家族。

CAIRN也能分析不同樣本是否共用網域、IP位址或指揮與控制（C2）伺服器，協助研究人員追蹤相關攻擊活動。不過，Talos強調，CAIRN的初步偵測結果仍須經過逆向工程驗證，才能確認惡意程式家族及其實際功能。

Talos此次也透過CAIRN發現名為CLOSEDQUORUM的自主AI惡意程式，它可呼叫DeepSeek、Qwen、Mistral及Google Gemini等4個大型語言模型，由模型投票決定下一步攻擊行動，包括竊取使用者憑證、加密貨幣錢包資料及建立持續存取受害電腦的機制，無須駭客持續下達指令。

與傳統惡意程式仰賴駭客透過C2伺服器下達指令不同，CLOSEDQUORUM直接利用商用AI服務作為決策機制，並透過Discord回傳攻擊結果。不過，Talos表示，目前公開的樣本仍使用測試用API金鑰，尚未確認CLOSEDQUORUM已被部署於實際攻擊。

Talos已將CAIRN的程式碼、YARA偵測規則、樣本搜尋條件及惡意程式家族研究報告公布於GitHub，採MIT授權，供資安研究人員使用及改進。不過，開源版本並不包含Talos所蒐集的樣本資料庫，使用者須自行取得VirusTotal API金鑰，才能依公開的樣本雜湊值及搜尋條件重建資料庫。