Anthropic揭露惡意帳號濫用Claude趨勢，中度風險以上AI輔助攻擊者占比已逾五成

Anthropic表示，中度風險以上的AI輔助網路攻擊者占比，在研究期間從33.5%上升至56.1%，不到一年即增加至約1.7倍，顯示AI正在降低攻擊者執行複雜攻擊行動的門檻。

報告指出，多數攻擊者仍主要將AI用於攻擊行動的準備與部署階段。若按照MITRE ATT&CK資安框架的技術項目分類，用於開發攻擊能力（Develop Capabilities）的比例最高，達69%；其次是檔案或資訊混淆（Obfuscated Files or Information），占64.7%；從本機系統蒐集資料（Data from Local System）占55.9%；規避或削弱防禦機制（Impair Defenses）占54.9%。相較之下，利用AI模型協助橫向移動（Lateral Movement）的比例只有6.5%，顯示AI目前在入侵後階段的實際操作應用仍屬少數，但若涉及此類行為，通常也代表AI對攻擊行動的助益更大，整體威脅風險更高。

Anthropic並將13,873筆惡意活動觀察結果，對應至MITRE ATT&CK資安框架。結果顯示，MITRE ATT&CK目前仍難完整涵蓋AI代理自主串接攻擊流程，以及即時調整攻擊方向的新型態行為。該公司表示，已根據這項分析更新Claude內建分類器與偵測機制，並與MITRE討論如何讓ATT&CK框架納入AI原生（AI-native）攻擊行為。