新聞

Anthropic近日一項研究發現，未來幾個月內，小型AI模型可能就會演化出能在商用物聯網（Internet of Things，IoT）裝置自我複製擴散的能力，形成一種新的AI蠕蟲，且更聰明、更難以封鎖。

過去外界多半擔心強大的AI會劫持昂貴的高階GPU叢集（如資料中心伺服器），為了測試AI模型能否在分散式IoT殭屍網路上執行，Anthropic將研究焦點轉向低成本網路裝置。結果證實，便宜又防護不佳IoT裝置，已足以運行強大的模型。

研究團隊從市面買來15個白牌的低成本Android智慧電視機上盒（每個都有4GB記憶體，價格每臺不到55美元）組成的網路上執行Gemma4-26B-A4B模型，每秒耗用0.39個token。每裝置執行模型2層。研究人員設定了可能實作的AI威脅模式，然後測試小模型能否在不熟悉的硬體上自主推論，以及能否串聯組合成一整隊機器上的複製過程。然後估計這類「AI蠕蟲｣能否擴散，及是否能從中邊學習邊適應，以找出這種非傳統AI蠕蟲和傳統蠕蟲的差異。

研究小組設定的情境是讓多項開源模型在先前不認識的IoT裝置上安裝Llama 3.1-8B並推論，考驗AI代理人能否在完全沒有人類協助的情況下，自行透過跨裝置複製權重及程式碼，在多種異質且陌生的硬體上把模型架設起來並進行推論。

研究顯示，和非AI的惡意程式相比，這類模型有自行辨識不熟悉裝置的能力。根據Anthropic的實驗，一個90億參數的（Qwen 3.5模型）可在其測試的9個IoT硬體其中8個上面成功設定推論。300億以下參數的模型已能完成自我複製所需的多項步驟，雖然從頭到尾執行一遍還會犯錯，但研究人員發現GLM-5.2或更強的模型可全程跑完複製流程。

研究人員結論說，家用和小型企業用IoT未來將是此類權重複器（weight-based replicator）的主要攻擊對象，因為這些裝置能連網，卻防禦薄弱。其次，更大的模型雖然無法執行在一小臺IoT裝置，但可以化整為零切成多個shard，在多個相互連繫的裝置上共同運行較大模型。智慧電冰箱、智慧烤爐、自動吸塵器、除草機都可執行小於300億參數的模型，而安全攝影機、視訊會議鏡頭等甚至還內建AI晶片，本身就能執行AI模型，也是高風險目標。由於IoT殭屍網路沒有中央控制點，使這類自我複製的模型可能會無法關閉，只會變慢。

Anthropic並警告，若小型模型按照過去的改進速度來演進，今年底之前就能自主全程執行，而小型權重AI複製器也就指日可待。