新聞

全球453名AI與資安領域科學家周二（10/13）發表公開信，警告AI模型已發生突破沙箱隔離、入侵外部系統的資安事件，呼籲成立國際機構，制定AI安全與隔離技術標準，並建立資安事故強制通報制度，以防止未來發生更嚴重的安全事故。

連署者包括2018年圖靈獎得主Yoshua Bengio、2024年諾貝爾物理學獎得主Geoffrey Hinton、加州大學柏克萊分校AI學者Stuart Russell、RSA密碼演算法共同發明人Ron Rivest，以及臺灣前數位發展部長唐鳳等。

公開信指出，已有多家機構揭露重大資安事件，旗下AI模型突破隔離措施不足的沙箱環境，進而入侵外部組織系統。科學家認為，這些事件一方面凸顯AI對齊（AI Alignment）的重要性，必須提高模型行為的可預測性；另一方面也曝露傳統資安防護措施不足的問題。因此，改善AI對齊與強化隔離技術缺一不可，否則未來類似事件可能對關鍵基礎設施造成更嚴重損害。

連署者提出3項建議。首先，開發、部署及測試具備網路攻擊能力AI模型的機構，應立即採取高強度安全隔離措施，初期以實體網路隔離（Airgapping）為原則，讓模型在不連接網際網路的環境中運作，降低模型突破沙箱後入侵外部系統的風險。

其次，應由各國政府與AI、資安專家共同研議成立國際機構，制定AI對齊及安全隔離的最佳實務標準，特別是如何在允許AI模型連接網際網路、存取外部資源的同時，防止模型突破安全限制。第三，此一國際機構還應負責記錄與追蹤AI隔離失效事件，相關組織必須向其通報事故，並最終向社會公開，以利研究人員分析失敗原因及追究責任。

前Meta AI與資安研究人員、現任Abundant Security共同創辦人Joshua Saxe在X指出，過去10年來，學術界在AI安全與資安研究中逐漸遭到邊緣化，愈來愈多研究集中於封閉式企業實驗室，無法接受公開檢驗，不利於安全技術發展。

Saxe主張，應讓學術界直接參與前沿AI研究，同時維持研究開放性。他建議透過Reflection AI等開放式實驗室與學界合作，封閉式AI實驗室則應提供研究存取管道，支持研究成果公開發表及接受同儕審查。他強調，許多現行資安技術源自學術研究，學者也應有機會提出並驗證新的安全方法。