美政府要求封鎖他國用戶存取Claude Fable與Mythos,Anthropic全面暫停提供
Anthropic表示是在美東時間6月12日下午5點21分接獲美國政府發出的出口管制命令信件。信件引述美國國家安全主管機關的說法,要求該公司中止任何外國人存取Fable 5及Mythos 5,不論他們是位於美國境內或境外,包括Anthropic的外籍員工。這紙命令迫使該公司必須突然對所有客戶關閉Fable 5和Mythos。
本信件是在Anthropic上周推出威力最強大的模型Claude 5及Mythos 5後由美國商務部發出。Anthropic說,美國政府的信件並未提供所謂國安考量的細節。根據該公司了解,美國政府接獲一起可能的越獄通報,並且以該通報成為命令的基礎。
根據SecurityWeek報導,一名為Pliny the Liberator的使用者宣稱繞過Fable 5的限制性安全層,成功「解放了」Fable 5。
Anthropic在聲明中表示,該公司檢視過這名用戶展示利用Fable 5找出少量已知小漏洞的手法,但認為這些漏洞相當簡單,而且他們發現過其他公開模型如GPT 5.5也能找到這些漏洞,根本無需繞過安全限制。
該公司表示,終止所有Fable 5/Mythos 5的提供是為了遵循政府命令,但他們不同意以單一可能的越獄行為為由,導致召回已部署給數億名用戶的商用模型。他們相信如果這標準普遍運用於產業,將扼止所有尖端模型供應商的新模型部署。Anthropic重申,認為政府應該透過透明、公平、清楚而有技術事實基礎的法定程序來阻止不安全的部署,但今天的行為並不符合這項原則。
重申Fable/Mythos的安全防護
Anthropic重申Fable具有強大的安全防護,大幅降低Fable模型被不當利用作為網路攻擊的可能性。事實上許多用戶抱怨Fable 5安全限制太多了。而且在Fable推出之前幾個星期,Anthropic和美國、英國政府、第三方機構和內部團隊合作下,曾對Fable的安全防護做了數千小時的紅隊演練。這些測試顯示Fable的防護效力大幅優於之前部署的任何模型,沒有任何測試能找到通用越獄(universal jailbreak)方法,解鎖Fable多項網路安全能力。
該公司也相信所有模型供應商目前都沒有完美的越獄防護方法。目前所有AI產業發展出的防護都可能遭遇非通用越獄手法(解鎖少數功能),而且在駭客的鑽研下,未來終有一天可能還是會出現通用越獄手法。
但Anthropic強調,即便現在沒有完美的越獄防護,公司採用的深度防禦策略讓越獄不是很侷限就是成本高昂。此外他們結合嚴密監控以便快速偵測並關閉攻擊行動。這也是為何Anthropic要變更政策,要求所有使用Fable的客戶資料要留存30天,以助其研究、防範越獄或其他攻擊。
Anthropic說,目前尚未接獲令人憂心、引發損害的非通用越獄通報。目前接獲的通報都是善意通報,或是較小、非針對Mythos的越獄方法。
Anthropic對所有用戶致歉,並表示他們相信這是一場誤會,該公司正努力儘速恢復Fable 5/Mythos的存取服務。
Anthropic發表Claude Fable 5將Mythos威力公開,價格是Opus 4.8兩倍
Anthropic推出Claude Fable 5,將原本受限開放的Mythos級模型能力推向一般使用者
www.ithome.com.tw
Comments (0)