新聞

Meta執行長祖克柏（Mark Zuckerberg）周二（9/15）透過X談及AI安全，認為各家AI實驗室都有責任及誘因，以確保模型安全所需的步調發展，並應自行採取必要的安全措施。

AI業界近期正就是否應放慢前沿AI發展展開討論。Anthropic執行長Dario Amodei上周六發表長文《We Must Pace the Frontier》，警告AI能力進展速度已快到安全措施可能難以跟上，主張業界放慢前沿AI模型的能力提升速度；OpenAI執行長Sam Altman隨後也認同應適度放慢AI能力進展。

祖克柏則以Meta為例指出，公司曾為了安全及資安問題，將Muse延後數個月推出，但並未要求其他業者也這麼做，而是自行採取必要措施。這番說法也被外界解讀為不支持AI業界協調放慢發展。

祖克柏認為，使用者不會想使用與自身意圖不一致、不按照要求行事的AI代理人，因此業者自然有強烈誘因改善模型對齊；信任與對齊也將成為AI代理人及模型的重要競爭力，不重視對齊的業者將會落後。此外，如果AI模型造成傷害，業者可能面臨重大法律責任，同樣形成確保模型安全的誘因。

不過，祖克柏支持引進獨立評估機構及顧問，認為這是業界最佳實務，旗下超級智慧實驗室（Meta Superintelligence Labs，MSL）已在多個領域採取相關做法，並看好規模更大、更多元的AI評估生態系有助於產業發展。

他強調，AI業者應將絕大多數運算資源投入服務使用者，而非競逐AI的遞迴式自我改進（recursive self-improvement），Meta已做出這項承諾，其他AI實驗室也可以採取相同做法。