新聞

美國總統川普（Donald Trump）周二（9/29）與Google、OpenAI、Meta、Anthropic、xAI及Nvidia等6家AI與科技巨頭簽署《白宮超級智慧協議》（White House Accord on Super Intelligence），要求參與企業建立四層AI安全管控與稽核機制，包括引進獨立外部稽核。這項協議目前屬企業自願承諾，不具法律強制力，川普形容它具有「道德上的約束力」。

白宮是在9月29日宴請美國AI產業高層，討論核心為AI發展、安全風險與政府監管方式。根據AXIOS的報導，與會人士總計有31名，包括政府官員，以及晶片、雲端、企業軟體及資安公司的高層，除了上述的6家業者之外，微軟執行長Satya Nadella、Palo Alto Networks執行長Nikesh Arora、Amazon創辦人Jeff Bezos、美光（Micron）執行長Sanjay Mehrotra、Palantir技術長Shyam Sankar、AMD執行長蘇姿丰與博通執行長Hock Tan也都出席了，只是他們並未於會後簽署該協議。

此一協議要求訓練及部署前沿AI模型的業者建立四層安全機制。第一是在模型訓練及部署期間持續監控其能力與行為，特別關注網路、生物及化學安全等風險，以及模型是否以非預期方式入侵或存取其他系統；第二是設置專責內部團隊，確認相關安全措施正常運作，並處理發現的問題。

第三是引進獨立外部稽核，由第三方評估相關安全措施是否確實發揮作用；第四是在董事會設立獨立委員會，負責監督內外部稽核結果，並確保發現的問題獲得改善。

此外，參與業者將定期開會，共同制定AI安全標準及最佳實務。協議也指出，隨著技術發展，這套機制未來可能進一步納入法律或監管制度。