新聞

OpenAI執行長Sam Altman週日（9/13）揭露新的前沿AI安全措施，將原本主要在模型完成訓練後、部署前進行的安全評估，進一步提前至可能大幅提升模型能力的訓練之前。不過，美國總統川普同日反對因安全疑慮而降低AI發展速度，強調美國必須維持對中國的AI領先優勢。

這波爭論始於Anthropic執行長Dario Amodei週六（9/12）發表長文，警告AI能力進展速度已快到安全措施可能難以跟上，呼籲業界降低前沿AI模型的能力提升速度，並建立第三方評估、產業安全標準及國際協調機制。Altman隨後表態支持，並於隔日進一步說明OpenAI如何落實這項主張。

Altman表示，OpenAI過去的《準備框架》（Preparedness Framework）主要著重模型訓練完成後、部署前的風險評估，現在則將安全工作進一步往前移。對於預期會大幅提升模型能力的強化學習（Reinforcement Learning，RL）訓練，OpenAI將在訓練開始前先建立安全論證（Safety Cases），評估如何確保模型能力提升不會超越既有的對齊與監控措施。

Altman強調，延緩前沿AI發展並不代表停止發展，而是接受安全措施所需的時間與運算成本，讓AI能力進步速度比完全不考慮安全成本時稍慢。他並認為，即使面臨中國的競爭壓力，也不能成為讓AI能力超越對齊及監控措施的理由。

不過，川普週日在愛爾蘭Doonbeg高爾夫球場被媒體問及AI產業是否應延緩發展或加強監管時，則持不同立場。川普指出，美國目前在AI領域領先中國，希望繼續保持優勢，因為「誰贏得AI，誰就贏了」。川普表示可以為AI設置安全護欄，但認為目前有許多「負面力量」提出一些不會發生的風險。