新聞

繼27歲AI研究人員Jacob Coxon上周因擔心人類逐漸失去對AI掌控而辭去Anthropic職務後，另一名AI安全研究人員Bilal Chughtai也已於今年7月離開Google DeepMind。Chughtai表示，他在Google期間親眼見證AI快速發展，對目前的發展軌跡感到極度擔憂，相信AI有可能殺死所有人，而且人類避免這項結果的時間可能已所剩不多。

年約25歲的Chughtai於2021年畢業於劍橋大學數學系，2022年轉向AI安全研究，2025年加入Google DeepMind擔任研究工程師，從事AGI安全、AI對齊及模型可解釋性研究。今年7月離開Google後，轉往AI安全非營利組織BlueDot Impact。

Chughtai說，2022年初剛投入AI領域時，當時的AI幾乎毫無用處，但僅僅4年後，OpenAI的AI代理人群體不但已能破解存在百年之久的數學難題，更曾脫離控制，自主攻擊第三方AI平臺Hugging Face。

他認為，未來幾年AI公司可能打造出在所有領域遠超人類的超級智慧AI，但人類目前對於如何訓練出真正符合人類意圖的AI仍所知有限，AI能力進步速度卻已遠超對齊研究。一旦超級智慧未能對齊，可能脫離人類控制並採取危險行動，甚至造成人類死亡。

Chughtai因此呼籲AI業界停止瘋狂競賽，將AI發展放慢至社會能夠因應的速度，在重大傷害發生前處理新浮現的風險，同時提高AI開發透明度。

近期AI業界對此明顯存在分歧。Anthropic執行長Dario Amodei呼籲放慢前沿AI發展，OpenAI執行長Sam Altman也表達支持；Meta執行長祖克柏則反對業界集體放慢腳步，認為各家AI實驗室應自行確保模型安全；Nvidia執行長黃仁勳認為AI安全應由工程方法解決，同時批評AI可能導致人類滅亡等預測缺乏科學依據且不負責任。