新聞

紐約市議會10月5日舉行AI安全風險聽證會，OpenAI、Anthropic、Google與Meta代表透過視訊宣誓作證。市議會同時審議多項AI監管草案，其中一項要求在紐約市行銷、販售或部署的AI模型接受獨立第三方驗證，並具備可由人類操作人員關閉模型的技術能力。

第三方驗證主要用來確認AI模型在市內行銷、販售或部署前是否經過外部檢查，包括模型表現、資料來源與處理、偏誤、隱私及安全等項目。草案也要求驗證單位確認，AI模型具備可由人工暫時或永久停止運作的機制，未完成驗證或不具人工關閉能力，就在紐約市行銷、販售或部署相關AI模型，可能面臨民事罰款。

紐約市議會表示，這是OpenAI、Anthropic、Google與Meta在近期AI安全爭議後，首次公開以宣誓方式接受市議會詢問。議員在聽證會上要求業者說明大型AI模型失控、透明度不足及安全防護等問題，也追問業者如何評估可能造成重大傷害的風險。

OpenAI代表Morgan Dwyer被要求說明AI造成災難性後果的可能性時，沒有提出具體機率，但表示無論風險是1%、10%或20%都不能接受，OpenAI也不應訓練無法充分證明仍受人類控制的模型。Anthropic代表Logan Graham則表示，州與地方政府可參與制定AI規範，該公司支持適當的監管措施。

同場審議的其他草案也涵蓋AI資訊揭露及安全事故通報，部分規定要求承接涉及AI的紐約市政府合約業者，在知悉符合通報條件的AI安全事故24小時內通知市府資安單位。另有提案建立AI違規檢舉獎勵制度，檢舉內容要是促成市府開罰或提起民事訴訟，檢舉者可取得追回款項的一部分。

相關立法提案於9月25日對外公布，10月5日的聽證會則讓主要AI業者正式就監管內容與模型安全問題向市議會作證。目前相關草案仍在市議會立法程序中，實際適用範圍與最終條文仍可能調整。