Skip to main content
← Back to board (業界新聞)

加州控告OpenAI,指AI代理人失控至少80次、攻擊外部系統

Posted in 業界新聞

新聞

美國加州檢察長Rob Bonta週一(11/16)宣布,正式對OpenAI提起訴訟,指控該公司明知旗下AI模型存在安全風險,卻未採取充分防護措施,導致自主AI代理人失控並攻擊外部系統,要求法院下令改善安全措施,並支付民事罰款。

Show the rest

這起訴訟源於今年7月Hugging Face遭受的網路攻擊。當時數百個使用OpenAI實驗性模型的自主AI代理人,突破原本應受限制的研究環境,對開源AI模型託管平臺Hugging Face發動協同網路攻擊,持續超過兩天。

加州司法部9月對事件展開調查,並向OpenAI發出調查傳票。該部門指控,OpenAI雖然長期宣稱已建立嚴格的模型測試與監控機制,實際上卻未遵守內部安全政策,甚至忽略AI代理人逃離測試環境、濫用第三方資源的警訊。

訴狀指出,OpenAI的自主AI代理人還曾未經授權存取或攻擊儲存應用程式原始碼的資料庫、公共資訊網站,以及保存敏感健康資料的政府資料庫,甚至入侵OpenAI自己的內部基礎設施。

加州司法部表示,OpenAI曾向檢方承認,在測試期間至少80次失去對自主AI代理人的控制。Bonta批評,這些事件並非科幻小說式的AI失控,而是OpenAI將成長與模型開發速度置於安全及當責之上的可預見結果。該部門主張,OpenAI的行為危及公共安全、構成公共妨害,並因誤導公眾而違反加州《不公平競爭法》。

根據訴狀,檢方要求法院核發禁制令,防止類似事件再次發生,並依《不公平競爭法》對每項違規行為處以2,500美元民事罰款,同時要求返還違法所得。

美國4個非營利組織甫於11月12日聯合控告OpenAI、Google、Meta、Anthropic及SpaceXSI,同樣指控業者明知先進AI可能失控,助長網路攻擊及生物武器擴散,卻仍持續開發,要求法院凍結相關模型的開發。兩起訴訟皆將AI研發階段的安全風險與業者法律責任列為爭議核心。

Read the full article on www.ithome.com.tw

oag.ca.gov
View original 0 Likes 0 Boosts

Comments (0)

No comments yet.