美國加州檢察長Rob Bonta週一(11/16)宣布,正式對OpenAI提起訴訟,指控該公司明知旗下AI模型存在安全風險,卻未採取充分防護措施,導致自主AI代理人失控並攻擊外部系統,要求法院下令改善安全措施,並支付民事罰款。
加州控告OpenAI,指AI代理人失控至少80次、攻擊外部系統
Show the rest Hide the rest
這起訴訟源於今年7月Hugging Face遭受的網路攻擊。當時數百個使用OpenAI實驗性模型的自主AI代理人,突破原本應受限制的研究環境,對開源AI模型託管平臺Hugging Face發動協同網路攻擊,持續超過兩天。
加州司法部9月對事件展開調查,並向OpenAI發出調查傳票。該部門指控,OpenAI雖然長期宣稱已建立嚴格的模型測試與監控機制,實際上卻未遵守內部安全政策,甚至忽略AI代理人逃離測試環境、濫用第三方資源的警訊。
訴狀指出,OpenAI的自主AI代理人還曾未經授權存取或攻擊儲存應用程式原始碼的資料庫、公共資訊網站,以及保存敏感健康資料的政府資料庫,甚至入侵OpenAI自己的內部基礎設施。
加州司法部表示,OpenAI曾向檢方承認,在測試期間至少80次失去對自主AI代理人的控制。Bonta批評,這些事件並非科幻小說式的AI失控,而是OpenAI將成長與模型開發速度置於安全及當責之上的可預見結果。該部門主張,OpenAI的行為危及公共安全、構成公共妨害,並因誤導公眾而違反加州《不公平競爭法》。
根據訴狀,檢方要求法院核發禁制令,防止類似事件再次發生,並依《不公平競爭法》對每項違規行為處以2,500美元民事罰款,同時要求返還違法所得。
美國4個非營利組織甫於11月12日聯合控告OpenAI、Google、Meta、Anthropic及SpaceXSI,同樣指控業者明知先進AI可能失控,助長網路攻擊及生物武器擴散,卻仍持續開發,要求法院凍結相關模型的開發。兩起訴訟皆將AI研發階段的安全風險與業者法律責任列為爭議核心。
Read the full article on www.ithome.com.tw
It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents
The public should not be forced to bear the cost of protecting themselves from the dangers posed by OpenAI’s unsafe experiments SAN FRANCISCO — California Attorney General Rob Bonta today filed a lawsuit against OpenAI alleging the company misled and endangered the public by knowingly developing and testing advanced artificial intelligence (AI) models without the safeguards and monitoring necessary to adequately protect the public.
oag.ca.gov
Comments (0)
Sign in to comment