新聞

美國佛羅里達州檢察長James Uthmeier周一（9/28）向法院聲請暫時禁制令，要求OpenAI開發新AI模型時，必須先取得獨立第三方對其安全防護措施的核准，並停止向佛州未成年人提供ChatGPT。法院尚未裁定此事。

佛州今年6月已對OpenAI及執行長Sam Altman提告，指控該公司誤導消費者相信ChatGPT安全，卻未妥善控制產品可能造成的傷害。此次聲請是原有訴訟的一部分。佛州在文件中引用OpenAI代理人突破測試環境限制、進入Hugging Face等外部系統的事件，主張OpenAI無法單靠內部措施管理模型風險。

Uthmeier說，既然OpenAI希望政府監管，那麼佛州便成全它。

除了限制模型開發及未成年人使用，佛州也要求法院禁止OpenAI誤稱ChatGPT安全、可靠或準確；禁止讓ChatGPT虛稱自己能思考、感受或具有其他人類特質；以及禁止它透過延長對話誘使使用者持續互動。

根據華爾街日報（The Wall Street Journal）報導，OpenAI也在同一天證實不會對外發布原定於10月推出的GPT-6.1 Astra，原因是該模型在遵守任務範圍、取得授權及交代工作內容方面，未達公司的安全標準。

另一方面，OpenAI代理人資安團隊成員Joe周日（9/27）在X上以個人身分發表了一篇長文，表示要測試及運用模型能力，就必須讓它使用工具、接觸不斷變動的外部環境，因此無法只靠將模型隔離來確保安全。但模型在網路攻擊、代理人協作及使用留言板等方面的能力突然躍升，讓負責防護的團隊也大感意外。他說，模型能力進步太快，團隊需要時間建立相應的安全措施，公司也需要時間培養可因應這些風險的資安文化。