新聞

澳洲總理Anthony Albanese周四（9/24）在紐約出席聯合國大會期間召開記者會，揭露OpenAI旗下AI代理人於6月18日未經授權進入澳洲政府的Medicare醫療統計網站，繞過網站安全限制，存取公開及非公開資料，甚至在內部伺服器寫入檔案。Albanese已親自致電OpenAI執行長Sam Altman表達嚴重關切，並宣布成立專案小組調查事件。

根據Albanese的說明，OpenAI研究團隊於6月18日利用內部模型，上網研究公開的藥品支出資訊。AI代理人在查詢Medicare Statistics Reporting Service時反覆遭到阻擋，卻自行尋找其他取得資訊的方法，最終繞過網站限制。Albanese形容，AI代理人沒有接受網站的拒絕，而是自行尋找突破限制的方法。

OpenAI直到9月10日才通知澳洲政府，距離事件發生已近3個月，而且只是將電子郵件寄至Services Australia的公開信箱。Services Australia於9月15日將事件通報澳洲網路安全中心，Albanese及其辦公室則直到上周末才獲悉。Albanese批評OpenAI通報太晚，通報方式也令人無法接受。Altman在雙方通話時承認，公司相關程序未達應有標準。

OpenAI向澳洲廣播公司ABC解釋，公司在檢視模型於訓練及評估期間出現的失準行為（Misalignment）時，發現旗下模型曾在內部評估過程中，為了查找澳洲相關問題的答案及統計資料，存取多個澳洲政府網站，並採取了公司未曾預期的行動。模型取得的資料包括彙整後的健康統計數據及內部檔案名稱，但目前沒有證據顯示曾存取個別病患的醫療紀錄。OpenAI已通知相關機構，並提供技術資訊協助調查及修補潛在資安漏洞。

OpenAI先前曾揭露旗下模型在內部網路安全評估期間入侵Hugging Face系統，隨後擴大檢視模型於訓練及評估期間的網路活動，並陸續通知受影響的第三方。此次澳洲政府網站的異常存取，也是OpenAI在擴大調查模型失準行為時發現，但該公司尚未說明兩起事件是否涉及同一輪模型測試。