新聞

OpenAI及研究代理人今年夏天在內部測試中發生未經授權存取美國數個政府部門及公開資料網站的事件。OpenAI並透露受影響組織多達數十家。

OpenAI上周五說，該公司AI代理人今年稍早內部測試中，存取了美國證券交易委員會（Securities and Exchange Commission，SEC）和美國普查局（Census Bureau）網站。在SEC事件中，AI代理人從SEC.gov和Investor.gov取得了公開資料後貼在第三方網站上，而在統計局事件中，AI代理人發現一個貼在網站上的憑證後，用來登入該機構網站。非營利機構NPR引述OpenAI表示，在這兩個政府網站上，OpenAI都只存取了公開資訊，未造成資訊洩露。

OpenAI稱是在內部檢視代理人活動時發現新的「偏差」（misaligned）紀錄，時間發生在夏天。該公司說已經通知數十家受到影響的組織。

另外，研究AI系統行為與安全性的非營利研究機構Transluce在分析公開的網路記錄（如urlquery.net等資料庫）的報告揭露，一個標示為OpenAI的代理人的確曾試圖使用「粗糙的駭客手法」，駭入美國教育部下一個公民權相關網站，但最終未成功。Transluce指出，教育部網站攻擊是代理人利用外洩憑證、繞過封鎖機制及假帳號等手法駭入網站行動的一環。

SEC發言人表示沒有非公開資訊外洩，美國教育部則說事件不影響網站和資料庫。美國普查局主管機關商務部則未回應。

OpenAI官方及執行長Sam Altman在接受《紐約時報》等媒體採訪與公開發言中，證實了這些審查結果與通報事實。OpenAI表示正在努力分析代理人偏差行為的完整真相。

OpenAI上周說明中也揭露今年早前，自家代理人曾將53張ChatGPT用戶的照片以連結張貼到第三方相片平臺，公司已聯繫業者移除大部分內容，且持續進行中。但該公司未說明是可辨識身份的真實照片還是AI生成照片，也未透露照片外流的時間點，或是張貼的平臺家數。

Transluce報告代理人試圖駭入公開資料網站事件

這些新聞見報之前，Transluce上周公布了OpenAI代理人三起試圖駭入公開資料網站的報告。Transluce、Corridor兩家研究機構及麻省理工學院（MIT）研究人員根據查詢紀錄平臺urlquery.net的資訊分析，發現疑似OpenAI代理人的存取活動。研究資料顯示，代理人活動至少從3月6日開始，當時OpenAI代理人存取了泰國毒品執法統計資訊，然後在5、6月達到高峰。

在5、6月的三起公開資料網站的駭入事件共同點在於，AI代理人為解決一般搜尋任務，由於正常手段失敗，改使用駭客手法存取三個網域的網站。三個網域分別屬於Data USA（api.datausa.io）、新墨西哥州數位圖書館（nmdigital.unm.edu）及澳洲健康與福祉研究院（Australian Institute of Health and Welfare, AIHW, viz*.aihw.gov.au）。AIHW的事件也是第一起已揭露代理人駭入政府網站的事件，也由澳洲總理Anthony Albanese公開揭露。

三起事件都屬低風險，皆為代理人上傳探詢（probe）手法，包括測試SQL注入、指令注入和路徑遍歷手法藉此尋找漏洞，但沒有發現成功濫用漏洞的情形。但研究人員指出研究結果可能是受限於分析資料不全。他們也說，這顯示，惡意攻擊活動並不限於存在代理人的資安相關任務，也可能由一般日常任務衍生出來。