新聞

資安公司Push Security近期遭遇一起OpenAI組織邀請功能濫用事件。攻擊者建立名為「Push Security Inc」的OpenAI組織,透過OpenAI合法通知信邀請該公司特定員工加入,試圖讓受害者誤認這是公司正式租戶,進而在攻擊者控制的AI工作環境中使用ChatGPT或API。

Push Security表示,相關邀請信來自OpenAI正式通知地址noreply@tm.openai.com,通過標準電子郵件驗證,內容也使用OpenAI品牌與組織邀請格式。OpenAI信件中雖然顯示提醒,指出邀請者的gmail.com網域與收件者所屬的pushsecurity.com不相符,但該提醒只出現在信件中的一行文字,容易被使用者忽略。

該公司調查後發現,攻擊者使用與Push Security無關的電子郵件帳號建立組織,並在組織中使用Push Security執行長姓名。受邀員工被設定為Owner角色,具有組織管理權限,帳務設定中也已綁定Visa信用卡。Push Security認為,這顯示攻擊者投入一定準備,包括偵察特定員工、建立看似可信的企業租戶,以及移除使用過程中可能引起懷疑的付費障礙。

Push Security基於調查事件目的,接受其中一封邀請後發現,只要點擊電子郵件中的連結即可加入該組織,不需要額外輸入帳密或完成其他驗證。研究人員進入組織後,確認其他受邀員工仍處於邀請待回應狀態,未加入也未使用該租戶,因此沒有發現資料外洩跡象。該公司隨後建立郵件規則,封鎖類似邀請信再次送達員工信箱。

由於攻擊者並非偽造OpenAI郵件,而是濫用平臺本身提供的合法邀請機制,若員工誤以為公司已建立正式OpenAI組織,並開始在其中輸入程式碼、內部文件、客戶資料、資安研究或策略資訊,攻擊者作為組織管理員,可能掌握相關使用紀錄、API互動,以及員工在提示或請求中輸入的資料。

Push Security將此事件視為毒化租戶攻擊(poisoned tenant attack)案例,也就是攻擊者先在SaaS平臺建立偽冒目標企業的租戶,再引導員工加入。該公司指出,隨著AI服務成為企業日常工作入口,組織邀請、共享專案與平臺通知等功能,也可能成為社交工程與資料蒐集的新管道。