新聞

7月31日OpenAI宣布，該公司破獲柬埔寨詐騙集團濫用ChatGPT的案件，該集團極可能發跡自柬埔寨，並在以詐騙園區聞名的邊境城市桔井省（Banteay Meanchey province）白馬市（Poipet）活動，利用ChatGPT從事投資詐騙、感情詐騙、線上博弈詐騙，以及假冒執法人員詐騙等多種網路犯罪行為，其中部分使用者留下的內容，顯示該集團與人口販運及強迫勞動有關。OpenAI封鎖相關帳號，並將威脅指標分享給產業夥伴與執法機關。

OpenAI接獲WhatsApp團隊提供的情報調查此事，此詐騙集團建立協調活動的ChatGPT帳號網路，濫用OpenAI的模型建立與維護虛假的網路人物、產生與翻譯發送給詐騙目標的訊息、為詐騙活動製作宣傳的內容，以及協助處理日常營運事務。該詐騙網路同時操作多種類型活動，且經常混合不同手法的元素，例如，操作者會先以交友建立信任，再引入涉及加密貨幣與現貨黃金交易的虛假投資機會，另有操作員以虛構身分進行長時間感情對話，或冒充線上博弈平臺代表，提供假的優惠與獎金，亦有人假冒執法機關，告知受害者須為特定刑事違法行為繳納罰款。

雖然該集團從事詐騙的流程不盡相同，不過OpenAI指出，整個詐騙網路展現一致的行為模式，符合過往OpenAI歸納的搭訕（The Ping）、催化情緒（The Zing）、榨取金錢（The Sting）等三步驟流程。除詐騙行為，部分使用者產出的內容顯示可能涉及人口販運或強迫勞動等活動。其中包括為白馬市話務員（chatter）職缺製作社群媒體招募廣告，以機票、住宿、餐飲、簽證及工作許可等條件吸引求職者，相關廣告內容曾針對印度等地民眾投放。