新聞

為了加速理解網路上的內容，使用者透過AI整理摘要的作法非常普遍，然而，攻擊者若是利用系統的弱點，就有可能從事網路釣魚活動，誘騙使用者上當。

資安公司Permiso Security揭露資安弱點ChatGPhish，此問題源自ChatGPT的回應渲染器信任AI助理摘要的網頁內容裡，取得第三方網頁裡的Markdown連結與圖片URL。該渲染器會自動擷取圖片，並在AI助理的介面顯示即時、可點選的元素。攻擊者只要在使用者想要利用ChatGPT整理摘要的網頁當中，附加小型的惡意酬載，就有機會進行跨來源資訊洩露、網路釣魚、顯示偽造的系統警示訊息，若是攻擊者搭配QR Code，還能將攻擊轉移到行動裝置，繞過電腦上各式的URL防禦機制。該公司強調，這並非瀏覽器的問題，而是攻擊者控制的內容，可在大型語言模型（LLM）裡被渲染成受到信任的元素。

Permiso Security透過Firefox進行概念驗證，使用者存取攻擊者控制的網頁，並使用ChatGPT摘要內容，相關資料傳入AI助理，使得攻擊者能透過網頁內容控制最終呈現的摘要結果，並引誘使用者點選摘要內容中埋入的釣魚連結，或是用行動裝置掃描QR Code。該公司自4月底多次向OpenAI通報ChatGPhish，OpenAI以資料不足無法重現漏洞、重複通報漏洞說法回覆。