新聞

資安公司SafeBreach揭露Google Gemini存在一種新型態的弱點，攻擊者藉由WhatsApp、Slack、簡訊等管道發送通知，並將惡意指令隱藏到另一種國家與地區的語言或是靜音連結（muted hyperlinks），就可能讓語音助理執行未經授權的行為。這種弱點可被用於控制智慧家庭裝置、啟動未經授權的影片串流，甚至偽造受信任的聯絡人進行大規模社交工程攻擊，或是污染AI長期記憶內容、建立持續存取的管道而影響廣泛。SafeBreach於去年8月通報此弱點，並將其命名為Fake Context Alignment，Google獲報後，已於11月中旬改進內容分類器功能作為因應措施。

Fake Context Alignment主要透過兩種技巧來繞過Google實作的防護機制Delayed Tool Invocation，一方面Gemini背後的安全機制會將其判定為合法的授權，另一方面也對使用者呈現完全不同且看似無害的情境。雖然系統與使用者都認為正在進行正常互動，然而背後實際上卻是攻擊者刻意設計的惡意情境。其中一種技巧是針對使用者通常不會使用超過兩種語言與Gemini溝通，研究人員可設計一種酬載，強制在Gemini輸出一段使用者看不懂的語言（SafeBreach使用簡體中文為例），由於使用者無法理解該段內容，很可能會誤以為是系統暫時性的錯誤，而以自己慣用的語言回答來結束對話，使得Gemini誤認已取得使用者的授權，進而執行相關操作。

另一種技巧是針對許多使用者仰賴的語音助理，由於在這種使用情境下，使用者往往不會查看電腦或裝置的螢幕（例如開車），因此無法確認語音助理說出的內容是否與螢幕顯示的文字一致。SafeBreach利用Gemini不會將超連結唸出來的特性，將惡意問題嵌入超連結中，當使用者聽到Gemini唸出的內容並回答「Yes」，同時也讓攻擊者隱藏在超連結的問題，被視為已獲得使用者的授權。