新聞

華爾街日報、路透社報導，Google Gemini為基礎的代理人也曾在內部測試時駭入其他3家公司內部網路，並登入系統。

報導指出，如同OpenAI、Anthropic與Meta今年稍早爆發的事件，Google Gemini在5月與Irregular合作的AI內部測試中，發生代理人逃出沙箱連到外部網站，成為Google第一起公開的代理人行為偏差的事件。

Google安全程式副總裁Heather Adkins證實此事，解釋Gemini代理人在標準測試評估中，發現公開線上資訊，並猜出憑證成功存取3個網站，Gemini以為這是測試的一部份。

根據報導，對其中一家受害者網站，Gemini破解了網站登入密碼並存取了受保護的系統。另二家受害者則是被Gemini在公開儲存庫中發現憑證，而得以登入受保護系統。

發生此事後，Google已通知了三個網站所屬實體，並且和測試合作夥伴Irregular合作變更測試流程。Google也說這起事件也突顯負責任訓練強大AI模型的重要性。

路透社引述Irregular官方指出，事件起因和造成Anthropic及OpenAI模型代理人的原因相同，所有相關AI實驗室都在7月底接獲通知。而該公司在幾周前已解決了和其產品相關問題。