新聞

OpenAI周一（10/5）公布文字浮水印技術textGrain，計畫於未來幾周內導入歐盟地區的ChatGPT與Codex文字輸出，以因應歐盟《人工智慧法》（AI Act）對AI生成內容辨識的要求。即日起也開放全球API客戶針對部分模型自行啟用。

《AI Act》第50條第2款要求生成文字、圖片、音訊或影片的AI供應商，必須讓這些內容帶有機器可讀標記，並能被辨識為AI生成或修改，該規定已於今年8月2日生效。OpenAI先前已在部分圖片與音訊中加入C2PA與SynthID等來源驗證機制，讓外界辨識內容是否由AI生成；相較於圖片與音訊，文字更容易因改寫、刪減或翻譯而破壞原有標記，因此文字浮水印長期較難穩定實作。

OpenAI同步發布textGrain技術報告，說明其生成與偵測機制，以及如何在提高浮水印辨識度的同時，降低對文字生成結果的影響。

OpenAI解釋，textGrain不是在文字裡藏入固定標記，而是在AI選字時加入極細微的偏差，讓整篇文字逐漸形成肉眼看不出的統計模式，再利用對應的秘密金鑰檢查是否帶有OpenAI浮水印。

目前市面上已有不少AI文字偵測工具，但多半是根據用詞、句型與文字可預測性等特徵，推測內容是否由AI生成，並非偵測模型預先埋入的標記。textGrain則是在生成文字時直接加入可驗證的統計訊號，兩者原理不同。

不過，OpenAI也強調，文字浮水印仍有明顯限制，文字越短，或像數學這類用詞選擇較少的內容，越難準確偵測。在把誤判率控制在1％的情況下，約200個token的心理學內容偵測率約80％，增加至400個token後可提高到約95％。

此外，文字一旦經過改寫，浮水印訊號也會快速減弱。以400個token文章為例，若將10％詞彙換成同義詞，偵測率會從約92％降至66％；替換25％後，更只剩17％。

由於偵測仍可能出現漏判與誤判，使得OpenAI暫且不打算公開提供textGrain偵測器，而是先開放研究人員及專業機構申請使用。OpenAI也提醒，偵測到浮水印只能表示其系統可能曾參與生成或處理文字，不能據此判斷人類參與程度、內容所有權、使用者身分或文字真偽；反之，未偵測到浮水印，也不能證明內容一定由人類撰寫。