OpenAI 在歐盟推出隱形水印技術 以應對 AI 法案透明性要求

OpenAI 將在歐盟開始為 ChatGPT 和 Codex 生成的文本添加隱形水印，此舉旨在滿足歐盟人工智能法案下的透明度要求。該系統將隱藏的統計信號嵌入模型生成的文本中。讀者將無法看到水印，但 OpenAI 的檢測器可以分析文本中是否存在該信號。隨著主要人工智能公司面臨越來越大的壓力，需識別合成內容，該技術的推出顯得尤為重要。兩個月前，Anthropic 宣佈對其 Claude 文本啟用全球水印系統，但一些 Claude 用戶對此表示反對，他們認為用戶提供了指令、背景和決策，而人工智能僅僅是一種工具。

OpenAI 之前也開發過文本水印技術，但推遲了發布，據報導該公司擔心用戶可能轉向沒有類似限制的競爭服務。

textGrain 水印系統的運作

OpenAI 針對歐盟用戶的水印系統名為 textGrain。它通過在生成過程中微妙地改變所選單詞的統計模式來運作。該公司預計在未來幾周內，水印將覆蓋所有歐盟計劃的合格 ChatGPT 和 Codex 用戶，而全球的 API 客戶則會獲得單獨的選項，可以為選定模型啟用水印輸出，默認設置仍為關閉。OpenAI 表示：「我們正在擴展對內容來源的處理方式，以符合歐盟的監管要求，同時認識到當前文本水印技術的重大侷限性。

我們的工具已經能夠幫助驗證一張圖像或音頻文件是否是由我們創建的。」

檢測技術的挑戰與局限

此外，OpenAI 也已開放其文本水印檢測器的申請，研究人員和專家組織將優先獲得訪問權限。這一謹慎的推出反映了當前檢測技術的不足。OpenAI 表示，其檢測器可能產生假陽性，並且可能漏掉真正的水印。測試顯示，較長的段落能提高檢測器找到信號的機會。在 200 令牌的心理學段落中，檢測器發現水印的比例約為 80%，而在 400 令牌段落中的比例則達到約 95%。

然而，在數學文本中，由於寫作選擇較少，結果顯著下降。人為編輯則進一步加大了這一挑戰，將 10% 的單詞替換為同義詞，檢測率從約 92% 降至 66%；而替換 25% 單詞後，檢測率則降至約 17%。翻譯和大幅重寫也會削弱信號，這意味著水印無法證明整段文本是由人工智能生成的，也無法衡量人類在最終文本中投入了多少工作。

正確的檢測結果無法確定用戶、帳戶或寫作背後的對話，亦無法說明準確性、所有權或責任。缺少水印同樣無法證明什麼。短文本、編輯、翻譯和不支持的模型都可能產生未被檢測的內容。OpenAI 計劃將 textGrain 作為開源技術發布，並繼續測試其性能。該公司還希望研究翻譯和編輯對水印耐用性的影響。此項工作符合行業對人工智能來源的更廣泛推動，包括 Anthropic、Google、Meta、Microsoft 和 OpenAI 在內的公司已承諾遵循歐盟的人工智能生成內容行為準則。

OpenAI 目前已對支持的圖像和音頻使用內容憑證和隱形水印，而文本則因為人們可以在不改變基本意義的情況下重寫單詞，造成了更大的工程挑戰。該公司表示，將隨著可靠性的提升擴大檢測器的訪問權限，並根據技術證據和監管標準的發展調整其方法。

隱形水印技術的行業影響

OpenAI 推出的隱形水印技術是對歐盟人工智能法案透明度要求的回應，顯示出行業對合成內容識別的重視。該技術不僅能提升用戶對生成內容的信任，也反映了人工智能公司在遵循監管要求上的努力。然而，現有檢測技術的不足使得水印的有效性受到挑戰，特別是在編輯和翻譯後的文本中。這一情況突顯出技術在實際應用中的複雜性，並可能影響用戶對這類技術的接受程度。