- Claude 將生成帶有水印的文本以遵循法規要求。
- 水印技術不會影響文本的質量或內容。
- 水印技術基於 Google DeepMind 的 SynthID-Text 方法。
- 水印無法確認文本是否由人類或其他 AI 創作。
Anthropic 官方宣布，未來的 Claude 模型將生成帶有水印的文本，這是一種確定 Claude 是否參與文本創作的方式。此舉是為了遵循歐盟人工智能法案的要求，Anthropic 與其他主要人工智能供應商一起實施這項變更。
根據官方說明，水印技術不會對 Claude 的輸出質量或內容產生實際影響。水印文本與未水印文本之間的區別對讀者來說是不可察覺的。官方指出：“我們使用的水印方法不會對 Claude 的輸出質量或內容產生任何實際影響；水印文本與未水印文本之間的差異對讀者來說不會可辨識。”（”The difference between watermarked and un-watermarked text will not be distinguishable to readers.”）Anthropic
水印技術的運作原理
Claude 的水印技術基於 Google DeepMind 在 2024 年發表的 SynthID-Text 方法，這種方法的設計原則是改變選擇單詞時隨機性的來源。官方表示：“水印只改變用於選擇單詞的隨機性來源。”（”The watermark only changes the source of the randomness used to pick among words.”）Anthropic
水印技術的限制
水印技術的有效性存在一定限制。根據官方說明，水印無法確認文本是否由人類創作，也無法判斷文本是否由其他人工智能生成。官方指出：“使用我們的密鑰，只能回答‘這是否部分由 Claude 寫的可能性有多大？’” （”Using our key, one can only answer the question ‘What is the likelihood this was partly written by Claude?'”）Anthropic
水印的適用範圍
在 Claude 進行文本校對或編輯時，水印僅適用於 Claude 選擇的單詞。由於大部分文本是人類撰寫的，Claude 的修改通常較少，因此水印的附著空間有限。官方強調：“水印僅適用於 Claude 選擇的單詞。”（”The watermark only applies to words Claude chooses.”）Anthropic
資料來源：Anthropic 官方公告
水印技術在人工智能中的應用挑戰
Anthropic 的水印技術旨在提高文本生成的透明度，符合日益嚴格的法規要求。然而，這項技術的有效性受到限制，無法確定文本的創作來源。雖然水印不影響輸出質量，但其僅能提供部分信息，無法完全解決文本來源的問題。這反映了當前人工智能技術在確保內容真實性方面面臨的挑戰，尤其是在法律和道德責任日益受到重視的背景下。