Anthropic 官方宣布，未來的 Claude 模型將生成帶有水印的文本，這是一種確定 Claude 是否參與文本創作的方式。此舉是為了遵循歐盟人工智能法案的要求，Anthropic 與其他主要人工智能供應商一起實施這項變更。
水印技術的運作方式
根據官方說明，水印技術不會對 Claude 的輸出質量或內容產生實際影響。水印文本與未水印文本之間的區別對讀者來說是不可察覺的。官方指出：“我們使用的水印方法不會對 Claude 的輸出質量或內容產生任何實際影響；水印文本與未水印文本之間的差異對讀者來說不會可辨識。”（”The difference between watermarked and un-watermarked text will not be distinguishable to readers.”）Anthropic
水印的技術背景
Claude 的水印技術基於 Google DeepMind 在 2024 年發表的 SynthID-Text 方法，這種方法的設計原則是改變選擇單詞時隨機性的來源。官方表示：“水印只改變用於選擇單詞的隨機性來源。”（”The watermark only changes the source of the randomness used to pick among words.”）Anthropic
水印技術的影響及限制
水印技術的有效性存在一定限制。根據官方說明，水印無法確認文本是否由人類創作，也無法判斷文本是否由其他人工智能生成。官方指出：“使用我們的密鑰，只能回答‘這是否部分由 Claude 寫的可能性有多大？’” （”Using our key, one can only answer the question ‘What is the likelihood this was partly written by Claude?’”）Anthropic
水印在文本編輯中的應用
在 Claude 進行文本校對或編輯時，水印僅適用於 Claude 選擇的單詞。由於大部分文本是人類撰寫的，Claude 的修改通常較少，因此水印的附著空間有限。官方強調：“水印僅適用於 Claude 選擇的單詞。”（”The watermark only applies to words Claude chooses.”）Anthropic
資料來源：Anthropic 官方公告