Anthropic 發佈 FlashProve 系統以驗證 AI 模型輸出真實性

Anthropic 宣佈推出 FlashProve，一個開源的加密系統，旨在驗證人工智能模型是否真正生成了某個回應，而無需揭示其專有權重。該技術可幫助用戶、獨立審計員及監管機構確認供應商是否運行其所聲稱的模型。該系統利用零知識加密技術生成數學證明，證明特定模型在回應特定提示時產生了給定的輸出標記。隨著公司越來越依賴第三方模型供應商和路由服務來訪問先進的人工智能系統，這一技術可望解決日益增長的信任問題。

目前，用戶無法可靠地確定某個回應是否來自他們所選擇的模型，還是供應商秘密替換為較便宜的替代品。FlashProve 旨在提供這一保證，無需用戶訪問或獨立運行該模型。

加密技術的運作原理

加密證明驗證輸出 FlashProve 採用名為零知識簡潔非互動知識論證（zkSNARK）的加密技術，允許供應商在不揭示基礎模型敏感資訊的情況下，證明計算的正確性。該系統分為兩個階段運行。首先，供應商發布其模型權重的加密承諾，實際上創建了所使用模型的指紋，同時保持權重的私密性。當用戶提交請求時，供應商可以隨後生成證明，證明所承諾的模型產生了對應的輸出標記。任何擁有承諾、提示和回應的人均可在無需訪問模型權重的情況下驗證該證明。

Anthropic 使用 Llama 4 Maverick（一個擁有 4000 億參數的專家混合模型）演示了這一方法。在單個 NVIDIA H100 GPU 上運行時，FlashProve 以每秒約 110 標記的速度生成證明，每個證明的大小約為 19 MB，對於 1,024 標記的請求。使用 24 核 CPU 驗證大約需要 17 秒，無需 GPU。

技術應用的挑戰與限制

安全性面對實際挑戰該技術的應用不僅限於檢查客戶是否獲得所選模型。Anthropic 認為，加密推理證明可以幫助檢測模型回應的篡改，支持獨立評估，並為監管機構提供驗證供應商提供哪些模型的方式。例如，一家公司可以要求供應商證明其網絡安全軟件是由特定模型檢查，而不是較便宜的替代品。監管機構也可以利用這類證明檢查供應商是否提供經批准的模型或是否滿足某些人工智能開發的承諾。

然而，FlashProve 仍然是一個研究原型，而非生產就緒的解決方案。生成證明所需的計算資源遠超過普通推理。Anthropic 的測量顯示，該過程大約需要 vLLM（廣泛使用的開源推理引擎）所需 GPU 時間的 70 至 95 倍。當前系統亦支持最多 1,024 標記的上下文，並在貪婪解碼下證明模型的整數版本。它尚未涵蓋所有浮點或抽樣推理結果。此外，它隱藏模型權重，但不隱藏模型的架構。

促進研究與開發的意義

Anthropic 已根據 Apache 2.0 許可協議發布了系統的可執行代碼、技術報告、協議規範和正式驗證證明。該公司表示，這一發布旨在鼓勵其他研究人員在此基礎上進行開發，並改善該技術。這項研究代表著朝著使模型身份和回應完整性可獨立驗證邁出的早期步驟，可能提升用戶對其應用程序背後系統的信心。

FlashProve 對 AI 模型信任的影響

隨著人工智能技術的快速發展，對其模型輸出真實性的信任成為重要議題。FlashProve 的推出，為用戶及監管機構提供了一種新的驗證工具，能夠在不揭露模型敏感信息的情況下，確保所使用的模型確實符合聲稱的功能。這不僅有助於提升用戶對 AI 應用的信心，亦可能促進市場對於模型供應商的透明度要求。儘管目前技術仍在研究階段，但其潛在影響可能改變業界對 AI 模型的驗證方式。