Anthropic 发布 FlashProve 系统以验证 AI 模型输出真实性

Anthropic 宣布推出 FlashProve，一个开源的加密系统，旨在验证人工智能模型是否真正生成了某个回应，而无需揭示其专有权重。该技术可帮助用户、独立审计员及监管机构确认供应商是否运行其所声称的模型。该系统利用零知识加密技术生成数学证明，证明特定模型在回应特定提示时产生了给定的输出标记。随着公司越来越依赖第三方模型供应商和路由服务来访问先进的人工智能系统，这一技术可望解决日益增长的信任问题。

目前，用户无法可靠地确定某个回应是否来自他们所选择的模型，还是供应商秘密替换为较便宜的替代品。FlashProve 旨在提供这一保证，无需用户访问或独立运行该模型。

加密技术的运作原理

加密证明验证输出 FlashProve 采用名为零知识简洁非互动知识论证（zkSNARK）的加密技术，允许供应商在不揭示基础模型敏感信息的情况下，证明计算的正确性。该系统分为两个阶段运行。首先，供应商发布其模型权重的加密承诺，实际上创建了所使用模型的指纹，同时保持权重的私密性。当用户提交请求时，供应商可以随后生成证明，证明所承诺的模型产生了对应的输出标记。任何拥有承诺、提示和回应的人均可在无需访问模型权重的情况下验证该证明。

Anthropic 使用 Llama 4 Maverick（一个拥有 4000 亿参数的专家混合模型）演示了这一方法。在单个 NVIDIA H100 GPU 上运行时，FlashProve 以每秒约 110 标记的速度生成证明，每个证明的大小约为 19 MB，对于 1,024 标记的请求。使用 24 核 CPU 验证大约需要 17 秒，无需 GPU。

技术应用的挑战与限制

安全性面临实际挑战该技术的应用不仅限于检查客户是否获得所选模型。Anthropic 认为，加密推理证明可以帮助检测模型回应的篡改，支持独立评估，并为监管机构提供验证供应商提供哪些模型的方式。例如，一家公司可以要求供应商证明其网络安全软件是由特定模型检查，而不是较便宜的替代品。监管机构也可以利用这类证明检查供应商是否提供经批准的模型或是否满足某些人工智能开发的承诺。

然而，FlashProve 仍然是一个研究原型，而非生产就绪的解决方案。生成证明所需的计算资源远超普通推理。Anthropic 的测量显示，该过程大约需要 vLLM（广泛使用的开源推理引擎）所需 GPU 时间的 70 至 95 倍。目前系统亦支持最多 1,024 标记的上下文，并在贪婪解码下证明模型的整数版本。它尚未涵盖所有浮点或抽样推理结果。此外，它隐藏模型权重，但不隐藏模型的架构。

促进研究与开发的意义

Anthropic 已根据 Apache 2.0 许可协议发布了系统的可执行代码、技术报告、协议规范和正式验证证明。该公司表示，这一发布旨在鼓励其他研究人员在此基础上进行开发，并改善该技术。这项研究代表着朝着使模型身份和回应完整性可独立验证迈出的早期步骤，可能提升用户对其应用程序背后系统的信心。

FlashProve 对 AI 模型信任的影响

随着人工智能技术的快速发展，对其模型输出真实性的信任成为重要议题。FlashProve 的推出，为用户及监管机构提供了一种新的验证工具，能够在不揭露模型敏感信息的情况下，确保所使用的模型确实符合声称的功能。这不仅有助于提升用户对 AI 应用的信心，也可能促进市场对模型供应商的透明度要求。尽管目前技术仍在研究阶段，但其潜在影响可能改变业界对 AI 模型的验证方式。