Anthropic官方宣布已经在减少蒸馏攻击的有效性方面取得显著进展，并介绍了新方法。根据早期证据，这些新措施已经将蒸馏者所收集的数据量减少了约90%至99%。
蒸馏攻击的定义与影响
蒸馏攻击是指一种隐秘的工业规模行动，旨在在未经原始模型开发者授权的情况下，提取一个模型的能力并在另一个模型中复制。这类攻击通常通过虚假账户网络进行，能够让公司以较低的开发时间和成本模仿前沿技术的能力。Anthropic表示，这种方法已被广泛用于帮助海外人工智能实验室与美国公司保持竞争。
“蒸馏使公司能够构建接近能力边界的模型，但这些模型在实际中却没有相应的强大防护措施。”
Anthropic
加强防御措施的必要性
Anthropic对蒸馏攻击的担忧主要源于两个方面。首先，蒸馏模型可能在生物学和网络安全等领域造成重大损害。其次，这些非法蒸馏的模型对国家安全构成风险，因为它们可能被整合进外国的军事、情报和监控系统中。为了应对这些日益复杂和大规模的攻击，Anthropic扩大并加强了其防御措施。
“我们的防御措施已经成功，但这些措施对于Anthropic和我们的客户来说都涉及到权衡。”
Anthropic
新防御措施的具体实施
Anthropic现在的防御措施主要有三个方面，旨在最小化对合法用户的影响。首先，控制推理的流向，防止蒸馏者利用不同方法提取Claude的完整推理记录。其次，阻止和修补提取尝试，通过加强安全措施来降低使用Claude进行蒸馏的难度。最后，进一步提升识别和阻止蒸馏攻击的能力，确保这些措施能有效应对各种攻击方式。
“我们希望这篇文章能帮助开发者和平台更好地理解如何防止这些攻击。”
Anthropic
这些新措施的实施，虽然需要合法用户进行一定的整合更新，但Anthropic认为这些成本是值得承担的。随着蒸馏攻击的持续增长，强化防御措施将成为模型开发者必须面对的重要课题。
资料来源：Anthropic官方公告
H
关于作者
Henderson