Anthropic 官方宣布，已开始与非营利机构 METR 合作，为其人工智能模型提供员工级别的访问权限，以进行更强有力的独立评估。这一举措是该公司上个月承诺加强模型及安全实践的独立第三方评估的一部分。
与独立评估者合作的原因
随着模型的能力不断增强，对于安全防范措施和风险评估的要求也随之提高。Anthropic 表示，他们希望对所做的决策负责，但无法公开分享所有与安全工作相关的信息，因为某些信息可能会被恶意行为者利用，或是商业上敏感的数据。
“我们希望缩小评估者对前沿人工智能公司系统的理解与公司自身理解之间的差距。”
Anthropic
METR 的角色及评估方式
METR 将负责评估 Anthropic 的风险报告，并公开其风险评估结果。Anthropic 已经与 METR 合作进行了多次风险报告的审查，并计划进一步加强与其他评估机构的合作，包括 SecureBio 和 Accenture。
“我们的目标是确保我们的合作伙伴能够保护机密信息，并具备评估我们模型所需的资源和专业知识。”
Anthropic
评估者的访问级别及其影响
Anthropic 计划为评估者设置三个访问级别，随着合作的深入，将逐步提升对评估者的信息访问权限。第一级的评估者将进行狭义的风险调查，而第二级的评估者则可以在不需公司批准的情况下发表结果。METR 的合作属于第三级，享有类似员工的访问权限。
“我们相信每个前沿人工智能公司都应该采取类似的嵌入式评估措施。”
Anthropic
这一系列措施标志着 Anthropic 在人工智能安全监管方面迈出了重要一步，旨在加强对其模型的透明度和责任感。
资料来源：Anthropic 官方公告
H
关于作者
Henderson