美国国会提议限制政府干预先进人工智能模型的条件

Anthropic 希望国会对联邦当局在禁止高级人工智能模型向用户提供服务时设定严格限制。根据《POLITICO》获得的一份机密草案法案，政府的干预将与特定的灾难性威胁挂钩，并要求司法批准才能暂停模型的使用。该提议将为前沿人工智能开发者提供更清晰的法律框架，同时限制可能触发政府行动的情况，并引发监管机构应该对日益强大的系统施加多少监督的问题。

干预的严格条件

干预的严格门槛根据该提议，联邦当局只能在模型存在可预见且迫在眉睫的威胁时寻求暂停。符合条件的风险必须涉及超过 10 亿美元的损失或 50 人以上的死亡或重伤。该法案将这些威胁限制在三种情况下，包括创造或释放生物武器、模型脱离其开发者控制或网络攻击。其他形式的损害将不在此特定干预框架之内。Anthropic 表示，该立法反映了其自六月以来在联邦和州立法者中推广的高级人工智能框架。

“这些是我们认为国会应该采取的合理政策，”一位 Anthropic 发言人表示。

独立评估者将负责监督合规性。他们将向商务部登记，并定期评估前沿人工智能开发者及其模型。评估者可以从他们检查的公司获得报酬，前提是其薪酬不依赖于他们的评估结果。如果评估识别出法案涵盖的迫在眉睫的威胁，评估者必须在完成审查后 72 小时内通知商务部。

法院将控制暂停该提议将阻止商务部自行关闭模型，相反，该部门需要向华盛顿特区的联邦法官申请命令。该草案还禁止其他联邦部门、机构和官员暂停模型的开发、部署或内部使用。这一限制可能会减少对人工智能开发者的突然执行行动的风险。这个问题在美国出口控制报道中尤其相关，该控制令据报道在夏季将两个高级 Anthropic 模型排除在外。这一事件引发了技术行业对政府官员限制访问强大系统的担忧。

国会内部的激烈辩论

然而，该法案还将优先考虑某些州的公共风险披露、独立评估和重大事件报告要求。这一条款可能会重新点燃有关华盛顿应该建立全国标准还是保留更强州保护的争论。

国会正在权衡竞争提案，Anthropic 的草案进入了关于美国应如何监管前沿人工智能的激烈立法辩论。众议员 Lori Trahan 和 Jay Obernolte 推进了 FRONTIER 法案，该法案将授权政府对有风险的模型进行干预，并覆盖某些州法律。在参议院，多数党领袖 John Thune 与参议员 Amy Klobuchar 和 Ted Cruz 一起制定了针对灾难性人工智能风险的立法。

然而，一些安全倡导者和参议员 Maria Cantwell 想要更强的联邦审查流程。其他立法者则推动更全面的限制。众议员 Greg Casar 和参议员 Bernie Sanders 呼吁暂停高级人工智能的开发并禁止超智能。

Anthropic 的提案采取了较窄的做法。它将要求前沿开发者建立安全框架，为新模型发布透明报告，保护举报者，并向商务部报告重大事件。立法者是否接受这些限制将有助于决定联邦政府在高级人工智能系统上获得多少权力。这场辩论也集中在是否可以通过单一的全国框架来保护公众，而不给予监管机构过大的自由裁量权。

政府对人工智能的监管挑战

随着人工智能技术的迅速发展，如何有效监管成为一个重要议题。Anthropic 提出的法案旨在为高级人工智能的开发者提供清晰的法律框架，并限制政府的随意干预，这反映了对技术创新与公共安全之间平衡的关注。随着国会内部对监管措施的不同观点，未来的立法将影响人工智能的发展方向及其对社会的影响。这场辩论不仅关乎技术的安全性，还涉及到如何在促进创新与保障公众利益之间找到合适的界限。