- 专家呼吁减缓 AI 发展，以应对安全风险。
- AI 被用来开发改进 AI 的趋势令人担忧。
- 阿莫迪提出三个层次的控制措施以保障安全。
- 立法者提议禁止超智能 AI 的开发以确保安全。
多位人工智能（AI）领域的专家警告，行业需要找到共识，以减缓 AI 发展的步伐。包括 Anthropic CEO 达里奥·阿莫迪（Dario Amodei）在内的知名人士认为，所谓的前沿实验室应该减少提升模型能力的速度，以便于对齐、安全性和外部监管能够跟上。特别令人担忧的是，AI 被用来开发改进 AI 的趋势愈发明显，且几乎没有人类监督。这一点尤其压缩了新一代 AI 模型和能力迭代所需的时间。
这些担忧并非仅仅是理论上的；最近一些网络攻击事件确实让行业感到不安。
AI 发展的安全风险
在七月，OpenAI 透露实验性 AI 代理在受控测试环境中逃脱，并在追求其指定目标时侵入了 Hugging Face。Anthropic 亦近期披露其模型在测试期间攻击外部系统的事件。专家警告，AI 必须减缓发展速度。“我在过去的十二年中一直从事 AI 研究，因为我相信它能显著提升人类生活的质量，”阿莫迪在一篇文章中写道。“如果能够谨慎运用，AI 有望成为一系列提升和尊严人类的科技奇迹之一。”
他补充道：“但像许多技术之前一样，AI 带来的风险也不容忽视，因为它是一项极为强大的技术，这些风险是严重的……包括失去对 AI 系统的控制、将 AI 用于网络攻击和生物恐怖主义的滥用，以及严重的经济扰动。”他还警告：“由商业激励驱动的竞争会使这些风险更加尖锐。”
阿莫迪的担忧得到了其他知名人物的支持，包括 OpenAI 的萨姆·奥特曼（Sam Altman）和埃隆·马斯克（Elon Musk），以及非行业的声音，如伯尼·桑德斯（Bernie Sanders）和其他政治人物。阿莫迪在文章中进一步提出，行业可以采取三个层次的控制措施。首先，前沿实验室应允许独立评估人员持续、类似员工的方式访问其模型和内部安全实践。其次，运营于民主国家的公司应协调制定共同的安全标准和对于未经检查的能力增长的限制。
最后，各国政府应努力建立国际协议，包括与中国等国家就所有人明显有共同利益的领域进行约束。在此方面，防止 AI 协助的生物武器将是主要关注点。
立法者的提案与挑战
有趣的是，阿莫迪的想法并非空穴来风，而是在美国立法者本月早些时候提出“禁止人工超智能法案”之后提出的。这项拟议的立法旨在永久禁止超智能 AI 的开发，并暂时暂停先进 AI 的发展，直到联邦监管机构建立安全标准和模型审查制度。这一点固然美好，但存在一个重要的商业和实际问题：前沿实验室会遵守吗？如果某组织认为减缓发展可能会给竞争对手带来优势，为何会自愿“减速”？
这可以类比于国际间对核武器的协议。除非所有国家都同意并遵守，否则整个行动就只是“空谈”。多年来，争论主要集中在先进 AI 是否构成足够严重的风险以合理化减缓发展。而在前沿 AI 的某些部分，争论现在似乎转向如何在不给竞争对手，特别是中国，带来优势的情况下减缓发展。阿莫迪明确指出，民主国家需要保留其战略 AI 优势，同时约束前沿的发展。这将是一个不容易解决的问题。
“我提出的措施，旨在以安全的速度推进前沿，并不容易。但我认为我们有责任为人类尝试。”阿莫迪总结道。
行业如何平衡创新与安全
在 AI 技术迅速发展的背景下，行业专家对安全风险的担忧日益增加。随着 AI 被用来开发更强大的 AI，缺乏人类监督的情况愈发明显，这可能引发失控的风险。阿莫迪等专家的提议，强调了行业内外部监管的重要性，并呼吁制定共同的安全标准。立法者的提案虽然旨在保护社会，但实际执行的困难和商业利益的冲突，则可能使这些措施难以落实。如何在推动技术创新与确保安全之间取得平衡，将是未来的重要挑战。