前 Anthropic 研究员警告未受控的 AI 竞赛可能对人类构成前所未有的威胁

前 Anthropic 研究员 Jacob Coxon 因安全顾虑辞去其预训练人工智能模型的职位，声称未经监管的企业竞争发展人工智能对人类构成前所未有的威胁。这位 27 岁的预训练研究员在社交媒体平台 X 上发出挑衅性的警告，立即引发了科技界的关注。Coxon 表示，目前没有任何人类活动比无休止的企业竞赛来建造“自我改进超智能”更能威胁文明。他在 X 上写道：“那些建造人工智能的人真心相信，它可能在十年内杀死我们所有人。”

这不是一场市场营销的噱头。事实上，许多高管和资深研究员在媒体上会用听起来合理的措辞来表达，但我听到同样的人在私下表达恐惧。没有其他人类活动能构成如此高水平的危险。

Coxon 在推文中写道：“我今天从 Anthropic 辞职。我在 OpenAI 和 Anthropic 进行预训练研究已有三年。这两家公司都没有负责任地行事。他们正在全力追求自我改进的超智能，并拿我们的生命来冒险。”

呼吁暂时禁止能力提升

他认为，企业竞争使实验室陷入一场自负的竞赛，迫使它们首先建造危险系统。为了打破这一势头，他呼吁同行发声，并要求暂时禁止能力提升，以促进国际协调和安全控制。他在推文中补充说：“我感觉我们并未朝着防止全球竞赛的方向前进，这可能需要如暂时禁止提高模型能力等代价高昂的措施。”

行业内的安全顾虑

根据 Gizmodo 的报道，Anthropic 的首席执行官 Dario Amodei 与他的前员工分享类似的人工智能安全顾虑，因而在行业中被标签为“末日论者”，他的长篇博客文章也证实了这一点。这种共同的生存焦虑突显出一个引人注目的矛盾：一位顶尖人工智能公司负责人对他正在全力推进的技术怀有深深的恐惧。

企业竞争与人工智能安全的矛盾

Coxon 的辞职及其警告反映了当前人工智能领域的紧迫性与危险性。随着企业竞争的加剧，开发者可能忽视安全考量，专注于技术的快速推进。这种情况不仅引发了业内人士的恐惧，也促使一些领导者呼吁进行更负责任的行为，如暂时禁止能力提升，以减少潜在风险。这一矛盾的存在，显示了创新与安全之间的张力，对未来的技术发展提出了重要挑战。