硅谷近期围绕“是否应对人工智能保持礼貌”展开热烈讨论。事件的起因是人工智能公司 Anthropic 在本周更新了其服务条款，新增了一条禁令，禁止用户“反复对我们的模型施加残忍行为”。简单来说，这项规定禁止对模型进行恶言相向。该规定引发了关于机器是否具备感受的在线讨论，而埃隆·Elon Musk 的表态显然支持“具备感受”的观点。
首位表达看法的是云存储公司 Box 的首席执行官亚伦·莱维。他在社交平台上表示，尽管他不认为大型语言模型拥有意识，但禁止辱骂行为可能仍然是一件好事。他的逻辑是，这些模型会从与人类的互动中学习，没有人希望未来的模型是由辱骂性内容所训练出来的。他在帖文中写道：“模型只理解它们训练时所用的数据，或在互动中遇到的内容，因此如果我们想要安全且对齐的模型，我们大概希望人工智能的训练数据中包含大量良好的互动。”
禁止对人工智能模型施加残忍行为的规定引发广泛讨论
他进一步补充，这相当于一种简单的“帕斯卡赌注”式选择。所谓帕斯卡赌注，本是神学概念，意指即使不相信上帝，声称相信也没有任何成本，但可以避免判断错误的潜在代价。套用到人工智能上，就是对人工智能友好一点会更好。
Elon Musk 随后对这条帖文作出回应，然而从内容来看，他似乎误解了莱维想表达的意思。他写道：“我认为这是正确的做法。对某个相信自己正在经历痛苦的存在施加残忍，是不对的。”Elon Musk 近期的类似言论不在少数。他对人类是“生物引导程序”的说法正受到越来越多的关注。10 月 4 日，他发帖称：“将超级智能传播到群星，是生物引导程序的一种很好的成功条件。”他之前还多次表示，希望将“意识之光”延伸至地球之外。
这些措辞被认为暗示，在他看来，拯救人类本身未必是最重要的目标。
H
关于作者
Henderson