调查显示三成美国 AI 用户曾对聊天机器人使用侮辱性语言，Anthropic 更新政策禁止虐待行为

根据一项针对美国用户聊天记录的调查显示，33%的人工智能聊天机器人用户曾对大型语言模型使用粗言秽语或进行辱骂。Anthropic 已更新其使用政策，禁止用户持续、无必要地虐待或残酷对待其产品 Claude，相关条款将于 11 月 12 日生效。

这项调查分析了 2025 年 9 月至 2026 年 9 月期间大约 800 万条匿名信息。这些信息来自自愿参与的美国用户，涉及 ChatGPT、Gemini 和 Claude 的文字及语音输入。结果显示，当用户对聊天机器人进行辱骂后，该聊天机器人在下一次回复中成功解决最初问题的比例为 24%；而在未使用侮辱性语言的情况下，该比例为 35%。

调查显示男性用户使用粗言秽语的频率高于女性

从群体差异看，男性每 1 万词使用 22 个脏词，而女性则为 16.5 个；35 岁至 44 岁的用户每 1 万词使用 21.7 个，而 18 岁至 24 岁的用户则为 13.3 个。在地区方面，内华达州每 1 万词出现 22.7 个脏词，而新泽西州的比例约为其一半。

调查还显示，52%的辱骂信息出现在三类问题之后，包括聊天机器人未遵循指令、给出错误或虚构答案，以及误解用户请求。此外，还有 8%的辱骂紧随聊天机器人拒绝请求或给出安全规则提示之后，相关请求大多涉及生成真人或名人图像，以及模仿特定艺术家的文案或歌词。

Anthropic 表示，新规针对于没有明确目的、反复出现的残酷行为。学术研究等具有合理目的的场景可能不在限制范围内；而试图绕过安全机制的行为虽然有明确目的，仍可能违反其平台的滥用禁令。公司保留具体执行条款的裁量权，并称规则主要针对极端行为。