ตามการสำรวจเกี่ยวกับบันทึกการสนทนาของผู้ใช้ในสหรัฐฯ พบว่า 33% ของ ผู้ใช้ AI แชทบอทเคยใช้คำหยาบคายหรือด่าทอในขณะที่สนทนากับโมเดลภาษาใหญ่ Anthropic ได้อัปเดตนโยบายการใช้งานห้ามผู้ใช้ทำร้ายหรือปฏิบัติอย่างโหดร้ายต่อผลิตภัณฑ์ Claude อย่างต่อเนื่องและไม่จำเป็น โดยข้อกำหนดที่เกี่ยวข้องจะมีผลบังคับใช้ในวันที่ 11 พฤศจิกายน 2026
การสำรวจนี้วิเคราะห์ข้อมูลประมาณ 8 ล้านรายการที่ไม่ระบุชื่อในช่วงระหว่างเดือนกันยายน 2025 ถึงกันยายน 2026 ข้อมูลเหล่านี้มาจากผู้ใช้ในสหรัฐฯ ที่เข้าร่วมโดยสมัครใจ ซึ่งเกี่ยวข้องกับการป้อนข้อความและเสียงใน ChatGPT, Gemini และ Claude ผลการสำรวจแสดงให้เห็นว่า เมื่อผู้ใช้ด่าทอแชทบอท อัตราการแก้ไขปัญหาในครั้งถัดไปของแชทบอทจะอยู่ที่ 24% ในขณะที่เมื่อไม่มีการใช้ภาษาหยาบคาย อัตรานั้นจะอยู่ที่ 35%
การสำรวจแสดงให้เห็นว่าผู้ชายใช้ภาษาหยาบคายบ่อยกว่าผู้หญิง
จากความแตกต่างของกลุ่ม พบว่าผู้ชายใช้คำหยาบคาย 22 คำในทุก ๆ 10,000 คำ ขณะที่ผู้หญิงใช้ 16.5 คำ สำหรับผู้ใช้ที่มีอายุระหว่าง 35 ถึง 44 ปี จะใช้คำหยาบคาย 21.7 คำในทุก ๆ 10,000 คำ ขณะที่ผู้ใช้ที่มีอายุระหว่าง 18 ถึง 24 ปี จะใช้ 13.3 คำ ในด้านภูมิภาค รัฐเนวาดาใช้คำหยาบคาย 22.7 คำในทุก ๆ 10,000 คำ ขณะที่รัฐนิวเจอร์ซีย์มีอัตราประมาณครึ่งหนึ่ง
การสำรวจยังแสดงให้เห็นว่า 52% ของข้อมูลการด่าทอเกิดขึ้นหลังจากสามประเภทของปัญหา ได้แก่ แชทบอทไม่ปฏิบัติตามคำสั่ง, ให้คำตอบที่ผิดหรือสร้างขึ้น และเข้าใจผิดในคำขอของผู้ใช้ นอกจากนี้ยังมี 8% ของการด่าทอที่เกิดขึ้นทันทีหลังจากแชทบอทปฏิเสธคำขอหรือให้คำแนะนำด้านความปลอดภัย โดยคำขอที่เกี่ยวข้องส่วนใหญ่เกี่ยวกับการสร้างภาพของคนจริงหรือคนดัง รวมถึงการเลียนแบบข้อความหรือเนื้อเพลงของศิลปินเฉพาะ
Anthropic ระบุว่า กฎใหม่มีเป้าหมายเพื่อห้ามพฤติกรรมที่โหดร้ายซึ่งไม่มีวัตถุประสงค์ที่ชัดเจนและเกิดขึ้นซ้ำ ๆ สถานการณ์ที่มีวัตถุประสงค์ที่สมเหตุสมผล เช่น การวิจัยทางวิชาการ อาจไม่อยู่ในขอบเขตของการจำกัดนี้ ในขณะที่การพยายามหลีกเลี่ยงกลไกความปลอดภัย แม้ว่าจะมีวัตถุประสงค์ที่ชัดเจน ก็ยังอาจละเมิดคำสั่งห้ามการใช้ในทางที่ผิดของแพลตฟอร์ม บริษัทขอสงวนสิทธิ์ในการบังคับใช้ข้อกำหนดอย่างเฉพาะเจาะจง และระบุว่ากฎนี้มุ่งเน้นไปที่พฤติกรรมที่รุนแรงเป็นหลัก