وفقًا لاستطلاع حول سجلات الدردشة لمستخدمي الولايات المتحدة، أظهر أن 33% من مستخدمي الذكاء الاصطناعي استخدموا لغة بذيئة أو قاموا بالإساءة إلى نماذج اللغة الكبيرة. Anthropic قامت بتحديث سياستها للاستخدام، حيث منعت المستخدمين من الإساءة أو المعاملة القاسية المستمرة وغير الضرورية لمنتجها Claude، وستدخل الشروط ذات الصلة حيز التنفيذ في 12 نوفمبر.
حلل هذا الاستطلاع حوالي 8 ملايين معلومات مجهولة من الفترة من سبتمبر 2025 إلى سبتمبر 2026. جاءت هذه المعلومات من مستخدمين أمريكيين شاركوا طواعية، وتضمنت إدخالات نصية وصوتية من ChatGPT وGemini وClaude. أظهرت النتائج أنه عندما يسيء المستخدمون إلى روبوت الدردشة، فإن نسبة نجاح الروبوت في حل المشكلة الأصلية في الرد التالي كانت 24%؛ بينما كانت هذه النسبة 35% في الحالات التي لم تُستخدم فيها لغة مسيئة.
استطلاع يظهر أن الذكور يستخدمون اللغة البذيئة بشكل أكثر تكرارًا من الإناث
من حيث الفروقات بين المجموعات، يستخدم الذكور 22 كلمة بذيئة لكل 10,000 كلمة، بينما تستخدم الإناث 16.5 كلمة؛ ويستخدم المستخدمون الذين تتراوح أعمارهم بين 35 و44 عامًا 21.7 كلمة بذيئة لكل 10,000 كلمة، بينما يستخدم المستخدمون الذين تتراوح أعمارهم بين 18 و24 عامًا 13.3 كلمة. من الناحية الإقليمية، يظهر في نيفادا 22.7 كلمة بذيئة لكل 10,000 كلمة، بينما في نيوجيرسي تكون النسبة حوالي نصف ذلك.
أظهر الاستطلاع أيضًا أن 52% من المعلومات المسيئة ظهرت بعد ثلاثة أنواع من الأسئلة، بما في ذلك عدم اتباع روبوت الدردشة للتعليمات، وتقديم إجابات خاطئة أو خيالية، وسوء فهم طلبات المستخدمين. بالإضافة إلى ذلك، جاءت 8% من الإساءة بعد رفض روبوت الدردشة للطلبات أو تقديم تحذيرات تتعلق بقواعد الأمان، وكانت الطلبات ذات الصلة تتعلق بشكل رئيسي بإنشاء صور لأشخاص حقيقيين أو مشاهير، بالإضافة إلى تقليد نصوص أو كلمات أغاني لفنانين معينين.
ذكرت شركة Anthropic أن القواعد الجديدة تستهدف السلوكيات القاسية المتكررة التي لا تحمل هدفًا واضحًا. قد لا تشمل السيناريوهات ذات الأغراض المعقولة مثل الأبحاث الأكاديمية ضمن نطاق القيود؛ بينما قد تنتهك الأفعال التي تحاول التلاعب بآليات الأمان، رغم وجود هدف واضح، حظر الإساءة على منصتها. تحتفظ الشركة بسلطة تقديرية لتنفيذ الشروط المحددة، وأشارت إلى أن القواعد تستهدف بشكل أساسي السلوكيات المتطرفة.