وفقًا لاستطلاع حول سجلات الدردشة لمستخدمي الولايات المتحدة، أظهر أن 33% من مستخدمي الذكاء الاصطناعي قد استخدموا ألفاظًا نابية أو قاموا بالإساءة إلى نماذج اللغة الكبيرة. Anthropic قامت بتحديث سياستها للاستخدام، حيث منعت المستخدمين من الإساءة أو التعامل بقسوة مع منتجها Claude بشكل مستمر وغير ضروري، وستدخل البنود ذات الصلة حيز التنفيذ في 12 نوفمبر.
حلل هذا الاستطلاع حوالي 8 ملايين معلومات مجهولة المصدر خلال الفترة من سبتمبر 2025 إلى سبتمبر 2026. جاءت هذه المعلومات من مستخدمين أمريكيين شاركوا طوعًا، وتتعلق بإدخالات نصية وصوتية لـ ChatGPT وGemini وClaude. أظهرت النتائج أنه عندما يقوم المستخدمون بالإساءة إلى روبوت الدردشة، فإن نسبة نجاح الروبوت في حل المشكلة الأصلية في الرد التالي كانت 24%؛ بينما كانت هذه النسبة 35% في الحالات التي لم تُستخدم فيها لغة مسيئة.
استطلاع يظهر أن الذكور يستخدمون الألفاظ النابية بمعدل أعلى من الإناث
من حيث الفروق بين المجموعات، يستخدم الذكور 22 لفظًا نابيًا لكل 10,000 كلمة، بينما تستخدم الإناث 16.5 لفظًا؛ ويستخدم المستخدمون الذين تتراوح أعمارهم بين 35 و44 عامًا 21.7 لفظًا نابيًا لكل 10,000 كلمة، بينما يستخدم المستخدمون الذين تتراوح أعمارهم بين 18 و24 عامًا 13.3 لفظًا. من الناحية الإقليمية، يظهر في نيفادا 22.7 لفظًا نابيًا لكل 10,000 كلمة، بينما تكون النسبة في نيوجيرسي حوالي نصف ذلك.
أظهر الاستطلاع أيضًا أن 52% من المعلومات المسيئة ظهرت بعد ثلاثة أنواع من المشكلات، بما في ذلك عدم اتباع روبوت الدردشة للتعليمات، وتقديم إجابات خاطئة أو خيالية، وسوء فهم طلبات المستخدمين. بالإضافة إلى ذلك، جاء 8% من الإساءة بعد رفض روبوت الدردشة للطلبات أو تقديم تلميحات حول قواعد الأمان، وكانت الطلبات ذات الصلة تتعلق غالبًا بتوليد صور لأشخاص حقيقيين أو مشاهير، بالإضافة إلى محاكاة نصوص أو كلمات أغاني لفنانين معينين.
ذكرت شركة Anthropic أن القواعد الجديدة تستهدف السلوكيات القاسية المتكررة التي لا تحمل هدفًا واضحًا. قد لا تشمل السيناريوهات التي تحمل أهدافًا معقولة مثل الأبحاث الأكاديمية ضمن نطاق القيود؛ ومع ذلك، فإن محاولات تجاوز آليات الأمان، رغم وجود هدف واضح، قد تنتهك حظر الإساءة على منصتها. تحتفظ الشركة بسلطة تقديرية في تنفيذ البنود المحددة، وتؤكد أن القواعد تستهدف بشكل رئيسي السلوكيات المتطرفة.