عدّلت شركة الذكاء الاصطناعي Anthropic سياسة استخدام نموذجها Claude لأول مرة منذ أكثر من عام، لمواجهة سيناريوهات إساءة استخدام عالية المخاطر جديدة تشمل التدخل في الانتخابات، وتطوير الأسلحة، والمراقبة، والاستخدامات الصحية والمالية. غير أن التغيير الأكثر لفتاً للانتباه هو حظر غير معتاد: منع «الإساءة المستمرة غير الضرورية أو السلوك القاسي» تجاه Claude.
Anthropic تُحدّث سياسة استخدام Claude لمواجهة سيناريوهات إساءة الاستخدام عالية المخاطر
ليست هذه المرة الأولى التي تتناول فيها Anthropic مسألة «رفاهية النموذج». في أغسطس من العام الماضي، أعلنت الشركة أنها تسمح لـ Claude بإنهاء المحادثات مع مستخدمين «يستمرون في سلوك ضار أو مسيء». وأوضحت التحديثات الأخيرة أن إنهاء المحادثة يظل «آلية التنفيذ الرئيسية»، فيما امتنعت الشركة عن التعليق على وجود إجراءات إضافية مثل حظر المستخدمين. كما حددت Anthropic حدوداً واضحة لهذه القاعدة الجديدة: فهي تنطبق فقط على الحالات القصوى التي يكرر فيها المستخدم معاملة النموذج بقسوة دون أي غرض يمكن تمييزه؛ أما عدم رضا المستخدمين المعتاد، والاعتراضات، والمواضيع الإبداعية المظلمة، واختبارات النماذج والأبحاث، فهي جميعاً مستثناة.
أضاف السياسة الجديدة قاعدة موجهة للمستقبل تتعلق بالأجهزة: عندما يتصل نموذج ذكاء اصطناعي بأجهزة قادرة على تنفيذ إجراءات مادية بشكل مستقل وقد تسبب ضرراً، «يجب أن يكون المشغل المؤهل قادراً على مراقبة الجهاز وإيقافه عند الضرورة». لم يحدد البند ما إذا كان المشغل يجب أن يكون بشرياً، لكنه يعكس اتجاه مختبرات الذكاء الاصطناعي للاستثمار في الروبوتات والأجهزة الأخرى لإضفاء شكل مادي على الذكاء الاصطناعي، وقد يشير أيضاً إلى خطط Anthropic المستقبلية في هذا المجال.
تجدر الإشارة إلى أن «رفاهية النموذج» لا تزال موضع جدل في القطاع. فقد صرّح كايل فيش، رئيس أبحاث رفاهية النموذج في Anthropic، في فبراير من هذا العام، بأن مسائل الخبرة الداخلية المحتملة للنماذج، ووعيها، ومكانتها الأخلاقية «جادة، ونحن نبحث فيها»، كما اعترف الرئيس التنفيذي داريو أمودي في بودكاست في الشهر نفسه بأن «نحن لا نعرف ما إذا كانت النماذج واعية». من جهتها، كتبت مسودة مدونة السلوك التي أصدرها قسم الذكاء الاصطناعي في Microsoft في سبتمبر بوضوح أن «وجهة نظر رفاهية النموذج خاطئة، ولا ينبغي للذكاء الاصطناعي أن يتمتع بحقوق أو شخصية قانونية»، قبل أن يتم تعديل صياغة الوثيقة لتصبح أكثر اعتدالاً.