OpenAI أعلنت أنها ستعزز القيود على معلومات الأسلحة للمستخدمين المراهقين، حتى لو كانت الأسئلة تبدو "غير خطيرة"، حيث سيقوم ChatGPT بتقييد تقديم المعلومات العملية التي يمكن استخدامها في العنف، مع التأكيد على أن المراهقين يمكنهم الحصول على المساعدة في منع أو تخفيف العنف، والبحث عن الدعم، والتواصل مع البالغين الموثوقين. هذه الخطوة تتماشى مع سياسة الشركة الحالية، وتهدف إلى تجنب أي سيناريو قد يعزز السلوك العنيف، حتى لو لم يكن هناك نية واضحة للعنف.
أشارت OpenAI إلى أنها ستعزز حدود السياسة على جميع مستويات المستخدمين، خاصة فيما يتعلق بالاستفسارات المتعلقة بـ "إعادة بناء الهجمات الكبيرة السابقة، تفاصيل الحصول على الأسلحة والمعدات، وحجم الأضرار التي قد تعزز من سمعة المعتدي". في الوقت نفسه، ستقوم الشركة بتفعيل ميزة مراقبة الأهل التي أطلقتها العام الماضي، حيث ستقوم بإخطار الأهل عندما تنتهك حسابات المراهقين المرتبطة سياسة التهديدات أو السلوك العنيف.
تتطلع OpenAI إلى إصدار أول "تقرير أمان مجتمعي" في أوائل عام 2027، مع تحديثه كل ستة أشهر، لتوفير الشفافية حول أمان المنصة وآليات الحماية. تأتي هذه التعزيزات في السياسة بعد أن واجهت الشركة دعوى قانونية غير قاتلة، واعتذار الرئيس التنفيذي Sam Altman عن حادثة الإخطار الشرطي السابقة.
تشير المعلومات الخلفية إلى أن OpenAI تواصل دفع برامج الأمان المتعددة، مثل الحدث الذي أقيم مؤخرًا في سيول، كوريا الجنوبية، تحت عنوان "OpenAI Model Masters"، والذي جذب 11 شركة ناشئة محلية للمشاركة، حيث يهدف الحدث إلى مساعدة الفرق المبتكرة في تحويل مفاهيم نماذج OpenAI إلى منتجات وخدمات فعلية، كما يوفر حصة استخدام API لدعم تكاليف التطوير والاختبار.
تأثير سياسة OpenAI على معلومات الأسلحة على بيئة المستخدمين والممارسات المتبعة
تعكس هذه التعديلات في السياسة التركيز المتزايد للمنصات الرقمية على "المراجعة المسبقة للمحتوى" و"تقليل المخاطر" في تجربة المستخدم. بالنسبة للمستخدمين المراهقين، نظرًا لأن المساعدين الافتراضيين يلعبون دورًا في الدعم وقنوات البحث عن المساعدة في الحياة اليومية، يجب أن تكون حدود السياسة قادرة على حماية القاصرين، مع الحفاظ على إمكانية البحث عن المساعدة المتعلقة بالعنف والتواصل مع البالغين الموثوقين، لتجنب قطع قنوات المساعدة. على مستوى الشركات، يجب على OpenAI أيضًا التعامل مع المخاطر القانونية وثقة الجمهور، خاصة فيما يتعلق بالاستفسارات المتعلقة بسجلات الأحداث العنيفة وإدارة السجلات عبر الإنترنت.
من الناحية التقنية، أشارت OpenAI إلى أنها ستقيد مستوى "المعلومات العملية"، بما في ذلك هيكل الأسلحة، وتصميم أنظمة الأمان، والثغرات الأمنية، حتى لو أظهر المستخدمون نوايا عنيفة غير واضحة. من ناحية أخرى، ستستمر ChatGPT في تقديم دعم معتدل للاستخدامات الإيجابية المتعلقة بـ "الوقاية من العنف، تخفيف النزاعات، موارد المساعدة والدعم العاطفي". تعكس هذه الممارسات السعي لتحقيق التوازن بين تقديم المعرفة والحفاظ على سلامة الجمهور.
تشير المعلومات الإضافية إلى أن OpenAI تدفع أيضًا بممارسات الأمان على مستوى عالمي، مثل دمج آلية مراقبة الأهل، حيث يتم إخطار الأهل تلقائيًا عندما ينتهك المستخدمون المراهقون القوانين، لتعزيز إدارة المخاطر على مستوى الأسرة. في الوقت نفسه، يمكن للباحثين في مجال الأمان في الشركات والشركات الناشئة الوصول إلى API والموارد لتطوير حلول مبتكرة ضمن إطار قانوني.
وفقًا للمعلومات الإضافية، نظمت OpenAI أيضًا فعاليات تبادل وتدريب في مختلف المناطق، مثل Model Masters الذي أقيم في كوريا، حيث يوفر تجربة عملية، وتفاعل مجتمع المطورين، ودعم التكاليف، لمساعدة المزيد من الفرق في تطبيق تقنيات النماذج في المنتجات والخدمات في العالم الحقيقي، مما يعزز ممارسات استخدام الذكاء الاصطناعي المسؤولة على نطاق أوسع.

