أعلنت شركة Anthropic رسميًا عن تحقيق تقدم ملحوظ في تقليل فعالية هجمات التقطير، وطرحت طرقًا جديدة. وفقًا للأدلة الأولية، فقد قللت هذه التدابير الجديدة كمية البيانات التي جمعها المقطرون بنحو 90% إلى 99%.
تعريف وتأثير هجمات التقطير
هجمات التقطير تشير إلى نوع من العمليات الصناعية السرية، تهدف إلى استخراج قدرات نموذج ما وتكرارها في نموذج آخر دون الحصول على إذن من مطوري النموذج الأصلي. وغالبًا ما تتم هذه الهجمات من خلال شبكات حسابات مزيفة، مما يمكّن الشركات من تقليد قدرات التكنولوجيا المتقدمة بتكاليف وأوقات تطوير أقل. وأشارت Anthropic إلى أن هذه الطريقة قد استخدمت على نطاق واسع لمساعدة مختبرات الذكاء الاصطناعي في الخارج على المنافسة مع الشركات الأمريكية.
«التقطير يمكّن الشركات من بناء نماذج قريبة من حدود القدرات، لكن هذه النماذج في الواقع لا تمتلك تدابير حماية قوية مقابلة.»
Anthropic
ضرورة تعزيز تدابير الدفاع
تأتي مخاوف Anthropic بشأن هجمات التقطير من جانبين رئيسيين. أولاً، قد تتسبب نماذج التقطير في أضرار جسيمة في مجالات مثل البيولوجيا والأمن السيبراني. ثانيًا، تشكل هذه النماذج المقطرة بشكل غير قانوني خطرًا على الأمن القومي، حيث يمكن دمجها في الأنظمة العسكرية والاستخباراتية والمراقبة للدول الأجنبية. لمواجهة هذه الهجمات المتزايدة التعقيد والانتشار، قامت Anthropic بتوسيع وتعزيز تدابير الدفاع لديها.
«لقد كانت تدابير الدفاع لدينا ناجحة، لكن هذه التدابير تتطلب توازنًا لكل من Anthropic وعملائنا.»
Anthropic
تنفيذ تدابير الدفاع الجديدة
تتضمن تدابير الدفاع الحالية لشركة Anthropic ثلاثة جوانب رئيسية، تهدف إلى تقليل التأثير على المستخدمين الشرعيين. أولاً، التحكم في تدفق الاستدلال، لمنع المقطرين من استخدام طرق مختلفة لاستخراج السجلات الكاملة لاستدلال Claude. ثانيًا، منع وإصلاح محاولات الاستخراج، من خلال تعزيز تدابير الأمان لتقليل صعوبة استخدام Claude في التقطير. أخيرًا، تعزيز القدرة على التعرف على هجمات التقطير ومنعها، لضمان فعالية هذه التدابير في مواجهة أنواع مختلفة من الهجمات.
«نأمل أن تساعد هذه المقالة المطورين والمنصات في فهم كيفية منع هذه الهجمات بشكل أفضل.»
Anthropic
على الرغم من أن تنفيذ هذه التدابير الجديدة يتطلب من المستخدمين الشرعيين إجراء بعض التحديثات، إلا أن Anthropic تعتبر أن هذه التكاليف تستحق التحمل. مع استمرار زيادة هجمات التقطير، ستصبح تعزيز تدابير الدفاع قضية مهمة يجب على مطوري النماذج مواجهتها.
مصدر المعلومات: الإعلان الرسمي من Anthropic