Anthropic تطلق نظام FlashProve للتحقق من صحة مخرجات نماذج الذكاء الاصطناعي

أعلنت شركة Anthropic عن إطلاق FlashProve، وهو نظام تشفير مفتوح المصدر يهدف إلى التحقق مما إذا كانت نماذج الذكاء الاصطناعي قد ولّدت استجابة معينة حقًا، دون الحاجة إلى الكشف عن أوزانها الخاصة. تساعد هذه التقنية المستخدمين والمراجعين المستقلين والهيئات التنظيمية في التأكد من أن الموردين يقومون بتشغيل النماذج التي يدّعون أنها تستخدمها. يستخدم النظام تقنية التشفير المعروفة باسم "إثبات المعرفة الصفرية" لإنشاء إثباتات رياضية تثبت أن نموذجًا معينًا قد أنتج مخرجات معينة عند الرد على استفسار محدد. مع اعتماد الشركات بشكل متزايد على موردي نماذج الطرف الثالث وخدمات التوجيه للوصول إلى أنظمة الذكاء الاصطناعي المتقدمة، من المتوقع أن تعالج هذه التقنية مشكلة الثقة المتزايدة.

حاليًا، لا يمكن للمستخدمين تحديد ما إذا كانت استجابة معينة قد صدرت عن النموذج الذي اختاروه، أم أن المورد قد استبدله سراً ببديل أرخص. يهدف FlashProve إلى تقديم هذه الضمانة دون الحاجة إلى وصول المستخدمين إلى النموذج أو تشغيله بشكل مستقل.

كيفية عمل تقنية التشفير

تستخدم إثباتات التشفير للتحقق من مخرجات FlashProve تقنية تُعرف باسم "إثبات المعرفة الصفرية القصير غير التفاعلي" (zkSNARK)، مما يسمح للموردين بإثبات صحة الحسابات دون الكشف عن المعلومات الحساسة للنموذج الأساسي. يعمل النظام على مرحلتين. أولاً، يقوم المورد بنشر التزام تشفيري بأوزان النموذج، مما ينشئ فعليًا بصمة للنموذج المستخدم، مع الحفاظ على سرية الأوزان. عندما يقدم المستخدم طلبًا، يمكن للمورد بعد ذلك إنشاء إثبات يثبت أن النموذج الملتزم قد أنتج المخرجات المعنية. يمكن لأي شخص يمتلك الالتزام والاستفسار والاستجابة التحقق من هذا الإثبات دون الحاجة إلى الوصول إلى أوزان النموذج.

استخدمت شركة Anthropic نموذج Llama 4 Maverick (وهو نموذج خلط خبراء يحتوي على 400 مليار معلمة) لتوضيح هذه الطريقة. عند التشغيل على وحدة معالجة الرسوميات NVIDIA H100 واحدة، يقوم FlashProve بإنشاء إثباتات بسرعة حوالي 110 علامات في الثانية، مع حجم كل إثبات حوالي 19 ميغابايت لطلب مكون من 1,024 علامة. يتطلب التحقق باستخدام معالج مركزي مكون من 24 نواة حوالي 17 ثانية، دون الحاجة إلى وحدة معالجة الرسوميات.

التحديات والقيود في تطبيق التقنية

تواجه الأمان تحديات عملية، حيث لا تقتصر تطبيقات هذه التقنية على التحقق مما إذا كان العميل قد حصل على النموذج الذي اختاره. تعتقد شركة Anthropic أن إثباتات الاستدلال المشفر يمكن أن تساعد في اكتشاف التلاعب في استجابات النموذج، ودعم التقييم المستقل، وتوفير وسيلة للهيئات التنظيمية للتحقق من النماذج التي يقدمها الموردون. على سبيل المثال، يمكن لشركة أن تطلب من المورد إثبات أن برنامج الأمان السيبراني الخاص بها تم فحصه بواسطة نموذج محدد، وليس ببديل أرخص. كما يمكن للهيئات التنظيمية استخدام هذه الإثباتات للتحقق مما إذا كان المورد يقدم نماذج معتمدة أو إذا كان يفي ببعض الالتزامات المتعلقة بتطوير الذكاء الاصطناعي.

ومع ذلك، لا يزال FlashProve نموذجًا بحثيًا وليس حلاً جاهزًا للإنتاج. تتطلب الموارد الحسابية اللازمة لإنشاء الإثباتات أكثر بكثير من الاستدلال العادي. تظهر قياسات شركة Anthropic أن هذه العملية تتطلب حوالي 70 إلى 95 ضعف الوقت الذي يحتاجه محرك الاستدلال المفتوح المصدر الشائع vLLM. يدعم النظام الحالي أيضًا سياقات تصل إلى 1,024 علامة، ويثبت النسخة الصحيحة للنموذج تحت فك تشفير جشع. لم يتم تغطية جميع نتائج الاستدلال العائم أو نتائج العينة بعد. بالإضافة إلى ذلك، فإنه يخفي أوزان النموذج ولكنه لا يخفي هيكل النموذج.

أهمية تعزيز البحث والتطوير

أصدرت شركة Anthropic الشيفرة القابلة للتنفيذ للنظام، والتقرير الفني، ومواصفات البروتوكول، وإثباتات التحقق وفقًا لرخصة Apache 2.0. وأوضحت الشركة أن هذا الإصدار يهدف إلى تشجيع الباحثين الآخرين على تطوير هذه التقنية وتحسينها. تمثل هذه الدراسة خطوة مبكرة نحو جعل هوية النموذج وسلامة الاستجابات قابلة للتحقق بشكل مستقل، مما قد يعزز ثقة المستخدمين في الأنظمة التي تقف وراء تطبيقاتهم.

أثر FlashProve على ثقة نماذج الذكاء الاصطناعي

مع التطور السريع لتقنيات الذكاء الاصطناعي، أصبحت الثقة في صحة مخرجات نماذجها قضية مهمة. يوفر إطلاق FlashProve أداة جديدة للتحقق للمستخدمين والهيئات التنظيمية، مما يضمن أن النموذج المستخدم يتوافق فعلاً مع الوظائف المزعومة دون الكشف عن المعلومات الحساسة للنموذج. لا يساعد ذلك فقط في تعزيز ثقة المستخدمين في تطبيقات الذكاء الاصطناعي، بل قد يعزز أيضًا متطلبات الشفافية في السوق لموردي النماذج. على الرغم من أن التقنية لا تزال في مرحلة البحث، إلا أن تأثيرها المحتمل قد يغير طريقة التحقق من نماذج الذكاء الاصطناعي في الصناعة.