أعلنت شركة أنتروبك رسميًا أنها بدأت التعاون مع المؤسسة غير الربحية METR، لتوفير مستوى وصول مماثل للموظفين إلى نماذج الذكاء الاصطناعي الخاصة بها، من أجل إجراء تقييمات مستقلة أكثر قوة. تأتي هذه الخطوة كجزء من التزام الشركة الشهر الماضي بتعزيز التقييمات المستقلة من طرف ثالث لممارسات النماذج والأمان.
أسباب التعاون مع المقيّمين المستقلين
مع تعزيز قدرات النماذج، تزداد المتطلبات المتعلقة بتدابير الأمان وتقييم المخاطر. وأوضحت أنتروبك أنها تأمل في تحمل المسؤولية عن القرارات المتخذة، لكنها لا تستطيع مشاركة جميع المعلومات المتعلقة بأعمال الأمان بشكل علني، لأن بعض المعلومات قد تُستغل من قبل الجهات الخبيثة، أو قد تكون بيانات حساسة تجاريًا.
«نأمل في تقليص الفجوة بين فهم المقيّمين لأنظمة الشركات الرائدة في مجال الذكاء الاصطناعي وفهم الشركة نفسها.»
أنتروبك
دور METR وطرق التقييم
ستكون METR مسؤولة عن تقييم تقارير المخاطر الخاصة بشركة أنتروبك، ونشر نتائج تقييم المخاطر الخاصة بها. وقد تعاونت أنتروبك مع METR في مراجعة عدة تقارير مخاطر، وتخطط لتعزيز التعاون مع وكالات تقييم أخرى، بما في ذلك SecureBio وAccenture.
«هدفنا هو ضمان أن شركاءنا قادرون على حماية المعلومات السرية، وأن لديهم الموارد والخبرة اللازمة لتقييم نماذجنا.»
أنتروبك
مستويات وصول المقيّمين وتأثيرها
تخطط أنتروبك لتحديد ثلاثة مستويات وصول للمقيّمين، حيث ستزداد تدريجيًا صلاحيات وصول المعلومات للمقيّمين مع تقدم التعاون. سيقوم المقيّمون من المستوى الأول بإجراء تحقيقات ضيقة في المخاطر، بينما يمكن للمقيّمين من المستوى الثاني نشر النتائج دون الحاجة لموافقة الشركة. ويعتبر التعاون مع METR من المستوى الثالث، حيث يتمتع بمستوى وصول مشابه للموظفين.
«نعتقد أن كل شركة رائدة في مجال الذكاء الاصطناعي يجب أن تتبنى تدابير تقييم مضمنة مماثلة.»
أنتروبك
تمثل هذه السلسلة من التدابير خطوة هامة من أنتروبك في تنظيم أمان الذكاء الاصطناعي، وتهدف إلى تعزيز الشفافية والمسؤولية تجاه نماذجها.
مصدر المعلومات: الإعلان الرسمي من أنتروبك