مسؤول في Anthropic يحذر من مخاطر أعلى في نماذج الذكاء الاصطناعي مفتوحة المصدر ويشدد على الحاجة إلى التعامل بحذر مع مسائل الأمان

·بواسطة Henderson·AI
مسؤول في Anthropic يحذر من مخاطر أعلى في نماذج الذكاء الاصطناعي مفتوحة المصدر ويشدد على الحاجة إلى التعامل بحذر مع مسائل الأمان

قال Guillaume Princen، رئيس الأعمال الدولية في Anthropic، في مقابلة مع Bloomberg Television على هامش قمة الذكاء الاصطناعي الدولية في Dublin، إن النماذج المفتوحة، مقارنةً بنماذج الذكاء الاصطناعي الخاصة بالشركة، تنطوي على «مخاطر أعلى» من حيث حوادث الأمن السيبراني أو غيرها من الأخطار. وأشار إلى أنه فيما يتعلق بقضايا الأمان، يجب التعامل بحذر شديد مع النماذج مفتوحة المصدر، وشدد على أنه لا يستطيع الإدلاء بآراء باسم النماذج المفتوحة، لكن هذه النماذج، بحكم تعريفها، تنطوي بالفعل على مخاطر أعلى.

تأتي هذه التصريحات في وقت تواجه فيه Anthropic منافسة متزايدة في بعض البلدان. والبديل محل الاهتمام حالياً للنماذج المغلقة هو نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة، وهي نماذج تكشف عن معاملاتها وتتيح للمستخدمين تعديلها بأنفسهم وتشغيلها على أجهزتهم الخاصة. ويرى مؤيدوها أنها أقل تكلفة، مقارنة بالنماذج المغلقة الخاضعة لسيطرة صارمة التي توفرها Anthropic وOpenAI، وأنها أكثر ملاءمة للحفاظ على السيادة الوطنية. وقد أطلقت شركة الذكاء الاصطناعي الفرنسية Mistral AI مؤخراً نموذجاً ذا أوزان مفتوحة، ما وفّر لأوروبا خياراً بديلاً من النماذج السيادية؛ وفي الوقت نفسه، تحظى سلسلة من النماذج المفتوحة المماثلة التي أطلقتها شركات صينية باهتمام متزايد في الأسواق الخارجية.

مخاوف Anthropic الأمنية إزاء النماذج المفتوحة تتزايد باستمرار

كثّفت Anthropic في الآونة الأخيرة تحذيراتها بشأن قدرات الذكاء الاصطناعي. وفي وقت سابق من هذا الأسبوع، حذّرت الشركة من أن نماذج ذكاء اصطناعي صغيرة قد تولّد قريباً نوعاً جديداً من شبكات البوتنت، قادرة على أن تنسخ نفسها بين أجهزة صغيرة متصلة بالإنترنت مثل الأفران الذكية. ويتولى Princen أيضاً مسؤولية مبيعات Anthropic الموجهة إلى الشركات الناشئة والشركات «الرقمية الأصلية». وقال إن المخاوف بشأن النماذج ذات الأوزان المفتوحة تنبع من جهود Anthropic لتأمين منتجاتها. وبعد وقوع عدة حوادث اختراق مرتبطة بالذكاء الاصطناعي حظيت باهتمام واسع، قالت Anthropic إنها أضافت إجراءات حماية أمنية إضافية لمنع استخدام نماذجها في أعمال ضارة.

كما دأبت الشركة على الدعوة إلى إبطاء وتيرة تطوير الذكاء الاصطناعي إلى أن يتم وضع معايير دولية وتشكيل آلية تقييم موحدة.

وفي معرض حديثه عن نماذج الشركة الأعلى سعراً، أشار Princen إلى أنه يقول لعملاء الشركات إن شراء نماذج أقوى أداءً سيعود في النهاية بعائد. وقال: «عليك دائماً الاستثمار في التقنيات المتقدمة. لأن تكلفة استخدام هذه الحالات التطبيقية ستنخفض أيضاً بعد ستة أشهر أو سنة أو سنتين من الآن». وأشار إلى أن أحدث نموذج Claude من الشركة، Opus 5.5، أرخص بنسبة 40% من الإصدارات السابقة. وأضاف أن عملاء الشركات الذين يشترون نماذج Anthropic «المتقدمة» يمثلون «نسبة كبيرة جداً» من أعمال الشركة، لكنه لم يكشف عن بيانات محددة.

أما بشأن خطط Anthropic للطرح العام الأولي (IPO)، فقد رفض Princen التعليق؛ كما لم يشأ الكشف عن حجم الأموال التي استثمرتها الشركة في تدريب نماذج جديدة.

H
حول المؤلف
Henderson