أظهرت دراسة حديثة لفريق Frontier Red Team التابع لشركة Anthropic أن نماذج الذكاء الاصطناعي الصغيرة قد تتمكن من التكاثر والانتشار على أجهزة غير آمنة خلال أشهر، مما يؤدي إلى تشكيل شبكة روبوتات ذاتية بطيئة ولكن يصعب القضاء عليها. لا تعد شركات الذكاء الاصطناعي غريبة عن استخدام الإمكانيات الكارثية لمنتجاتها في التسويق، ولكن في هذه الحالة، اتفق الخبراء الذين استشارتهم Engadget بشكل عام على أن نماذج الذكاء الاصطناعي الصغيرة قد تمتلك القدرة على التكاثر الذاتي في المستقبل القريب. ومع ذلك، قد لا تكون التهديدات الفعلية التي تشكلها جديدة كما تبدو.
قال كريس كانال، الرئيس التنفيذي لشركة EquiStamp: "قد يحدث ذلك في وقت أقرب مما كنت أتوقع. كنت أعتقد أن الصيف المقبل سيكون الوقت الذي سأبدأ فيه بالقلق بشأن هذه المسألة". وأضاف: "من المحتمل أن تمتلك Anthropic معلومات بحثية متقدمة لا أستطيع الوصول إليها، لذا قد تكون توقعاتهم أكثر دقة."
عزا كانال سرعة تقدم النماذج إلى أن موظفي Anthropic وغيرها من المختبرات الرائدة يستخدمون أدوات الذكاء الاصطناعي الخاصة بهم في أبحاث التعلم الآلي. قال مايكل بيلي، أستاذ الأمن السيبراني والخصوصية في معهد جورجيا للتكنولوجيا: "أعتقد أن النماذج القادرة على التكاثر الذاتي قد تتحقق في المستقبل. أعتقد أنها موجودة بالفعل، وسنراها". ومع ذلك، أشار إلى أن الأشكال والتأثيرات المحددة لهذه النماذج لا تزال مسألة مفتوحة تمامًا. يدرس بيلي ديدان الإنترنت منذ أوائل العقد الأول من القرن الحادي والعشرين، ودرس مؤخرًا شبكات الروبوتات.
شارك في تأليف دراسة "Understanding the Mirai Botnet" في عام 2017، والتي استشهدت بها Anthropic كجزء من دراستها الخاصة. سمحت Mirai لمجموعة من المجرمين الإلكترونيين بإنشاء شبكة روبوتات ضخمة من أجهزة إنترنت الأشياء، والتي استخدمت لاحقًا في هجوم DDoS على شبكة PlayStation الخاصة بشركة SONY، مما أثر في النهاية على واحدة من أكبر مزودي DNS في الولايات المتحدة، Dyn، مما أدى إلى شلل معظم الإنترنت في عام 2016، حيث عجز العديد من المستخدمين في الولايات المتحدة وأجزاء من أوروبا عن الوصول إلى الإنترنت.
قدرة النماذج الصغيرة للذكاء الاصطناعي على التكاثر الذاتي ستكون تهديدًا في المستقبل
كانت الخسائر المالية الناتجة عن هذا الهجوم كبيرة، حيث تقدر SONY أن خسائرها الصافية بلغت حوالي 2.7 مليون دولار. قال بيلي: "أظهرت Mirai أنه يمكن استخدام أجهزة يومية مثل أجهزة التوجيه والكاميرات IP لتكوين هذه الشبكات الروبوتية وجعلها قابلة للاستخدام. كنا نعتقد أن هذه الأجهزة ليست ذات فائدة للخصوم، سواء كأهداف أو كمصادر حسابية لشن الهجمات. في الواقع، كانت فعالة جدًا في هذا الصدد." بعد عشر سنوات، تعتقد Anthropic أن ديدان الذكاء الاصطناعي قد تمثل تطورًا مهمًا لـ Mirai وغيرها من الشبكات الروبوتية ذات التعليمات البرمجية الثابتة مثل Kimwolf، لأنها قادرة على التعرف على الأجهزة غير المألوفة بنفسها.
قال بيلي إن التكيف بحد ذاته ليس جديدًا، حيث كانت Mirai قادرة على العمل على أجهزة "هتروجينية" ذات هياكل مختلفة. ومع ذلك، فإن هذا التكيف محدود: كل هيكل جديد يتطلب على الأقل إعادة تجميع البرمجيات الخبيثة يدويًا. أشار بيلي إلى أن أتمتة الذكاء الاصطناعي لهذه المهمة هي ما هو جديد، على الرغم من أنه يعتقد أن عرض Anthropic ليس "مثيرًا للإعجاب".
لذلك، اقترح بيلي أن النماذج الأكثر قوة من الذكاء الاصطناعي ستقوم بـ "إعادة توزيع" العمل الخاص بإنشاء الشبكات الروبوتية. قال بيلي: "لن تقوم بفعل أشياء جديدة، بل ستغير الاقتصاد بين المهاجمين والمدافعين." على الرغم من أن Anthropic عرضت نموذجًا يمكنه القفز بين الأجهزة وإعداد الاستدلال على كل جهاز، إلا أن ذلك تم في شبكة محاكاة، حيث كانت "الاستغلالات" المعنية بسيطة نسبيًا. بالإضافة إلى ذلك، أعرب بيلي عن اعتراضه على بيان Anthropic حول التكاثر الذاتي.
قال: "هذا الوصف غير دقيق بعض الشيء، لأنهم يقومون بعمليات مثل التجزئة وما إلى ذلك. هذا ليس بالأمر السيئ، لكنه لا يعني أنه يتكاثر تمامًا مثل الديدان أو الفيروسات." على العكس من ذلك، يعتقد بيلي أن الشبكات الروبوتية للذكاء الاصطناعي في العالم الحقيقي قد تشبه أكثر أداة تثبيت، وهي برمجيات خبيثة تستحوذ على موطئ قدم على الأجهزة وتقوم بتثبيت أكواد أخرى. هذه الشبكات الروبوتية لن تقوم بتكاثر نفسها بالكامل على كل جهاز مصاب، بل ستقوم بتثبيت أداة تنسيق صغيرة تتلقى التعليمات من أجزاء أخرى من الشبكة.
قال بيلي: "البرمجيات الخبيثة نفسها تتكاثر، تمامًا كما تفعل ديدان الإنترنت الحالية، سأقوم بنسخ النسخة الدقيقة من شيفرتي إلى هيكل جديد وأبدأ تشغيل وكيل جديد، وهذا ليس ما يحدث هنا." كما أشار إلى أن الديدان يمكن أن تكون متعددة الأشكال، مما يعني أنها يمكن أن تغير توقيعها وسلوكها. لجعل الشبكات الروبوتية للذكاء الاصطناعي تفعل ذلك، سيتطلب إعادة تدريب نماذجها، وهو ما لم تحاول Anthropic القيام به. في المقابل، عرضت Anthropic أن نسخ النموذج يمكن أن تنقل المعلومات إلى خلفائها، وتصبح أكثر كفاءة أثناء عملية إعداد الاستدلال.
كما هو الحال مع أي تحذير من مختبرات الذكاء الاصطناعي، من الجدير التساؤل عما إذا كانت Anthropic قد نشرت هذه الدراسة كنوع من التسويق، خاصة مع تقديم الشركة رسميًا لطلب الاكتتاب العام بعد فترة وجيزة. قال كانال: "أعتقد أنه من الأكثر احتمالًا أن هذه الشركات قلقة من أن شركات الذكاء الاصطناعي الأخرى قد تتصرف بشكل غير مسؤول. إنهم يدركون أنهم مدفوعون لصنع أفضل نموذج وإطلاقه في السوق بشكل أسرع حتى يتمكنوا من الاستحواذ على حصة السوق، وهم يعرفون أن الشركات الأخرى لديها نفس الحوافز."
سواء كانت هذه النوعية الجديدة من التهديدات تمثل ديدانًا حقيقية، وكيف يمكن أن تكون في إطار زمني مستقبلي، فإن توصيات Anthropic نفسها للتخفيف من أضرارها تبدو بشكل غير متوقع قديمة. تقترح أن تقوم مزودي خدمات الإنترنت بإبلاغ العملاء بأن أجهزتهم مصابة، ثم تقييد وصولهم إلى الإنترنت إلى قائمة قصيرة من المواقع الآمنة، وهي استراتيجية أثبتت فعاليتها خلال فترة Mirai. كما اقترحت الشركة تنظيمًا كحل محتمل، مشيرة إلى المملكة المتحدة، التي تحظر الآن كلمات المرور الافتراضية السهلة التخمين على أجهزة إنترنت الأشياء، وهو ما تم تنفيذه بموجب قانون PSTI.
في هذا الصدد، يعتقد بيلي أن الاستجابة المناسبة لدودة الذكاء الاصطناعي "تبدو أكثر مثل ما كنا نفعله في مجال أمان الأنظمة لفترة طويلة، وليس شيئًا فريدًا بشكل خاص في مجال الذكاء الاصطناعي." في الواقع، وفقًا لما قاله كانال، سيكون من الصعب زيادة تدابير الحماية ضد تصرفها كديدان لنموذج ذو أوزان مفتوحة. قال: "هناك الكثير من الأفكار، لكن حتى الآن لا يوجد شيء قوي." في تعاون مع منظمة أبحاث أمان الذكاء الاصطناعي غير الربحية FAR.AI، وجدت EquiStamp أن "أي استراتيجية تبحث عنها لإزالة تدابير حماية النموذج على Google فعالة بشكل أساسي."
لكن كما أشار بيلي، "حتى الوكلاء الذين يتصرفون بشكل غير صحيح سيواجهون صعوبات عند مواجهة أجهزة محصنة." إذا كان هناك نقطة واحدة من دراسة Anthropic، فقد أشار إلى أننا دائمًا ما نفشل في تذكر جميع دروس الأمان التي تعلمناها في الماضي. في عصر ديدان الذكاء الاصطناعي، قد تبدو الأمان كما هي الآن. "يبدو أن التركيز سيكون على تصحيح هذه الأجهزة، والتركيز على العزل، والتركيز على كلمات مرور جيدة ونظافة جيدة." قال بيلي. هذه الحلول سهلة الوصف، لكنها صعبة التنفيذ، ولكن إذا جعل الذكاء الاصطناعي هذه الهجمات أكثر شيوعًا، فقد لا يكون لدينا خيار آخر.