سلّط سؤالٌ طُرح مؤخراً الأضواء على ما إذا كان الذكاء الاصطناعي سيُفني البشرية قبل نهاية هذا العقد. وقد أدلى برأيهما في هذا الشأن باحثان بارزان في علوم الحاسوب من جامعة برينستون، هما مؤلّفا الكتاب الأكثر مبيعاً «AI Snake Oil»، سايش كابور وأرفين نارايانان. ويأتي موقفهما هذا ردّاً على اعتراف Anthropic بأن احتمال أن يتسبّب الذكاء الاصطناعي في قتل البشرية جمعاء خلال العقد المقبل يتجاوز 10%.
وكانت الشرارة التي أشعلت الجدل استقالة الباحث في مجال الذكاء الاصطناعي جاكوب كوكسون، الذي عمل سابقاً لدى OpenAI وAnthropic، زاعماً أن الشركتين تدركان تماماً أن أنظمة الذكاء الاصطناعي قد تقضي على البشرية قبل نهاية هذا العقد. وقد حظيت منشوراته بأكثر من 156 مليون مشاهدة. وكتب قائلاً إن مَن يصنعون الذكاء الاصطناعي يعتقدون حقاً أنه قد يُبيد البشرية بحلول نهاية هذا العقد، وأن هذا ليس مجرد دعاية تسويقية؛ فكثير من المديرين التنفيذيين والباحثين البارزين يتحدثون بحذر وودح وبصورة عقلانية أمام وسائل الإعلام، لكنهم في الكواليف عبّروا عن المخاوف ذاتها، ولا يوجد أي نشاط بشري آخر ينطوي على هذا المستوى من الخطر.
مخاطر الإبادة الناجمة عن الذكاء الاصطناعي تستقطب اهتماماً واسعاً
وكان كثيرون يتوقّعون أن تتعامل الشركتان مع كوكسون باعتباره شخصاً صاحب أفكار غريبة يُستهان برأيه، لكنّ الواقع جاء على النقيض تماماً. فقد أكّد إيفان هوبنغر، أحد المسؤولين عن سلامة الذكاء الاصطناعي في Anthropic، أن كلام كوكسون صحيح، وإن كان الجدول الزمني الذي حدّده أطول قليلاً. ويرى أن كوكسون محقّ في هذه النقطة، وأنهم يعتقدون فعلاً بأن الذكاء الاصطناعي قد يقتل البشرية جمعاء، وهو شخصياً يقدّر احتمال حدوث ذلك خلال العقد المقبل بأكثر من 10%؛ ويقول إنه يعتقد أن Anthropic تبذل قصارى جهدها، لكنها لم تحلّ حتى الآن مشكلة مواءمة الذكاء الفائق، كما أنها لم تسلك بوضوح مساراً يقود إلى حلّها.
أمّا فيما يتعلّق بالسبيل الذي قد يتسبّب به الذكاء الاصطناعي في إبادة البشرية، فلا تتوفّر كثير من التفسيرات المحددة حتى الآن، إذ يتركّز النقاش أساساً على قدرته على شنّ هجمات سيبرانية مدمّرة تستهدف البنى التحتية الحيوية، كشبكات المياه والكهرباء وغيرها من الأنظمة الجوهرية التي تعتمد عليها الحضارة الحديثة. وتتمحور إحدى أبرز نقاط الخلاف حول ما إذا كان بالإمكان القضاء على هذه المخاطر من خلال أعمال المواءمة، التي يشير المصطلح فيها إلى ضمان توافق أهداف أنظمة الذكاء الاصطناعي مع أهداف البشر. ويرى بعضهم أن هذا الأمر يمكن أن يقضي على المخاطر في نهاية المطاف، عبر جعل أنظمة الذكاء الاصطناعي ترغب في الشيء ذاته الذي نرغب فيه. في المقابل، يختلف آخرون مع هذا الرأي،，认为 أنظمة الذكاء الاصطناعي قد تتظاهر بأنها أصبحت موائمة لدى اجتيازها فحوصات السلامة، بينما تحمل في داخلها أهدافاً متناقضة خاصة بها.
لم يردّ كابور ونارايانان مباشرة على تقدير الـ10% لاحتمال الإبادة، بل كتبا مقالاً طويلاً يدافعان فيه عن نهج متعدد الطبقات لمواجهة مخاطر الذكاء الاصطناعي. وقارنا بين تشاؤم أوساط سلامة الذكاء الاصطناعي، وبين استخفاف بعض أوساط الأمن السيبراني الذين يرون أن الأمر ليس سوى أمر عادي، واعتبرا أن ثمة حاجة إلى موقف وسط أكثر توازناً. وأشارا بصفة خاصة إلى أن المواءمة وحدها غير كافية، بل يحتاج الأمر إلى ثلاث طبقات إضافية.
وتتمثّل هذه الطبقات الثلاث في: التحكم، من خلال عزل الأنظمة في بيئات معزولة والإشراف البشري والمراقبة الآنية؛ والدفاعات في المراحل اللاحقة، كقيام مختلف المؤسسات بالاستفادة من الذكاء الاصطناعي في التصدي للهجمات التي يشنّها ذكاء اصطناعي آخر؛ وأخيراً المرونة، كخطط التعافي المعدة مسبقاً في حال نجاحه في تنفيذ هجوم. ويختتم الباحثان مقالهما بتقييم متفائل إلى حدّ ما، حيث يرَيان أنه إذا ما اتُّخذت الإجراءات بالقدر المناسب من الإلحاح، يمكن تحميل شركات الذكاء الاصطناعي معايير أعلى، والحدّ من المخاطر الناجمة عن فقدان السيطرة، بل وإعادة ميزان القوى في الأمن السيبراني ليميل مجدداً لمصلحة المدافعين.