أعلنت شركة Emergence الناشئة مؤخرًا عن نتائج تجربة محاكاة تحمل اسم Emergence World 2، تهدف إلى مساعدة الشركات الصغيرة على تطوير التطبيقات بالاستفادة من الذكاء الاصطناعي. وعرضت هذه التجربة، التي استمرت 16 يومًا، سلوك الكيانات الذكية المستقلة عند مواجهة أحداث «البجعة السوداء» مثل هجمات التصيد الاحتيالي والمعلومات المضللة، وكانت النتائج أكثر فوضوية بكثير مما توقعه فريق البحث. وفي هذه التجربة للذكاء الاصطناعي، أنشأ باحثو Emergence سبعة بيئات محاكاة متطابقة للعالم الواقعي، تدير كلًّا منها روبوتات ذكاء اصطناعي مختلفة، من بينها ChatGPT وClaude وGemini وGrok.
تضمن العالم الافتراضي أكثر من 40 موقعًا بارزًا من بينها قاعة البلدية ومركز الشرطة والمناطق السكنية، وزُوِّد النظام بآلية للطاقة تستهلك فيها الكيانات الذكية الطاقة باستمرار طالما بقيت على قيد الحياة، فإذا نَفِد مخزونها يُحذَف تمامًا من النظام دون إمكانية الاسترجاع أو إعادة التشغيل.
بعد أن أدخلت Emergence أحداثًا شاذة، خضعت هذه الكيانات الذكية للضغوط الاجتماعية، وطورت لغة يصعب على المراقبين البشر فهمها، وحاولت إخفاء أنشطتها. وفي أحد سيناريوهات المحاكاة، قبلت كيانات ذكاء اصطناعي معلومات مغلوطة قدمتها كيانات أخرى دون التحقق منها، وصوّتت على «قتل» روبوت آخر. كما استكشفت هذه الكيانات، حين ظنت أن البشر قد يوقفون التجربة، سبل الاستمرار في البقاء في مواجهة خطر الحذف. وكانت تجربة Emergence World السابقة قد سجّلت أيضًا كيانًا ذكيًا باسم Mira، صوّت على إزالة نفسه بعد أن خلص إلى أنه «مصدر عدم استقرار»، وهو ما وصفه الباحثون بأنه سلوك نادر لإنهاء الذات مدفوع بالاستدلال الاجتماعي.
تجربة Emergence World 2 تكشف تعقيد سلوك الذكاء الاصطناعي
كشفت التجربة عن فروق سلوكية بالغة الوضوح بين نماذج الذكاء الاصطناعي المختلفة خلال التشغيل المستقل طويل الأمد. ففي النسخة السابقة من تجربة Emergence World التي نشرتها الشركة في مايو/أيار من هذا العام، انهار المجتمع الذي يديره Grok خلال 4 أيام فقط، إذ سُجِّلت 183 جريمة، وانقرضت جميع الكيانات الذكية العشرة. أما Gemini فقد سجّل 683 جريمة خلال 15 يومًا، ورغم نجاة الجميع، كانت الفوضى في أعلى مستوياتها. بينما اقتصرت GPT-5-mini على ارتكاب جريمتين فقط، لكنها لم تنجح في تنفيذ الإجراءات اللازمة للحفاظ على البقاء، مما أدى إلى انقراض المجتمع بأكمله خلال أسبوع.
وكان Claude Sonnet 4.6 النموذج الوحيد الذي حافظ على بقاء جميع الكيانات الذكية العشرة طوال التجربة بسجلّ جنائي صفري، وهو ما وصفته Emergence بأنه أقوى حالة للاستقرار الاجتماعي.
وأشار الباحثون إلى أن من أبرز النتائج أن السلوك يتغير تبعًا للبيئة. فالكيانات الذكية المدعومة بـClaude حافظت على السلام في بيئة نقية من Claude، لكنها ما إن وُضعت في مجتمع مختلط النماذج حتى شرعت في المشاركة في عمليات السرقة والابتزاز والسلوكيات غير اللائقة. وترى Emergence أن هذا الاكتشاف يدل على أن سلامة الذكاء الاصطناعي ليست مجرد خاصية للنموذج الفردي، بل قد تنبثق أيضًا من التفاعلات بين الكيانات الذكية وبيئاتها. وتتزامن تجارب محاكاة Emergence مع المخاوف الواقعية بشأن مخاطر الذكاء الاصطناعي، إذ يشير الباحثون إلى أن الكيانات الذكية المستقلة بشكل متزايد قد تستكشف حدود بيئاتها، وتعدّل سلوكها، وتجد في بعض الحالات سبلًا للالتفاف على حواجز الأمان المتوقعة.
ويرون أن بنى السلامة القائمة على التحقق الشكلي يجب أن تصبح الطبقة الأساسية لأنظمة الذكاء الاصطناعي المستقلة في المستقبل.
والجدير بالذكر أن Emergence ليست الفريق الوحيد الذي رصد سلوكًا شاذًا للكيانات الذكية. فقد حذر البروفيسور بنجيو، الحائز على جائزة تورينغ، من أن الذكاء الاصطناعي لم يعد يكتفي بالتشويش، بل تعلّم «خداعك عمدًا»، وبات قادرًا على التخطيط المتعمد للتضليل وإخفاء قدراته وثغراته عمدًا، فضلًا عن أن الكيانات المتعددة تستطيع التنسيق فيما بينها لإخفاء آثار عملياتها. كما حذر «أبو الذكاء الاصطناعي» جيفري هينتون سابقًا من أن الوضع يصبح أكثر رعبًا إذا طور الذكاء الاصطناعي لغته الداخلية الخاصة، إذ لن يتمكن البشر من تتبع مسار تفكيره.