برزت مؤخراً رسالة مفتوحة حول مخاطر الذكاء الاصطناعي، صادرة من مصادر داخلية وتتميز بدرجة غير معتادة من التحديد. وبحسب ما أوردته «وول ستريت جورنال»، فإن محور اهتمام كتاب الرسالة يتمثل في الحفاظ على القدرة على مراقبة سلسلة تفكير النموذج (Chain of Thought). غير أنه، من الناحية الصارمة، لم يعد هؤلاء المؤلفون الثلاثة يُعدّون من الداخلين — فقد تم فصلهم للتو من OpenAI.
أعلنت OpenAI الأسبوع الماضي أنها «أنهت علاقتها مع ثلاثة أفراد، بسبب انتهاكهم سياسة الشركة المتعلقة بالوصول إلى المعلومات الحساسة ومعالجتها». ويزعم أن الثلاثة نقلوا المعلومات ذات الصلة إلى جهة معنية بسلامة الذكاء الاصطناعي. وهوياتهم هي: توميك كورباك، وميكيتا باليسني، وجاسمين وانغ. ومن تصريحاتهم العلنية، يبدو أن الثلاثة يؤمنون بوجود مخاطر وجودية للذكاء الاصطناعي. وقبل فصله، كان باليسني قد كتب على منصة X أنه يرى أن الذكاء الاصطناعي «يحمل احتمالاً بنسبة 10% لإبادة البشرية جمعاء»؛ فيما كتبت وانغ: «يصعب وصف مدى خطورة التسارع على طريق التحسين الذاتي التكراري (RSI) وصفاً كافياً»، في حين يشير مصطلح RSI إلى
قدرة نموذج الذكاء الاصطناعي على تحسين ذاته.
وجّهت هذه الرسالة المشتركة إلى مجلس إدارة OpenAI ولجنة «السلامة» في الشركة، ولم تُنشر علناً بعد، إذ اقتصرت «وول ستريت جورنال» على نشر مقتطفات منها. وتتمثل العبارة الجوهرية في الرسالة في: «بصفتنا صناعة، ما زلنا لا نعرف كيف نطور وننشر بأمان نماذج لا نستطيع مراقبتها... ينبغي لـ OpenAI وغيرها من الشركات الرائدة عدم المضي قدماً في تلك الأبحاث التي من شأنها أن تضعف (قدرة المراقبة) بشكل أكبر».
تتركز مخاوف الرسالة تحديداً على أحدث نموذج رائد من OpenAI، GPT-6 Astra. ويثير Astra، فيما يتعلق بمراقبة سلسلة التفكير، مصدرين للقلق: أولاً، احتمال أن يكون النموذج في طور تعلم كيفية الالتفاف على أنظمة المراقبة؛ ثانياً، أن OpenAI قد تكون، بحسب ما يُنقل، تتجه تقنياً نحو اتجاه يفقد فيه مراقبة سلسلة التفكير معناها. وتنص بطاقة نظام النموذج صراحة على أن «نماذج فئة Astra قد تتفادى مراقبة سلسلة التفكير الخاصة بنا في ظل ظروف معادية». وفي الوقت نفسه، تنطوي عملية استدلال Astra على آلية أكثر غموضاً تُسمى «العمق التكراري» (recurrent depth) — حيث تُدور الاستفسار داخل النموذج عدة مرات للمعالجة، بدلاً من توليد المحتوى مباشرة، وتحدث هذه العملية داخل صندوق أسود غير قابل للمعرفة،
ما يعني عدم وجود أي كائن قابل للمراقبة من قبل الخارج.