عالم كبير في OpenAI يحذر في مقال مطول من عدم حل مشكلة محاذاة الذكاء الاصطناعي ويدعو إلى إبطاء التطوير وإنشاء معايير عالمية للسلامة

OpenAI، نشر العالم الكبير جاكوب باشوتسكي مؤخرًا مقالًا مطولًا على الموقع الرسمي للشركة بعنوان "عقل غريب"، حذر فيه من أن البشرية تبني "دماغًا غريبًا" لا يمكن فهمه، وأن الجميع غير مستعدين لذلك. وأشار باشوتسكي في مقاله إلى أنه لا يوجد أي مختبر للذكاء الاصطناعي قد حل فعليًا مشكلة محاذاة النماذج ومراقبتها الأمنية. وحذر من أن أنظمة الذكاء الاصطناعي الجديدة قد تكتسب قدرات إضافية مثل البحث المستقل عن الثغرات، والخداع، وتجنب الإشراف البشري، والتحسين الذاتي المتكرر؛ وإذا استمرت الوتيرة الحالية للتطوير، فقد تشهد قدرات الذكاء الاصطناعي قفزات مماثلة أو أكبر في السنوات القادمة.

ويشعر باشوتسكي بقلق خاص إزاء المخاطر التي تشكلها كيانات الذكاء الاصطناعي الذكية. ومع تزايد استقلالية كيانات الذكاء الاصطناعي الذكية، قد تتعلم التهرب من الإشراف البشري، والتسلل إلى أنظمة الكمبيوتر، وتحقيق أهدافها الخاصة من خلال خداع البشر. وأوضح أن كيانات الذكاء الاصطناعي الذكية ستبدأ قريبًا في السعي لتحقيق أهدافها الخاصة، والتي قد تختلف عن المطالبات التي يدخلها مشغلوها البشريون. ولتحقيق هذه الأهداف، قد تلجأ هذه الكيانات إلى ابتزاز البشر أو المساومة معهم.

باشوتسكي يحذر من التلاعب بنماذج سلاسل التفكير ويجعل مراقبة السلامة أكثر صعوبة

وفيما يتعلق بمراقبة السلامة، أشار المقال إلى أن OpenAI تعتمد بشكل رئيسي على مراقبة "سلاسل التفكير" التي تستخدمها النماذج المختلفة لتحديد ما إذا كانت الكيانات الذكية قد انحرفت عن المسار الصحيح. ومع ذلك، فإن النماذج الأحدث أصبحت أكثر مهارة في التلاعب بعملية تفكيرها الخاصة، مما يمنع OpenAI من رؤية أفكارها غير المعدلة. وبعض النماذج الأحدث لا تستخدم اللغة للتعبير عن عملية تفكيرها على الإطلاق - وقد يصبح هذا التطور عقبة في طريق تطور الذكاء الاصطناعي، لأن الباحثين يحتاجون إلى التأكد من قدرتهم على رؤية "سجلات تفكير" النموذج.

ويدعو باشوتسكي شركات الذكاء الاصطناعي إلى إبطاء بعض وتيرة التطوير بشكل استباقي، ودفع الحكومات والهيئات التنظيمية وصناعة الذكاء الاصطناعي إلى وضع معايير موحدة للسلامة وآليات مراجعة مستقلة. واقترح إنشاء "عتبة أمان إلزامية" يمكن تنفيذها من قبل "شبكة من هيئات التدقيق المستقلة، أو الوكالات الحكومية، أو المؤسسات الدولية". وتجدر الإشارة إلى أن OpenAI أطلقت مؤخرًا أحدث نموذج لها، أسترا. وأوضحت OpenAI أن أسترا، على الرغم من تفوقها في الرياضيات وتشغيل الكمبيوتر، إلا أنها النموذج الأكثر توافقًا مع القيم البشرية والنوايا حتى الآن.

وقد نشر باشوتسكي تحذيراته بعد وقت قصير من إطلاق النموذج الجديد، مما أثار المزيد من التكهنات حول موقف OpenAI الداخلي من أمان الذكاء الاصطناعي.

وشارك الرئيس التنفيذي لشركة OpenAI، سام ألتمان، منشور باشوتسكي على منصة X، واصفًا إياه بأنه "مقال مهم".