وفقًا لتقارير وسائل الإعلام الأجنبية، أعلن عالم الرياضيات Jacob Zimmerman، الفائز بجائزة فيلدز لهذا العام، مؤخرًا عن تأسيس معهد أبحاث أمان الذكاء الاصطناعي الرياضي MAISI، حيث سيشغل Zimmerman منصب المدير العلمي للمعهد، بينما سيتولى Andrew Critch منصب الأمين العام. تُمنح جائزة فيلدز كل أربع سنوات، وتُخصص للرياضيين الذين تقل أعمارهم عن 40 عامًا، وتعتبر الجائزة الأكثر شهرة في مجال الرياضيات.
سيبدأ معهد MAISI في يناير 2027 أول فصل دراسي لأبحاث أمان الذكاء الاصطناعي
يستلهم معهد MAISI هيكله من معهد الدراسات المتقدمة في برينستون، حيث يدعو علماء الرياضيات للعمل في أبحاث أمان الذكاء الاصطناعي على أساس الفصول الدراسية. يخطط المعهد لبدء الفصل الدراسي الأول في يناير 2027، بدعوة من 10 إلى 30 عالم رياضيات إلى منطقة الخليج؛ وفي الفصل الدراسي الخاص في سبتمبر 2027، سيتوسع العدد ليصل إلى 30 إلى 100 شخص. يهدف المعهد إلى تطوير المفاهيم، وطرق القياس، وحلول المفاهيم التي تهدف إلى تحديد الشروط التي يمكن معها التأكد من أن أنظمة الذكاء الاصطناعي المحددة لن تتسبب في حدوث كارثة.
يتضمن أعضاء المجلس الاستشاري كلاً من تيموثي غاورز (Timothy Gowers)، ورافي فاكيل (Ravi Vakil)، وجيفري إيرفينغ (Jeffrey Irving)، وبول كريستيانو (Paul Christiano). من بينهم، غاورز وفاكيل هما من علماء الرياضيات، بينما عمل كل من إيرفينغ وكريستيانو في مجال أبحاث أمان الذكاء الاصطناعي لفترة طويلة. سيتعاون معهد MAISI مع كل من Alignment.org وResolution.org.
سينضم Zimmerman هذا الشهر إلى قسم الأمان في OpenAI، لكن MAISI أشار إلى أن عمله مستقل عن OpenAI. في عام 2025، شارك Critch مع Zimmerman في كتابة ورقة بحثية ناقشت حالات تهديد الذكاء الاصطناعي للبشرية بأكملها. كان التركيز الرئيسي في مناقشات أمان الذكاء الاصطناعي سابقًا على السياسة، والتقييم، والتجارب، بينما نادرًا ما يتم تشكيل منظمات كبيرة تجمع علماء الرياضيات للعمل على الأسس النظرية. في نفس اليوم، أعرب إيفان هوبينغر (Evan Hubinger)، رئيس قسم علوم المحاذاة في Anthropic، عن عدم وجود طريقة لحل مشكلة محاذاة الذكاء الاصطناعي الفائق حتى الآن.