Menurut laporan media asing, pemenang Fields Medal tahun ini dan matematikawan Jacob Zimmerman baru-baru ini mengumumkan pendirian Institut Riset Keamanan AI Matematika MAISI, dengan Zimmerman sebagai Direktur Sains dan Andrew Critch sebagai Sekretaris Jenderal. Fields Medal diberikan setiap empat tahun sekali, khusus untuk matematikawan di bawah usia 40 tahun, dan dianggap sebagai penghargaan paling bergengsi di bidang matematika.
MAISI Akan Memulai Riset Keamanan AI pada Semester Pertama 2027
MAISI terinspirasi oleh struktur Institut Studi Lanjutan Princeton, dengan mengundang matematikawan untuk melakukan riset keamanan AI berdasarkan satuan semester. Institut ini berencana memulai semester pertamanya pada Januari 2027, dengan mengundang 10 hingga 30 matematikawan ke wilayah Teluk San Francisco; sedangkan pada semester khusus September 2027, jumlah peserta akan diperluas menjadi 30 hingga 100 orang. Tujuan institut ini adalah untuk mengembangkan definisi, metode pengukuran, dan konsep solusi yang bertujuan untuk menentukan kondisi-kondisi yang dapat memastikan bahwa sistem AI tertentu tidak akan menimbulkan bencana.
Anggota dewan penasihat termasuk Timothy Gowers, Ravi Vakil, Jeffrey Irving, dan Paul Christiano. Di antara mereka, Gowers dan Vakil adalah matematikawan, sementara Irving dan Christiano telah lama terlibat dalam riset keamanan AI. MAISI akan bekerja sama dengan Alignment.org dan Resolution.org.
Zimmerman akan bergabung dengan OpenAI di divisi keamanan bulan ini, tetapi MAISI menyatakan bahwa operasinya independen dari OpenAI. Critch pernah menulis makalah bersama Zimmerman pada tahun 2025, yang membahas situasi di mana AI menimbulkan ancaman bagi seluruh umat manusia. Diskusi tentang keamanan AI sebelumnya lebih banyak berfokus pada kebijakan, evaluasi, dan eksperimen, dan kasus pendirian organisasi yang mengumpulkan matematikawan dalam skala besar untuk bekerja pada dasar teoritis tidak umum terjadi. Anthropic Kepala Ilmu Kesesuaian Evan Hubinger pada hari yang sama menyatakan bahwa metode untuk menyelesaikan masalah kesesuaian superinteligensi belum ditemukan.