ตามรายงานของสื่อต่างประเทศ นักคณิตศาสตร์ Jacob Zimmerman ผู้ได้รับรางวัลเฟิลด์ส์ในปีนี้ ได้ประกาศก่อตั้งสถาบันวิจัยความปลอดภัย AI ทางคณิตศาสตร์ MAISI ซึ่ง Zimmerman เป็นผู้อำนวยการทางวิทยาศาสตร์ของสถาบัน และ Andrew Critch เป็นเลขาธิการ รางวัลเฟิลด์ส์มีการมอบให้ทุก 4 ปี โดยเฉพาะกับนักคณิตศาสตร์ที่มีอายุต่ำกว่า 40 ปี และถือเป็นรางวัลที่มีน้ำหนักมากที่สุดในวงการคณิตศาสตร์
MAISI จะเริ่มเทอมแรกของการวิจัยความปลอดภัย AI ในปี 2027
MAISI ได้อ้างอิงโครงสร้างของสถาบันวิจัยขั้นสูงของปรินซ์ตัน โดยใช้เทอมเป็นหน่วยในการเชิญนักคณิตศาสตร์มาวิจัยเรื่องความปลอดภัย AI สถาบันวางแผนที่จะเริ่มเทอมแรกในเดือนมกราคม 2027 โดยเชิญนักคณิตศาสตร์ 10 ถึง 30 คนไปยังแคลิฟอร์เนีย ในขณะที่ในเทอมพิเศษในเดือนกันยายน 2027 ขนาดจะขยายใหญ่ขึ้นเป็น 30 ถึง 100 คน จุดมุ่งหมายของสถาบันคือการพัฒนาคำนิยาม วิธีการวัด และแนวคิดในการแก้ปัญหา ที่มุ่งที่จะระบุเงื่อนไขที่สามารถมั่นใจได้ว่า AI ระบบใดระบบหนึ่งจะไม่ก่อให้เกิดความเสียหายร้ายแรง
กลุ่มที่ปรึกษาประกอบด้วย เทอมอที้ โกลเวอร์ส (Timothy Gowers) ราวี วากิล (Ravi Vakil) เจฟฟรีย์ แออร์วิง (Jeffrey Irving) และ โพล คริสเตียโน (Paul Christiano) โดย โกลเวอร์สและวากิลเป็นนักคณิตศาสตร์ ส่วน แออร์วิงและคริสเตียโนมีประสบการณ์ยาวนานในการวิจัยความปลอดภัย AI MAISI จะทำงานร่วมกับ Alignment.org และ Resolution.org
Zimmerman จะเข้าร่วม OpenAI ในฝ่ายความปลอดภัยในเดือนนี้ แต่ MAISI แจ้งว่าการดำเนินงานของสถาบันเป็นอิสระจาก OpenAI Critch เคยเขียนบทความร่วมกับ Zimmerman ในปี 2025 โดยศึกษาถึงสถานการณ์ที่ AI อาจเป็นอันตรายต่อมนุษยชาติ การอภิปรายเรื่องความปลอดภัย AI มาก่อนหน้านี้มุ่งเน้นในเรื่องนโยบาย การประเมิน และการทดลอง ในขณะที่การก่อตั้งองค์กรที่รวมนักคณิตศาสตร์ให้มากมายเพื่อทำงานในรากฐานทฐานนั้นไม่ค่อยพบเห็น Anthropic ในฝ่ายวิทยาศาสตร์การปรับให้สอดคล้อง (Alignment) เอวัน ฮูบิงเกอร์ (Evan Hubinger) ในวันเดียวกันกล่าวว่า ปัจจุบันยังไม่มีวิธีการแก้ปัญหาการปรับให้สอดคล้องกับซูเปอร์อินเทลลิเจนซ์