Según informes de medios extranjeros, este año el ganador del Premio Fields y matemático Jacob Zimmerman anunció recientemente la creación del Instituto de Seguridad de IA Matemática (MAISI), con Zimmerman como director científico del instituto y Andrew Critch como secretario general. El Premio Fields se otorga cada cuatro años específicamente a matemáticos menores de 40 años y es considerado el premio más prestigioso en el campo de las matemáticas.
MAISI iniciará la investigación de seguridad de IA en su primer semestre en 2027
MAISI se inspira en la estructura del Instituto de Estudios Avanzados de Princeton y organiza semestres para invitar a matemáticos a realizar investigaciones sobre seguridad de IA. El instituto planea iniciar su primer semestre en enero de 2027, invitando a entre 10 y 30 matemáticos a la Bahía de San Francisco; mientras que en el semestre especial de septiembre de 2027, la escala se ampliará a entre 30 y 100 personas. El objetivo del instituto es desarrollar definiciones, métodos de medición y conceptos de solución destinados a determinar las condiciones bajo las cuales se puede confiar en que un sistema de IA específico no desencadenará desastres.
Los miembros del consejo asesor incluyen a Timothy Gowers, Ravi Vakil, Jeffrey Irving y Paul Christiano. Entre ellos, Gowers y Vakil son matemáticos, mientras que Irving y Christiano han trabajado en investigación de seguridad de IA durante mucho tiempo. MAISI colaborará con Alignment.org y Resolution.org.
Zimmerman se unirá este mes al departamento de seguridad de OpenAI, pero MAISI afirma que su funcionamiento es independiente de OpenAI. Critch coescribió un artículo con Zimmerman en 2025, explorando situaciones en las que la IA representa una amenaza para toda la humanidad. La discusión sobre la seguridad de la IA se ha centrado anteriormente en políticas, evaluaciones y experimentos, y no es común que se establezcan organizaciones que reúnan a un gran número de matemáticos para trabajar en fundamentos teóricos. Evan Hubinger, jefe de ciencia de alineación de Anthropic, declaró el mismo día que aún no se ha encontrado una solución al problema de la alineación de la superinteligencia.