Wie ausländische Medien berichten, hat der diesjährige Preisträger der Fields-Medaille und Mathematiker Jacob Zimmerman kürzlich die Gründung des Instituts für Mathematische KI-Sicherheit MAISI angekündigt. Zimmerman wird als wissenschaftlicher Direktor des Instituts fungieren, während Andrew Critch das Amt des Generalsekretärs übernimmt. Die Fields-Medaille wird alle vier Jahre verliehen und ist speziell für Mathematiker unter 40 Jahren vorgesehen. Sie gilt als die renommierteste Auszeichnung im Bereich der Mathematik.
MAISI wird im ersten Semester 2027 mit der KI-Sicherheitsforschung beginnen
MAISI orientiert sich an der Struktur des Institute for Advanced Study in Princeton und lädt Mathematiker semesterweise zur KI-Sicherheitsforschung ein. Das Institut plant, im Januar 2027 das erste Semester zu starten und 10 bis 30 Mathematiker in die Bay Area einzuladen. Im besonderen Semester im September 2027 wird die Teilnehmerzahl auf 30 bis 100 Personen erweitert. Das Ziel des Instituts ist es, Definitionen, Messmethoden und Lösungskonzepte zu entwickeln, die darauf abzielen, die Bedingungen zu bestimmen, unter denen man sicher sein kann, dass ein bestimmtes KI-System keine Katastrophe verursacht.
Zu den Mitgliedern des Beratergremiums gehören Timothy Gowers, Ravi Vakil, Jeffrey Irving und Paul Christiano. Gowers und Vakil sind Mathematiker, während Irving und Christiano seit langem im Bereich der KI-Sicherheitsforschung tätig sind. MAISI wird mit Alignment.org und Resolution.org zusammenarbeiten.
Zimmerman wird diesen Monat dem Sicherheitsbereich von OpenAI beitreten, aber MAISI betont, dass seine Arbeit unabhängig von OpenAI ist. Critch hatte 2025 gemeinsam mit Zimmerman eine Abhandlung über Bedrohungen für die gesamte Menschheit im Zusammenhang mit KI-Risiken verfasst. Der Fokus der KI-Sicherheitsdiskussion lag bisher hauptsächlich auf Politik, Bewertung und Experimenten, während die Gründung einer Organisation, die sich auf die theoretischen Grundlagen konzentriert und eine große Anzahl von Mathematikern versammelt, nicht häufig vorkommt. Evan Hubinger, Leiter der Alignment-Wissenschaft bei Anthropic, erklärte am selben Tag, dass bisher noch keine Lösung für das Problem der Superintelligenz-Alignment gefunden wurde.