菲尔兹奖得主成立数学 AI 安全研究所 MAISI 将于 2027 年启动首个学期

据外媒报道，今年菲尔兹奖得主、数学家 Jacob Zimmerman 最近宣布成立数学 AI 安全研究所 MAISI，Zimmerman 担任该研究所的科学总监，Andrew Critch 则担任秘书长。菲尔兹奖每四年颁发一次，专门授予 40 岁以下的数学家，被认为是数学领域内最具权威性的奖项。

MAISI 将于 2027 年启动第一学期的 AI 安全研究

MAISI 参考普林斯顿高等研究院的结构，以学期为单位邀请数学家进行 AI 安全研究。研究所计划于 2027 年 1 月启动第一学期，邀请 10 至 30 名数学家前往湾区；而在 2027 年 9 月的特别学年中，规模将扩大至 30 至 100 人。该研究所的目标是开发定义、测量方法及解决方案的概念，旨在确定能够确信特定 AI 系统不会引发灾难的条件。

顾问团成员包括蒂莫西·高尔斯（Timothy Gowers）、拉维·瓦基尔（Ravi Vakil）、杰弗里·欧文（Jeffrey Irving）和保罗·克里斯蒂亚诺（Paul Christiano）。其中，高尔斯与瓦基尔为数学家，欧文与克里斯蒂亚诺则长期从事 AI 安全研究。MAISI 将与 Alignment.org 及 Resolution.org 展开合作。

Zimmerman 本月将加入 OpenAI 安全部门，但 MAISI 表示其运作独立于 OpenAI。Critch 曾于 2025 年与 Zimmerman 共同撰写论文，探讨 AI 风险中威胁全人类的情况。AI 安全讨论的重点此前主要集中在政策、评估和实验上，而大规模集合数学家致力于理论基础的组织成立案例并不常见。Anthropic 对齐科学负责人埃文·胡宾格（Evan Hubinger）同日表示，目前尚未获得解决超级智能对齐问题的方法。