- 數學家 Jacob Zimmerman 宣佈成立 MAISI，專注於 AI 安全研究。
- MAISI 將於 2027 年啟動，邀請 10 至 100 名數學家參與。
- 顧問團成員包括多位知名數學家及 AI 安全專家。
- MAISI 將獨立於 OpenAI 運作，專注於 AI 理論基礎的研究。
據外媒報導，今年菲爾茲獎得主、數學家 Jacob Zimmerman 最近宣佈成立數學 AI 安全研究所 MAISI，Zimmerman 擔任該研究所的科學總監，Andrew Critch 則擔任秘書長。菲爾茲獎每四年頒發一次，專門授予 40 歲以下的數學家，被認為是數學領域內最具權威性的獎項。
MAISI 的成立與運作
MAISI 參考普林斯頓高等研究院的結構，以學期為單位邀請數學家進行 AI 安全研究。研究所計劃於 2027 年 1 月啟動第一學期，邀請 10 至 30 名數學家前往灣區；而在 2027 年 9 月的特別學年中，規模將擴大至 30 至 100 人。該研究所的目標是開發定義、測量方法及解決方案的概念，旨在確定能夠確信特定 AI 系統不會引發災難的條件。
顧問團成員包括蒂莫西·高爾斯（Timothy Gowers）、拉維·瓦基爾（Ravi Vakil）、傑弗裏·歐文（Jeffrey Irving）和保羅·克里斯蒂亞諾（Paul Christiano）。其中，高爾斯與瓦基爾為數學家，歐文與克里斯蒂亞諾則長期從事 AI 安全研究。MAISI 將與 Alignment.org 及 Resolution.org 展開合作。
AI 安全研究的新方向
Zimmerman 本月將加入 OpenAI 安全部門，但 MAISI 表示其運作獨立於 OpenAI。Critch 曾於 2025 年與 Zimmerman 共同撰寫論文，探討 AI 風險中威脅全人類的情況。AI 安全討論的重點此前主要集中在政策、評估和實驗上，而大規模集合數學家致力於理論基礎的組織成立案例並不常見。Anthropic 對齊科學負責人埃文·胡賓格（Evan Hubinger）同日表示，目前尚未獲得解決超級智能對齊問題的方法。
數學家如何推動 AI 安全研究
MAISI 的成立標誌著數學界對 AI 安全問題的重視，尤其是在理論基礎的研究上。隨著 AI 技術的迅速發展，確保其安全性變得愈加重要。MAISI 將通過聚集數學家來探索 AI 系統的安全性，這在過去的討論中並不常見。這樣的跨領域合作可能為解決 AI 風險提供新的視角和方法，並促進更全面的安全策略發展。