海外メディアの報道によると、今年のフィールズ賞受賞者で数学者のJacob Zimmerman氏が最近、数学AI安全研究所MAISIの設立を発表し、Zimmerman氏が同研究所の科学ディレクターに就任し、Andrew Critch氏が事務局長を務めることとなった。フィールズ賞は4年ごとに授与され、40歳以下の数学者に贈られる賞であり、数学分野において最も権威ある賞と考えられている。
MAISIが2027年にAI安全研究の最初の学期を開始
MAISIはプリンストン高等研究所の構造を参考にし、学期単位で数学者を招いてAI安全研究を行う。同研究所は2027年1月に最初の学期を開始し、10〜30名の数学者をベイエリアに招く予定であり、2027年9月の特別学期には規模を拡大し、30〜100人となる予定である。同研究所の目的は、特定のAIシステムが災害を引き起こさないことを確信できる条件を定義し、測定方法及び解決策の概念を開発することである。
顧問団のメンバーはティモシー・ゴワーズ（Timothy Gowers）、ラヴィ・ヴァキル（Ravi Vakil）、ジェフリー・アーヴィング（Jeffrey Irving）、ポール・クリスティアーノ（Paul Christiano）を含む。このうち、ゴワーズとヴァキルは数学者であり、アーヴィングとクリスティアーノは長年にわたりAI安全研究に従事している。MAISIはAlignment.org及びResolution.orgと協力することになる。
Zimmerman氏は今月OpenAIの安全部門に加わる予定であるが、MAISIはOpenAIとは独立して運営されることを表明している。Critch氏は2025年にZimmerman氏と共に、AIリスクの中で人類の脅威となる状況について論文を共同執筆している。AI安全に関する議論の焦点はこれまで政策、評価、実験が中心であったが、大規模に数学者を結集して理論的基礎に取り組む組織の設立事例は珍しい。Anthropicの対準科学責任者エヴァン・フビンガー（Evan Hubinger）氏は同日、現時点では超知能の対準問題を解決する方法はまだ得られていないと述べた。