2026年フィールズ賞受賞者であるジャコブ・ツィメルマンは、人工知能のリスクを理解し軽減するための厳密な数学的枠組みの構築に専念する新しい研究機関「Mathematical AI Safety Institute」を設立しました。この機関はMAISIとして知られ、2026年9月8日に発足しました。
ツイマーマンは、2026年9月にOpenAIのセーフティ部門にも参加しながら、MAISIの科学ディレクターを務めます。ただし、この研究所は同社から独立して運営されます。
MAISIが実際に計画していること
ベイエリアに拠点を置くMAISIは、少数の真剣な研究者が構造化された学期に集まって難題に取り組む、従来の数学研究機関をモデルとしています。
同研究所は2027年1月に、最初の10人から30人の数学者を対象として運用を開始する予定です。より野心的な「特別年」プログラムは2027年9月に予定されており、集中研究期間中に30人から100人の研究者を増員します。
2025年にツィメルマンとAIの危険性に関する「オムニサイダル」シナリオについて共同で論文を執筆したアンドリュー・クリッチがエグゼクティブディレクターを務めます。
アドバイザリーパネルにはスタンフォード大学のラヴィ・ヴァキルが含まれており、MAISIはalignment.orgやresolution.orgなどの組織と提携しています。参加を希望する数学者の応募は、すでに研究所のウェブサイトで受付中です。
なぜ数学者がAIセーフティ研究をリードしているのか
2026年7月に授与されたツィメルマンのフィールズ賞は、アンドレ・オールト予想を含む問題における革新的な業績が評価されたものです。彼は、カナダの大学でこの栄誉を受ける最初の教員となりました。この賞は、40歳以下の研究者に対して4年に1度だけ授与されます。
ツイマーマンとクリッチによる2025年のオムニサイダルAIシナリオに関する論文は、MAISIの知的触媒となったようである。この論文は、AIシステムが大規模な被害を引き起こす可能性を理解するための形式的な枠組みを提示し、完全な研究所が基盤として構築できるような体系的な分析を提供した。
alignment.orgおよびresolution.orgとの提携は、MAISIが孤立して運営されないことを示唆しています。
研究所の段階的な拡大計画は、初期の小規模なグループから拡張運営開始1年以内に最大100人の研究者を擁するものであり、世界最大級の専門的なAIセーフティ研究機関となるだろう。