Jacob Tsimerman, pemenang Medal Fields 2026, telah mewujudkan Mathematical AI Safety Institute, sebuah badan penyelidikan baharu yang berdedikasi untuk membina kerangka matematik yang ketat bagi memahami dan mengurangkan risiko kecerdasan buatan. Institusi ini, dikenali sebagai MAISI, dilancarkan pada 8 September 2026.
Tsimerman akan berkhidmat sebagai Pengarah Sains MAISI sambil menyertai jabatan keselamatan OpenAI pada September 2026. Institusi tersebut, bagaimanapun, akan beroperasi secara berasingan daripada syarikat tersebut.
Apa yang sebenarnya dirancang untuk dilakukan oleh MAISI
Berasaskan di Bay Area, MAISI dimodelkan selepas institut penyelidikan matematik tradisional di mana kumpulan kecil penyelidik serius berkumpul untuk semester yang terstruktur untuk bekerja pada masalah-masalah sukar.
Institut merancang untuk memulakan operasi pada Januari 2027 dengan kohort awal sebanyak 10 hingga 30 ahli matematik. Program “tahun khas” yang lebih ambisius dijadualkan pada September 2027, dengan meningkatkan bilangan penyelidik kepada 30 hingga 100 orang bagi tempoh penyelidikan yang intensif.
Andrew Critch, yang merupakan salah seorang penulis kertas tahun 2025 bersama Tsimerman mengenai apa yang mereka sebut sebagai senario "omnicidal" berkaitan bahaya AI, akan berkhidmat sebagai Pengarah Eksekutif.
Panel penasihat termasuk Ravi Vakil dari Stanford, dan MAISI telah bekerja sama dengan organisasi seperti alignment.org dan resolution.org. Aplikasi untuk ahli matematik yang ingin menyertai sudah tersedia di laman web institut.
Mengapa seorang ahli matematik memimpin penyelidikan keselamatan AI
Pingat Fields Tsimerman, yang dianugerahkan pada Julai 2026, mengiktiraf kerja revolusioner beliau mengenai masalah-masalah termasuk konjektur André-Oort. Beliau merupakan ahli fakulti pertama di universiti Kanada yang menerima penghargaan ini. Pingat ini dianugerahkan sekali setiap empat tahun kepada penyelidik di bawah usia 40.
Kertas kerja Tsimerman tahun 2025 mengenai senario AI omnicidal bersama Critch kelihatan menjadi katalis intelektual bagi MAISI. Kertas kerja itu membentangkan kerangka formal untuk memahami bagaimana sistem AI mungkin menyebabkan keburukan katostrofik, jenis analisis terstruktur yang boleh menjadi asas kepada sebuah institut penuh.
Kerjasama dengan alignment.org dan resolution.org menunjukkan bahawa MAISI tidak akan beroperasi secara berasingan.
Rancangan penskalaan bertahap institut tersebut, daripada kumpulan awal yang kecil kepada berpotensi 100 penyelidik dalam tahun pertama operasi yang diperluaskan, akan menjadikannya salah satu badan penyelidikan keselamatan AI yang paling besar di dunia.