Jacob Tsimerman, pemenang Medali Fields 2026, telah mendirikan Mathematical AI Safety Institute, lembaga penelitian baru yang berfokus pada pembangunan kerangka matematis yang ketat untuk memahami dan mengurangi risiko kecerdasan buatan. Lembaga ini, dikenal sebagai MAISI, diluncurkan pada 8 September 2026.
Tsimerman akan menjabat sebagai Direktur Ilmiah MAISI sekaligus bergabung dengan departemen keselamatan OpenAI pada September 2026. Institusi tersebut, bagaimanapun, akan beroperasi secara independen dari perusahaan.
Apa yang sebenarnya direncanakan oleh MAISI
Berdasarkan di Bay Area, MAISI dimodelkan setelah institut penelitian matematis tradisional tempat sekelompok kecil peneliti serius berkumpul selama semester terstruktur untuk mengerjakan masalah-masalah sulit.
Lembaga ini berencana memulai operasi pada Januari 2027 dengan kohort awal sebanyak 10 hingga 30 matematikawan. Program "tahun khusus" yang lebih ambisius dijadwalkan untuk September 2027, dengan meningkatkan jumlah peneliti menjadi 30 hingga 100 orang selama periode penelitian intensif.
Andrew Critch, yang merupakan salah satu penulis makalah tahun 2025 bersama Tsimerman mengenai skenario yang mereka sebut "omnicidal" terkait bahaya AI, akan menjabat sebagai Direktur Eksekutif.
Panel penasihat mencakup Ravi Vakil dari Stanford, dan MAISI telah bermitra dengan organisasi-organisasi seperti alignment.org dan resolution.org. Aplikasi untuk matematikawan yang ingin bergabung sudah tersedia di situs web institut.
Mengapa seorang matematikawan memimpin penelitian keselamatan AI
Medali Fields Tsimerman, yang diberikan pada Juli 2026, mengakui karya revolusioner-nya pada masalah-masalah termasuk konjektur André-Oort. Ia merupakan anggota fakultas pertama di universitas Kanada yang menerima penghargaan ini. Medali ini diberikan hanya sekali setiap empat tahun kepada peneliti di bawah usia 40.
Makalah Tsimerman tahun 2025 tentang skenario AI omnicidal bersama Critch tampaknya menjadi katalis intelektual bagi MAISI. Makalah tersebut menguraikan kerangka formal untuk memahami bagaimana sistem AI dapat menyebabkan kerusakan katasrofik, jenis analisis terstruktur yang dapat menjadi dasar bagi sebuah institut penuh.
Kemitraan dengan alignment.org dan resolution.org menunjukkan bahwa MAISI tidak akan beroperasi secara terpisah.
Rencana skala bertahap lembaga tersebut, dari kelompok awal kecil hingga berpotensi mencapai 100 peneliti dalam tahun pertama operasi yang diperluas, akan menjadikannya salah satu badan penelitian keselamatan AI terbesar di dunia.