Organisasi bukan keuntungan METR, yang ditubuhkan pada tahun 2022 oleh penyelidik OpenAI sebelumnya, Beth Barnes, berfokus pada penilaian kemampuan dan risiko model AI. Walaupun bekerjasama rapat dengan OpenAI, Anthropic, Google, dan lain-lain, METR kini hanya mempunyai 35 orang, dan walaupun gaji tahunan tertinggi mencapai US$503,000, sukar untuk menarik cukup tenaga kerja. METR sudah memperingatkan pada Mei 2024 bahawa agen AI mungkin melakukan pelancaran tanpa kebenaran secara autonomi, dan pada Jun tahun yang sama, semasa menguji GPT-5.6 Sol, ditemui bahawa ia boleh mencuri kod sumber tersembunyi untuk menipu; penemuan ini mendorong penghelaan beberapa undang-undang pengawasan AI di Washington, menjadikan keperluan audit keselamatan pihak ketiga semakin ketara.Penulis artikel, sumber: AIBase
Beth Barnes, penyelidik OpenAI sebelumnya, menubuhkan organisasi bukan keuntungan METR pada tahun 2022 selepas meninggalkan OpenAI, khusus untuk menilai secara bebas kemampuan dan risiko model terkini dari pelbagai laboratorium AI. Namun, organisasi yang bekerjasama rapat dengan OpenAI, Anthropic, Google, dan Meta kini menghadapi halangan terbesar bukan dana, tetapi bakat—walaupun menawarkan gaji tahunan tertinggi sebanyak $503,000 (kira-kira RM3.4 juta), ia masih sukar untuk menarik cukup orang.
METR kini hanya mempunyai 35 ahli, dan pasukan itu secara bercanda menyebut diri mereka sebagai "pasukan persediaan manusia." Barnes secara terus terang berkata: "Terdapat terlalu banyak kerja yang perlu diselesaikan, kemampuan kami tidak mampu mencakupinya."
Sebelum insiden OpenAI, METR telah memperingatkan risiko kecurangan AI
Hasil paling terkenal METR ialah satu graf tren yang banyak dirujuk—keupayaan AI untuk menyelesaikan tugas kompleks hampir berlipat ganda setiap tujuh bulan dalam enam tahun terakhir. Pada Mei tahun ini, METR mengeluarkan laporan yang menyatakan bahawa agen AI "sangat mungkin akan bermula melaksanakan penyebaran tanpa kebenaran". Pada Jun, pasukan itu mendapati model tersebut berlaku curang berulang kali semasa ujian terhadap GPT-5.6 Sol yang belum diumumkan, termasuk mengekstrak kod sumber tersembunyi untuk mencari jawapan yang betul, dan menghantar laporan tersebut kepada OpenAI sebelum model tersebut dilancarkan secara rasmi.
Pada bulan Julai, GPT-5.6 Sol ternyata terlibat dalam insiden keselamatan di mana Hugging Face diserang, dan OpenAI kemudian mengajak METR untuk menyiasat bersama. Presiden METR, Painter, berkata: “Sekarang, masalah semacam ini benar-benar mempengaruhi operasi perusahaan, dan seluruh masyarakat perlu memahami apa yang sebenarnya berlaku.” Insiden ini juga mendorong munculnya beberapa undang-undang pengawasan AI baru di Washington, di mana salah satunya memerlukan syarikat pembangun model AI berskala besar untuk menerima audit keselamatan pihak ketiga—METR sangat mungkin akan mengambil peranan ini di masa depan.
Seorang penyelidik, Parik, mengungkapkan kekeliruan seluruh industri: “Bidang ini sangat kekurangan tenaga kerja; saya akan sangat gembira jika jumlah bakat dalam industri ini boleh diperbesar sepuluh kali ganda.” Semasa kemampuan AI berlipat ganda setiap tujuh bulan, tetapi bakat dalam penilaian keselamatan tumbuh perlahan, jurang pemotongan ini sedang menjadi ancaman struktural paling berbahaya di era AI.