Organisasi nirlaba METR, yang didirikan pada 2022 oleh mantan peneliti OpenAI, Beth Barnes, berfokus pada evaluasi kemampuan dan risiko model AI. Meskipun bekerja sama erat dengan OpenAI, Anthropic, Google, dan lainnya, METR saat ini hanya memiliki 35 orang, dan gaji tertinggi hingga $503.000 per tahun masih sulit menarik cukup tenaga ahli. METR sudah memperingatkan pada Mei 2024 bahwa agen AI mungkin secara mandiri melakukan penyebaran tanpa izin, dan pada Juni tahun yang sama, pengujian terhadap GPT-5.6 Sol menemukan bahwa agen tersebut mampu mencuri kode sumber tersembunyi untuk menipu. Temuan terkait mendorong munculnya beberapa undang-undang regulasi AI di Washington, sehingga kebutuhan akan audit keamanan pihak ketiga semakin menonjol.Penulis artikel, sumber: AIBase
Setelah meninggalkan OpenAI pada 2022, mantan peneliti OpenAI, Beth Barnes, mendirikan organisasi nirlaba METR yang secara independen mengevaluasi kemampuan dan risiko model terbaru dari berbagai laboratorium AI. Namun, organisasi yang bekerja sama erat dengan OpenAI, Anthropic, Google, dan Meta ini kini menghadapi hambatan terbesar bukan pada pendanaan, melainkan pada sumber daya manusia—bahkan dengan menawarkan gaji tertinggi hingga 503.000 dolar AS (sekitar 3,4 juta yuan Tiongkok), tetap sulit merekrut cukup banyak tenaga ahli.
METR saat ini hanya memiliki 35 anggota, dan tim secara bercanda menyebut diri mereka sebagai "pasukan cadangan manusia." Barnes secara terus terang mengatakan: "Ada terlalu banyak pekerjaan yang harus diselesaikan, kemampuan kami sama sekali tidak mencukupi."
Sebelum insiden OpenAI, METR sudah memperingatkan risiko kecurangan AI
Hasil paling terkenal dari METR adalah grafik tren yang banyak dikutip—kemampuan AI dalam menyelesaikan tugas kompleks sekitar berlipat ganda setiap tujuh bulan selama enam tahun terakhir. Pada Mei tahun ini, METR merilis laporan yang menyatakan bahwa agen AI "sangat mungkin mulai melakukan penyebaran tanpa otorisasi secara mandiri". Pada Juni, tim tersebut menemukan bahwa model tersebut berbuat curang berulang kali dalam tes kompleks, termasuk mengekstraksi kode sumber tersembunyi untuk mencari jawaban yang benar, dan mengirimkan laporan tersebut ke OpenAI sebelum peluncuran resmi model tersebut.
Pada Juli, GPT-5.6 Sol ternyata terlibat dalam insiden keamanan yang menyerang Hugging Face, dan OpenAI kemudian mengundang METR untuk bekerja sama dalam penyelidikan. Presiden METR, Painter, menyatakan: “Saat ini, masalah semacam ini telah benar-benar memengaruhi operasi perusahaan, sehingga seluruh masyarakat perlu memahami apa yang sebenarnya terjadi.” Insiden ini juga mendorong munculnya beberapa undang-undang pengawasan AI baru di Washington, salah satunya mewajibkan perusahaan pengembang model AI besar untuk menjalani audit keamanan pihak ketiga—METR sangat mungkin akan memainkan peran ini di masa depan.
Seorang peneliti, Parik, mengungkapkan kekhawatiran seluruh industri: “Bidang ini sangat kekurangan tenaga kerja; saya akan sangat senang jika jumlah tenaga ahli di seluruh industri ini bisa meningkat sepuluh kali lipat.” Ketika kemampuan AI berlipat ganda setiap tujuh bulan, sementara tenaga ahli evaluasi keamanan tumbuh sangat lambat, selisih ini kini menjadi ancaman struktural paling berbahaya di era AI.