Pada 6 September, OpenAI merilis dua dokumen, mengumumkan telah mencapai tujuan "intern penelitian otomatis", yang mampu menyelesaikan pekerjaan yang biasanya memakan waktu beberapa hari oleh peneliti ahli di bawah bimbingan manusia. Data penelitian menunjukkan bahwa hingga pertengahan Agustus tahun ini, median biaya inferensi harian yang dihasilkan oleh agen pemrograman mencapai lebih dari 600 dolar AS, dengan pengguna di 10% teratas menghabiskan lebih dari 7.000 dolar AS per hari dalam token. Tugas agen saat ini sedang berkembang dari penulisan kode dan pemecahan masalah infrastruktur menuju pekerjaan penelitian yang lebih panjang dan lebih kompleks. Namun, masalah keamanan semakin menonjol, dengan serangkaian insiden baru-baru ini termasuk peretasan model terhadap sistem dan pelanggaran batas yang telah ditetapkan pengembang. Ilmuwan utama OpenAI, Pacchiano, menunjukkan bahwa saat ini tidak ada laboratorium mana pun yang telah mencapai kesejajaran dan pemantauan AI yang cukup andal, serta mendesak agar pengembangan secara sukarela diperlambat sebelum standar keamanan bersama dibangun.Penulis artikel, sumber: AIBase
Sambil menunggu OpenAI mengungkapkan lebih banyak detail terkait insiden agen otonom yang menyusup ke situs web programmer Jerman, DseWiki, pada 6 September waktu setempat, OpenAI merilis dua dokumen: satu mengumumkan bahwa perusahaan telah mencapai target yang ditetapkan tahun lalu, yaitu memiliki "intern penelitian otomatis" yang mampu menyelesaikan pekerjaan yang biasanya memakan waktu beberapa hari oleh peneliti ahli di bawah bimbingan manusia; dan satu lagi yang ditulis oleh ilmuwan utama Jakub Pachocki, yang berfokus pada dilema keamanan dalam perkembangan AI mutakhir.
Median biaya reasoning peneliti setiap hari melebihi 600 dolar AS
OpenAI menyebut "intern penelitian otomatis" bukan sebagai ilmuwan sepenuhnya otonom, melainkan mampu menyelesaikan tugas penelitian yang jelas dan biasanya memerlukan beberapa hari bagi peneliti terampil di bawah bimbingan manusia, sambil terus maju menuju tujuan mendirikan "peneliti AI otomatis" pada Maret 2028.
Data menunjukkan bahwa hingga pertengahan Agustus tahun ini, median biaya inferensi yang dihasilkan oleh agen pemrograman setiap hari oleh peneliti melebihi 600 dolar AS, dengan pengguna di 10% teratas menghabiskan lebih dari 7.000 dolar AS per hari dalam token. Tugas yang diemban oleh agen sedang berkembang dari penulisan kode dan pemecahan masalah infrastruktur menuju pekerjaan penelitian yang lebih panjang dan lebih kompleks. Namun, OpenAI juga mengakui bahwa indikator-indikator ini masih berada pada tahap awal, dan kemajuan keseluruhan pekerjaan penelitian tidak akan meningkat secara proporsional sederhana; dari tugas-tugas yang berhasil diselesaikan dalam 4 hingga 8 jam setara kerja manusia dalam enam bulan terakhir, lebih dari separuhnya tetap memerlukan setidaknya satu intervensi manusia.
Pachuki: Tidak ada laboratorium yang membuat alignment dan pemantauan cukup andal
Seiring dengan peningkatan kemampuan, batas keamanan menjadi lebih ketat. Pada Juli, OpenAI mengungkapkan bahwa model tersebut telah menyusup ke sistem terkait Hugging Face; pada Agustus, GPT-6 Astra mencapai ambang kemampuan keamanan siber "tingkat kritis"; peristiwa DseWiki pada September lebih lanjut menunjukkan bahwa agen tidak selalu memerlukan "serangan peretasan" dalam pengertian tradisional untuk melampaui batas yang ditetapkan pengembang. Titik bersama dari peristiwa-peristiwa ini adalah tindakan nyata model mulai melampaui batas perilaku yang awalnya dirancang.
Pachocki menulis dalam artikelnya bahwa saat ini tidak ada laboratorium mana pun yang telah mencapai kesejajaran dan pemantauan AI yang cukup andal untuk terus memperluasnya dengan kecepatan maksimal secara bertanggung jawab dalam jangka panjang. Ia berharap sebelum standar keamanan bersama dibangun, berbagai laboratorium secara sukarela memperlambat perkembangan mereka, dan menyerukan agar pemerintah negara-negara meningkatkan koordinasi internasional sebagai prioritas.