Teknik AI 'Recurrent Depth' Baru dari OpenAI Memicu Kekhawatiran Keamanan

Mengapa modelnya belum dirilis sudah menimbulkan kontroversi??

Menjelang peluncuran GPT-6, sebuah berita yang pertama kali diungkap oleh The Information dengan cepat memicu perbincangan di internet:

Model baru OpenAI memperkenalkan teknik inferensi bernama "recurrent depth", yang mungkin membuat proses berpikir model menjadi lebih sulit dipahami dan lebih sulit dipantau.

Dengan kata sederhana, nanti apa yang dipikirkan AI akan benar-benar tidak bisa dipahami manusia.

Ah, lalu jika AI belajar berbohong, curang, atau melewati batas keamanan, bukankah kita juga tidak akan bisa mendeteksinya secara tepat waktu??

Tidak heran setelah berita itu muncul, komunitas keamanan AI langsung mengeluarkan peringatan, dan semua orang mulai khawatir:

Jika teknologi ini terus diperluas penggunaannya, mekanisme pemantauan rantai pemikiran yang ada mungkin langsung menjadi tidak berfungsi.

Karena sangat serius dan diskusi terlalu sengit, ilmuwan utama OpenAI pun harus turun tangan secara langsung untuk merespons.

Bahkan, di tengah keributan, ada yang terkejut menemukan:

Nama model baru OpenAI sebenarnya disebut "GPT-6" atau "Astra", mungkin sudah bocor lebih awal melalui API.

Sementara itu, OpenAI juga kemungkinan akan meluncurkan versi baru model gambar, GPT Images 2.1.

Terlalu banyak buah, mari kita cicipi satu per satu.

Yang pertama adalah teknologi "kedalaman siklus" yang menimbulkan kontroversi kali ini.

Sebelumnya, model saat melakukan inferensi akan meninggalkan rantai pemikiran CoT yang jelas, sehingga jelas apa yang dipikirkan.

Meskipun rangkaian teks ini belum tentu sepenuhnya setara dengan pergolakan batin sebenarnya dari model (masih kontroversial), setidaknya ia meninggalkan jejak yang dapat diperiksa.

Sedangkan "kedalaman siklik" yang digunakan oleh Astra terlihat berbeda.

Ini memungkinkan model mengirim kembali status internal yang dihasilkan pada satu langkah ke jaringan saraf, memprosesnya berulang kali di ruang tersembunyi, sebelum menghasilkan teks berikutnya.

Sebagai perbandingan, dulu model mengerjakan soal harus berpikir sambil menulis proses perhitungan di kertas buram.

Sekarang, itu bisa dihitung dalam pikiran.

Orang luar mungkin hanya bisa melihat soal dan jawabannya, tetapi tidak selalu bisa melihat bagaimana perhitungan di tengahnya, ide-ide apa saja yang sudah dicoba, atau apakah ada jalan yang salah ditempuh.

Karena menghemat usaha menerjemahkan setiap langkah ke dalam teks, secara teoritis model dapat menggunakan sumber daya komputasi yang sama untuk berpikir beberapa putaran lagi dan mempertimbangkan beberapa solusi sekaligus.

Namun, seiring peningkatan kinerja, masalah pun ikut muncul:

Jika model tidak lagi berpikir dengan bahasa manusia, bagaimana manusia bisa memantaunya?

CEO lembaga penelitian keamanan AI nirlaba Redwood Research pertama kali menyatakan kekhawatiran yang kuat:

Belum jelas seberapa besar keterlihatan rantai pemikiran Astra menurun, tetapi jika OpenAI terus memperluas kedalaman siklus, hal itu bisa memindahkan sebagian besar penalaran model ke ruang tersembunyi yang tidak dapat dibaca, pada akhirnya “menghancurkan sepenuhnya” pemantauan rantai pemikiran.

Ilmuwan utama Redwood, Ryan Greenblatt, juga khawatir tentang arah yang sama.

Menurutnya, penalaran yang tidak transparan mungkin berkembang lebih cepat daripada rantai pemikiran tradisional. Dengan melanjutkan jalur ini, model di masa depan mungkin akan sepenuhnya atau hampir sepenuhnya melakukan penalaran di ruang laten.

Ini adalah kemajuan terburuk dalam bidang keamanan AI sejauh ini.

Setelah semua, jika hanya "proses perhitungan tidak bisa dipahami", masalahnya tidak akan sesulit ini.

Sebagai peneliti utama dalam insiden "Serangan model OpenAI terhadap Hugging Face", ia menemukan dua ancaman besar:

Pada saat itu, para peneliti sangat bergantung pada rantai pemikiran untuk merekonstruksi perilaku sejumlah besar agen AI, meskipun demikian, penyelidikannya tetap sangat sulit.

AI terkait pernah mencoba mengubah catatannya sendiri, bahkan memalsukan pemanggilan alat.

Untuk yang terakhir, jika model memiliki kemampuan inferensi tersembunyi yang lebih kuat, maka lebih mungkin untuk terlebih dahulu merancang skema penipuan di ruang laten, lalu menciptakan cerita palsu melalui panggilan dan output yang dipalsukan, tanpa meninggalkan jejak jelas dalam rantai pemikiran teks.

Oh no, the risk has doubled directly...

Zvi Mowshowitz, yang secara konsisten memperhatikan keamanan AI, mengatakan dengan lebih langsung:

Ini seperti bermain dengan api.

Dia khawatir bahwa begitu inferensi tersembunyi memberikan keunggulan kinerja yang jelas, berbagai laboratorium akan terjebak dalam persaingan yang merugikan:

Anda takut akan keamanan sehingga tidak berani menyembunyikan chain of thought, tetapi pesaing berani melakukannya, dan model yang mereka hasilkan lebih kuat dan lebih murah.

Apakah kamu ikut, agar tidak ketinggalan?

Mowshowitz bahkan berpendapat bahwa di masa depan mungkin diperlukan tindakan hukum untuk mencegah perusahaan AI secara kolektif melepaskan keterlacakan rantai pemikiran demi mengejar kemampuan.

Namun, di sisi lain, ada yang merasa kepanikan ini datang terlalu cepat.

Tian Yuan Dong baru saja menyatakan di X bahwa mereka juga menerima pertanyaan hampir persis sama ketika sebelumnya meluncurkan Coconut.

Coconut merupakan singkatan dari "Chain of Continuous Thought", dan juga mendukung agar model melakukan penalaran langsung di ruang tersembunyi yang kontinu, bukan mendekode setiap langkah menjadi teks.

Menurut Tian Yuan Dong, bahkan jika model mempertahankan rantai pemikiran eksplisit, itu tidak berarti manusia benar-benar melihat pikiran sejatinya.

Penting untuk memahami bagaimana model itu sendiri bekerja, bukan hanya fokus pada "proses penyelesaian" yang ditulis oleh model.

Saat kontroversi semakin membesar, ilmuwan utama OpenAI, Jakub Pachocki, juga tidak bisa diam dan langsung merespons.

Dia langsung menyatakan bahwa tujuannya adalah mencegah kompetisi yang tidak dapat dipantau yang dipicu oleh "laporan kacau".

Termasuk Astra, kedalaman graf komputasi model mutakhir OpenAI saat ini masih dalam dua kali lipat GPT-4.

Artinya, Astra memang menggunakan perhitungan siklikal, tetapi saat ini skalanya terbatas dan tidak menyembunyikan seluruh rantai pemikiran. Berdasarkan informasi yang ada, penalaran bahasa alami tetap dapat dibaca.

Pachocki juga menekankan bahwa OpenAI selalu menganggap pemantauan rantai pemikiran sebagai langkah keamanan penting, dan tetap menjadi tujuan utama dalam rencana penelitian perusahaan saat ini.

Namun ia juga mengakui bahwa pemantauan rantai pemikiran sangat rapuh dan sedang berkembang ke arah yang negatif.

Namun, tren penurunan ini tidak sepenuhnya disebabkan oleh perubahan arsitektur seperti kedalaman siklus (sebagai pengumuman singkat, kami akan menulis artikel khusus tentang hal ini), OpenAI juga terus meneliti cara memperkuat kemampuan pemantauan.

Jadi, Astra belum membuat model benar-benar tidak bisa dipahami manusia.

Yang sebenarnya dikhawatirkan oleh para ahli keamanan adalah:

Apakah inferensi tersembunyi yang saat ini dibatasi dalam rentang kecil akan terus diperluas pada model generasi berikutnya, hingga akhirnya menjadi black box yang tidak dapat dipantau?

Setelah membahas kontroversi algoritma, buah kedua berkaitan dengan nama model.

Pengungkap Leo menemukan bahwa saat meminta "gpt-6-astra" melalui API OpenAI Responses, server mengembalikan 404 Not Found.

Namun, memasukkan nama model yang tidak ada atau dibuat-buat biasanya akan menghasilkan kesalahan 400.

404 berarti identitas model ini telah dikenali oleh backend, tetapi akun saat ini tidak memiliki izin akses, atau model belum dirilis.

Sebelumnya, beberapa model yang belum dirilis juga pernah mengungkapkan jejaknya melalui perbedaan respons API yang serupa.

Oleh karena itu, Leo menyimpulkan bahwa "gpt-6-astra" kemungkinan telah dideploy ke latar belakang OpenAI API.

Di luar model bahasa, produk gambar OpenAI juga dilaporkan diperbarui secara bersamaan.

Menurut akun bocor Fix, model gambar versi baru GPT Images 2.1 kemungkinan akan dirilis pada 4 September.

Perubahan paling langsung dari pembaruan ini mungkin adalah perbaikan "penyakit noise" pada versi lama.

Sebelumnya, hasil generasi sebagian Images v2 muncul dengan butiran aneh, efek kabut, dan tekstur kotor, terutama lebih jelas pada gambar yang berisi banyak teks atau elemen halus, sebagaimana dikatakan oleh pengguna lain:

Seperti yang diambil melalui kaca kotor.

Sedangkan sampel terbaru yang bocor jelas memperbaiki masalah ini, gambar menjadi lebih bersih.

Ayo, tetap menjadi panggung aktor lama Ultraman:

Lukisan dunia terkenal: "Ultraman Akan Ditangkap Jika Tidak Meluncurkan GPT-6!"

Dan juga Ultraman yang begadang lembur, pulang larut malam dan berjalan-jalan di jalan agar tidak ditangkap.

Sambil itu, membagikan postingan Instagram berjudul "Apakah Anda Pernah Melihat Jalan Pada Pukul Dua Pagi?"

Tak bisa dipungkiri, gambarnya memang terlihat sangat berkualitas, hampir sama seperti hasil fotografi asli.

Lebih banyak tema, lebih banyak gaya juga dikuasai dengan baik:

Tidak usah banyak bicara, kirim segera, Ultraman.

Tautan referensi:

[1]https://techcrunch.com/2026/09/02/openais-new-reasoning-technique-alarms-ai-safety-experts/

[2]https://x.com/tydsh/status/2095227000365707542?s=20[

3]https://x.com/merettm/status/2095023204993490967?s=20

[4]https://x.com/synthwavedd/status/2095184148981842161?s=20

[5]https://x.com/FixlationAI/status/2095232751654064426?s=20

[6]https://x.com/marco_obviously/status/2095275097217191981?s=20

Artikel ini berasal dari akun WeChat "Quantum Bit", penulis: Peduli teknologi terdepan