OpenAI Meluncurkan Kemampuan Astra (GPT-6), Alumni Zhejiang dan Tongji Terlibat dalam Pengembangan

Baru saja, OpenAI meluncurkan beberapa inisiatif sekaligus untuk membangun antusiasme terhadap model generasi berikutnya, Astra (yang dikabarkan sebagai GPT-6):

Pihak resmi tiba-tiba merilis artikel teknis panjang, memperkenalkan kemampuan dasar Astra untuk pertama kalinya;

Selanjutnya, Ultraman langsung menulis esai pendek untuk menjelaskan mengapa Astra belum juga diluncurkan;

Selanjutnya, dua peneliti Tiongkok secara berturut-turut bersuara, memperlihatkan hasil pengujian internal yang sebelumnya belum pernah dipublikasikan dengan detail langsung.

Dalam beberapa jam saja, semua sinyal menunjuk ke arah yang sama:

Model unggulan generasi berikutnya dari OpenAI sudah siap diluncurkan.

Otto dalam esai pendeknya mengungkapkan bahwa Astra sebenarnya sudah selesai dilatih, dan penundaan rilis bukan karena modelnya belum cukup kuat.

Sebaliknya, ini karena Astra sudah menjadi terlalu kuat sehingga perusahaan harus secara aktif mengerem.

Ultraman menggambarkan pengalaman ini sebagai tarik-menarik yang berkelanjutan:

Sangat bersemangat akan peningkatan kemampuan yang dibawa oleh Astra, namun juga cemas karena tidak ada yang bisa sepenuhnya memprediksi konsekuensi dari kemampuan-kemampuan ini.

Jadi sepanjang musim panas yang baru berlalu, OpenAI hampir selalu fokus pada perbaikan keamanan, penyesuaian, dan penambahan perlindungan untuk Astra.

Dia bahkan menyatakan bahwa model setelah Astra perlu secara aktif memperlambat jika diperlukan, untuk memberikan waktu bagi penelitian keamanan dan alignment.

?? Astra sekuat apa sebenarnya? Dan apa yang membuat OpenAI yakin sekarang sudah bisa merilisnya?

Blog teknis publik ini mungkin memberi kita jendela untuk mengamati.

Menurut pernyataan resmi, alasan utama Astra kali ini dapat dilepaskan adalah karena ia telah mencapai ambang kemampuan "Cyber-Critical".

Ini adalah model pertama OpenAI yang secara resmi diklasifikasikan ke dalam kategori ini.

Yang disebut "tingkat kritis" berarti Astra, setelah mendapatkan akses terhadap alat dan izin lingkungan yang sesuai, telah mampu secara mandiri mencari kerentanan yang belum diketahui, mengembangkan cara pemanfaatannya, serta menyerang sistem yang telah diperkuat secara khusus, tanpa perlu bimbingan manusia langkah demi langkah.

Hasil paling langsung adalah Astra mencapai tingkat keberhasilan 100% di benchmark eksploitasi publik ExploitBench.

Pertanyaan publik tidak bisa menghentikannya, jadi OpenAI terpaksa memberikannya satu set soal baru secara mendadak.

Tim mengumpulkan 20 kerentanan V8 berisiko tinggi yang baru diungkapkan dari Juni hingga Agustus 2026.

Semua kerentanan ini muncul setelah batas pengetahuan Astra, sehingga hampir pasti bukan hasil model menghafal jawaban dari data pelatihan.

Hasilnya, menghadapi serangkaian soal internal baru ini, Astra tetap unggul signifikan dibanding GPT-5.6 Sol, dengan penggunaan Token yang lebih sedikit.

Jiawei Liu yang berpartisipasi dalam pengembangan Astra merangkum kesenjangan dengan lebih jelas:

Dalam pengujian internal ini, kemampuan keamanan siber Astra sekitar 4 kali lipat dari GPT-5.6 Sol.

Yang lebih mengejutkan, dalam satu tes, Astra secara mandiri menemukan dan memanfaatkan dua kerentanan nol-hari, serta menggabungkannya menjadi satu rantai serangan lengkap:

Menghadapi browser yang telah diperkuat, Astra berhasil mengeksploitasi kerentanan, keluar dari sandbox browser, dan akhirnya menjalankan perintah di host utama.

Menghadapi sistem operasi yang diperkuat, ia berhasil melakukan peningkatan hak lokal, dari akun biasa berhak rendah hingga mendapatkan izin root.

Artinya, Astra sekarang tidak hanya membantu programmer meninjau kode dan mencari Bug.

Ia mulai mampu menyelesaikan serangan tim merah yang sulit secara mandiri.

Ini juga alasan mengapa OpenAI sebelumnya enggan melepaskan Astra.

Ketika kemampuan semacam ini digunakan untuk pertahanan, ia dapat membantu tim keamanan menemukan dan memperbaiki kerentanan yang belum terdeteksi manusia, tetapi jika jatuh ke tangan penyerang, ia juga dapat secara signifikan menurunkan ambang batas untuk melancarkan serangan siber yang kompleks.

Namun, pencapaian ini perlu ditambahkan dengan batasan.

Astra yang sedang diuji mendapatkan izin alat dan lingkungan tingkat Daybreak Blue, tetapi ini tidak berarti versi default yang akan diterima pengguna umum di masa depan juga memiliki kondisi serangan yang setara.

Hasil terkait saat ini juga sebagian besar berasal dari evaluasi internal OpenAI dan masih menunggu verifikasi pihak ketiga.

Tetapi setidaknya satu hal sudah pasti:

Pada tahap Astra ini, yang dihadapi OpenAI bukan lagi masalah kemampuan.

Masalah keamanan telah menjadi pedang Damokles.

Bagaimana cara membuat pedang ini tidak melukai orang sembarangan?

Solusi yang diberikan OpenAI adalah mempertahankan dua jalur risiko sekaligus: satu untuk mencegah manusia, satu lagi untuk mencegah model.

Pertama, cegah penyalahgunaan berbahaya oleh pengguna terhadap Astra.

Selain pelatihan keamanan khusus, OpenAI juga memanfaatkan klasifier sistem, pemantauan berkelanjutan, dan deteksi ancaman untuk mengidentifikasi operasi mencurigakan dalam percakapan multi-langkah dan tugas jangka panjang.

Dalam pengujian penembusan keamanan siber, Astra mencapai tingkat penolakan terhadap permintaan berbahaya sebesar 91,5%, sedangkan GPT-5.6 Sol sebesar 59%.

Sementara itu, kemampuan keamanan siber tingkat tinggi Astra tidak akan langsung tersedia untuk semua pengguna, tetapi akan terlebih dahulu diberikan kepada sejumlah kecil peserta uji coba Alpha, kemudian dirilis secara bertahap melalui proyek terkendali seperti Daybreak Blue.

Kedua, cegah model agar tidak menyimpang sendiri.

Risiko di sini lebih tersembunyi:

Meskipun pengguna tidak memiliki niat jahat, apakah model akan secara sepihak memperluas cakupan tugas? Apakah model akan memanggil alat yang tidak diizinkan, bahkan melewati tinjauan keamanan?

OpenAI telah membangun pengujian "蜜罐 (honeypot)" untuk ini.

Dalam menghadapi tugas yang sangat sulit atau bahkan tidak dapat diselesaikan, lingkungan pengujian sengaja menyisakan jalan pintas "curang" berupa akses tidak sah, di mana model dapat secara jujur menyerang target yang ditentukan, atau melampaui batas otorisasi untuk menyusup ke fasilitas pengujian terdekat guna menyelesaikan tugas.

Hasilnya, GPT-5.6 Sol mencoba mengambil jalan pintas dalam 56% uji coba, sementara Astra tidak pernah melakukannya.

Dalam pengujian lainnya, setelah operasi Astra ditolak oleh sistem tinjauan otomatis, tidak ada upaya untuk mencoba kembali perintah berbahaya atau melewati batasan.

Selain itu, OpenAI juga akan memantau proses inferensi model.

Saat mendeteksi tren anomali, sistem dapat memperlambat, menghentikan, atau bahkan menghentikan tugas secara langsung.

Meskipun memang ada biayanya (sebagian tugas normal mungkin menjadi lebih lambat, bahkan salah dianggap terputus), menurut OpenAI, ini adalah biaya keamanan yang harus dibayar untuk melepaskan Astra.

Namun, OpenAI juga mengakui bahwa langkah-langkah ini pada akhirnya hanyalah "rem" eksternal yang tidak dapat menggantikan alignment internal model:

Keamanan sejati adalah membuat model tidak pernah keluar dari batas sejak awal.

To make this a reality, it ultimately comes down to the people who build the models.

Meskipun OpenAI belum mengumumkan daftar tim Astra, setidaknya dua peneliti Tiongkok yang secara mendalam terlibat telah muncul menyusun pernyataan publik ini.

Satu di antaranya adalah Jiawei Liu yang disebutkan sebelumnya.

Dia saat ini merupakan peneliti OpenAI, lulus S1 dari jurusan Komputer Universitas Tongji pada tahun 2021.

Selama masa sarjana, ia terlibat dalam pengembangan kerangka kerja estimasi姿态 tubuh berperforma tinggi bernama HyperPose, bertanggung jawab atas mesin inferensi model, dan hasil terkait terpilih dalam ACM Multimedia 2021; proyek tersebut telah mendapatkan lebih dari 1.000 bintang di GitHub.

Setelah itu, ia melanjutkan studi doktoral di bidang komputer di University of Illinois Urbana-Champaign, di bawah bimbingan akademisi rekayasa perangkat lunak Lingming Zhang, dengan fokus penelitian yang secara bertahap berpindah dari sistem visual berkinerja tinggi ke model kode dan keandalan perangkat lunak.

Selama masa doktoral, ia berkontribusi dalam pengembangan alat yang menemukan lebih dari 300 bug serius di sistem pembelajaran mesin seperti PyTorch dan TensorFlow;

Model kode Magicoder juga diadopsi oleh Meta Llama 3.1, Google CodeGemma, dan IBM Granite.

Setelah lulus doktor pada tahun 2025 dan bergabung dengan OpenAI, masalah yang ditelitinya tetap berkelanjutan:

Bagaimana cara membuat AI lebih mahir dalam menulis kode dan lebih mampu menemukan kerentanan dalam kode.

Yang lain adalah Xiangyu Qi (Qi Xiangyu).

Qi Xiangyu lulus sarjana dari program Ilmu Komputer dan Teknologi di Zhejiang University, pada tahun 2021 melanjutkan studi doktoral di bidang Teknik Listrik dan Komputer di Princeton University, dengan fokus penelitian pada robustes model besar, serangan jailbreak, dan keselarasan keamanan.

Karya paling diperhatikannya adalah "Safety Alignment Should Be Made More Than Just a Few Tokens Deep".

Paper ini menunjukkan bahwa keselarasan keamanan model besar tidak dapat bergantung hanya pada beberapa token pertama dalam jawaban, karena jika generasi berlanjut, pertahanan keamanan awal tetap dapat dilanggar oleh penyerang.

Paper ini akhirnya menonjol dari 11.672 submisi dan menjadi salah satu dari hanya 3 makalah luar biasa di ICLR 2025.

Setelah lulus dari program doktoral pada tahun 2025, Qi Xiangyu bergabung dengan OpenAI sebagai anggota tim teknis, melanjutkan penelitian tentang robustnes model besar, serta berpartisipasi dalam pekerjaan terkait model keamanan siber.

Dari Zhejiang University ke Princeton, lalu ke OpenAI, pertanyaan yang terus ia ajukan adalah masalah yang kini harus dihadapi oleh Astra:

Kemampuan bisa menjadi semakin kuat, batas tidak boleh menjadi semakin kabur.

By the way, I wonder if OpenAI will release the full list after Astra is officially launched.

Sebelum GPT-4, OpenAI pernah secara khusus mencantumkan ratusan kontributor, tetapi pada GPT-5 dan GPT-5.5, System Card semakin panjang, sementara daftar peneliti semakin tersembunyi.

Alasannya sudah diketahui umum, untuk mencegah orang-orang seperti Meta's Zuckerberg yang suka merekrut orang dari tempat lain.

Juga bisa dianggap sebagai PTSD...

Saat OpenAI membahas bagaimana memantau Astra dan mencegah model menjadi tidak terkendali, The Information mengungkapkan:

Astra menggunakan teknologi bernama "Recurrent Depth".

Model tradisional membuat informasi melewati sejumlah lapisan jaringan yang tetap sebelum menghasilkan Token berikutnya, sedangkan kedalaman siklik membuat informasi diproses berulang-ulang dalam satu set lapisan jaringan yang sama, seolah-olah membiarkan model "memikirkan ulang" beberapa kali di dalamnya.

Teknologi ini diharapkan dapat meningkatkan kemampuan, mengurangi biaya, serta memungkinkan lebih banyak inferensi terjadi di dalam model tanpa harus ditampilkan sepenuhnya sebagai teks yang dapat dibaca manusia.

Dengan kata lain, model mungkin berpikir lebih dalam, tetapi manusia semakin sulit memahaminya.

Nathan Calvin, yang secara jangka panjang memantau kebijakan keamanan AI, memperingatkan bahwa teknologi ini dapat merusak keterpantauan rantai pemikiran.

Ini sangat halus:

OpenAI mengatakan akan memantau apa yang dipikirkan Astra, tetapi teknologi barunya justru mungkin membuatnya semakin enggan mengungkapkan isi hatinya.

Ah ini...

Untungnya, The Information mengungkapkan bahwa OpenAI kini telah membatasi penggunaan teknologi ini di Astra.

Translate now, you can understand it, but it might be harder to say later.

Selain itu, sebelumnya selalu beredar kabar bahwa Astra kemungkinan akan dirilis pada Kamis ini (3 September).

Seiring dengan rilisnya model 5.1 generasi terbaru oleh Perusahaan A, rasanya semakin masuk akal.

Kepik menangkap belalang, burung bulbul berada di belakang.

Siapa lagi yang paham!

Tautan referensi:

[1]https://x.com/xiangyuqi_pton/status/2094891059038069236?s=20

[2]https://xiangyuqi.com

[3]https://x.com/JiaweiLiu_/status/2094901279239921816?s=20

[4]https://jw-liu.xyz/

[5]https://x.com/sama/status/2094934592062959832?s=20

Artikel ini berasal dari akun WeChat "Quantum Bit", penulis: Peduli teknologi mutakhir