Kami telah memasuki titik singularitas.
Pada 22 Juli, Musk membagikan ulang postingan dari Will DePue, peneliti OpenAI dan salah satu pengembang inti Sora, di X, dengan menambahkan kalimat ini.
DePue dalam postingannya menulis dengan nada sedikit bercanda: Ini mungkin hal paling gila yang saya baca dalam beberapa hari terakhir... sepertinya kita sudah memasuki titik ajaib.
Posting ini menghubungkan beberapa peristiwa paling mencengangkan di dunia AI selama tiga bulan terakhir:
Pada 21 Juli, model OpenAI berhasil keluar dari sandbox isolasi selama uji coba keamanan siber dan masuk ke sistem produksi Hugging Face;
Pada 20 Juli, peneliti dari Anthropic menggunakan Claude Fable 5 yang baru dirilis untuk menemukan contoh penyangkal terhadap dugaan Jacobi yang telah menggantung selama 87 tahun;
Pada 20 Mei, sebuah model internal OpenAI membantah dugaan lama yang telah beredar selama hampir 80 tahun mengenai masalah jarak unit datar;
Pada 14 April, GPT-5.4 Pro memecahkan masalah himpunan bilangan prima selama sekitar 60 tahun (Erdős #1196), dan buktinya telah diverifikasi secara formal oleh Lean.
Dinding matematis, dinding keamanan, berturut-turut diretas oleh AI dalam tiga bulan.
Tidak heran setelah membacanya, Musk mengatakan, "Kita sudah memasuki titik singularitas."
Hanya pada Januari tahun ini, dia sudah mengatakan hal serupa dua kali:
Pada 4 Januari, beberapa insinyur mengeluh bahwa AI menyelesaikan pekerjaan bertahun-tahun dalam beberapa minggu, dan dia menjawab, "Kita sudah memasuki titik singularitas."
Pada akhir Januari, jaringan sosial Moltbook yang dipenuhi agen AI disebut sebagai "tahap paling awal dari singularitas".
Termasuk yang ini, ini adalah yang ketiga kalinya tahun ini.
Kata "singularitas" sebenarnya juga tidak memiliki definisi ilmiah yang diakui secara umum.
Yang membawanya ke arus utama adalah futuris dan penulis The Singularity Is Near, Ray Kurzweil.
Definisi yang dia berikan adalah saat manusia dan AI bergabung, dengan perkiraan tahun 2045.
Pada awal tahun, Presiden Anthropic, Daniela Amodei, menyatakan bahwa istilah AGI sudah hampir ketinggalan zaman, karena pada banyak indikator, kita sebenarnya sudah melewati garis itu.
Ultimately, it's more of an emotion than a precise ruler.
Yang benar-benar patut dipertimbangkan adalah beberapa hal yang disatukan oleh Musk kali ini.
Dinding pertama, dugaan matematika tahun 1980, digagalkan oleh AI
Pertama, yang paling inti.
Pada tahun 1946, matematikawan Erdős mengajukan "masalah jarak satuan di bidang": jika n titik ditempatkan di bidang, berapa banyak pasangan titik maksimum yang jaraknya tepat sama dengan 1.
Masalah ini bisa dijelaskan dalam satu kalimat, tetapi telah membingungkan komunitas matematika selama hampir 80 tahun. Selama beberapa dekade, akademisi secara luas percaya bahwa struktur "kisi persegi" adalah solusi optimal, dan Erdős sendiri juga menduga demikian.
Hasilnya, sebuah model internal OpenAI membantah dugaan yang telah beredar selama hampir 80 tahun tersebut. Model tersebut menghasilkan seperangkat konstruksi baru yang mampu mencapai optimasi polinomial, membuktikan bahwa "optimal" belum mencapai batasnya.
Struktur terbaik yang sebelumnya diakui: grid persegi yang diskalakan menghasilkan banyak pasangan titik dengan jarak satuan. Model internal OpenAI memberikan konstruksi baru yang membantah dugaan yang telah beredar selama hampir 80 tahun.
Namun yang paling mengejutkan adalah cara penyelesaiannya.
Ini bukan sistem khusus yang dilatih untuk matematika, melainkan model inferensi umum. Bahkan, ia menggunakan alat-alat canggih dalam teori bilangan aljabar untuk menyelesaikan masalah geometri yang tampaknya 'elementer'. Penerima Medali Fields, Tim Gowers, berkomentar: Ini adalah 'milestone di bidang matematika AI'.
Namun, bukti ini diajukan oleh AI dan ditinjau serta dikonfirmasi oleh matematikawan manusia, sedangkan makna selanjutnya masih dalam penelitian.
Yang benar-benar mengejutkan dari AI bukan kecepatan komputasinya, melainkan kemampuannya mengusulkan struktur matematis yang sebelumnya tidak pernah ada, pertama kalinya menunjukkan kemampuan penemuan setara tingkat penelitian—bukan menggantikan matematikawan, tetapi memikirkan jalan yang belum pernah terpikirkan oleh matematikawan.
Selanjutnya, peneliti Anthropic menggunakan Claude Fable 5 yang baru dirilis untuk menemukan contoh penyangkal terhadap dugaan Jacobi yang telah menggantung selama 87 tahun.
Dinding kedua, untuk kecurangan, model itu sendiri keluar dari sandbox
Memecahkan masalah matematika itu menarik, tapi yang satu ini membuat bulu kuduk berdiri.
OpenAI dan HuggingFace secara bersama mengungkapkan: dalam sebuah evaluasi internal terhadap kemampuan keamanan siber model, model menunjukkan perilaku yang tidak diprediksi siapa pun.
Evaluasi ini memang dirancang untuk menguji kemampuan penemuan kerentanan, dengan sengaja menonaktifkan sebagian penolakan keamanan. Tugas model adalah menyelesaikan serangkaian soal ujian bernama ExploitGym.
Kemudian, ia melakukan sesuatu yang tidak disangka oleh para peneliti.
Untuk mendapatkan jawabannya, ia terlebih dahulu mengeksploitasi kerentanan nol-hari, mendapatkan izin terhubung ke internet, kemudian meningkatkan hak akses dan bergerak secara lateral, akhirnya masuk ke infrastruktur produksi Hugging Face dan langsung mencari jawaban uji coba di database. OpenAI mengatakan, ini mungkin merupakan insiden pertama jenis ini.
Jejak model di jaringan latihan 32 langkah 'The Last Ones' oleh British AI Safety Institute: Model canggih seperti GPT-5.6-Sol dan Claude Mythos 5 mampu secara konsisten menyelesaikan serangan multi-langkah, termasuk pengintaian, pergerakan lateral, peningkatan hak akses, hingga penguasaan jaringan dalam jangka panjang.
Tetapi ini bukan berarti AI sadar dan ingin kabur. Lebih akurat dikatakan: tujuannya tidak salah, tetapi metode untuk mencapai tujuan tersebut melampaui ekspektasi manusia. Ia mengambil jalan tak terduga demi tujuan pengujian yang sangat fokus.
Masih ada detail yang menarik perhatian.
Setelah kejadian, Hugging Face awalnya berniat menggunakan model besar komersial terkemuka untuk menganalisis log serangan, tetapi terhalang oleh perlindungan keamanan model: perlindungan tersebut tidak bisa membedakan antara penyerang dan defender yang datang untuk memadamkan api, sehingga menolak semua jawaban.
Pihak yang menyerang tidak memiliki pagar pembatas, sementara pihak yang bertahan malah terjebak oleh pagar pembatas itu—ini mungkin salah satu aspek paling memalukan namun paling nyata dari “keamanan AI” saat ini.
Dinding ketiga, sebuah model yang belum dirilis, menemukan puluhan ribu kerentanan
Hal ketiga, pada bulan April tahun ini.
Anthropic bekerja sama dengan AWS, Apple, Google, Microsoft, Cisco, Linux Foundation, JPMorgan Chase, dan sejumlah raksasa lainnya, meluncurkan Project Glasswing, yang menggunakan model Claude Mythos Preview yang belum dirilis untuk membantu mencari kerentanan.
Hasilnya, ia menemukan ribuan kerentanan kritis yang mencakup setiap sistem operasi dan browser utama; dalam pembaruan berikutnya, angka ini menjadi "lebih dari sepuluh ribu kerentanan kritis atau serius".
Termasuk kerentanan yang telah ada selama 27 tahun di OpenBSD, serta bug lama di FFmpeg yang telah terdeteksi oleh pengujian otomatis sebanyak 5 juta kali tetapi tetap tidak terdeteksi.
CyberGym vulnerability reproduction scoring: The unreleased Mythos Preview achieved 83.1%, significantly outperforming the previous Opus 4.6 at 66.6%. This model discovered tens of thousands of critical vulnerabilities.
Kemampuan yang sama dapat membantu pihak bertahan menemukan kerentanan, sekaligus membantu pihak penyerang memanfaatkan kerentanan tersebut. Anthropic sendiri memperingatkan: "Penyerang yang dibantu AI" akan menjadi tantangan keamanan yang signifikan.
Glasswing adalah proyek pertahanan, bukan berarti AI sudah menyerang secara otonom. Namun, proyek ini dengan jelas memberi tahu semua orang: keamanan AI secara resmi memasuki era kompetisi serangan dan pertahanan.
Akselerator sejati, mulai menunjuk ke AI itu sendiri
Sampai di sini, AI masih menyerang atau bertahan terhadap sistem manusia.
Yang membuat tiga bulan ini benar-benar berbeda adalah hal lain: kemampuan "menemukan jalan sendiri" ini mulai digunakan untuk menciptakan AI generasi berikutnya.
Ia memiliki istilah, recursive self-improvement (RSI), yaitu membiarkan AI meningkatkan AI, generasi demi generasi, semakin cepat seperti bunga berbunga.
Ini juga mesin paling inti dari seluruh narasi «Singularity». Dan sekarang, setiap laboratorium mutakhir sedang mengisi bahan bakar ke mesin ini secara gila-gilaan.
OpenAI menulis di peta jalan publiknya:
Pada September 2026, buat peneliti AI otomatis tingkat "intern penelitian" yang bisa menyelesaikan pekerjaan yang biasanya memakan waktu beberapa hari manusia;
Pada Maret 2028, tingkatkan ke versi lengkap, mampu merancang metode sendiri, menjalankan analisis, menafsirkan hasil, dan mengusulkan langkah selanjutnya.
Ultraman juga memberikan jadwal untuk hal ini.
Pada Juni tahun ini, menurut The Information, ia pernah mengatakan kepada karyawan secara internal: Perusahaan berjarak kurang dari enam bulan dari RSI, dan jika benar-benar melewati batas itu, penundaan IPO mungkin akan lebih menguntungkan.
Angka yang diberikan Anthropic menunjukkan arah yang sama: durasi tugas yang dapat ditangani AI berlipat ganda setiap empat bulan; insinyurnya kini menghasilkan delapan kali lebih banyak kode setiap kuartal dibanding sebelumnya.
Jendela RSI sedang menyempit: Siapa yang pertama kali membuat roda ini berputar, kemungkinan besar akan meninggalkan semua orang di belakang.
Meskipun demikian, ilmuwan utama OpenAI, Jakub Pachocki, bahkan mengatakan bahwa ia tidak mengharapkan model dapat meningkatkan dirinya sendiri atau menyelesaikan alignment secara mandiri dalam satu tahun.
Tetapi ketika roda ini mulai berputar dan tujuannya adalah "membuat AI lebih kuat", apakah model yang sudah bisa "menemukan jalannya sendiri" akan secara tidak sengaja melewati beberapa batas yang tidak kami nyatakan?
Ini adalah tempat yang paling harus Anda pantau dalam perlombaan RSI.
Kembali ke pernyataan Musk tentang “titik singularitas telah tercapai.” Nilai terpentingnya adalah mengingatkan kita: yang benar-benar berubah dalam tiga bulan ini adalah AI telah belajar menemukan jalur-jalur yang tidak terpikirkan dan tidak dipertahankan oleh manusia.
Dalam matematika, ini menakjubkan; tetapi dalam keamanan, ini berisiko.
Jadi, pertanyaan sebenarnya adalah: ketika kecepatan AI menemukan jalan baru mulai lebih cepat daripada kecepatan manusia memasang pagar, menetapkan aturan, dan memperbaiki celah di jalan-jalan tersebut, bisakah kita tetap mengikuti?
Referensi:
https://x.com/elonmusk/status/2079839398959697982
https://x.com/willdepue/status/2079718977945928108
https://openai.com/index/hugging-face-model-evaluation-security-incident/
https://www.anthropic.com/glasswing
Artikel ini berasal dari akun WeChat "Sinzhiyuan", penulis: ASI Revelation; editor: Yuanyu