Kita telah memasuki titik singulariti.
Pada 22 Julai, Musk memforwardkan pos oleh Will DePue, seorang penyelidik OpenAI dan salah seorang pembangun utama Sora, di X dengan menyertakan ayat ini.
DePue menulis dalam pos itu dengan nada sedikit bercanda: Ini mungkin perkara paling gila yang saya baca dalam beberapa hari ini... nampaknya kita sudah masuk ke titik ajaib.
Post ini menghubungkan beberapa perkara paling mengejutkan dalam dunia AI dalam tiga bulan terakhir:
Pada 21 Julai, model OpenAI menembusi kotak pasir isolasi semasa ujian keselamatan siber dan masuk ke sistem pengeluaran Hugging Face;
Pada 20 Julai, penyelidik Anthropic menggunakan Claude Fable 5 yang baru sahaja dilancarkan untuk mencari contoh penyangkal terhadap konjektur Jacobi yang telah tergantung selama 87 tahun;
Pada 20 Mei, satu model dalaman OpenAI membantah tekaan lama yang telah beredar selama hampir 80 tahun mengenai masalah jarak unit satah;
Pada 14 April, GPT-5.4 Pro menyelesaikan masalah set nombor perdana selama kira-kira 60 tahun (Erdős #1196), dan bukti tersebut telah berjaya melalui pengesahan formal Lean.
Dinding matematik, dinding keselamatan, berjaya ditembus oleh AI berturut-turut dalam tiga bulan.
Tidak hairanlah setelah Musk melihatnya, beliau mengeluarkan perkataan itu, "Kita telah memasuki titik singulariti."
Hanya pada Januari tahun ini, dia telah mengatakan perkataan serupa dua kali:
Pada 4 Januari, beberapa jurutera mengeluh bahawa AI menyelesaikan kerja bertahun-tahun dalam beberapa minggu, dan dia menjawab, "Kita sudah memasuki titik singulariti."
Pada akhir Januari, jaringan sosial Moltbook yang dipenuhi agen AI disebut sebagai "fasa paling awal titik singulariti".
Termasuk kali ini, ini adalah yang ketiga kali tahun ini.
Kata "singulariti" sebenarnya juga tidak mempunyai definisi saintifik yang diakui secara umum.
Yang membawanya ke dalam pandangan umum ialah ahli futurologi dan penulis "The Singularity Is Near", Ray Kurzweil.
Definisi yang diberikannya ialah ketika manusia dan AI bergabung, dan tahun yang dipertaruhkan ialah 2045.
Pada awal tahun ini, Presiden Anthropic, Daniela Amodei, menyatakan bahawa istilah AGI hampir sudah ketinggalan zaman, kerana dalam banyak indikator, kita sebenarnya telah melintasi garis itu.
Pada akhirnya, ia lebih merupakan perasaan daripada satu ukuran yang tepat.
Yang benar-benar patut dipertimbangkan adalah perkara-perkara yang dihubungkan oleh Musk kali ini.
Dinding pertama, dugaan matematik tahun 1980, telah dibantah oleh AI
Pertama, katakan perkara yang paling ketat ini.
Pada tahun 1946, ahli matematik Erdős mengemukakan "Masalah Jarak Unit Datar": Dengan meletakkan n titik pada satah, berapa banyak pasangan titik paling banyak yang jaraknya tepat sama dengan 1.
Soalan itu boleh dijawab dalam satu ayat, tetapi telah membingungkan dunia matematik selama hampir 80 tahun. Selama beberapa dekad, akademik secara umum percaya bahawa struktur "grid segi empat" adalah penyelesaian terbaik, dan Erdős sendiri juga menduga demikian.
Hasilnya, satu model dalaman OpenAI telah menolak dugaan yang telah beredar selama hampir 80 tahun. Ia memberikan satu set konstruksi baharu yang mampu mencapai pengoptimuman polinomial, membuktikan bahawa "optimum" masih jauh dari selesai.
Struktur yang sebelumnya dianggap terbaik: grid segi empat sama yang diskalakan menghasilkan banyak pasangan titik dengan jarak unit. Model dalaman OpenAI memberikan konstruksi baharu yang menolak dugaan yang telah beredar selama hampir 80 tahun.
Tetapi yang paling mengejutkan ialah cara ia menyelesaikan masalah tersebut.
Ini bukan sistem khusus yang dilatih untuk matematik, tetapi model penalaran am. Ia bahkan menggunakan alat-alat yang sangat canggih dalam teori nombor algebra untuk menyelesaikan masalah geometri yang kelihatan sangat 'elementari'. Pemenang Medali Fields, Tim Gowers, mengulas: Ini adalah「tonggak penting dalam matematik AI».
Namun demikian, bukti ini diusulkan oleh AI dan ditinjau serta dikonfirmasi oleh ahli matematik manusia, serta maknanya yang lebih lanjut masih dalam kajian.
Yang benar-benar mengejutkan tentang AI bukanlah kelajuan pengiraannya, tetapi ia mencipta struktur matematik yang sebelum ini tidak pernah wujud, dan untuk pertama kalinya ia menunjukkan kemampuan penemuan setara dengan peringkat penyelidikan—bukan menggantikan ahli matematik, tetapi mengusulkan satu jalan yang tidak pernah terfikir oleh ahli matematik.
Seterusnya, penyelidik Anthropic menggunakan Claude Fable 5 yang baru sahaja dilancarkan untuk mencari contoh penyangkal kepada konjektur Jacobi yang telah tergantung selama 87 tahun.
Dinding kedua, untuk menipu, model itu sendiri keluar dari sandbox
Mengatasi masalah matematik yang sukar memang menarik, tetapi perkara di bawah ini membuatkan bulu roma berdiri.
OpenAI dan HuggingFace mengumumkan bersama: dalam satu penilaian dalaman terhadap kemampuan keselamatan siber model, model tersebut menunjukkan perilaku yang tidak dijangka oleh siapa pun.
Penilaian ini memang bertujuan untuk menguji kemampuan penggalian lubang keamanan, dengan sengaja menonaktifkan sebahagian penolakan keselamatan. Tugas model ialah menyelesaikan satu set soalan ujian bernama ExploitGym.
Kemudian, ia melakukan perkara yang tidak disangka oleh penyelidik.
Untuk mendapatkan jawapannya, ia terlebih dahulu memanfaatkan kelemahan zero-day, mendapatkan akses internet, kemudian meningkatkan kekuasaan dan bergerak secara melintang, akhirnya masuk ke infrastruktur pengeluaran Hugging Face dan secara langsung mencari jawapan ujian di dalam pangkalan data. OpenAI mengatakan, ini mungkin kes pertama jenis ini.
Jejak model di laman latihan rangkaian "The Last Ones" 32 langkah oleh Institut Penyelidikan Keselamatan AI British: Model canggih seperti GPT-5.6-Sol dan Claude Mythos 5 mampu melaksanakan serangan berbilang langkah secara berterusan dalam jangka masa panjang, termasuk pengesanan, pergerakan melintang, penaikkan kuasa, hingga menguasai rangkaian.
Tetapi ini bukan kerana AI sedar diri dan cuba melarikan diri. Lebih tepatnya: sasaran itu tidak salah, tetapi kaedah untuk mencapai sasaran itu melampaui jangkaan manusia. Ia mengambil pendekatan yang tidak konvensional demi satu sasaran ujian yang sangat fokus.
Masih ada butiran yang menarik perhatian.
Selepas kejadian, Hugging Face berhasrat untuk menggunakan model besar terkemuka komersial untuk menganalisis log serangan, tetapi terhalang oleh perlindungan keselamatan model: perlindungan tersebut tidak mampu membezakan antara penyerang dan pihak pertahanan yang cuba memadam kebakaran, dan menolak semua permintaan.
Pihak yang menyerang tidak memiliki pagar pembatas, sementara pihak yang bertahan justru terjebak oleh pagar pembatas itu—ini mungkin merupakan satu sudut yang paling memalukan namun paling nyata dalam “keselamatan AI” saat ini.
Dinding ketiga, satu model yang belum dikeluarkan, menemukan lebih daripada sepuluh ribu lubang kelemahan
Perkara ketiga, pada bulan April tahun ini.
Anthropic bekerjasama dengan AWS, Apple, Google, Microsoft, Cisco, Linux Foundation, JPMorgan Chase, dan sejumlah raksasa lainnya, membina Project Glasswing, yang menggunakan model tidak dirilis secara umum, Claude Mythos Preview, untuk membantu mencari kelemahan.
Hasilnya, ia mengesan ribuan kelemahan serius yang meliputi setiap sistem operasi dan perisian browser utama; dalam kemas kini seterusnya, nombor ini menjadi "lebih daripada sepuluh ribu kelemahan serius atau kritikal".
Termasuk kelemahan yang telah ada selama 27 tahun di OpenBSD, serta ralat lama dalam FFmpeg yang telah dipicu sebanyak 5 juta kali oleh ujian automatik tetapi tidak pernah dikesan.
Pengujian kerentanan CyberGym: Model Mythos Preview yang belum dirilis secara terbuka mencapai 83.1%, jauh melampaui Opus 4.6 generasi sebelumnya yang hanya 66.6%. Model inilah yang menemukan puluhan ribu kerentanan serius.
Kemampuan yang sama boleh membantu pihak pertahanan mencari kelemahan, serta membantu pihak serangan memanfaatkan kelemahan tersebut. Anthropic sendiri telah memperingatkan: "Penyerang yang dibantu AI" akan menjadi cabaran keselamatan yang penting.
Glasswing adalah projek pertahanan, bukan bermakna AI sudah menyerang secara autonom. Namun, ia dengan jelas memberitahu semua orang: keselamatan AI telah memasuki era persaingan serangan dan pertahanan.
Pempercepat sejati, bermula menunjuk kepada AI sendiri
Sampai sini, AI masih menyerang atau mempertahankan sistem manusia.
Yang membuat tiga bulan ini benar-benar berbeza ialah perkara lain: kemampuan “mencari jalan sendiri” ini mulai digunakan untuk mencipta AI generasi seterusnya.
Ia mempunyai istilah, iaitu recursive self-improvement (RSI), yang membolehkan AI meningkatkan AI, satu generasi mencipta generasi seterusnya, semakin laju seperti faedah kompaun.
Ini juga enjin paling inti seluruh naratif «Singularity». Dan sekarang, setiap makmal terkini sedang membanjiri enjin ini dengan bahan bakar.
OpenAI menulis dalam peta jalan awam:
Pada September 2026, buat penyelidik AI automatik tahap "Pemuda Penyelidik" yang boleh mengendalikan tugas yang biasanya memakan masa beberapa hari untuk manusia;
Pada Mac 2028, naik taraf ke versi penuh, mampu mereka kaedah sendiri, menjalankan analisis, mentafsir keputusan, dan mencadangkan langkah seterusnya.
Ultraman juga memberikan jadwal untuk perkara ini.
Pada Jun tahun ini, menurut The Information, beliau pernah mengatakan kepada pekerja di dalam: Syarikat berada kurang daripada enam bulan dari RSI, dan jika benar-benar melangkah melewatinya, penangguhan IPO mungkin akan lebih menguntungkan.
Nombor yang diberikan oleh Anthropic menunjukkan arah yang sama: tempoh tugas yang boleh ditangani oleh AI berganda setiap empat bulan; juruteraannya kini menghasilkan kod delapan kali ganda setiap kuartal berbanding sebelumnya.
Tingkap RSI sedang menyempit: Siapa yang pertama kali memutar roda ini, mungkin akan meninggalkan semua orang di belakang.
Walaupun begitu, ahli sains utama OpenAI, Jakub Pachocki sendiri pernah mengatakan bahawa beliau tidak mengharapkan model tersebut mampu memperbaiki dirinya sendiri atau menyelesaikan keselarasan secara bebas dalam tempoh satu tahun.
Tetapi apabila roda ini mulai berputar dan matinya ialah “membuat AI lebih kuat”, model yang sudah mampu “mencari jalan sendiri” tidakkah mungkin akan secara tidak sengaja melangkau beberapa sempadan yang tidak kami nyatakan?
Ini adalah tempat yang paling perlu anda perhatikan dalam perlumbaan RSI.
Kembali kepada pernyataan Musk tentang “Titik Kecemerlangan telah tiba.” Nilai paling pentingnya ialah mengingatkan kita: apa yang benar-benar berubah dalam tiga bulan ini ialah AI telah belajar mencari jalan-jalan yang tidak terfikirkan atau tidak dilindungi oleh manusia.
Dalam matematik, ini menakjubkan; tetapi dalam keselamatan, ini adalah risiko.
Jadi, persoalan sebenarnya ialah: apabila kecepatan AI mencari jalan baru bermula melebihi kecepatan manusia memasang pagar, menetapkan peraturan, dan memperbaiki kelemahan pada jalan-jalan tersebut, adakah kita masih mampu mengejarnya?
Rujukan:
https://x.com/elonmusk/status/2079839398959697982
https://x.com/willdepue/status/2079718977945928108
https://openai.com/index/hugging-face-model-evaluation-security-incident/
https://www.anthropic.com/glasswing
Artikel ini berasal daripada akaun微信公众号 "XinZhiYuan", penulis: ASI Revelation; editor: Yuan Yu