[Pengenalan] Kelajuan penalaran GPT-5.6 ternyata mencapai 750 token/detik! Pakar profesional mengungkapkan rahsia: ia akan beroperasi melintasi 100 keping wafer. Adakah era kecerdasan masa nyata benar-benar tiba, di mana AI berubah dari pemikiran menjadi kilatan?
Berdasarkan bocoran dari pelbagai pihak, GPT-5.6 akan segera dibuka kepada semua orang.
Baru-baru ini, pelbagai spekulasi mengenai model ini telah menjadi viral di X.
Pada 26 Jun, OpenAI secara rasmi mengumumkan keluarga GPT-5.6 generasi baharu.
Selain itu, dalam pos blog rasmi terdapat pernyataan berikut: OpenAI merancang untuk melancarkan model terkini yang baru—GPT-5.6 Sol—pada peranti khusus Cerebras, raksasa cip, pada bulan ini, dengan kelajuan inferens mencapai 750 token per saat yang menakutkan!
Dengan kata lain, operasi Agent kompleks yang dahulu memerlukan penantian beberapa minit kini boleh diselesaikan dalam sekelip mata.
Jelas bahawa OpenAI telah mengambil langkah revolusioner pertama dalam reka bentuk bersama peranti keras dan model.
Selain itu, dengan pelancaran rasmi chip inferens AI buatan sendiri pertama di dunia, Jalapeño, kita boleh merasai bahawa OpenAI memiliki ambisi untuk menjadi empayar AI penuh.
Seni bela diri dunia hanya menang dengan kecepatan: Penurunan dimensi 750 token/detik
Apa maksudnya “750 token per saat”?
Bagi manusia, ini setara dengan membaca dan mengeluarkan sekitar 500 hingga 600 aksara Cina dalam satu saat.
Teks yang anda lihat ini, GPT-5.6 Sol hanya memerlukan kurang daripada beberapa persepuluh saat untuk menghasilkannya.
Di X, pembangun terkenal Caleb Shepherd dengan bersemangat menyatakan: "Ini adalah perkara paling menarik yang pernah saya alami, GPT-5.6 Sol berjalan di atas Cerebras. Bukan hanya kerana kelajuan menulis kod meningkat, tetapi kerana kecepatan penggunaan komputer mengalami perubahan kualitatif. Kita tidak perlu lagi menunggu dua minit sambil menanti AI mengklik butang."
Selama ini, walaupun model besar menjadi semakin pintar, "latensi inferens" tetap menjadi halangan terbesar dalam pelaksanaan tugas agen berlangkah banyak secara real-time.
Apabila model menjadi besar dengan bilangan parameter berbilion triliun, kumpulan GPU tradisional sering menghadapi bottleneck fizikal dalam komunikasi antara nod (penghubung NVLink).
Dan jawapan yang diberikan oleh OpenAI ialah: Jangan memaksa model untuk menyesuaikan diri dengan peranti keras, tetapi biarkan peranti keras dan model menyatu menjadi satu.
Berdasarkan maklumat awal yang diumumkan secara rasmi, GPT-5.6 Sol akan dibuka kepada pelanggan tertentu dalam skala yang sangat terhad pada bulan Julai, dan akan diperluaskan secara berperingkat seiring peningkatan kapasiti.
Seperti yang diteka orang ramai di internet, ini adalah perkhidmatan yang sangat mahal, dirancang khas untuk perusahaan elit yang bersedia membayar untuk kelajuan.
Bagaimana raksasa 3 trilion parameter dimasukkan ke dalam cip?
Apabila berita 750 Token/s tersebar, Peter Gostev, pengurus LLM Arena, mengajukan satu soalan yang membuat semua orang bingung:
Apa sebenarnya yang berlaku dengan GPT-5.6 Sol di Cerebras? Menurut pengetahuan saya, ini kelihatannya model yang sama sepenuhnya (termasuk kemampuan multimodal seperti visual), bukan versi yang dipotong seperti GPT-5.3-Codex-Spark sebelum ini yang kehilangan kemampuan visual dan konteks.
Namun, pemahaman saya ialah, cip tunggal Cerebras hanya mampu memuat model dengan parameter sebanyak 700 hingga 900 bilion. Jadi, adakah modelnya menjadi lebih kecil? Atau adakah cip jenis baharu yang saya tidak tahu? Atau mungkin teknologi baharu yang melibatkan kerjasama banyak cip?
Pertanyaan ini segera memicu perbincangan banyak pengguna internet.
Ada yang bercanda bahawa semua orang sedang melakukan "audit cip peringkat forensik pada tengah malam", dan menyatakan, "Jika ini benar-benar model penuh yang sama, ia seolah-olah seseorang memaksa kapal pesiar super masuk ke dalam botol kaca, tanpa memberitahu anda bagaimana ia dilakukan."
Segera, pakar teknikal berpengalaman Bleys Goodson memberikan satu analisis mendalam yang sangat meyakinkan—
GPT-5.6 Sol bukan sekadar dimasukkan satu cip, tetapi merentasi 70 hingga 100 cip berskala wafer Cerebras!
Estetika penyebaran ekstrem: "Satu wafer, satu rangkaian"
Para pakar industri menganggarkan bahawa spesifikasi GPT-5.6 Sol sangat besar:
- Jumlah parameter keseluruhan: Sekitar 3 trilion
- Parameter pengaktifan: sekitar 150 bilion
- Tingkat rangkaian: Sekitar 70 hingga 90 lapisan
Untuk mendapatkan ciri-ciri perkhidmatan penalaran yang sihat, OpenAI dan Cerebras menggunakan cara penghantaran yang sangat mewah dan mengejutkan—menghantar setiap lapisan rangkaian saraf secara berasingan pada satu keseluruhan wafer Cerebras.
Seperti yang dinyatakan oleh seorang pengguna internet, dengan menambahkan peringkat saluran, selagi anda mempunyai cukup wafer untuk menghubungkannya, secara teori anda boleh mengembangkannya ke mana-mana saiz model, yang tidak akan mempengaruhi kelajuan penghasilan Token, hanya mungkin memberi kesan ringan kepada masa Token pertama (TTFT).
Rekabentuk arsitektur yang melibatkan pengorbanan besar—KV Cache yang diringankan yang terpaksa dibuat
Namun, hanya memiliki wafer dalam jumlah besar tidak cukup. Salah satu ciri utama arsitektur cip Cerebras adalah memiliki SRAM on-chip dalam jumlah besar, yang sangat cepat tetapi kapasitasnya sangat berharga.
Jika OpenAI seperti sebelumnya menggunakan cache KV berat tradisional dalam GPT-5.6 Sol, lebar pita SRAM yang mahal ini akan segera habis terpakai.
Ini membawa kepada peralihan strategi paling penting dalam kerjasama ini: membina semula model berdasarkan peranti tertentu.
Bleys Goodson menunjukkan bahawa kerana OpenAI terlibat dalam reka bentuk kolaboratif peranti keras, mereka kemungkinan besar telah meninggalkan skema cache mekanisme perhatian tradisional dan beralih kepada reka bentuk ringan yang lebih mutakhir.
Skema yang paling mungkin termasuk:
Arsitektur serupa DeepSeekV4: pengoptimuman penggunaan cache secara ekstrem.
Reka bentuk SSM campuran: Menggabungkan model dengan kompleksiti masa linear seperti Mamba dengan Transformer, untuk benar-benar melepaskan beban sejarah KV Cache.
Selain itu, pembangun terkenal John Lam juga mengemukakan satu tekaan menakjubkan—pemisahan perhatian dan FFN.
Dia menduga bahawa OpenAI mungkin menggunakan GPU tradisional untuk mengendalikan pengiraan perhatian, sementara menggunakan sejumlah besar wafer Cerebras untuk mendorong pengiraan bahagian rangkaian saraf feedforward secara kasar.
Ini bukan tanpa dasar. Pengguna internet segera menggali butiran pelaksanaan Kimi K2.6 yang sebelumnya dinyatakan oleh Cerebras di blognya:
Cerebras menyimpan bobot asal Kimi K2.6 pada sistem CS-3 dengan 4-bit, sambil melakukan pengiraan dengan titik terapung 16-bit untuk menjamin ketepatan. Bobot tersebar di pelbagai wafer, dan nilai aktivasi dipindahkan secara streaming antara wafer. Komunikasi penuh antara lapisan bergantung sepenuhnya pada struktur rangkaian di atas wafer, dengan bandwidth melebihi 200 kali ganda NVLink pada Nvidia NVL72! Dengan menggabungkan operator tersuai dan dekoding spekulatif, mereka mampu menjalankan model MoE berparameter triliunan pada kelajuan hampir 1000 token/s.
Spesifikasi rasmi menunjukkan bahawa sistem revolusioner CS-3 tidak hanya berkelajuan tanpa tanding, tetapi juga boleh dijalarkan dengan mudah hingga model 24 trilion parameter pada satu peranti logik!
Seperti yang diperhatikan oleh seseorang: "Jika ini benar-benar versi lengkap Sol yang berjalan di Cerebras, maka semua batas ukuran model yang diasumsikan sebelumnya telah ditembus malam ini."
Kartu terakhir sebenarnya—OpenAI melancarkan cip buatan sendiri pertama mereka 'Jalapeño'
Dan sebelum itu, OpenAI secara rasmi melancarkan cip buatan sendiri pertama dalam sejarahnya—Jalapeño.
Kehadiran cip ini secara langsung menjelaskan logik mendalam di sebalik kerjasama OpenAI dengan Cerebras: melalui eksplorasi peranti inferens terkemuka pihak ketiga, OpenAI benar-benar memahami titik lemah dan nilai arsitektur inferens khusus, serta mengubahnya menjadi platform dasar yang boleh dikendalikan sendiri.
Jalapeño adalah salah satu varietas lada Meksiko yang paling ringan kepedasannya. OpenAI menamakannya demikian, jelas menunjukkan: ini hanyalah hidangan pembuka.
Cip ini adalah ASIC khusus yang direka untuk inferens model besar. Dari garis pertama yang dilukis, setiap transistor-nya dioptimaskan untuk satu perkara sahaja: menjalankan model besar.
Secara mengejutkan, Jalapeño tidak hanya menjalankan model milik OpenAI sendiri, tetapi arsitekturnya juga kompatibel dengan LLM di seluruh industri, menunjukkan ambisi platform yang besar.
Selain itu, rekabentuk dan penghantaran cip ini hanya mengambil masa sembilan bulan sahaja.
Di sebalik ini, terdapat gabungan industri yang sangat kuat:
Arsitek utama: OpenAI secara langsung merancang struktur dasar.
Pencapaian dan penghubungan cip: Raksasa cip Broadcom menyediakan kemampuan pencapaian yang kuat dan sokongan teknologi penghubungan rangkaian.
Sistem integrasi: Celestica bertanggung jawab atas pembuatan papan akhir dan integrasi fizikal peringkat rak.
Mengambil alih seluruh rantai industri, ambisi kerajaan penuh lapisan OpenAI
Latihan model sendiri, reka cipta cip sendiri, optimaikan inferens sendiri, kawal penghantaran sendiri.
Jelaslah, matlamat OpenAI ialah sebuah empayar AI penuh yang besar.
Namun ambisi OpenAI lebih gila daripada Apple dan Google; mereka memiliki sebuah roda super yang belum pernah ada sebelumnya: menggunakan AI untuk mempercepat pembangunan infrastruktur AI, kemudian menggunakan infrastruktur yang lebih kuat yang telah dibina untuk menjalankan AI yang lebih canggih.
Menurut peta jalan besar yang diumumkan oleh OpenAI, pusat data super berkapasitas GW pertama akan dikerahkan mulai akhir 2026 bersama mitra strategis utama seperti Microsoft.
Semua penggunaan listrik sebuah bandar kecil akan digunakan untuk mendorong rak inferens untuk chip Jalapeño dan generasi seterusnya.
Sedia, segera, kami akan menyambut GPT-5.6 Sol berlari pantas pada 750 Tokens/s di atas wafer Cerebras, mematahkan mantra fizikal parameter dan kelajuan inferens.
Rujukan: https://x.com/bleysg/status/2073937651150029084
Artikel ini berasal daripada akaun微信公众号 "Sinzhiyuan", penulis: Apokalips ASI; penyunting: Aeneas