Infrastruktur TI yang Dibangun di Atas Tusuk Gigi: Hambatan Tak Terlihat

Penulis: Kumpulan Pendeta Perjalanan

Apakah Anda pernah memikirkan, berapa banyak lapisan teknologi yang dilalui oleh artikel yang sedang Anda baca saat ini?

Sistem operasi ponsel, kernel browser, mesin JavaScript, WebAssembly, CDN, DNS, server cloud, kernel Linux, pustaka runtime C, set instruksi CPU, wafer semikonduktor... semuanya berakhir pada sekeping silikon yang sedang mengonsumsi listrik.

Setiap lapisan terdengar sangat kuat. Setiap lapisan memiliki whitepaper, sertifikasi, dan dukungan dari perusahaan besar.

Namun, jika Anda melihatnya secara bertumpuk, Anda akan mendapatkan gambar yang mengganggu—sebuah menara Babel yang goyah, dengan tiang merah yang sangat tipis menjadi penopang segalanya di dasarnya.

Its name is: Von Neumann bottleneck.

Dan kamu yang berdiri di puncak menara, sedang mengangkat ponsel, merasa semuanya biasa saja.

John von Neumann, bapak komputer modern. Arsitektur von Neumann adalah desain dasar dari hampir semua komputer modern. CPU bertanggung jawab untuk perhitungan, memori bertanggung jawab untuk penyimpanan, dan keduanya saling bertukar data melalui satu bus. Desain ini digunakan sejak tahun 1945 hingga sekarang, bertahan melalui era mainframe, PC, internet, dan seluler, dan sekarang sedang mendukung kecerdasan buatan.

Namun, ia memiliki dua kelemahan bawaan: 1) CPU semakin cepat dalam pengolahan, tetapi memori dan bus tidak mampu mengikuti. Pemindahan data menjadi batas atas seluruh sistem—CPU sebagian besar waktunya bukan berhitung, melainkan menunggu data. 2) Kinerja tinggi CPU sangat bergantung pada kapasitas cache, namun cache memiliki batasan fisik alami yang tidak dapat diperluas secara horizontal seperti memori. Di bawah dorongan bahasa pemrograman tingkat tinggi modern yang menekankan keterbacaan manusia, program yang semakin besar dan data heterogen yang semakin kompleks telah melampaui batas kapasitas cache, sehingga meningkatkan frekuensi dan volume pemindahan data antara memori dan CPU, membuat komputer semakin lambat, sering macet, dan lebih mudah mengalami crash. Inilah yang disebut "瓶颈 von Neumann".

Ironisnya, bottleneck ini adalah masalah paling dasar, paling inti, dan paling tak terhindarkan di seluruh industri TI, namun juga merupakan masalah yang paling diabaikan.

Mengapa? Karena menyelesaikannya terlalu sulit dan tidak mudah menghasilkan uang.

Perusahaan besar lebih suka menambahkan lebih banyak lapisan—GPU yang lebih cepat, memori video yang lebih besar, lapisan cache yang lebih kompleks, algoritma penjadwalan yang lebih cerdas. Setiap lapisan bisa dimasukkan ke dalam PPT, setiap lapisan bisa dijual, dan setiap lapisan menghindari tiang merah itu, bukan menghadapi dan menyelesaikan masalahnya secara langsung.

Seperti sebuah gedung yang terus ditambah lantainya, sementara retakan di fondasinya ditutupi dengan kertas dinding yang semakin tebal.

Apakah kamu bertanya apakah orang yang tinggal di dalamnya aman? Mereka akan berkata: Tenang, kami baru saja mengganti kunci pintu cerdas terbaru dan membeli asuransi bencana termahal.

Lihat gambar ini, Anda akan menemukan fenomena menarik: setiap lapisan jika dipisahkan, tampak seperti balok yang dirancang dengan cermat.

Sistem operasi memiliki arsitektur inti yang ketat. Memori berbandwidth tinggi HBM memiliki proses stacking yang canggih. CPU dan GPU memiliki desain presisi dengan miliaran transistor. Pabrik wafer semikonduktor adalah mahkota industri manusia.

Linux dan Apache Foundation memelihara infrastruktur open source paling andal di dunia. LibcURL dipanggil oleh hampir semua program yang membutuhkan jaringan. Sistem DNS memungkinkan internet global saling menemukan. Penyedia komputasi awan menjanjikan ketersediaan 99,99%.

Setiap blok berbentuk persegi sempurna, setiap blok memiliki makalah, standar, dan audit.

Tetapi jika menumpuknya dari bawah ke atas, gambarnya berubah.

Inilah kebenaran tentang infrastruktur digital modern: bukan sebuah keseluruhan yang dirancang dengan cermat, melainkan keajaiban yang terbentuk dari tumpukan solusi sementara.

Bisa berjalan, bukan karena desainnya bagus, tetapi karena cukup banyak orang yang memberikan patch cukup banyak di tengah malam.

Kamu mengira kamu berdiri di sebuah gedung. Sebenarnya kamu berdiri di atas tumpukan balok tambalan.

Lihat lengan mekanis yang menjorok dari samping dalam gambar, yang diberi label "AI Kecerdasan Buatan".

It is not supporting the tower, but acting as a lever to accelerate the collapse of the block-like structure.

Ini adalah sindiran paling akurat terhadap gelombang AI saat ini.

Semua orang mengatakan bahwa AI adalah revolusi produktivitas, era berikutnya, dan peluru perak yang menyelamatkan segalanya. Namun dari sudut pandang infrastruktur, hal pertama yang dilakukan AI adalah mendorong sistem yang sudah goyah ke tepi yang lebih berbahaya.

Mengapa? Karena 1) AI adalah mesin kekuatan komputasi. Pelatihan model besar sekali saja menghabiskan listrik setara dengan konsumsi listrik satu kota kecil dalam satu tahun. Penyebaran inferensi membutuhkan GPU dalam jumlah besar, sedangkan fondasi GPU tetap berjalan di arsitektur von Neumann—tekanan yang ditanggung oleh tiang merah ini lebih besar daripada sebelumnya. 2) Permintaan pencarian agresif dari pengguna AI memberikan tekanan pada infrastruktur data yang lebih dari sepuluh ribu kali lipat dibandingkan pengguna manusia, dan solusi loop yang saat ini dipromosikan hanya akan menambah frekuensi tugas AI dalam pencarian, pengambilan data, dan komputasi secara geometris.

Yang lebih ironis adalah hasil dari AI.

Banyak kode yang dihasilkan AI dikirimkan ke proyek open source, dengan kualitas yang bervariasi dan kerentanan yang terus bermunculan. Banyak konten yang dihasilkan AI membanjiri internet, sehingga hasil mesin pencari tenggelam oleh informasi sampah. Banyak "solusi" yang dihasilkan AI dikemas sebagai produk dan dijual kepada pelanggan, baru menyadari setelah bermasalah bahwa dasarnya hanyalah ilusi.

AI tidak memperbaiki tiang merah itu, ia hanya menambahkan lapisan baru di puncak menara, lalu memberitahu semua orang: Lihat, kita lebih tinggi.

Apakah akan runtuh? Itu urusan kuartal berikutnya.

Ada lelucon yang mengatakan dengan baik: Manusia membutuhkan waktu 70 tahun untuk mengembangkan komputer dari "menghitung cepat" menjadi "bisa berbicara sembarangan", lalu menyebutnya sebagai kemajuan.

Di sisi kanan gambar, seekor burung marah sedang menabrak tubuh menara. Catatan di sampingnya: "Perusahaan besar" yang sedang dilakukan.

Perbandingan ini kasar, tetapi akurat.

Perusahaan besar secara berkala meluncurkan produk baru, kerangka baru, atau standar baru yang "revolusioner". Acara peluncurannya megah, presentasi PPTnya luar biasa indah, dan para KOL serentak memuji.

Namun, produk-produk ini seringkali bukan memperbaiki atau memperkuat struktur industri yang ada, melainkan merusaknya.

Ketika kerangka baru muncul, ekosistem kerangka lama mati. Ketika standar baru muncul, semua perangkat yang kompatibel dengan standar lama menjadi produk "ketinggalan zaman". Perusahaan besar tidak tidak tahu bahwa tindakan ini memiliki biaya. Tetapi bagi mereka, biaya kerusakan ekosistem ditanggung oleh pengembang dan pengguna, sementara pertumbuhan dan valuasi yang dihasilkan dari produk baru menjadi milik mereka sendiri.

Di sisi kiri gambar, seorang pengembang independen Rust terbang pergi dengan roket, dengan keterangan: "Pengembang independen RUST sedang melakukan hal mereka sendiri."

Ini adalah ironi lainnya.

Pengembang independen adalah kelompok paling dinamis dalam ekosistem TI. Mereka tidak terikat oleh KPI perusahaan besar, mampu melakukan percobaan dengan cepat, dan dapat menciptakan aplikasi unggulan yang tidak bisa dihasilkan oleh perusahaan besar.

Namun, hasil dari pengembang independen juga memiliki sisi lain

- Berantakan. Fitur yang sama, dikerjakan oleh sepuluh pengembang independen dengan sepuluh versi berbeda, masing-masing memiliki filosofi desain sendiri, dan masing-masing hanya dipertahankan hingga sang penulis kehilangan minat.

- Tidak terstruktur. Tidak ada standar seragam, tidak ada komitmen kompatibilitas, tidak ada peta jalan upgrade. Hari ini masih bisa digunakan, besok penulisnya mungkin sudah menghapus repositori.

- Tidak ketat. Banyak proyek independen yang tidak diuji, tidak memiliki dokumentasi, dan tidak menjalani audit keamanan. Penulis berpikir "asal bisa berjalan", lalu proyek ini menjadi ketergantungan bagi sepuluh ribu proyek lainnya.

Masalah-masalah ini secara individu tampak kecil, tetapi ketika ditumpuk, menjadi bentuk kerusakan lain terhadap pasar. Pengguna harus memilih di antara ribuan produk setengah jadi, pengembang terjebak dalam kerangka kerja yang sudah ditinggalkan, dan biaya kepercayaan keseluruhan ekosistem terus meningkat.

Dan para pengembang independen yang benar-benar hebat, seperti pengembang Rust yang terbang naik roket di gambar—mereka sedang mengerjakan hal-hal mereka sendiri, dan melakukannya dengan sangat baik, tetapi tidak ada hubungannya dengan menara yang goyah ini.

The tower won't become more stable because of them, and they won't stop because of the tower.

Semua sibuk dengan urusannya masing-masing, masing-masing runtuh sendiri-sendiri.

Mari kita lihat seluruh gambar ini dari awal hingga akhir.

Di tingkat paling bawah, terdapat kotak besar abu-abu yang bertuliskan "Listrik (kekuatan komputasi, air, energi, dll.)". Ini adalah titik awal segalanya—tanpa listrik, tidak ada komputasi. Namun dalam narasi industri TI, listrik adalah lapisan yang paling diabaikan. Orang membahas cloud-native, mikroservis, dan model besar, tetapi jarang ada yang membahas: listrik yang dikonsumsi oleh hal-hal ini berasal dari mana? Berapa biayanya? Dan apa dampaknya terhadap lingkungan?

Di atas listrik terdapat empat fondasi: sistem operasi, memori berpita lebar tinggi (HBM), CPU/GPU, dan pabrik wafer semikonduktor. Ini adalah lapisan perangkat keras, bagian yang benar-benar "persegi dan rapi". Setiap bagian mewakili tingkat puncak industri manusia. Namun, perhatikan, mereka adalah empat batu terpisah, bukan satu fondasi utuh—sambungan di antara mereka sendiri memiliki celah.

Di atasnya, tergantung sebatang papan panjang yang goyah, bertuliskan "Array Dinamis Pengembang C". Papan ini membentang di atas empat fondasi, namun sudah tidak stabil. Di tengah-tengahnya, sebuah tiang merah tipis menopang seluruh berat di atasnya—瓶颈 von Neumann. Seluruh berat dunia TI akhirnya jatuh pada tiang ini.

Di atasnya, gaya mulai kehilangan kendali. Sebuah "proyek C99 berbasis perilaku tak terdefinisi" memikul fungsi kunci. Di bawah JVM, basis data relasional dicoret. Sebuah lengan mekanis muncul dari samping, bertuliskan "AI Kecerdasan Buatan", sedang mendorong menara.

Lanjut ke atas, ada V8 engine, left-pad, keamanan siber, WebAssembly—ini adalah lapisan Web. Di sampingnya tertulis besar-besar "pengembang Web merusak diri sendiri" dan "hal aneh yang sedang terjadi di Web".

Di puncak tertinggi, sebuah figur kecil berbentuk orang kotak yang mewakili pengguna berdiri di ujung menara yang goyah, dengan tulisan "Kamu berada di sini." Saat diperbesar, figur kecil ini sedang memegang ponsel—dia sedang menggunakan menara ini, sementara menara itu bisa runtuh kapan saja.

Di sebelah kiri menara, seorang pengembang independen Rust terbang pergi dengan roket untuk melakukan urusannya sendiri. Di sebelah kanan menara, seekor burung marah (perusahaan besar) sedang menabrak dinding menara. Di atas menara, awan sendirian mengambang, bertuliskan "server cloud yang sesuai spesifikasi"—awan ini tidak terhubung sama sekali dengan menara, seolah hanya sebuah konsep.

Gambar tersebut tidak memiliki satu pun kata yang berlebihan. Setiap label adalah sebuah duri yang menembus titik paling tidak ingin disentuh oleh industri TI.

It is not predicting anything. It is describing the present.

Sampai di sini, mungkin ada yang mengatakan: Anda terlalu pesimis, industri TI bukankah berjalan dengan baik?

Ya, itu berjalan.

Namun, "berfungsi" dan "stabil" adalah dua hal yang berbeda. Seseorang bisa berjalan, bukan berarti tulangnya tidak retak. Sebuah jembatan bisa dilewati kendaraan, bukan berarti beban yang ditanggungnya tidak melebihi batas.

Hal yang menakutkan dari industri TI adalah setiap lapisannya terus beriterasi dengan cepat, tetapi masalah di tingkat paling dasar belum pernah benar-benar teratasi. Bottleneck von Neumann masih ada, perusahaan besar masih membongkar gedung, AI masih menghasilkan sampah, dan pengembang independen masih berjuang sendiri-sendiri.

Semua orang sedang membangun ke atas, tidak ada yang mau melihat ke bawah.

Karena jika dilihat lebih jauh, akan ditemukan bahwa fondasinya adalah tusuk gigi. Dan tusuk gigi, pasti akan ada waktunya tidak mampu menahan lagi.

Mungkin baru pada hari itu, ketika kita berdiri di puncak menara sambil mengangkat ponsel, kita baru akan mengajukan pertanyaan itu untuk pertama kalinya: Fondasi gedung ini sebenarnya dibangun bagaimana?