Hotz Memperingatkan Agen Pemrograman AI Menimbulkan Risiko Sistemik bagi Proyek Kripto

George Hotz—jenius remaja yang terkenal karena berhasil jailbreak iPhone dan kemudian melakukan reverse-engineering terhadap PlayStation 3—telah memberikan peringatan tegas mengenai peluncuran massal agen pemrograman AI: hal ini bisa menjadi “satu dari kesalahan paling mahal dalam sejarah bidang ini.” Dalam postingan blog baru berjudul "The Eternal Sloptember," Hotz berargumen bahwa sistem pemrograman berbasis agen sebenarnya tidak “memprogram” dengan cara yang andal. Setelah enam bulan eksperimen langsung—menggunakan agen untuk memperluas Tinygrad (kerangka kerja deep learning open-source-nya) dan melakukan reverse-engineering terhadap firmware chip USB–PCIe—ia mengatakan polanya konsisten: agen mempercepat kemajuan awal, lalu menyerahkan produk yang rapuh dan berantakan yang tak pernah benar-benar selesai. “Agen mempercepat semua kemajuan di awal,” tulisnya. “Kamu menarik tuasnya dan berharap pekerjaan finishing selesai. Tapi tak pernah benar-benar selesai.” Kritiknya tegas: “Agen tidak bisa memprogram, dan semakin lama semakin sulit untuk menyadari bahwa mereka tidak bisa.” Dan lebih buruk lagi, ia menambahkan, kegagalan itu halus: “Outputnya rusak, tetapi dengan cara yang semakin sulit dideteksi. Yang justru tepat seperti yang Anda harapkan dari model statistik yang semakin akurat.” Mengapa ini penting sekarang Postingan Hotz muncul di tengah perpecahan tajam di industri. Lima hari sebelumnya, Andrej Karpathy—salah satu peneliti AI paling terkenal—mengumumkan bergabungnya ia ke tim pre-training Anthropic, menyebut beberapa tahun ke depan sebagai “sangat membentuk” bagi model besar. Karpathy dan kepemimpinan Anthropic secara terbuka menerima alur kerja agen: CEO Anthropic Dario Amodei mengatakan di Davos bahwa beberapa insinyur di sana sudah membiarkan model menghasilkan kode dan hanya meninjau hasilnya. Microsoft juga sangat fokus pada agen ketika mengubah GitHub Copilot menjadi sistem agen penuh pada 2025, dengan CEO Satya Nadella menyamakan perubahan ini setara dengan peralihan ke komputasi awan. Hotz berada di sisi berlawanan dari perdebatan ini. Ia sejalan dengan pandangan yang disebut LeCun/Marcus—Yann LeCun dan Gary Marcus adalah skeptis terkemuka yang melihat model bahasa besar sebagai pemadanan pola canggih, bukan penalar sejati. Hotz memperingatkan bahwa ketika perusahaan menerapkan agen secara luas di seluruh organisasi teknik, dampaknya terhadap kualitas kode rata-rata akan negatif: pekerja berkinerja tinggi tetap bisa menangkap dan memperbaiki kesalahan agen karena memiliki loop umpan balik yang ketat, sementara pekerja berkinerja rendah—yang diperkuat oleh agen untuk menghasilkan lebih banyak patch dan PR—tidak bisa. Hasilnya, ia memprediksi, adalah “era keemasan untuk tumpukan besar sampah, dan zaman gelap untuk permata kualitas.” Mengantisipasi pembelaan bahwa ini hanyalah ketakutan akan penggantian, Hotz menyanggah. Ia mengutip alat otomatis seperti AFL (American Fuzzy Lop) milik Google, yang menemukan banyak bug tanpa memicu kecemasan eksistensial di kalangan programmer, dan mencatat bagaimana catur dan Go justru semakin populer setelah dominasi AI. Kekhawatiran sejatinya adalah organisasional: adopsi luas bisa menyamarkan penurunan bertahap dalam kualitas kode di balik peningkatan kecepatan. Ia bahkan berspekulasi bahwa dorongan pemasaran mungkin sebagian merupakan strategi penjualan: “Saya hampir merasa ini semacam psyop untuk menjual agen. Ketakutan akan kehilangan adalah salah satu-satunya cara untuk membuat perusahaan besar bergerak.” Dampak nyata bagi insinyur kripto Bagi proyek kripto dan blockchain, kritik Hotz seharusnya terdengar sangat keras. Kontrak pintar tidak toleran: bug halus dalam kode yang sudah dideploy bisa berarti kerugian dana yang tak bisa dipulihkan. Jika agen menjadi cara baku untuk menghasilkan kode kontrak, risikonya bukan hanya fitur yang bermasalah, tetapi kerentanan sistemik yang sulit dideteksi yang menyebar di seluruh DeFi, sistem NFT, dan infrastruktur layer-2—terutama jika tim bergantung pada agen tanpa tinjauan ketat, pengujian, dan verifikasi formal. Apa yang harus diawasi - Adopsi alat vs. proses: Agen bisa mempercepat prototipe, tetapi tim harus mempertahankan tinjauan ketat, audit, dan metode formal bila diperlukan. - Visibilitas kegagalan: Harapkan lebih banyak kesalahan statistik halus yang lolos uji cepat tetapi gagal dalam kondisi ekstrem. - Insentif organisasi: Pantau apakah dorongan perusahaan terhadap kecepatan mengalahkan kontrol kualitas. - Risiko sektoral: Di kripto, prioritaskan audit dan pemeriksaan keamanan on-chain sebelum mempercayai kode yang dihasilkan agen. Poin kontra kontekstual Tidak semua setuju dengan Hotz. Karpathy, yang sebelumnya skeptis terhadap agen, secara terbuka berubah pendapat setelah peningkatan model terbaru dan bergabung dengan Anthropic pada 19 Mei 2026. Praktik insinyur Anthropic yang meninjau output model daripada menulis setiap baris sendiri adalah argumen praktis yang mendukung alur kerja agen. Hotz mengatakan ia mencoba pendekatan tanpa intervensi yang sama dan secara konsisten menemukan dirinya harus kembali memperbaiki secara manual. Inti utama Peringatan Hotz adalah seruan untuk berhati-hati, bukan Luddisme: agen AI sangat kuat, tetapi outputnya adalah perkiraan statistik—bukan pengganti penilaian teknik yang cermat. Bagi tim kripto, di mana biaya cacat sangat tinggi, postingan ini adalah pengingat tepat waktu bahwa kecepatan tanpa tinjauan dan verifikasi waspada dapat mengubah inovasi menjadi wabah.