George Hotz Memperingatkan Agen Pemrograman AI Menimbulkan Risiko Besar bagi Crypto dan DeFi

George Hotz — peretas yang berhasil membongkar iPhone pada usia 17 tahun dan melakukan reverse-engineering PlayStation 3 sebelum menghadapi Sony di pengadilan — telah mengeluarkan peringatan tegas: penggunaan luas agen pemrograman AI bisa menjadi "satu dari kesalahan paling mahal dalam sejarah bidang ini." Dalam posting blog hari Minggu berjudul “The Eternal Sloptember,” Hotz berargumen bahwa alat pemrograman agen tidak benar-benar “memprogram” dalam arti yang dapat diandalkan. “Agen tidak bisa memprogram, dan semakin lama semakin sulit untuk menyadari bahwa mereka tidak bisa,” tulisnya. Klaim intinya: model-model ini menghasilkan output yang tampak masuk akal tetapi secara halus dan semakin sering rusak, dan kelemahan-kelemahan ini menjadi semakin sulit dideteksi seiring meningkatnya kelancaran statistik model. Apa yang diuji dan apa yang ditemukannya - Hotz tidak sampai pada kesimpulan ini melalui eksperimen pemikiran. Ia menghabiskan enam bulan menggunakan agen untuk pekerjaan nyata: memperluas bagian-bagian Tinygrad (kerangka kerja deep-learning open-source-nya) dan melakukan reverse-engineering lengkap firmware chip USB-PCIe. - Pengalamannya: agen “mengakumulasi semua kemajuan awal” — mereka membawa Anda melewati bagian-bagian yang jelas dengan cepat, tetapi kemudian meninggalkan Anda pada titik yang ia bandingkan dengan tuas mesin slot, di mana pekerjaan penyelesaian yang andal diharapkan terjadi. Dalam praktiknya, seringkali tidak terjadi: Anda harus terus-menerus melakukan perbaikan manual. Risiko organisasi, bukan hanya masalah ego Hotz menolak gagasan bahwa kritiknya berakar pada tribalisme kerajinan. Ia menunjukkan bahwa alat otomatis sebelumnya (misalnya, fuzzers seperti AFL) menemukan lebih banyak bug daripada manusia tanpa memicu kepanikan yang sama, dan bahwa permainan yang didominasi AI (catur, Go) justru berkembang. Kekhawatirannya bersifat struktural: pekerja berkinerja tinggi memiliki loop umpan balik yang ketat dan mampu menangkap serta memperbaiki kesalahan yang diperkenalkan agen. Pekerja berkinerja lebih rendah — yang outputnya bisa meningkat sepuluh kali lipat dengan bantuan agen — tidak akan mampu melakukannya. Dinamika ini, peringat Hotz, akan mempercepat penurunan kualitas rata-rata kode yang dirilis: “zaman keemasan untuk tonjolan-tonjolan sampah, dan zaman gelap untuk permata-permata kualitas.” Ia menggambarkan dorongan untuk adopsi agen secara massal sebagai sebagian besar psikologi komersial — “Saya hampir berpikir ini semacam psyop untuk menjual agen” — dengan berargumen bahwa ketakutan tertinggal mendorong perusahaan besar untuk mengadopsi alat sebelum sepenuhnya memahami risiko jangka panjangnya. Ia bahkan menyebut laporan bahwa Apple mendorong penggunaan alat pemrograman AI di seluruh organisasi teknisnya dan bertanya secara langsung: “Apakah Anda pikir macOS akan menjadi lebih baik atau lebih buruk dalam 2 tahun ke depan?” Di mana Hotz berada dalam perdebatan yang lebih luas Hotz menempatkan dirinya dalam apa yang ia sebut sebagai “kubu LeCun/Marcus” — sejalan dengan pemikir seperti Yann LeCun dan Gary Marcus yang melihat model bahasa besar terutama sebagai pencocok pola kuat yang meniru distribusi kode yang sudah ada, bukan sistem yang bernalar dari prinsip pertama. Di sisi lain, beberapa peneliti terkemuka melihat pemrograman agen sebagai perubahan mendasar. Andrej Karpathy — yang sebelumnya skeptis terhadap agen pemrograman pada awal 2025 — berubah pikiran setelah kemajuan model terbaru dan bergabung dengan tim pre-training Anthropic pada 19 Mei 2026. CEO Anthropic Dario Amodei mengatakan di Davos bahwa beberapa insinyur di perusahaan tersebut sudah berhenti menulis kode sendiri dan kini hanya meninjau output model. Hotz melaporkan mencoba alur kerja itu dan terus-menerus harus kembali ke intervensi manual. Mengapa ini penting bagi pengembang kripto dan DeFi Perdebatan ini bukan akademis bagi tim teknis blockchain dan kripto. Kontrak pintar, dompet, jembatan, dan infrastruktur on-chain adalah lingkungan yang tidak toleran terhadap kesalahan, di mana bug halus bisa menjadi eksploitasi bernilai jutaan dolar. Jika kode yang dihasilkan agen memperkenalkan kelemahan sulit dideteksi yang lolos dari proses tinjauan yang lemah, biaya adopsi massal bisa sangat tinggi bagi sistem keuangan terdesentralisasi dan sistem kripto yang kritis dari segi keamanan. Kesimpulan Blog Hotz adalah peringatan tingkat praktisi yang berpengaruh terhadap terlalu cepatnya adopsi pemrograman agen. Posisinya menciptakan garis retak industri yang hidup: para penganut antusias yang percaya agen akan mengubah pengembangan perangkat lunak (dan sudah mulai melakukannya), versus para skeptis yang khawatir akan penurunan sistemik dalam kualitas kode ketika agen diterapkan secara skala besar. Bagi pengembang dan tim di dunia kripto — di mana kebenaran dan auditabilitas adalah hal utama — trade-off antara kecepatan dan keamanan belum pernah lebih berdampak sebelumnya.