George Hotz Memperingatkan Bahawa Agen Pengekodan AI Menimbulkan Risiko Besar Terhadap Kripto dan DeFi

George Hotz — perompak yang berjaya membongkar iPhone pada usia 17 tahun dan merekabentuk semula PlayStation 3 sebelum menghadapi Sony di mahkamah — telah mengeluarkan amaran tegas: penggunaan meluas agen pengaturcaraan AI boleh menjadi “salah satu kesilapan paling mahal dalam sejarah bidang ini.” Dalam posting blog pada hari Ahad bertajuk “The Eternal Sloptember,” Hotz berhujah bahawa alat pengaturcaraan agen tidak benar-benar “mengaturcara” dalam sebarang erti yang boleh dipercayai. “Agen tidak boleh mengaturcara, dan ia semakin lama semakin sukar untuk sedar bahawa mereka tidak mampu,” tulisnya. Tuntutan utamanya: model-model ini menghasilkan output yang kelihatan munasabah tetapi secara halus dan semakin sering rosak, dan kecacatan ini menjadi semakin sukar dikesan apabila kelancaran statistik model meningkat. Apa yang diuji dan apa yang ditemui: - Hotz tidak sampai kepada kesimpulan ini daripada eksperimen pemikiran. Beliau menghabiskan enam bulan menggunakan agen untuk kerja sebenar: memperluas bahagian-bahagian Tinygrad (kerangka pembelajaran mendalam sumber terbuka beliau) dan melakukan pembongkaran firmware penuh terhadap cip USB-PCIe. - Pengalaman beliau: agen “mengambil alih semua kemajuan” — mereka membawa anda melalui bahagian-bahagian jelas dengan pantas, tetapi kemudian meninggalkan anda pada tuil mesin slot di mana kerja penyelesaian yang boleh dipercayai dijangka berlaku. Dalam amalan, ia sering tidak berlaku: anda perlu berulang kali melakukan pembaikan manual. Risiko organisasi, bukan sekadar isu ego Hotz menolak idea bahawa kritikan beliau berasaskan tribalisme kejuruteraan. Beliau menunjukkan bahawa alat automatik sebelum ini (contohnya, fuzzers seperti AFL) menemui lebih banyak ralat daripada manusia tanpa memicu kebimbangan yang sama, dan bahawa permainan yang didominasi AI (catur, Go) telah berkembang pesat. Kekhawatiran beliau adalah struktural: pencapaian tinggi mempunyai gelung maklum balas yang ketat dan mampu mengesan serta memperbaiki ralat yang diperkenalkan agen. Pencapaian rendah — yang outputnya boleh meningkat sepuluh kali ganda dengan bantuan agen — tidak akan mampu. Dinamik ini, peringatan Hotz, akan mempercepat penurunan kualiti purata kod yang dilancarkan: “zaman keemasan untuk beg-beg penuh slop, dan zaman gelap untuk permata kualiti.” Beliau merangkumkan dorongan untuk pengambilan agen secara meluas sebagai sebahagian daripada psikologi komersial — “Saya hampir fikir ini sejenis psyop untuk menjual agen” — dengan berhujah bahawa ketakutan tertinggal mendorong syarikat besar untuk mengambil alat sebelum sepenuhnya memahami risiko jangka panjangnya. Beliau bahkan menyebut laporan bahawa Apple sedang mendorong alat pengaturcaraan AI di seluruh organisasi kejuruteraannya dan bertanya secara tegas: “Adakah anda fikir macOS akan menjadi lebih baik atau lebih buruk dalam 2 tahun ke depan?” Di mana Hotz berada dalam perdebatan yang lebih luas Hotz meletakkan dirinya dalam apa yang disebutnya sebagai “kamp LeCun/Marcus” — sejajar dengan pemikir seperti Yann LeCun dan Gary Marcus yang melihat model bahasa besar sebagai pemerhati corak kuat yang meniru taburan kod sedia ada, bukan sistem yang berfikir dari prinsip asas. Di sisi lain, beberapa penyelidik terkemuka melihat pengaturcaraan agen sebagai perubahan mendasar. Andrej Karpathy — yang sebelum ini meragui agen pengaturcaraan pada awal 2025 — berubah pendirian selepas kemajuan model terkini dan menyertai pasukan pra-pelatihan Anthropic pada 19 Mei 2026. CEO Anthropic, Dario Amodei, telah mengatakan di Davos bahawa beberapa jurutera di syarikat itu sudah berhenti menulis kod sendiri dan kini hanya meninjau output model. Hotz melaporkan cubaan alur kerja itu dan berulang kali terpaksa menggunakan intervensi manual. Mengapa ini penting untuk pembangun kripto dan DeFi Perdebatan ini bukan akademik bagi pasukan kejuruteraan blok rantai dan kripto. Kontrak pintar, dompet, jambatan, dan infrastruktur atas-blok adalah persekitaran yang tidak memaafkan, di mana ralat halus boleh menjadi eksploit bernilai jutaan dolar. Jika kod yang dihasilkan agen memperkenalkan kecacatan sukar dikesan yang terlepas daripada proses tinjauan yang lemah, kos pengambilan meluas boleh menjadi sangat tinggi untuk sistem kripto yang kritikal dari segi keselamatan dan kewangan terdesentralisasi. Kesimpulan Blog Hotz adalah amaran tingkat praktisi yang terkenal terhadap gerakan terlalu pantas dengan pengaturcaraan agen. Kedudukannya membentuk garis putus industri yang hidup: penganut bersemangat yang percaya agen akan mengubah pembangunan perisian (dan sudah melakukannya), berbanding pesimis yang takut kepada penurunan sistematik dalam kualiti kod apabila agen dilaksanakan secara berskala. Bagi pembangun dan pasukan dalam kripto — di mana kebetulan dan kebolehaudit adalah utama — perdagangan antara kelajuan dan keselamatan belum pernah lebih bermakna.