Manusia sedang berlari menuju AGI dengan kecepatan penuh, tetapi sama sekali tidak mempersiapkan diri untuk hari setelahnya. Bukan bagian Terminator. Bagian yang membosankan: setiap sistem yang kita jalani—hukum, asuransi, perbankan, perangkat lunak—diamankan oleh ekonomi, bukan oleh dinding. Menyerangnya harus biayanya lebih tinggi daripada keuntungannya, sehingga sejumlah penyalahgunaan yang diketahui secara langsung dihitung dalam harga, dan sisanya tetap tidak dieksploitasi karena menemukannya membutuhkan waktu orang cerdas. AI membuat waktu itu gratis, dan berjalan sepanjang hari. Matematika yang menjadi dasar setiap sistem baru saja berubah. Kode aman jika orang cerdas memeriksanya dan tidak menemukan apa-apa. Sekarang, siapa pun bisa menunjukkan agen kepadanya, dan agen itu akan terus memeriksa selamanya. Model Anthropic menemukan 2.300 kerentanan dalam proyek open-source terbaik musim panas ini. Satu di antaranya dieksploitasi empat hari setelah diungkapkan. Tagihan rumah sakit mengasumsikan tidak ada yang akan memindai setiap nilai laboratorium untuk setiap pasien demi mencari kode diagnosis tambahan. Alat coding AI melakukannya. Blue Cross Blue Shield mengatakan hal ini menambahkan hampir $1 miliar ke klaimnya dalam dua tahun, dan 70% di antaranya datang tanpa perubahan dalam perawatan. Bunga uang tunai mengasumsikan kebanyakan orang tidak akan memindahkan uang ke Treasury karena sedikit merepotkan. Sebuah agen tidak pernah merasa terganggu. Formulir hukum, medis, pajak, dan pemerintahan: semua dihargai berdasarkan hambatan. Semua hambatan itu adalah dinding, dan dindingnya telah hilang. Satu industri telah membangun untuk dunia tepat seperti ini selama lima belas tahun: asumsikan setiap peserta cerdas, egois, dan tak kenal lelah, dan rancang sistem sehingga tetap menghasilkan sesuatu yang baik. Itulah yang dimaksud dengan disiplin desain blockchain. Dulu itu hobi aneh, dan sekarang akan menjadi satu-satunya cara untuk membangun apa pun yang bertahan.