Людство рухається до АГІ повною швидкістю, але нічого не зробило для підготовки до дня після. Не тієї частини з «Термінатором». Тієї втомлюючої: усі системи, у яких ми живемо — закон, страхування, банківська справа, програмне забезпечення — захищені економікою, а не стінами. Атакувати їх має коштувати більше, ніж вони приносять, тому відомий обсяг зловживань просто враховується в ціні, а решта залишається невикористаною, бо їх знаходження вимагає часу розумної людини. Штучний інтелект робить цей час безкоштовним, і він працює цілий день. Математика, на якій були побудовані всі системи, просто змінилася. Код був безпечним, якщо розумні люди перевіряли його і нічого не знаходили. Тепер будь-хто направляє агента на нього — і він шукає назавжди. Моделі Anthropic знайшли 2 300 уразливостей у найкращих відкритих проектах цим літом. Одну з них експлуатували через 4 дні після розкриття. Система обліку в лікарнях припускала, що ніхто не буде сканувати всі лабораторні значення кожного пацієнта на пошук додаткового коду діагнозу. Це роблять інструменти AI-кодування. Blue Cross Blue Shield стверджує, що це додало майже $1 млрд до своїх вимог за два роки, і 70% з них були без будь-яких змін у лікуванні. Відсотки за готівку базуються на припущенні, що більшість людей не перекладатимуть гроші в казначейські облігації, бо це трохи незручно. Агент ніколи не втомлюється. Юридичні, медичні, податкові, урядові форми: усі вони цінуються за рівень тертя. Це тертя було стіною — і стіна зникла. Одна галузь протягом 15 років будувала саме такий світ: припустити, що кожен учасник розумний, егоїстичний і не втомлюється, і спроектувати систему так, щоб вона все ще породжувала щось добре. Ось що таке дисципліна проектування блокчейну. Це був дивний хобі — і він майже став єдиним способом будувати щось, що тримається.