Человечество движется к ИИ общего назначения полным ходом, но ничего не сделало для подготовки к дню после. Не к части «Терминатора». К скучной части: все системы, в которых мы живем — закон, страхование, банковская сфера, программное обеспечение — защищены экономикой, а не стенами. Атака на них должна стоить дороже, чем приносит выгоды, поэтому известный объем злоупотреблений просто учтен в цене, а остальное остается неиспользованным, потому что его поиск требует времени у умного человека. ИИ делает это время бесплатным, и он работает круглосуточно. Математика, на которой были построены все системы, только что изменилась. Код был безопасен, если умные люди проверяли его и ничего не находили. Теперь любой может направить агента на него — и он будет искать бесконечно. Модели Anthropic обнаружили 2300 уязвимостей в лучших открытых проектах этим летом. Одна из них была эксплуатирована через четыре дня после раскрытия. Система выставления счетов в больницах предполагала, что никто не будет сканировать все лабораторные показатели каждого пациента в поисках дополнительного кода диагноза. Инструменты ИИ для кодирования делают именно это. Blue Cross Blue Shield сообщает, что это добавило почти 1 млрд долларов к своим заявкам за два года, причем 70% из них появились без каких-либо изменений в лечении. Проценты по наличным деньгам предполагают, что большинство людей не будут переводить средства в казначейские облигации, потому что это немного неудобно. Агент никогда не испытывает неудобств. Юридические, медицинские, налоговые и государственные формы: все они рассчитаны на трение. Это трение было стеной — и стена исчезла. Одна отрасль уже пятнадцать лет строит именно такой мир: предполагает, что каждый участник умен, эгоистичен и неутомим, и проектирует систему так, чтобы она все равно производила что-то полезное. Именно такова дисциплина проектирования блокчейна. Это было странным хобби — и вот оно вот-вот станет единственным способом создавать что-либо, что выдержит испытание временем.