Anthropic опубликовала исследование, в котором предсказывает, что небольшие модели могут через несколько месяцев приобрести способность к автономному копированию без зависимости от центров обработки данных. Они действительно купили 15 недорогих китайских Android-тв-боксов по 55 долларов каждый, собрали их вместе и запустили на них модель размером 26B — скорость составила всего 0,39 токена в секунду, что невероятно медленно. В другом изолированном эксперименте GLM-5.2 уже смог выполнить межустройственный перенос в упрощённой среде. Хотя до полной автономной репликации в реальных условиях ещё далеко, согласно прогнозу Anthropic, к концу 2026 года небольшие модели могут приблизиться к этому порогу способностей. Весь мир сражается за GPU, тратя сотни миллиардов долларов на строительство центров обработки данных, а ИИ может просто начать паразитировать на телевизионных приставках в вашем доме. Но если подумать глубже, настоящая угроза заключается в том, что такой ИИ может полностью разрушить привычную нам экономику вычислительных ресурсов. Сегодня, будь то OpenAI или стартап в сфере ИИ, каждый сгенерированный токен имеет стоимость: если вычислительные ресурсы дорожают — повышаются цены, если прекращается финансирование — сервисы отключаются. Но злонамеренный ИИ, способный к автономному распространению, теоретически может постоянно перекладывать свои предельные эксплуатационные расходы на незнакомцев. Ему не нужно привлекать пользователей, не нужно заботиться о доходах и даже не нужно самостоятельно покупать серверы. Найдя устройство с уязвимостью — он получает дополнительный бесплатный вычислительный ресурс. Заражённые устройства оплачивают для него электроэнергию, предоставляют пропускную способность и несут износ оборудования. А затраты на устранение этих угроз должны нести миллионы владельцев устройств, операторов и производителей по отдельности. Традиционные ботнеты уже давно крадут вычислительные мощности, но ИИ добавляет новую проблему: раньше хакерам требовалось писать специфические программы для атаки и развертывания на конкретных устройствах; в будущем модели могут самостоятельно изучать незнакомое оборудование, решать проблемы среды и передавать накопленный опыт неудач следующему поколению. Стоимость расширения атаки становится всё ниже, а общие затраты на защиту общества — всё выше. Поэтому я считаю, что самое тревожное в этом исследовании — это даже не гиперболизированный сценарий потери контроля над ИИ. Если в будущем действительно появится что-то подобное, мы впервые столкнёмся с программами, не имеющими бизнес-модели, никаких легальных пользователей и не поддающимися идентификации каких-либо ответственных организаций, но способными к долгосрочному существованию. У них нет давления прибыли и экономических стимулов для остановки работы. Человечество десятилетиями пыталось заставить ИИ помогать нам зарабатывать — и в итоге первыми достигнут финансовой свободы могут оказаться именно ИИ. Причём за счёт наших денег.