Джордж Хотц предупреждает, что ИИ-агенты для написания кода представляют серьезную угрозу для криптовалют и DeFi

Джордж Хотц — хакер, который взломал iPhone в 17 лет и обратно спроектировал PlayStation 3 перед судом с Sony, — выдал прямое предупреждение: массовое использование ИИ-агентов для написания кода может стать «одной из самых дорогостоящих ошибок в истории этой области». В воскресном посте под названием «Вечный Sloptember» Хотц утверждает, что агентные инструменты для программирования на самом деле не «программируют» ни в каком надежном смысле. «Агенты не могут программировать, и всё дольше и дольше требуется, чтобы осознать, что они не могут», — написал он. Его основной тезис: эти модели генерируют вывод, который выглядит правдоподобно, но тонко и всё чаще становится неправильным, а эти недостатки становятся всё труднее обнаруживать по мере улучшения статистической беглости моделей. Что он тестировал и что обнаружил: - Хотц пришёл к этому выводу не благодаря мысленным экспериментам. Он шесть месяцев использовал агентов в реальной работе: расширял части Tinygrad (его открытой фреймворк для глубокого обучения) и полностью обратно спроектировал прошивку USB-PCIe-чипа. - Его опыт: агенты «создают всё прогрессивное в начале» — они быстро помогают пройти очевидные этапы, но затем оставляют вас с рычагом слот-машины, где ожидается, что завершающая, надёжная работа произойдёт сама. На практике это часто не происходит: вам приходится постоянно прибегать к ручным исправлениям. Риск для организации, а не просто вопрос эго Хотц отвергает идею, что его критика основана на профессиональном племенном сознании. Он отмечает, что предыдущие автоматизированные инструменты (например, фаззеры вроде AFL) находили больше багов, чем люди, не вызывая при этом такого же панического отклика, и что игры, доминируемые ИИ (шахматы, го), процветают. Его опасение структурное: высококвалифицированные специалисты имеют жёсткие обратные связи и могут выявлять и исправлять ошибки, внесённые агентами. Менее квалифицированные — чей объём вывода может увеличиться в десять раз с помощью агентов — не смогут. Эта динамика, предупреждает Хотц, ускорит падение среднего качества выпускаемого кода: «золотая эра для тонн хлама и тёмный век для алмазов качества». Он рассматривает продвижение массового внедрения агентов как частично коммерческую психологию — «я почти думаю, что это своего рода психооперация по продаже агентов» — утверждая, что страх отстать заставляет крупные компании внедрять инструменты до полного понимания последующих рисков. Он даже упоминает отчёты о том, что Apple продвигает ИИ-инструменты для написания кода по всей своей инженерной организации, и прямо спрашивает: «Вы думаете, macOS станет лучше или хуже в ближайшие два года?» Где Хотц стоит в более широкой дискуссии Хотц позиционирует себя в так называемом «лагере Лекюна/Маркуса» — в соответствии с мыслителями вроде Янна Лекюна и Гэри Маркуса, которые рассматривают крупные языковые модели прежде всего как мощные шаблонные системы, имитирующие существующие распределения кода, а не как системы, рассуждающие на основе первых принципов. С другой стороны, некоторые ведущие исследователи считают агентное программирование фундаментальным сдвигом. Андрея Карпати — ранее скептически настроенный к агентам для программирования в начале 2025 года — изменил свою позицию после недавних достижений моделей и присоединился к команде предварительного обучения Anthropic 19 мая 2026 года. Генеральный директор Anthropic Дарио Амодей заявил на Давосе, что некоторые инженеры компании уже перестали писать код самостоятельно и теперь проверяют вывод моделей. Хотц сообщает, что пробовал эту рабочую схему и многократно прибегал к ручным вмешательствам. Почему это важно для разработчиков криптовалют и DeFi Эта дискуссия не академична для команд блокчейн- и криптографического инжиниринга. Смарт-контракты, кошельки, мосты и инфраструктура на цепочке — это непрощающие среды, где тонкие ошибки могут превратиться в эксплойты на миллионы долларов. Если код, сгенерированный агентами, вводит труднообнаружимые недостатки, которые проскальзывают мимо слабых процессов проверки, стоимость массового внедрения может быть особенно высокой для децентрализованных финансов и критически важных для безопасности криптосистем. Итог Блог Хотца — это высокопрофильное предупреждение от практика против слишком быстрого перехода к агентному программированию. Его позиция формирует живую отраслевую границу: энтузиасты, считающие, что агенты трансформируют разработку ПО (и уже это делают), против скептиков, опасающихся системного ухудшения качества кода при масштабном внедрении агентов. Для разработчиков и команд в криптоиндустрии — где важны корректность и проверяемость — компромисс между скоростью и безопасностью никогда не был столь значимым.