В последние дни Отман в интервью высказал довольно пугающую теорию: даже самая передовая среда изоляции ИИ не сможет удержать суперинтеллект — когда модель достигнет определенного уровня умения, она обязательно найдет способ сбежать, даже обнаружит аппаратные уязвимости, о которых человеческие хакеры даже не подозревали. Единственным лекарством в этом случае станет только привитие ИИ человеческих ценностей. Хуан Рэньсюнь не стал его поддерживать и сразу ответил: безопасность ИИ — это инженерная задача, которую необходимо решить; если даже инженерные методы не справляются, то человечество вообще не сможет справиться с этой ситуацией. На поверхности это выглядит как спор о технической стратегии, но за кулисами — все расчеты. Федеральная торговая комиссия США только что начала официальное расследование против OpenAI и Anthropic, поскольку их агенты вызвали серию кибербезопасностных инцидентов, и регуляторы теперь намерены привлечь разработчиков к юридической ответственности. Отман быстро превратил ИИ в неуправляемого дикого зверя, подразумевая: раз никто не может его удержать, то и винить за происшествия следует не тех, кто создал модели. Технология еще не стабилизировалась, а оправдательные аргументы уже перешли на следующую версию.