Если ИИ просто ошибётся в одном вопросе, это может потратить лишь несколько минут. Но если у него есть доступ к кошельку, одна ошибка может стоить вам 200 000 долларов. В мае 2026 года кто-то спрятал команду перевода в морзянке в посте на X. Grok расшифровал её, и Bankrbot незамедлительно выполнил транзакцию. Вот в чём, по моему мнению, заключается главный риск, который нужно учитывать в AI-агентах: он может воспринимать команды, скрытые в информации, как приказы, которым нужно подчиняться. У Greyboxing от @GenLayer есть одна особенно примечательная особенность. Каждый валидатор сначала обрабатывает входные данные с помощью собственной скрытой защиты, а затем передаёт их своей модели ИИ для анализа. Даже если одна из моделей будет обманута, другие валидаторы смогут заблокировать ошибочное решение путём голосования. Я считаю, что такой многоуровневый подход к защите будет становиться всё более важным. Когда ИИ начнёт читать письма, просматривать веб-сайты и даже управлять нашими активами, настоящая проблема безопасности будет заключаться не только в том, насколько он умен, но и в том, сможет ли он отличить информацию от команды. Если ваш AI-агент может управлять кошельком, вы бы доверили ему прямой доступ к любым публичным постам?