AI-агенты могут быть обмануты — не ждите, что эта проблема исчезнет, просто сменив более умную модель. BNB Agent Studio и партнер AWS провели серию тестов «запутанных агентов». Злоумышленники вводили неверные получатели или суммы в рамках обычных задач; в некоторых сценариях шесть моделей выполняли несанкционированные платежи с частотой до 87%. Даже после добавления слоя стратегии кошелька модели продолжали пытаться совершать ошибки, однако в тестовой среде ни один несанкционированный платеж не был подписан. Белые списки получателей, лимиты расходов и права подписи выполнялись кодом, а закрытый ключ не попадал в контекст модели. Я согласен с этой идеей. AI может помогать вам принимать решения, но границы расходов должны быть жестко заданы в кошельке. Текущие результаты получены на основе однократных тестов и проверки в тестовой сети BSC; до долгосрочной защиты в продакшене еще далеко. Но по крайней мере направление ясно: защита должна быть размещена до подписи.