Якщо штучний інтелект просто неправильно відповідає на одне питання, це може витратити лише кілька хвилин. Але якщо він має доступ до гаманця, одна помилка може коштувати вам 200 000 доларів США. У травні 2026 року хтось приховав команду переказу в морзянці у пості на X. Grok розшифрував її, і Bankrbot безпосередньо виконав цю транзакцію. Ось чому я вважаю найважливішим ризиком для AI Agent: він може сприймати команди, приховані в інформації, як накази, які слід виконувати. У Greyboxing від @GenLayer є дуже цікавий дизайн. Кожен валідатор спочатку перетворює вхідні дані за допомогою власного прихованого захисту, а потім передає їх своїй моделі ШІ для аналізу. Навіть якщо одна з моделей буде обманута, інші валідатори зможуть заблокувати помилкове рішення за допомогою голосування. Я вважаю, що такий багатошаровий захист стане все більш важливим. Коли ШІ почне читати листи, переглядати веб-сайти і навіть керувати нашими активами, справжня проблема безпеки — це не лише те, наскільки він розумний, а й чи здатний він розрізняти інформацію та команди. Якщо ваш AI Agent може керувати гаманцем, чи ви б хотіли, щоб він безпосередньо читав будь-які публічні пости?