Криптографічне походження та лінія виконання для виводів агентів. Коли автономний агент приймає рішення з високим ризиком — перенаправляє ланцюжок поставок, виконує угоду на мільйони доларів або переписує живу виробничу базу даних — і це зламується, кого ви звинувачуєте? Зараз переглядати лог-файл ШІ — це те саме, що проводити розслідування чорної скриньки після авіакатастрофи. У нас немає жодного вбудованого способу довести, чому агент прийняв певну дію, який контекстний вікно йому було надано, який підагент сгенерував погану інструкцію чи чи його ваги були підкраденою під час виконання. Це має існувати зараз, бо підприємства надають автономність агентам, перш ніж у них з’являться юридичні чи технічні засоби для аудиту. Ви не можете розгортати багатоагентні системи у регульованих сферах — фінансах, охороні здоров’я чи критичній інфраструктурі — на основі «повірте нам, підготовка промптів була надійною». Нам потрібні незмінні, криптографічно перевірні квитанції про виконання для кожного когнітивного кроку, який робить агент.