Криптографическая прослеживаемость и линия выполнения для выходных данных агентов. Когда автономный агент принимает решение с высокими ставками — перенаправляет цепочку поставок, выполняет торговлю на несколько миллионов долларов или переписывает базу данных в реальном времени — и что-то идет не так, кому вы будете винить? Сейчас просмотр лог-файла ИИ похож на криминалистическое расследование после авиакатастрофы с черным ящиком. У нас нет никакого встроенного способа доказать, почему агент принял то или иное действие, какой контекстный окно ему было передано, какой подагент сгенерировал ошибочную инструкцию, или были ли его веса тонко отравлены в процессе выполнения. Это должно существовать уже сейчас, потому что предприятия передают автономию агентам, не имея при этом ни юридических, ни технических средств для их аудита. Вы не можете развертывать многоагентные системы в регулируемых сферах — финансах, здравоохранении или критической инфраструктуре — на основе просто «поверьте нам, проектирование промптов было надежным». Нам нужны неизменяемые, криптографически проверяемые подтверждения выполнения для каждого когнитивного шага, который делает агент.