DecentMem повышает точность на 24% и снижает использование токенов в многагентных системах

Согласно наблюдениям Beating, команда Кембриджского и Чикагского университетов открыла многопроцессорную архитектуру памяти DecentMem, заменяющую глобальную общую память на децентрализованную частную память. Традиционные системы обычно используют общую память, но после чтения одного и того же контекста агенты часто сходятся к похожим путям принятия решений, и преимущество разделения труда исчезает. Основная идея DecentMem заключается в том, что сотрудничество должно опираться на когнитивные различия — только сохранение частной памяти позволяет поддерживать взаимодополняющие пути. DecentMem позволяет агентам поддерживать две отдельные пулы памяти: пул использования (E-pool), хранящий исторический опыт и записи рефлексии, и пул исследования (X-pool), который постоянно генерирует новые гипотезы. Онлайн-решатель динамически регулирует веса обращения к двум пулам на основе поэтапной оценки, предоставляемой крупной языковой моделью-судьей, помогая агентам самостоятельно балансировать между эксплуатацией и исследованием. Теоретически саморазвивающийся поиск моделируется как случайное блуждание на графе, что обеспечивает глобальную достижимость и позволяет агентам выходить из локальных оптимумов. В тестах на AutoGen, DyLAN и AgentNet DecentMem превзошел лучшую централизованную базовую модель в среднем на 8,6%, а в наилучших сценариях — до 23,8%, одновременно сократив потребление токенов вдвое. Исследование показало, что чем больше сотрудничество зависит от импровизированных обсуждений, а не от фиксированных процедур, тем явнее проявляются преимущества децентрализации: в рамках фреймворка DyLAN, где акцент делается на свободных переговорах, количество итераций, необходимых для достижения того же уровня производительности, сократилось примерно на 60%, а скорость сходимости увеличилась примерно в 2,5 раза.