Раньше я думал, что самое сложное в ИИ — сделать его умнее. В последнее время я начал считать, что более сложная задача — сделать его подотчётным. Это не одно и то же. Это именно то, что заставило меня задуматься глубже после материала от @GenLayer. Система, построенная вокруг одного финального судьи, в конечном итоге превратится в систему, которую люди научатся влиять. Система, основанная на независимых суждениях, остаётся гораздо труднее предсказуемой. Вот почему идея случайного жюри особенно выделилась для меня. Валидаторы не сидят и не ждут, пока их убедят. Они появляются только после начала спора, и каждый из них приходит к собственному выводу. Сеть ищет не одинаковые ответы. Она ищет независимые ответы, приводящие к одному и тому же смыслу. Если эта уверенность исчезает, ответ — не «поверьте нам». А — больше рецензентов, больше проверок и ещё один шанс доказать, что вердикт заслуживает остаться в силе. Возможно, настоящий прорыв в агентной экономике — не в создании ИИ, который никогда не ошибается. Возможно, он в создании процесса, где ни одна ошибка не может стать окончательной.