Раніше я вважав, що найскладніша частина ШІ — це зробити його розумнішим. Останнім часом я почав думати, що складніша проблема — це зробити його відповідальним. Це не одне й те саме. Саме це мені зрозуміло завдяки глибокому аналізу від @GenLayer. Система, побудована навколо одного остаточного судді, рано чи пізно перетвориться на систему, яку люди навчаться впливати. Система, побудована на незалежних судженнях, залишається набагато складнішою для передбачення. Саме тому ідея випадкового журі звернула на себе мою увагу. Валідатори не сидять там і чекають, поки їх переконають. Вони з’являються лише після початку спору, і кожен з них приходить до власного висновку. Мережа не шукає однакових відповідей. Вона шукає незалежні відповіді, які приходять до одного й того ж змісту. Якщо ця впевненість зникає, відповідь не «довіряйте нам». Це більше рецензентів, більше перевірок і ще одна можливість довести, що вирок заслуговує на підтвердження. Можливо, справжній прорив для агентної економіки — не створення ШІ, який ніколи не помиляється. Можливо, це створення процесу, де жодна помилка не отримує права стати остаточною.