Найбільший ризик у штучному інтелекті, що керує економікою, — не в тому, що моделі роблять помилки. Кожна модель іноді буде неправа. Справжній ризик — надавати одній моделі повноваження приймати остаточне рішення. Саме тому ця ідея від @GenLayer привернула мою увагу. Більшість систем намагаються покращити одного суддю. GenLayer змінює структуру. Суперечка розглядається незалежними валідаторами, які використовують різні моделі ШІ, а потім мережа перевіряє, чи прийшли вони до однакового висновку, а не чи згенерували однакові слова. Ця різниця має значення. Різні моделі можуть пояснити однакове міркування абсолютно різними способами. Шукати спільний зміст набагато складніше маніпулювати, ніж очікувати ідентичні вихідні дані. Також мені подобається процес апеляції. Якщо рішення сперечатимуться, справу переглядає більша присяжна. Впевненість здобувається завдяки більшому числу незалежних перевірок, а не просто тому, що одна модель першою висловилася. Коли агенти ШІ почнуть самостійно обробляти контракти, платежі та переговори, довіра не може залежати від одного постійного джерела суддівства. Вона має походити з процесу, який залишається достовірним навіть тоді, коли окремі моделі не погоджуються або роблять помилки. Це набагато ближче до того, як має працювати стійке прийняття рішень.