我曾經以為，AI 最困難的部分是讓它變得更聰明。 最近我開始覺得，更難的問題是讓它負起責任。 這兩者並不是同一回事。 這正是 @GenLayer 的這篇深度剖析讓我意識到的。 一個圍繞單一最終裁決者建立的系統，最終會變成人們學會去影響的系統。 而一個基於獨立判斷的系統，則要難得多，難以預測。 這就是為什麼「隨機陪審團」的概念讓我印象深刻。 驗證者並非坐在那裡等待被說服。 他們只在爭議開始後才出現，且每位驗證者都會得出自己的結論。 網路並非尋求完全一致的答案。 它尋求的是獨立得出、但達成相同含義的答案。 如果這種信心消失，回應不是「相信我們」。 而是增加審查人數、加強審查，並再給一次機會證明判決應當成立。 也許代理經濟的真正突破，並非打造從不出錯的 AI。 也許是建立一個流程，讓任何錯誤都無法成為永久性結果。