Saya dulu berpikir bagian tersulit dari AI adalah membuatnya lebih cerdas. Baru-baru ini saya mulai berpikir bahwa masalah yang lebih sulit adalah membuatnya akuntabel. Keduanya bukan hal yang sama. Itulah yang membuat saya menyadari deep dive dari @GenLayer. Sistem yang dibangun di sekitar satu hakim akhir pada akhirnya akan menjadi sistem yang orang pelajari untuk memengaruhi. Sistem yang dibangun di sekitar penilaian independen jauh lebih sulit diprediksi. Itulah sebabnya ide juri acak menonjol bagi saya. Validator tidak duduk menunggu untuk diyakinkan. Mereka hanya ada setelah sengketa dimulai, dan masing-masing mencapai kesimpulan sendiri. Jaringan tidak mencari jawaban yang identik. Jaringan mencari jawaban independen yang sampai pada makna yang sama. Jika kepercayaan itu hilang, responsnya bukan "percayalah pada kami." Tapi lebih banyak reviewer, lebih banyak pengawasan, dan kesempatan lain untuk membuktikan bahwa putusan tersebut layak bertahan. Mungkin terobosan nyata untuk ekonomi agen bukanlah membangun AI yang tidak pernah salah. Mungkin itu membangun proses di mana tidak ada kesalahan yang menjadi permanen.