Saya dulu fikir bahagian paling sukar dalam AI ialah membuatnya lebih pintar. Baru-baru ini saya mula fikir bahawa masalah yang lebih sukar ialah membuatnya bertanggungjawab. Kedua-duanya bukan perkara yang sama. Itulah yang membuat saya sedar melalui analisis mendalam dari @GenLayer. Sistem yang dibina berdasarkan satu hakim akhir akhirnya akan menjadi sistem yang orang belajar untuk mempengaruhi. Sistem yang dibina berdasarkan penilaian bebas tetap sukar untuk diramalkan. Itulah sebabnya idea juri rawak menarik perhatian saya. Validator tidak duduk menunggu untuk diyakinkan. Mereka hanya wujud selepas pertikaian bermula, dan setiap satu mencapai kesimpulan sendiri. Rangkaian bukan mencari jawapan yang serupa. Ia mencari jawapan bebas yang sampai pada maksud yang sama. Jika keyakinan itu hilang, responsnya bukanlah "percayalah pada kami." Ia ialah lebih banyak pemeriksa, lebih banyak pengawasan, dan peluang lain untuk membuktikan bahawa keputusan itu layak dipertahankan. Mungkin terobosan sebenar bagi ekonomi agen bukanlah membina AI yang tidak pernah salah. Mungkin ia ialah membina proses di mana tiada kesilapan menjadi kekal.