Daha önce AI'nın en zor kısmının onu daha akıllı hale getirmek olduğuna inanırdım. Son zamanlarda daha zor sorunun onu sorumlu hale getirmek olduğunu düşünmeye başladım. Bu iki şey aynı şey değil. Bu, @GenLayer'in derinlemesine analizinin beni fark ettirdiği nokta. Bir son yargıç etrafında inşa edilen bir sistem, zamanla insanların etkilemeye öğrendiği bir sisteme dönüşecektir. Bağımsız yargı etrafında inşa edilen bir sistem ise çok daha öngörülemez kalır. Bu yüzden rastgele jüri fikri benim için dikkat çekiciydi. Doğrulayıcılar, ikna olmaya beklemek için orada oturmuyorlar. Onlar yalnızca anlaşmazlık başladığında var olur ve her biri kendi sonucuna varır. Ağ, aynı cevaplar aramıyor. Aynı anlama ulaşan bağımsız cevaplar arıyor. Bu güven kaybolduğunda, yanıt "bize güvenin" değil, daha fazla inceleyici, daha fazla denetim ve kararın kalıcı olmaya değer olduğunu kanıtlamak için bir başka şans oluyor. Belki de ajans ekonomisi için gerçek atılım, hiçbir şeyi yanlış yapmayan bir AI inşa etmek değil. Belki de hiçbir hatanın kalıcı hale gelmesine izin vermeyen bir süreç inşa etmek.