كنت أعتقد أن أصعب جزء في الذكاء الاصطناعي هو جعله أكثر ذكاءً. في الآونة الأخيرة، بدأت أعتقد أن المشكلة الأصعب هي جعله خاضعًا للمساءلة. هذان الشيئان ليسا نفس الشيء. هذا ما أدركني به التحليل العميق من @GenLayer. النظام المبني حول قاضٍ واحد نهائي سيصبح في النهاية نظامًا يتعلم الناس التأثير عليه. أما النظام المبني على أحكام مستقلة، فهو يظل أصعب بكثير في التنبؤ به. لهذا السبب لفتني فكرة هيئة المحلفين العشوائية. المُدققون لا يجلسون هناك ينتظرون إقناعهم. إنهم يظهرون فقط بعد بدء النزاع، وكل واحد منهم يصل إلى استنتاجه الخاص. الشبكة لا تبحث عن إجابات متطابقة. إنها تبحث عن إجابات مستقلة تصل إلى نفس المعنى. إذا اختفى هذا الثقة، فإن الرد ليس "ثقوا بنا". بل هو مزيد من المراجعين، ومزيد من المراجعة، وفرصة أخرى لإثبات أن الحكم يستحق الاستمرار. ربما لا يكون الإنجاز الحقيقي للاقتصاد الوكيلي هو بناء ذكاء اصطناعي لا يخطئ أبدًا. ربما هو بناء عملية لا تسمح لأي خطأ أن يصبح دائمًا.