Eu costumava achar que a parte mais difícil da IA era torná-la mais inteligente. Recentemente, comecei a pensar que o problema mais difícil é torná-la responsabilizável. Essas não são a mesma coisa. Foi isso que me fez perceber esse aprofundamento de @GenLayer. Um sistema construído em torno de um único juiz final acabará se tornando um sistema que as pessoas aprendem a influenciar. Um sistema construído em torno de julgamentos independentes permanece muito mais difícil de prever. É por isso que a ideia do júri aleatório me chamou a atenção. Os validadores não estão sentados esperando ser convencidos. Eles só existem após o início da disputa, e cada um chega à sua própria conclusão. A rede não está procurando respostas idênticas. Ela está procurando respostas independentes que cheguem ao mesmo significado. Se essa confiança desaparecer, a resposta não é “confiem em nós”. É mais revisores, mais escrutínio e outra chance de provar que o veredito merece permanecer. Talvez o verdadeiro avanço para a economia agente não seja construir IA que nunca erre. Talvez seja construir um processo onde nenhum erro consiga se tornar permanente.