La confianza es barata. La confianza es exactamente lo que suena toda mala decisión justo antes de fallar. Lo que gana mi confianza es un proceso que asume que cualquier respuesta única podría estar equivocada. Por eso @GenLayer me parece diferente. En lugar de pedirle a una sola IA que sea más inteligente que todos los demás, pide a validadores independientes que lleguen a sus propias conclusiones sin ver primero el trabajo de los demás. La red luego verifica si esas conclusiones tienen el mismo significado, no la misma redacción. Si aún así discrepan, la conversación no termina. Un jurado más grande interviene. Cada ronda añade más escrutinio, mientras que cada validador tiene un valor real en stake por obtener la respuesta correcta. La economía agente no se romperá porque la IA cometa errores. Se romperá si los errores se vuelven imposibles de cuestionar. Los sistemas que esperan desacuerdos suelen ser los que la gente puede confiar más tiempo. ¿Qué tipo de decisión de IA siempre debe permanecer abierta a cuestionamiento, sin importar cuán confiada parezca la primera respuesta?