La confiance est bon marché. La confiance est exactement ce que chaque mauvaise décision semble dire juste avant d’échouer. Ce qui mérite ma confiance, c’est un processus qui suppose que toute réponse unique pourrait être erronée. C’est pourquoi @GenLayer me semble différent. Au lieu de demander à une seule IA d’être plus intelligente que tout le monde, il demande à des validateurs indépendants d’atteindre leurs propres conclusions sans voir d’abord le travail des autres. Le réseau vérifie ensuite si ces conclusions portent le même sens, et non les mêmes mots. Si elles restent en désaccord, la conversation ne s’arrête pas. Un plus grand jury intervient. Chaque tour ajoute plus de rigueur, tandis que chaque validateur a une valeur réelle en jeu pour obtenir la bonne réponse. L’économie agente ne s’effondrera pas parce que l’IA fait des erreurs. Elle s’effondrera si les erreurs deviennent impossibles à contester. Les systèmes qui anticipent le désaccord sont généralement ceux que les gens peuvent faire confiance le plus longtemps. Quel type de décision de l’IA devrait toujours rester ouvert à contestation, peu importe à quel point la première réponse semble sûre ?