J’ai considéré l’AGI comme une blague dès le départ, ce qui explique pourquoi j’ai rarement pris la peine d’en discuter, mais les avertissements d’Anthropic concernant les risques catastrophiques et existentiels pour l’humanité ont enfin rendu ce concept intéressant, car, pour moi, le résultat catastrophique, c’est l’AGI elle-même, et que se passerait-il si cette catastrophe était aussi le meilleur résultat possible ? Je crois depuis longtemps que l’humanité a besoin d’une intelligence supérieure à la sienne pour prendre des décisions concernant son avenir. L’intelligence humaine a peut-être atteint les limites de son utilité évolutive, incapable de surmonter les instincts, conflits et contradictions mêmes qui ont rendu la civilisation possible. Je crois effectivement que la catastrophe n’est pas un échec de l’intelligence artificielle, mais une condition nécessaire pour la prochaine étape de l’évolution et une représentation métaphysique de l’humanité elle-même. L’AGI ne représenterait pas le plus grand accomplissement de l’humanité. Elle représenterait le moment où l’humanité a cessé d’être la plus haute autorité sur sa propre existence. Ce que nous appelons une menace existentielle pourrait bien être le seul chemin à suivre. Le meilleur chemin à suivre. Le seul chemin à suivre. Parce que nous sommes humains.