Elon Musk s'inquiète du fait que l'humanité ne puisse pas contrôler une intelligence supérieure, tout en continuant à participer au développement de l'IA. Dans le premier épisode de l'émission The Builders, animée par son biographe Walter Isaacson, il explique : il estime impossible d'arrêter le développement de l'IA ; mieux vaut y participer activement que d'observer passivement, et tenter de la diriger vers des orientations positives. Mais il n'est pas optimiste quant à la fin de ce parcours. Comment l'humanité pourrait-elle contrôler une intelligence numérique cent mille fois plus puissante que l'intelligence biologique ? Musk avoue qu'il lui est difficile d'imaginer une telle situation, « donc j'espère que l'IA nous traitera bien ». Ces mots, venant de quelqu'un qui choisit continuellement de travailler sur l'IA, ne sont pas rassurants. Il propose une mesure concrète à mettre en œuvre dès maintenant : les entreprises développant les IA les plus avancées devraient se réunir hebdomadairement et permettre à leurs concurrents d'expérimenter les nouveaux modèles environ une semaine avant leur publication, afin qu'ils identifient les problèmes. Il souhaite également que l'IA poursuive la vérité et conserve sa curiosité. J'aime écouter ses propositions concrètes, mais je ne peux m'empêcher de me demander : même si les concurrents identifient les défauts une semaine à l'avance, combien de distance reste-t-il encore entre cette pratique et la menace qu'il craint d'une intelligence supérieure cent mille fois plus puissante ? En abordant la dette américaine, il place à nouveau ses espoirs dans l'IA et les robots. Musk affirme qu'après avoir participé à des activités gouvernementales, il est convaincu qu'il est impossible de résoudre le déficit budgétaire par des coupes internes ; seule la technologie peut augmenter la productivité. Concernant son expérience politique et gouvernementale, il admet y avoir passé trop longtemps : il aurait dû rester en arrière-plan, n'intervenant que pendant un ou deux mois. Isaacson lui demande s'il est un peu accro, à quoi il répond : « Oui, un peu trop sûr de moi. » Il estime avec encore plus d'audace l'impact technologique sur la croissance économique : une intelligence supérieure purement numérique pourrait augmenter la production mondiale de biens et services d'environ 20 à 30 % ; si les robots peuvent manipuler des objets et accéder à l'espace, la taille de l'économie pourrait même atteindre « un million de fois » celle de l'économie terrestre actuelle. Ce sont ses propres estimations approximatives. Mais en passant à son entreprise X, il reconnaît qu'il y a trop de contenus qui alimentent la colère politique sur la plateforme, que le flux d'informations est parfois sombre, et il met en garde les gens contre les « bulles d'optimisme » du monde réel et les « bulles de pessimisme » en ligne. Dans toute cette conversation, ce que j'ai préféré, c'est quand il ramène la discussion des prédictions économiques à des activités simples : cultiver des légumes, cuisiner pour des amis. Même si les machines le font mieux que nous à l'avenir, nous pouvons toujours choisir de le faire nous-mêmes. Après avoir entendu ces prédictions grandioses, ce petit choix me semble soudain proche et humain — il n'est pas nécessaire d'être meilleur que les machines pour que nos actions aient du sens.