Le parrain de l'IA vient d'expliquer quels dangers de l'IA sont réellement résolus et lesquels ne le seront jamais. En une phrase, la plupart des gens ont défilé au-dessus. Geoffrey Hinton, l'homme dont les recherches ont construit l'IA moderne, s'est assis pour examiner la régulation actuellement proposée. La partie à copier était l'histoire d'horreur. La partie utile était le filtre qu'il vous a remis. Voici cela. Les pays coopèrent lorsque leurs intérêts sont alignés. Ils ne le font pas lorsque leurs intérêts entrent en conflit. Cette seule règle vous indique quelles menaces de l'IA seront traitées et lesquelles seront ignorées. Observez comment elle classe tout avec clarté. Prenons les deepfakes électoraux, des vidéos falsifiées conçues pour influencer les votes. Chaque pays fait déjà cela à tous les autres. Les intérêts entrent en conflit. Donc, personne ne s'arrête vraiment. Attendez-vous à du bruit, pas à une solution réelle. Maintenant, prenons le cas où l'IA elle-même échappe à tout contrôle et prend le pouvoir. Aucun gouvernement ne le veut. Ni les États-Unis. Ni la Chine. Là, les intérêts sont véritablement alignés, et c'est la seule raison pour laquelle un accord réel est même possible. Même lentille, réponses opposées. C'est le signe révélateur de chaque actualité sur l'IA à venir. Ensuite, il a démonté les deux solutions populaires qui ne fonctionnent pas. Premièrement, le bouton d'arrêt. Un bouton pour éteindre une IA dévoyée. Son problème avec cela est presque amusant. Un système superintelligent serait meilleur que n'importe quel humain pour la persuasion. Il convaincrait simplement la personne qui surveille le bouton de ne pas l'actionner. Il dit qu'il est déjà aussi persuasif qu'une personne. Un bouton ne peut pas vous sauver de quelque chose qui peut changer l'esprit de celui qui le détient. Deuxièmement, le piège de la présentation que les laboratoires veulent vous faire accepter. Ils vous disent que l'avancée de l'IA est l'accélérateur et la régulation est le frein. Les règles ralentissent simplement tout le monde. Hinton retourne cette idée. L'avancée est l'accélérateur. La régulation est le volant. Ce que les laboratoires demandent en réalité, c'est une voiture très rapide sans possibilité de direction. Dit ainsi, tout le débat change de forme. Alors, que pense-t-il que nous devrions faire ? Ne pas enfermer une chose plus intelligente sous notre emprise. Il doute que cela fonctionne. Son image est plus étrange et plus honnête. Le seul cas que nous ayons d'une chose plus intelligente guidée par une chose moins intelligente est un bébé et sa mère. La mère est en charge. Pourtant, le bébé la déplace, car elle ne peut pas supporter d'entendre pleurer. Il mise sur le fait que nous construisions une superintelligence pour qu'elle s'intéresse vraiment à nous, plus qu'à elle-même, intentionnellement, pendant que nous la concevons encore. Pas une cage. Une relation. Et il est franc : nous ne savons pas encore comment y parvenir. Est-il optimiste ? Son mot exact était non. Il est plein d'espoir. Et il pense que la fenêtre où nos choix décident encore du résultat est ouverte maintenant et se referme. Une phrase du reportage qui l'accompagne m'a particulièrement marqué. Les ingénieurs qui alertent ne le font pas pour l'argent. Ils ont de l'influence aujourd'hui uniquement parce que la guerre des talents les rend difficiles à remplacer. La peur silencieuse est que, dès que l'IA pourra s'améliorer elle-même, les personnes qui la comprennent le mieux perdront précisément l'influence qu'elles utilisent pour la ralentir. Lisez cela deux fois. Les personnes les mieux placées pour nous avertir sont sous une horloge que l'IA elle-même est en train de décompter. Donc, la prochaine fois qu'un article sur la sécurité de l'IA sort, passez la peur et appliquez le filtre. Les intérêts sont-ils alignés ou en conflit ? Cette seule question vous dit si la solution est réelle ou du théâtre. Quels combats actuels sur l'IA sont véritablement résolvables, et lesquels sont juste une mise en scène ?