Auteur : Byron Gilliam (The Breakdown)
Traduction : Deep潮 TechFlow
Lecture approfondie de Shenchao : Lorsque les agents IA commenceront à dominer les transactions sur le marché, les investisseurs humains pourraient ne plus jamais comprendre la logique derrière les signaux de prix. L'économiste de Princeton Brunnermeier a avancé une proposition qui semble rétrograde mais qui pourrait sauver la situation : conserver une zone de transaction réservée uniquement aux humains, en tant que système de secours pour l'ensemble du système financier. Cela constitue un rappel pour chaque personne dépendant de la fixation des prix sur la confiance et la vulnérabilité.
Une fois par an, je me rends avec quelques collègues depuis l’investment bank où je travaillais cette année-là, depuis les gratte-ciels brillants de Canary Wharf, jusqu’à une région sauvage et inconnue du sud de Londres.
Là-bas, nous espérions simplement ne pas être volés en route, puis arriver en toute sécurité devant un bâtiment ordinaire dont la porte s’ouvrait avec notre badge d’employé. Nous avons pris un ascenseur sans indication jusqu’au deuxième étage, car on nous avait dit que c’était là.
Lorsque la porte grinçante s'est ouverte, elle dévoilait directement une salle de trading, presque une réplique de celle de Canary Wharf.
Mais ici, il fait sombre et il n’y a pas de fenêtres. L’ordinateur date d’au moins dix ans : un écran lourd à boîtier beige, avec un corps épais à l’arrière, et des emplacements pour lecteur CD-ROM et disquette encore présents sur le boîtier.
Nous allons vérifier si les systèmes de trading modernes peuvent fonctionner sur ces équipements anciens.
Ce qui est incroyable, c’est qu’ils fonctionnent vraiment. Nous pouvons effectuer des transactions et enregistrer nos positions comme à Canary Wharf. La vitesse est lente, car ces écrans carrés ne permettent d’exécuter qu’un seul programme à la fois. Mais ils fonctionnent bel et bien.
Everything is normal.
Ceci est notre « salle de trading de secours d'urgence » de l'entreprise, entretenue toute l'année par le département informatique. Les agents d'entretien viennent également souvent, mais hormis pour épousseter la poussière, ils n'ont probablement rien d'autre à faire, car personne n'a jamais utilisé cet endroit.
La banque a certainement dépensé beaucoup d'argent pour cela. Mais c'est une assurance importante, pas seulement pour la banque.
En cas d'urgence (séisme, attaque informatique, invasion de Godzilla), chaque banque d'investissement à Londres dispose d'une salle de trading de secours à laquelle elle peut faire appel. Quoi qu'il arrive, les marchés doivent continuer à fonctionner.
Le marché d'aujourd'hui pourrait également avoir besoin d'une assurance similaire, mais à une échelle bien plus importante.
L'économiste Markus K. Brunnermeier estime que, pour faire face à une urgence liée à l'IA, nous devrions préparer une option d'urgence pour l'ensemble du système financier : un marché qui fonctionne au moins aussi bien qu'il y a dix ans.
Trade like it's 1999
Bill Gates pense que les décideurs politiques devraient réserver une partie des activités économiques aux êtres humains : « Je crois qu'avec les progrès de l'IA et des robots », a-t-il récemment écrit, « nous réserverons certaines tâches exclusivement aux humains. »
Il fait référence à des choses centrées sur l'humain, comme les soins aux personnes âgées, la garde d'enfants et l'enseignement. Cela pourrait également inclure les soins médicaux (mais uniquement pour transmettre de mauvaises nouvelles).
Mais Brenner-Meyer pense que les traders devraient également être inclus sur cette liste.
Dans « L'intelligence artificielle et le nouveau monde financier », cet économiste de Princeton a averti que les marchés financiers deviendront de plus en plus incompréhensibles pour les humains, car les décisions de trading sont de plus en plus prises par l'IA.
Mais l'IA peut toujours nous comprendre. « Les agents IA peuvent apprendre comment les humains pensent et réagissent », a-t-il écrit, « tandis que les humains pourraient ne pas comprendre ou prédire de manière fiable comment ces agents agiront. »
This "asymmetric understanding" will become an issue.
Au niveau le plus fondamental, Brunnermeier a averti que la compréhension asymétrique entre les humains et l'IA pourrait affaiblir la fonction hayekienne des marchés : « Les signaux de prix sont les mécanismes qui orientent le fonctionnement d'une économie décentralisée », a-t-il expliqué. Mais si nous ne comprenons pas ce qui fait bouger les prix, nous ne savons pas quelles informations ils transmettent.
Signal mal interprété, nous pourrions entraîner l'économie au bord du précipice.
La confiance peut aussi poser problème.
Lorsque les agents IA négocient librement sur le marché, la collusion, la manipulation et les transactions malveillantes deviendront imperceptibles pour les humains. « Dans un contexte de compréhension asymétrique », écrit Brennermeier, « les objectifs des agents IA ne peuvent ni être entièrement décrits à l'aide de catégories humaines, ni vérifiés de l'extérieur ; par conséquent, les dérives d'objectifs deviendront imperceptibles. »
Si nous ne pouvons pas détecter les décalages cibles sur le marché, nous supposons simplement qu'ils existent. Si nous supposons qu'ils existent, nous n'osons pas investir. Si nous n'investissons pas, nous ne construisons rien.
This issue may surge during a market crash.
Si les investisseurs humains ne comprennent pas la cause du krach, ils ne sont pas disposés à atténuer la chute en prenant le contrepartie des ordres. Ils ne feront peut-être que vendre. « L'asymétrie d'information empêche certains traders de participer », a averti Brennermeier, « et peut provoquer un effondrement total du marché. »
C'est assez effrayant.
Heureusement, Brennermeier a également une solution : les régulateurs devraient créer un segment du marché réservé aux transactions humaines.
Je ne peux que rêver que cet endroit ressemble au floor de trading où j'ai autrefois travaillé : les traders crient leurs prix à haute voix, les vendeurs hurlent leurs ordres, les téléphones ne cessent de sonner, les claviers cliquettent sans relâche, et les paumes des mains sont moites.
C'était vraiment une scène mémorable.
Cependant, il n'y a peut-être pas grand-chose à crier, car le marché conventionnel, dominé par l'IA, continuera de traiter la majeure partie du volume.
Brenner-Meyer reconnaît également cela : « Pendant les périodes normales, ce marché lent ne serait probablement pas très actif. »
Mais tout comme le centre de trading de secours coûteux que mon ancien employeur entretenait, c'est en soi une assurance précieuse.
« Le secteur non AI sert de solution de repli, » dit Brennermeier.
Ensuite, si le marché s'effondre sans raison apparente, les régulateurs peuvent « ouvrir temporairement la frontière entre les deux secteurs afin de permettre aux activités essentielles de migrer vers le secteur qui continue de fonctionner ».
C'est le secteur humain. Les commandes sont traitées par des personnes. Des ordinateurs des années 90 sont utilisés.
Le temps de traitement des commandes ne sera pas calculé en nanosecondes comme maintenant. Mais au moins, nous pouvons comprendre ce qui se passe.
« Son logique sous-jacente consiste à sacrifier l'efficacité pendant les périodes normales afin d'empêcher les réactions en chaîne pendant les crises », a expliqué Brenner-Meyer.
Il pense que nous devrions commencer à trader ainsi dès que possible, afin de ne pas oublier comment faire : « Un marché géré par des humains maintient la vitalité des compétences de trading ; sans lui, ce plan de secours s’affaiblira progressivement à mesure que notre dépendance à l’IA augmentera. »
Comme le GPS nous a fait oublier comment lire une carte, les agents IA pourraient nous faire oublier comment trader.
(Je pense que le nouveau marché devrait aussi avoir un code vestimentaire, pour ne pas oublier comment nouer une cravate ou cirer ses chaussures.)
Bien que « trading uniquement pour les humains » semble fantaisiste, il n'est pas sans précédent.
Le même raisonnement explique pourquoi les gouvernements nationaux ont constamment encouragé l'utilisation de liquide physique. Bien que l'argent liquide soit devenu moins pratique, il offre une solution de secours essentielle en cas de panne des systèmes de paiement en ligne, sur lesquels nous comptons fortement, à la suite d'une cyberattaque.
Brennermeier a conclu : « Notre système financier actuel n'a pas été conçu pour un monde où des agents IA possèdent une compréhension asymétrique. »
Dans ce monde (qui semble désormais inévitable), un marché permettant aux gens de trader comme en 1999 serait un plan de secours précieux.
Je me souviens encore comment faire.
(But you won't remember it for long.)
Byron Gilliam