Ancien chercheur principal chez OpenAI : La recherche humaine en IA pourrait être remplacée dans les deux ans

Hé, tu as entendu parler ?

Les jours heureux des chercheurs humains ne comptent plus que deux ans au maximum.

Dans deux ans, les humains étudieront l'IA comme ils jouent aux échecs aujourd'hui.

Vous pouvez bien sûr toujours placer une commande, mais personne ne se soucie de la qualité de votre commande.

C'est la dernière déclaration choc de Jerry Tworek, ancien responsable du modèle d'inférence d'OpenAI.

Il est entré à OpenAI en 2019 et y est resté pendant sept ans. À l'époque, l'apprentissage par renforcement ne parvenait pas à être mis à l'échelle, mais il a obstinément persisté jusqu'à y parvenir. Il a personnellement dirigé l'équipe qui a développé les deux puissants modèles O1 et O3.

« Nous voulons créer une AGI. » C’était la seule feuille de route qu’Ilya avait présentée lors de la réunion d’équipe en 2019, lorsqu’il avait rejoint OpenAI. Sept ans plus tard, il a lancé sa propre entreprise.

Ce qui est encore plus inquiétant, c’est que cette phrase n’est pas prononcée uniquement par lui. Actuellement, la blague interne la plus populaire parmi les chercheurs en IA est la suivante :

Nous n'avons plus que quelques jours de travail avant la fin ; profitez-en maintenant pour tout terminer, puis prenez une retraite collective.

Tout le monde le raconte comme une noirceur humoristique. Mais chacun qui raconte l'anecdote a le cœur aussi clair qu'un miroir.

Cette blague est probablement la réalité.

Et ce n’est encore qu’un apéritif. Tout au long de l’interview, il a lancé une menace après l’autre :

• L'agent est effectivement créatif, mais cette créativité est extrêmement médiocre et basée sur un amoncellement massif d'idées, variées mais généralement de très mauvaise qualité.
• Le monde entier, seules trente à cinquante personnes ont réellement pris un modèle de pointe depuis son entraînement jusqu'à son déploiement ; tout le reste ne fait que les aider.
• Supposer que le Transformer est la solution optimale est presque impossible.
• Au cours des sept années passées chez OpenAI, il n’y a eu que trois à quatre tentatives sérieuses de remplacer l’architecture de fond.
• Le monde n'a pas besoin de notre travail pour fonctionner ; cette hypothèse n'est pas valide.

Voici la version révisée, profitez-en.

Ce chiffre de deux ans n'a rien à voir avec le benchmark, ni avec la puissance de calcul.

Il compte le nombre de tâches restantes dans cette recherche qui sont encore effectuées par des humains.

And this job was long ago split into two parts.

Une partie consiste à trouver des idées et à déterminer où aller. L'autre partie consiste à agir, à transformer ces idées en code fonctionnel et à récupérer les données.

Et la partie concernant le travail est désormais essentiellement prise en charge par l'Agent.

Tworek a fondé en avril cette année une entreprise appelée Core Automation, avec pour slogan de créer le laboratoire d'IA le plus automatisé au monde.

Chez eux, le cycle complet d'une expérience est passé directement d'un mois à un jour. L'efficacité a été multipliée par trente !

Cependant, pour cette partie concernant la proposition d'idées, l'agent ne peut pas encore répondre. La raison en est —

They absolutely belong to the most creative species.

Mais elles gaspillent leur créativité de manière extrêmement médiocre et en quantité massive. Les idées sont variées, mais elles sont en général lamentables.

Cela semble encore stable à écouter.

Mais ceux qui peuvent vraiment donner des idées n'en restent plus beaucoup.

Lors de l'interview, l'animateur a révélé qu'un chercheur interne d'OpenAI lui avait fait part de certaines informations —

Dans le monde entier, il n'y a peut-être que trente à cinquante personnes qui comprennent réellement comment entraîner et déployer un modèle de pointe de bout en bout.

Tout le reste des personnes travaille pour soutenir ces quelques dizaines de cerveaux, y compris la majorité des employés permanents de la plus grande entreprise.

Tworek n'a pas contesté.

Il pense également que toute équipe de premier plan fonctionne ainsi : quelques personnes définissent la direction, tirant derrière elles une machine d'exécution entière et rugissante.

Pour savoir à quel point ces quelques dizaines de personnes sont recherchées, il suffit de regarder sa propre liste de recrutement.

Rohan Anil, cofondateur de Core Automation, provenant d'Anthropic, et auparavant de Google DeepMind.

Anmol Gulati, qui a travaillé sur Gemini chez DeepMind, a également été recruté. Même Julia Villagra, l’ancienne responsable des ressources humaines d’OpenAI, l’a suivi.

Tous les laboratoires pêchent dans le même étang. Et cet étang ne contient que quelques dizaines de poissons.

Donc ce chiffre de deux ans n'a aucun lien avec l'humanité entière.

On se demande combien de temps ces quelques dizaines de personnes pourront encore tenir.

Puisqu'il ne reste plus que quelques dizaines de personnes, quel est le dernier mur qui se dresse devant l'IA ?

La réponse de Tworek n'est qu'un seul mot : Transformer.

À ses yeux, cela est presque impossible à considérer comme la solution optimale.

D'abord, le modèle ne peut pas continuer à apprendre après déploiement. Peu importe combien vous discutez avec lui, il ne deviendra pas plus fort ; la prochaine conversation le retrouvera exactement tel qu'il était. La fenêtre de contexte ne peut pas non plus tenir : il dit qu'après environ vingt minutes d'utilisation avec Codex, il doit effectuer une compression.

Ensuite, si vous essayez de compenser par des ajustements continus, vous constaterez que non seulement l'efficacité est extrêmement faible, mais que vous subirez également un oubli catastrophique : en apprenant de nouvelles choses, vous oubliez les anciennes.

Ainsi, ces dernières années, la majeure partie du travail effectué dans l'industrie autour de Transformer consiste en réalité à le rendre moins cher, et très peu de personnes travaillent véritablement à le rendre plus puissant.

Ce que Tworek veut vraiment, ce n'est pas en fait l'architecture elle-même.

Il veut un modèle qui puisse continuer à apprendre pendant le test time, un modèle capable de s'adapter continuellement à partir des interactions avec les utilisateurs et des données des utilisateurs. Changer d'architecture n'est qu'un moyen d'atteindre cela.

Ces principes, personne dans l'industrie ne les ignore. Mais après toutes ces années, pourquoi Transformer reste-t-il toujours en place ?

La raison en est si simple qu'elle semble absurde — on n'a presque pas essayé.

Au cours des sept années passées chez OpenAI, il n’y a eu que trois à quatre tentatives sérieuses de remplacer l’architecture de fond.

Le processus est le suivant.

Le chercheur commence par un petit experiment de validation, qu'il fait tourner pendant au moins trois mois. Seulement après avoir obtenu des résultats satisfaisants, il ose passer à une échelle plus grande.

Et ce qu'on appelle « augmenter », c'est que vous devez convaincre environ dix personnes détenant le pouvoir de vie et de mort avec votre éloquence, puis que ces dix personnes investissent trois à six mois dans votre gouffre sans fond.

Soit vous êtes écrasé par l'élan accumulé depuis longtemps par le Transformer, soit vous êtes partiellement absorbé et devenez une vis de celui-ci.

Sept ans, trois à quatre fois. C’est toute la capacité de production du laboratoire d’IA le plus puissant au monde en matière d’innovation architecturale.

« Jare, prends ces puissances de minage et fais-les brûler »

Il a lui-même rencontré une impasse identique chez OpenAI. Et ce qui l’a débloquée, c’était une phrase.

À l'époque, cette série d'expériences à moitié mortes a enfin émergé avec quelques signes de vie. Ce n'était pas formidable, mais au moins un début était là.

Just at this critical moment, Jakub Pachocki, who later became the Chief Scientist at OpenAI, found him.

Jare, tous ces GPU sont à toi, regarde si tu peux pousser tes résultats encore plus loin, encore plus fort.

« Tu as maintenant ces GPU en main. » Il a répété cette phrase lorsque o1 n'avait pas encore de nom.

Il l'a sorti d'un paradoxe —

Vous devez d'abord produire des résultats pour avoir le droit de demander de la puissance de calcul.

But you clearly need to have that hash power first to get the result.

Tworek affirme que la plupart des directions de pointe sont piégées dans ce paradoxe. Les batailles souterraines pour le pouvoir de calcul dans les laboratoires ne visent, au fond, qu'à trouver un moyen d'en sortir.

Et l'exportation, c'est parfois juste une décision de la direction Cliquez ici Confiance.

Tant qu'une personne en haut dit : « J'espère que tu auras une quote-part de puissance de calcul suffisante pour bien le faire », c'est suffisant.

Une fois la porte ouverte, tout dérape.

L'apprentissage par renforcement a dépassé plusieurs ordres de grandeur à partir de ce nœud.

Puis, l'émergence de o1 a fait revivre ce chemin que tant de gens avaient jugé sans issue : le modèle de raisonnement.

Cent mille dollars, équivalent à un expert

Et cette fois, il n'a plus à attendre que quelqu'un parle.

La partie la plus coûteuse de toute la chaîne consiste à traduire des idées abstraites en code fonctionnel. Et c'est précisément ce que les agents font le mieux aujourd'hui.

Par exemple, Core Automation a déjà utilisé cette approche pour cibler le noyau des GPU.

Plus précisément, ils ont envoyé un noyau QR décomposé à un agent de programmation pendant quatre semaines, dépensant environ cent mille dollars en coûts d'appel, et ont finalement accéléré ce noyau jusqu'à soixante fois sa vitesse initiale.

Ce travail relève de l'ingénierie de performance de bas niveau et consiste à optimiser un calcul matriciel pour qu'il s'exécute plus rapidement sur une carte graphique, ce qui nécessite habituellement des experts très rares pour ajuster ligne par ligne.

Et il n'y a pas plusieurs de ces experts dans le monde entier.

Maintenant, cent mille dollars peuvent en remplacer un. Il ne nécessite ni convaincre, ni trois à six mois.

La barrière qui avait résisté pendant sept ans vient d’être franchie.

Même la structure la plus difficile à modifier commence à se détacher ; les dizaines de personnes qui tiennent le volant ne pourront plus le garder longtemps.

À la fin de l’interview, l’animateur lui a directement demandé ce qui resterait à faire une fois ce jour-là arrivé.

À ce sujet, Tworek a décrit deux scènes.

La première est la Grèce antique.

Les gens se retrouvent sur la place pour discuter tranquillement de philosophie toute la journée, puis vont faire de l'exercice, manger des olives et boire du vin.

Il a souri aussitôt après avoir décrit cela, admettant que cela ne faisait probablement que projeter ses propres désirs.

« On se retrouve sur la place, puis on discute. » Il a cité mot pour mot ce qu’il disait de la vie quotidienne des humains après l’ère de l’AGI, puis il a éclaté de rire lui-même.

La deuxième est le lycée, ou l'université.

Il pense que l'homme devrait conserver une quête de « l'excellence » en soi. Continuer à apprendre avidement de nouvelles choses, pousser corps et esprit jusqu'à leurs limites.

C'est un peu comme le sport professionnel : il n'y a aucune raison économique qui vous oblige à transpirer et à vous sacrifier, mais la fierté humaine pousse à atteindre ce qu'on appelle la « grandeur ».

Nous devons trouver diverses façons de faire cela.

Dans le prochain monde, il n'y aura plus de ces situations où « si tu ne le fais pas, le monde s'effondrera ». Le monde continuera de fonctionner sur les infrastructures que nous avons déjà construites.

« Nous devrions continuer d'apprendre. » Il a présenté cela comme une obligation, et non comme un loisir.

Then he calmly revealed his cards.

Nous devons travailler pour que ce monde fonctionne. Cette hypothèse n'a absolument pas besoin d'être vraie.

« Beaucoup de gens trouvent leur valeur personnelle dans leur travail. » Il reconnaît que c'est la plus difficile à franchir, y compris pour lui-même.

To be honest, after listening to the whole thing, what was most unsettling wasn't the two years.

Il sait aussi qu'il accélère ce compte à rebours.

Ce qu'il compte créer est défini comme quelque chose qui peut apprendre et s'améliorer par lui-même, sans plus besoin de quelqu'un pour le nourrir en permanence. Une fois réalisé, les postes de ces dizaines de personnes disparaîtront encore plus vite.

Et il a encore une phrase plus sévère : le premier à être condamné, c'est lui-même.

Si vous n'êtes pas le laboratoire avec la plus impressionnante réserve de puissance de calcul et le plus grand volume, vous mourrez de manière très douloureuse.

À ce moment-là, Core Automation venait à peine de voir le jour depuis quatre mois et affichait un revenu nul.

Il dit que depuis qu'il a créé son entreprise, presque chaque semaine quelqu'un vient lui dire : « Jare, c'est trop tard, l'échelle qui mène au ciel a déjà été retirée. »

Sa réponse n'était qu'une seule phrase de son slogan personnel.

Les gens de notre entreprise aiment dire que tout est un problème de compétence.

Cela signifie que si vous échouez jusqu'au bout, ne blâmez pas l'environnement global, blâmez simplement votre propre technique insuffisante.

Il faut avouer que cette phrase a vraiment un certain goût dans ce cadre d'entretien.

Revenons à la première phrase populaire.

Il ne nous reste plus que quelques jours de travail, alors profitez-en tant que vous le pouvez.

Nous ne savons pas si ce ton exprime de l’excitation ou de la tristesse.

Because for the person saying this, those two emotions are essentially the same thing.

Tworek dit que le rythme de ce métier épuise énormément ; après tant d'années, c'est vraiment très, très fatigant.

Mais si nous y croyons vraiment, c’est la période la plus importante de toute notre carrière.

« Alors, c’est probablement extrêmement précieux. »

Références :

https://x.com/MTSlive/status/2092387349623935322

Cet article provient du compte WeChat « Nouvelle Intelligence », auteur : Apocalypses de l'ASI, éditeur : Moïse