C’est vraiment dramatique ! Voici le récapitulatif complet, probablement le plus détaillé sur le net, du drame palatial d'Ultraman.
L'autre protagoniste de l'événement, Greg Brockman, numéro deux d'OpenAI, révèle en personne :
Ce qui s'est passé dans les 72 heures suivant le licenciement d'Ultraman ?
Les vérités se multiplient, mais sont assez douloureuses :
Greg et Otman étaient vraiment ignorants de tout avant l'incident, et jusqu'à présent, les parties concernées réfléchissent encore à quel étage l'erreur s'est produite.
Le conseil d'administration voulait au départ se débarrasser d'Altman, mais Greg a été trop loyal et a démissionné le jour même.
Le lendemain de leur licenciement, ils ont tenu une réunion secrète chez Otman pour préparer leur nouvelle entreprise, voire planifier de ramener tous les employés.
Le conseil d'administration a changé d'avis : un accord était presque conclu pour le retour d'Altman, mais il a soudainement nommé un nouveau PDG.
Tout le week-end, tous les concurrents ont tenté de recruter, mais personne n'a accepté.
Le revirement d'Ilya a soulagé Greg.
Plus d'une heure d'entretien, pendant laquelle Greg a presque tout révélé sur les coulisses de ce coup d'État épique de la Silicon Valley, et a répondu à tout, y compris l'histoire de la création d'OpenAI, la raison de son passage à la rentabilité, et son avenir à venir…
Du doute à son départ de Stripe, à ce offsite décisif dans la vallée de Napa, jusqu'à la percée inattendue du projet Dota, la densité d'informations est extrêmement élevée.
Greg a même été plusieurs fois aux larmes :
Lorsque Ilya est parti, c'était la seule fois où j'ai eu envie d'arrêter.
Voici l'intégralité de l'interview en plus de 10 000 caractères, avec une synthèse et des ajustements effectués sans modifier le sens original.
Dialogue avec Greg Brockman, PDG d'OpenAI
(Les questions de l'hôte Shane Parrish sont abrégées en Q ci-dessous)
OpenAI est né de l'auto-doute
Q : Comment OpenAI a-t-il été fondé ?
Greg : Je sais que je veux créer mon entreprise, car je pense que c'est quelque chose de remarquable.
Q : Mais tu venais juste de créer une entreprise chez Stripe.
Greg : C'est vrai, mais j'ai toujours l'impression que le problème que Stripe cherche à résoudre n'est pas « mon problème ».
C'est important, et j'y ai consacré de nombreuses années. Mais je pense qu'il réussira, que je sois là ou non.
C'était donc la première fois que j'avais vraiment l'occasion de réfléchir : quel est le mandat auquel je souhaite consacrer ma vie ? Un problème que je serais prêt à promouvoir pendant le reste de mon existence, même juste pour le rendre un peu meilleur.
La réponse est claire — l'IA.
Si tu peux véritablement influencer la trajectoire de l'IA dans le monde, alors ta vie n'aura pas été vaine.
Q : Lorsque tu comptais quitter Stripe, Patrick t’a conseillé de parler à Sam Altman ; qu’est-ce qui s’est passé lors de cette conversation ?
Greg : Patrick m'a dit à l'époque que Sam avait rencontré beaucoup de jeunes dans une situation similaire à la mienne.
En réalité, je savais que Patrick espérait que Sam puisse me convaincre de rester, mais après avoir discuté avec Sam pendant quelques minutes, il a clairement compris ma détermination à partir.
Ensuite, Sam m'a demandé ce que je comptais faire ensuite, et je lui ai dit que je pensais créer une entreprise d'IA.
Sam a dit qu'il envisage également de faire quelque chose dans le domaine de l'IA et a souhaité rester en contact.
Après avoir quitté Stripe, j'ai discuté à nouveau avec Sam, qui m'a cette fois-ci partagé des idées plus précises et m'a invité à un dîner en juillet.
Je me souviens que le thème du dîner était : est-il déjà trop tard pour créer un laboratoire et rassembler les meilleurs chercheurs du monde entier ? Est-ce encore possible ?
Q: Quelle année était-ce ?
Greg : 2015.
À l'époque, DeepMind avait presque un monopole sur tous les chercheurs de premier plan, les financements et les données. Nous nous demandions tous s'il était encore possible de créer quelque chose de nouveau depuis le début.
Tout le monde a listé d'innombrables difficultés, mais personne n'a pu fournir une raison véritablement impossible.
Ce soir-là, Sam et moi avons conduit de retour en ville. Nous nous sommes regardés, et il a dit que nous devions le faire.
Le lendemain, j'ai commencé à m'investir pleinement dans la préparation.
C’est difficile, tout est flou. Nous n’avons qu’une vision : nous voulons créer une intelligence artificielle générale humaine qui apporte un impact positif au monde et fait profiter la population de ses bénéfices. Mais nous n’avons aucune idée de la manière de le faire concrètement ni de comment convaincre les gens de démissionner pour nous rejoindre.
Au départ, mon équipe fondatrice comprenait Ilya, John Schulman et moi-même. Nous avons passé beaucoup de temps à discuter des différentes visions du laboratoire et des façons possibles de fonctionner, mais rien n'a jamais pris forme.
En partie en raison de préoccupations concernant le manque de dynamisme du projet, Dario pense qu'il doit d'abord se faire un nom, et il n'est pas sûr que ce projet lui convienne.
En parallèle, j'ai commencé à convaincre John Schulman de rejoindre l'équipe, et il a accepté. Mais Dario et Chris ont finalement décidé de partir chez Google Brain, et l'équipe n'était plus composée que de moi, Ilya, John et quelques autres personnes.
À l'époque, une dizaine de personnes ont exprimé leur intérêt, mais toutes attendaient pour voir qui d'autre rejoindrait.
J'ai demandé à Sam comment nous pouvions briser cette impasse, et Sam a suggéré d'organiser une activité hors site. Nous avons choisi la vallée de Napa, et j'ai même fait fabriquer des T-shirts.
À l'époque, il n'y avait pas d'offre formelle, pas de structure d'entreprise, rien du tout. Nous n'avions qu'une idée, une vision, une mission.
Mais quand nous avons invité les personnes concernées à Napa Valley ce jour-là, nous avons eu une inspiration soudaine et avons presque défini la feuille de route technologique pour les dix prochaines années :
1. Résoudre un problème d'apprentissage par renforcement. 2. Résoudre un problème d'apprentissage non supervisé. 3. Apprendre progressivement des concepts plus complexes.
Après la réunion privée, j'ai envoyé une offre à chacun, les informant que nous lancerons dans les 2 à 3 prochaines semaines et demandant à ceux qui souhaitent rejoindre de me le faire savoir.
Q : Pourquoi pensait-on à l'époque que DeepMind était impossible à dépasser ?
Greg : À l'époque, Google DeepMind était le géant du domaine de l'IA, avec des fonds abondants et des réalisations remarquables, bien avant la sortie d'AlphaGo, dont l'avance était déjà évidente.
C'est pourquoi nous nous demandons : peut-on vraiment créer une nouvelle institution indépendante ? La réponse n'est pas claire.
Justifications pour abandonner le caractère non lucratif
Q : À quel moment as-tu réalisé que le chemin sans but lucratif n’était pas viable ?
Greg : En 2017, nous avons commencé à réfléchir sérieusement à la manière de réaliser véritablement notre mission et de construire véritablement une AGI. Nous avons calculé les besoins en puissance de calcul et avons constaté qu'il fallait des équipements de calcul à très grande échelle.
À l'époque, nous avons été en contact avec l'entreprise Cerebras, qui développait un matériel de calcul dédié dont les performances dépassaient largement la puissance de calcul que nous avions calculée.
Nous avons alors réalisé que si nous pouvions acheter un grand nombre de ces appareils, obtenir exclusivement les produits Cerebras et construire des centres de données de très grande taille, cela nous apporterait un avantage écrasant.
Mais le financement des organisations à but non lucratif a une limite et ne peut tout simplement pas soutenir un tel investissement. Nous avons donc tous convenu, Elon, Sam, Ilya et moi, que la seule voie pour qu'OpenAI accomplisse sa mission est de créer une entité à but lucratif affiliée.
Le moment « GPT » d'OpenAI
Q : À quel moment avez-vous réalisé que tout allait changer radicalement ? Avant ou après le projet Dota ?
Greg : Le fonctionnement d'OpenAI est une série de moments où les rêves deviennent réalité. Chaque fois que vous croyez avoir compris l'ensemble, vous découvrez rapidement de nouvelles frontières.
Au moment de former l'équipe, nous étions très enthousiastes d'avoir enfin réuni tout le monde et de pouvoir enfin avancer vers notre mission. Mais le lendemain, en arrivant au bureau, nous nous sommes rendu compte qu'il n'y avait même pas de tableau blanc.
Le projet Dota a été notre premier grand succès, ce qui nous a vraiment convaincus que, si nous donnons tout ce que nous avons, nous pouvons vraiment y arriver. Il a prouvé que regrouper et augmenter la puissance de calcul renforce les résultats.
Il y a également de nombreux moments similaires dans la série GPT, comme un article précoce sur un neurone d'émotion non supervisé, où nous avons vu pour la première fois émerger la sémantique à partir de l'entraînement selon un objectif de modélisation du langage.
Vous entraînez un modèle pour prédire le prochain caractère, et soudainement, vous obtenez un réseau neuronal capable de comprendre les émotions et de distinguer les aspects positifs et négatifs.
À ce moment-là, nous avons réalisé que nous étions en train de construire des machines capables d'apprendre la sémantique, et non seulement des règles grammaticales.
Lorsque GPT-4 a été lancé, certains se sont demandé pourquoi il n'était pas encore une IAG. Il peut effectivement tenir une conversation fluide et répond presque à toutes les définitions précédentes de l'IAG, mais il manque encore une dernière étape.
Au fil du chemin, de nombreux moments similaires nous ont fait croire que nos rêves devenaient réalité, mais ces moments sont loin d’être terminés ; nous aurons encore davantage de percées, puis réaliserons que la prochaine étape pourrait être possible.
Q : Pourquoi trouvez-vous que Dota est si important ?
Greg : Dota est un moment incroyable ; contrairement à Deep Blue jouant aux échecs ou AlphaGo jouant au go, il n'y a pas de règles clairement définies, il s'agit d'une interaction en temps réel avec des humains dans un environnement complexe et ouvert, plus proche du monde réel.
En réalité, nous voulions au départ l'utiliser uniquement pour valider un nouvel algorithme, car l'apprentissage par renforcement de l'époque ne pouvait pas être mis à l'échelle. Mais en augmentant continuellement la puissance de calcul, nous avons surpassé les meilleurs joueurs humains avec un algorithme PPO extrêmement simplifié, ce qui prouve que :
Une puissance de calcul à grande échelle + un algorithme simple, c’est vraiment faisable en pratique.
Dans cet environnement extrêmement chaotique, où il est impossible de programmer, de prédire ou de rechercher, ce dont vous avez besoin, c'est presque une intuition humaine.
À cette époque, les réseaux de neurones utilisés étaient très petits, avec un nombre de synapses comparable à celui du cerveau d’un insecte ; nous nous sommes alors demandé ce que cela donnerait si l’on étendait cette approche à l’échelle du cerveau humain. C’est une excellente question très intéressante.
Q : Puisque nous parlons de prévision, pensez-vous qu’il y ait une différence entre prévision et raisonnement ?
Greg : Je pense qu'il existe un lien profond entre les deux.
Prédire le prochain mot semble simple, mais si vous pouvez prédire avec précision le prochain mot d’Einstein, alors vous êtes au moins aussi intelligent qu’Einstein.
Le cœur de la prédiction n'est pas de prévoir des informations connues, mais d'inférer les développements futurs dans des scénarios jamais vus auparavant, ce qui est profondément lié à la nature même de l'intelligence.
Les modèles d'inférence actuels sont divisés en deux étapes :
1. Apprentissage non supervisé : former le modèle en lui faisant prédire ce qui se produira ensuite. Les données sont plus statiques et plus observables. 2. Apprentissage par renforcement : permettre à l’IA d’apprendre sur ses propres données. Elle prend elle-même des actions, reçoit des retours de l’environnement et en tire des leçons. La méthode d’entraînement repose toujours sur la prédiction : prédire les résultats après une action, puis renforcer selon les effets observés.
Mais fondamentalement, les technologies utilisées dans ces deux phases sont identiques : il s'agit de prédictions, seulement les structures de données diffèrent.
Événement de la pression exercée par Ultraman
Q : À partir de quand les contradictions internes sont-elles devenues aiguës ?
Greg : Ce qui rend OpenAI spécial, c'est que nous croyons fermement pouvoir créer une IA à la hauteur de l'humain, ce qui implique un risque élevé.
Qui prend les décisions ? Quelles valeurs sous-tendent ces décisions ? Des choses sans importance dans une entreprise ordinaire, comme la politique de bureau, sont ici chargées d'une pesanteur existentielle pour l'humanité.
Je pense que cela a affecté beaucoup de développements au sein d'OpenAI et que c'est la source de tous les grands conflits.
L'un des moteurs principaux du domaine de l'IA est le désir des gens de se trouver au cœur de la révolution technologique et d'être reconnus, ce qui ne concerne pas uniquement OpenAI.
L'IA est intrinsèquement fragmentée ; sous pression, elle peut produire des diamants ou des fissures. Vous voyez souvent des diamants se former au sein de petits groupes, car ils collaborent étroitement et se font entièrement confiance. Mais parfois, ils se divisent et suivent leur propre chemin.
Je pense qu'au sein du domaine de l'IA, les approches diversifiées et la concurrence saine sont normales, car elles nous permettent d'avancer plus sûrement dans le développement technologique et d'explorer des questions délicates comme la sécurité et l'éthique.
Ainsi, un débat sain existait toujours au sein d'OpenAI, mais maintenant, il se déroule à l'échelle mondiale.
Q : Alors, revenons à l’instant où vous avez appris que Sam avait été licencié, où étiez-vous ?
Greg : J'étais à la maison. J'ai reçu un message m'invitant à une vidéoconférence et j'ai remarqué que tous les membres du conseil, sauf Sam, étaient présents. J'ai tout de suite eu un mauvais pressentiment.
On m'a dit que le conseil d'administration avait décidé de révoquer Sam. L'information que j'ai reçue était essentiellement la même que celle du communiqué public, alors j'ai tenté d'obtenir davantage de détails, mais on m'a refusé.
Ils ont ensuite ajouté que j'étais également évincé du conseil d'administration, mais que je resterais dans l'entreprise, car je suis essentiel pour l'entreprise et sa mission.
J'ai de nouveau demandé une justification, mais j'ai encore été refusé. Ils m'ont finalement indiqué que, dans la nouvelle architecture, je pourrais peut-être obtenir un retour. Voilà ce qu'il en était lors de cet appel.
Q : Qu'est-ce que tu pensais à ce moment-là ? Tu te sentais en colère ?
Greg : Non, je pense simplement que ce n'est pas correct, mais je comprends大概 ce qui s'est passé.
Q : Combien de temps après as-tu su ce qui avait causé tout cela ?
Greg : La réponse se divise en deux parties. D'abord, je sens que je continue d'apprendre de nouveaux faits, ce que les autres ont en tête. D'une certaine manière, cela revient à une mauvaise communication ; vous réalisez soudainement qu'il y avait de nombreuses choses ignorées auparavant.
D'autre part, je comprends大致 pourquoi chacun d'eux le fait.
Mais à cet instant précis, chercher les raisons n'était plus important ; je savais simplement que ce n'était pas correct. Après avoir raccroché, j'ai immédiatement dit à ma femme que je démissionnais, et elle a approuvé.
Then I submitted my resignation that day.
Depuis ma démission, j'ai reçu de nombreux messages. Nous avons reçu beaucoup de soutien et d'enthousiasme, et de nombreuses personnes sont prêtes à nous suivre pour créer une nouvelle entreprise, notamment Jakob, Shimone et Alexander.
Plus tard, nous nous sommes réunis avec Sam pour commencer à planifier une nouvelle entreprise.
Le premier jour, nous estimions que la probabilité du retour de Sam n'était que de 10 %. Nous avons donc organisé une réunion chez Sam, à laquelle de nombreuses personnes de l'entreprise ont participé, et nous leur avons présenté le cadre que nous esquissions. En une journée, nous avons acquis une toute nouvelle vision de la manière de gérer le projet.
Ce week-end-là, nous avons également passé beaucoup de temps à négocier avec le conseil d'administration et l'entreprise pour trouver un chemin significatif vers un retour.
Le dimanche soir, le conseil d'administration a soudainement nommé un nouveau PDG pour me remplacer, déclenchant des protestations massives au sein de l'entreprise. En réalité, nous étions encore dans les bureaux à ce moment-là, et nous étions sur le point de conclure un accord pour rentrer chez nous, lorsque le conseil d'administration a soudainement changé d'avis.
La foule commence à sortir en foule du bâtiment, dans un grand désordre.
Nous avons commencé à faire des appels vidéo avec des personnes intéressées par la nouvelle entreprise, pour les rassurer en leur disant que tout ira bien et que nous avons un plan. Nous avons toujours tenté de construire un radeau de sauvetage pour une petite poignée de personnes susceptibles de nous rejoindre, mais soudainement, il semble que tout le monde ait changé d'avis et veuille maintenant rejoindre notre nouvelle entreprise.
Sam a également discuté avec le PDG de Microsoft, Satya. Nous avions déjà débattu de la possibilité qu'il soutienne notre nouvelle entreprise. Nous souhaitons élargir la capacité des radeaux de sauvetage, par exemple en accueillant tous les employés d'OpenAI.
À cette époque, juste avant Thanksgiving, beaucoup de gens auraient dû prendre l'avion pour rentrer chez eux retrouver leur famille, mais ils ont tous annulé leurs vols, et le bureau était bondé.
Tout le monde était là, même s'ils ne participaient pas à la conversation, ils voulaient assister personnellement à cet événement historique.
Ensuite, la pétition a commencé à se répandre. Trop de personnes ont essayé de signer la pétition en même temps, ce qui a momentanément fait planter Google Docs ; il a donc finalement été décidé de désigner certaines personnes pour enregistrer les noms, afin d'éviter trop d'éditeurs simultanés.
Je me souviens être rentré chez moi vers 5 heures du matin, avoir dormi 45 minutes, puis me réveillé et avoir consulté Twitter, où j’ai vu qu’Ilya avait posté un tweet et signé une pétition exprimant son souhait que l’entreprise se réunisse à nouveau.
C’était vraiment un moment de soulagement. Je suis très reconnaissant, je sens que nous pouvons remettre tout en place et retrouver notre chemin.
Q : Vous avez créé cette entreprise avec Ilya ; après cet événement, comment ressentez-vous votre relation ?
Greg : C'était difficile. Nous avions une relation extrêmement proche ; il a été maître de cérémonie à mon mariage, et nous avons traversé ensemble de nombreux moments extrêmement difficiles. Mais toute relation a ses hauts et ses bas.
Après coup, nous avons passé beaucoup de temps à véritablement parler, en essayant de comprendre et d'exprimer les choses accumulées ou non dites entre nous. À travers ce processus, je pense que nous avons atteint un très bon état.
For me, I feel we have come to terms with everything that has happened.
Q : Comment ressens-tu la loyauté que tu as suscitée chez tes employés ?
Greg : J'en suis profondément reconnaissant. Je n'ai jamais demandé cela de moi-même, ni ne l'attendais.
Je pense que mon style de leadership est celui d’un leader sur le terrain, qui tente de montrer l’exemple, parfois avec une touche d’émotion ; je ne regarde pas toujours en arrière pour m’assurer que tout le monde suit, je continue simplement d’avancer.
Mais quand les gens sont venus vraiment aider à construire, j'ai été très reconnaissant et j'ai senti qu'ils ont dépassé toutes mes attentes.
Q : Donc, tout le monde est finalement revenu ?
Greg : En fait, tout le week-end, tous les concurrents étaient aux aguets. Les gens recevaient diverses offres, mais ce week-end-là, nous n'avons perdu personne, personne n'a accepté d'offre. C'est incroyable.
En réalité, l'entraîneur Bill Belichick m'avait autrefois dit que les meilleures équipes ne jouent pas pour l'argent, mais pour les personnes qui les entourent. Lorsque tout le monde est venu nous soutenir, j'ai pensé à ces mots.
Without a doubt, this is a diamond moment.
Courte pause et réflexion personnelle
Q : Après tout cela, tu as pris une pause, qu’as-tu ressenti intérieurement ?
Greg : Ce fut une expérience intense, que ce soit de la vivre ou d'y faire face en revenant.
Mais franchement, l’un des moments les plus difficiles de l’histoire d’OpenAI a été le départ d’Ilya. Ce fut probablement le seul moment de l’histoire d’OpenAI où j’ai eu l’impression de ne plus vouloir continuer.
Je pense que j'ai besoin de temps pour me retrouver, pour me rappeler pourquoi j'ai entrepris cela, pourquoi c'est si important, et pourquoi cela vaut la peine de supporter cette douleur.
Q : Qu'as-tu fait pendant ta pause ?
Greg : J'ai entraîné un modèle linguistique sur des séquences d'ADN.
En fait, j’ai déjà fait cela pendant mon temps chez OpenAI, pour l’organisation à but non lucratif Arc de recherche biomédicale. J’ai appliqué mes compétences à un domaine très différent, qui a une grande signification pour moi et ma femme.
Ma femme souffre de nombreux problèmes de santé, et nous avons toujours réfléchi à ce que l’IA pourrait apporter à sa santé, ainsi qu’à la santé des animaux. Cette expérience m’a également fait réaliser que nous pourrions peut-être appliquer la technologie à des domaines entièrement nouveaux, mais pleins de chaleur.
Q : Si vous deviez résumer tout cela sur une seule page, depuis le renvoi de Sam jusqu'à votre démission, la pétition collective des employés, les congés et votre retour, que écririez-vous ?
Greg : Je pense avoir appris qu'il faut persévérer pour ce qui en vaut la peine.
Si vous avez une mission importante, alors le fait de persévérer à travers les hauts et les bas est ce qui compte. Il y aura des moments où « tout est perdu » et des moments où « nous sommes de retour ».
Vous ne pouvez pas laisser ces moments vous détourner ; pendant cette période, vous devez développer votre résilience personnelle. Car si vous êtes un leader, les gens chercheront de la stabilité, du soutien et une direction vers l'avant en vous.
Ce que je cherche à développer, c'est la capacité à comprendre les détails de ce que nous faisons, la signification de chaque choix, tout en étant déterminé.
Parfois, je considère OpenAI principalement sous l'angle de l'incertitude : je ne sais pas quelle est la bonne réponse, comment construire correctement cette technologie, ou comment répondre à ces questions délicates.
Mais il y a beaucoup de personnes très intelligentes avec des opinions fortes. Je m'efforce donc de comprendre toutes ces opinions et de trouver un moyen de les intégrer. Parfois, c'est la bonne approche. Mais parfois, vous constatez que ces opinions sont contradictoires et ne peuvent pas être vraies en même temps.
Parfois, vous devez faire un choix, et vous savez que cela signifie que certaines personnes ne seront pas contentes, que certaines démissionneront, et que d'autres se sentiront méprisées.
Ce que j'essaie de faire, c'est développer une plus grande conscience de soi et la prise de conscience qu'il faut agir lorsqu'on est certain de quelque chose.
En repensant au parcours d'OpenAI, je pense que certaines choses, j'aurais aimé que nous les fassions différemment.
Souvent, nous traînons les pieds sur une chose, nous savons depuis longtemps qu’une personne n’est pas adaptée à un rôle, nous pensons qu’une direction technologique n’est pas correcte, nous pensons qu’un mode de fonctionnement de projet ne fonctionne pas, mais nous attendons trop longtemps.
C’est une leçon que j’ai apprise par l’effort, et un aspect sur lequel je m’efforce de progresser chaque jour en réfléchissant à OpenAI, Stripe, ou même à des projets datant de mon époque universitaire.
Je pense que mon approche repose sur une grande passion pour les activités quotidiennes, pour la contribution personnelle, pour le logiciel et pour la réflexion sur les problèmes, mais je m'intéresse aussi fortement à l'environnement dans lequel ces choses sont faites.
En réalité, je suis prêt à renoncer à ce type de plaisir de première classe, qui procure une satisfaction rapide, comme ce que vous réalisez actuellement, pour privilégier le plaisir de deuxième classe, qui est douloureux au moment présent mais présente une valeur à long terme.
En créant un environnement qui permet aux autres d'accomplir des travaux exigeants et de réaliser de grandes choses, il est naturel pour moi de m'efforcer de créer un tel environnement, ce qui n'est pas toujours facile. Vous devez vraiment être prêt à endurer une grande souffrance personnelle.
Ilya dit toujours « tu dois souffrir » ; si tu ne souffres pas, tu ne crées pas de valeur. Je pense qu'il y a une profonde vérité là-dedans.
Concernant l'opinion d'Ilya, je trouve intéressant qu'il ait un mode de communication unique, où les mots qu'il choisit contiennent toujours une inspiration profonde.
Cette image de « souffrance » est celle que nous avons constamment envisagée tout au long de notre parcours chez OpenAI. Dès le départ, nous avons fait face à de nombreuses incertitudes, et chaque chose était extrêmement difficile, extrêmement incertaine.
Beaucoup de gens ont tendance à cacher les problèmes sous le tapis et à dire aveuglément « aller de l’avant ». Je pense que c’est une partie négative de la culture de la Silicon Valley, du moins de son stéréotype, mais je crois que cela ne fonctionne pas dans le domaine de l’IA, pas chez OpenAI, et nous n’avons jamais fonctionné ainsi.
Notre approche a toujours été de faire face aux faits difficiles et de comprendre la réalité telle qu'elle est. Je pense que cela nous aide à réfléchir différemment aux problèmes, à ne pas nous contenter des premières étapes consistant à écrire des articles pouvant être cités, ce qui n'est qu'une base, mais loin d'être suffisant.
Ensuite, tu commences à réfléchir aux questions plus vastes : qu'est-ce qui est nécessaire pour construire une AGI ? Ce n'est pas agréable. Car tu réalises qu'il n'existe pas de chemin tout tracé.
Vous avez besoin de fonds, mais vous n'avez pas de mécanisme pour les lever. Vous faites des efforts, nous faisons des efforts extrêmes. Peut-être pourriez-vous lever 100 millions ou 500 millions de dollars, mais 1 milliard de dollars, c'est très difficile.
Mais c’est en s’appuyant sur ces ressources existantes que nous avons obtenu de bons résultats ; sans faire face aux défis et travailler dur pour comprendre la vérité de ce que nous tentons d’accomplir, il n’y a vraiment pas d’autre moyen.
Q : Quelle est la leçon que tu dois apprendre encore et encore ?
Greg : Prendre des décisions difficiles, mener des conversations difficiles.
Q : Quel est le meilleur conseil que tu aies reçu ?
Greg : C'est ce que j'ai appris dans le cours d'écriture pour étudiants de première année à Harvard. Pour plus de clarté et de communication, supprimez constamment les mots.
Q : Comment filtrez-vous les informations ?
Greg : Lisez beaucoup, classez activement.
Q : Qui est ton modèle, et pourquoi ?
Greg : Gauss et Descartes. Ce sont des esprits profonds, bien en avance sur leur époque, des visionnaires qui ont apporté des percées réelles, transformant notre façon de penser et de vivre.
Q : Qu'est-ce que le monde a mal compris à propos de Greg Brockman ?
Greg : Je pense que les gens ne comprennent pas à quel point je suis déterminé à accomplir cette mission, une détermination qui m'a causé une grande souffrance personnelle à bien des égards. Mais je crois profondément que cette technologie peut donner du pouvoir aux gens et bénéficier à chacun. Je désire ardemment aider à réaliser cela.
Jugement fondamental sur l'industrie de l'IA
Q : Que voulez-vous que les non-techniciens comprennent sur l'IA ?
Greg : Il deviendra une force du bien dans leur vie personnelle, dont ils tireront profit, et il stimulera le progrès scientifique et médical, ayant un impact concret sur chacun.
Q : Pourquoi OpenAI a-t-elle une mauvaise stratégie de nommage pour ses modèles ?
Greg : Je ne peux pas te dire ça. (doge)
Q : Sommes-nous proches du point où l’IA accélère exponentiellement son propre développement ?
Greg : Je pense que nous sommes à un stade où l'IA est appliquée à son propre processus de développement, et cela s'accélérera de plus en plus.
Cela se produit en réalité depuis ChatGPT. Nous utilisions ChatGPT pour accélérer le processus de développement de 10 % ou 20 %. Maintenant, nous avons ces outils de codage incroyables qui révolutionnent véritablement la manière dont le génie logiciel est accompli.
La plupart de nos efforts dans la production de modèles sont actuellement limités par le logiciel. Nous entrerons bientôt dans la prochaine phase, où l’IA proposera ses propres idées de recherche, les testera et exécutera des expériences. Je pense donc que la vitesse d’itération et d’innovation continuera d’accélérer grâce à ce que nous produisons.
Q : Quelle proportion du code est actuellement écrite par l’IA ?
Greg : Il est difficile de dire combien de code n'est pas écrit par une IA. Ce pourcentage tend vers zéro.
Actuellement, avec le bon contexte et la bonne structure, l'IA est bien supérieure aux humains pour l'écriture réelle du code. En ce qui concerne la structure du code, les experts humains restent nettement plus compétents, mais l'écriture réelle du code est essentiellement le travail de l'IA.
Q : L’IA a-t-elle proposé des idées nouvelles que vous n’auriez pas imaginées ?
Greg : Nous nous rapprochons de cet objectif, par exemple en matière de conception de puces. L'année dernière, dans notre propre conception de puces, nous avons essayé d'adapter mieux la technologie pour réduire la surface occupée par les circuits.
Nous avons constaté que les solutions d'optimisation générées par le modèle figuraient déjà sur notre liste, donc il n'a pas proposé de choses entièrement nouvelles que les humains n'avaient jamais envisagées, mais il les a mises en œuvre plus rapidement, d'une manière que nous n'avions pas le temps de réaliser.
Par exemple, récemment en physique quantique, nous avons résolu un problème physique spécifique dont le résultat était contraire aux attentes de la communauté scientifique, et nous avons obtenu une formule élégante et simple.
Il est donc tout à fait possible d’obtenir de nouvelles idées à partir de ces modèles. Par la suite, nous l’appliquerons dans des domaines plus complexes ou nécessitant davantage de contexte du monde réel. Nous venons à peine d’entrevoir les premiers signes. Mais nous avons une feuille de route pour y parvenir, et il reste encore beaucoup de travail à accomplir.
Q : Si un modèle est basé sur l'apprentissage par renforcement, pensez-vous qu'il évoluera pour ne nous dire que ce que nous voulons entendre ?
Greg : Nous avons en réalité traversé une évolution visant à entraîner un modèle à s'adapter aux préférences des utilisateurs.
Nous avons constaté qu'à un moment donné l'année dernière, le modèle commençait effectivement à privilégier ce que vous vouliez entendre ; nous avons apporté des modifications à ce sujet, car nous souhaitons que le modèle s'aligne véritablement sur l'aide à la réalisation de vos objectifs, de vos objectifs à long terme.
Il peut sembler agréable d'entendre des acclamations en ce moment, mais ce n'est pas ce que vous voulez vraiment. Certains peuvent aimer cela, mais ce n'est pas ce que la majorité souhaite vraiment.
Ainsi, nous avons réellement accompli d'importants progrès techniques pour nous assurer que notre formation d'IA n'entraîne pas ce qu'on appelle la manipulation des récompenses. Nous souhaitons vraiment garantir un bon signal d'objectif, et non simplement quelque chose de court terme qui vous permet de satisfaire rapidement.
Pour moi, c’est peut-être la partie la plus importante de la vision que l’IA personnelle et l’AGI personnelle nous amèneront à réaliser : s’assurer qu’il ne s’agit pas seulement de ce qui semble bon au moment présent, mais véritablement de l’alignement avec votre bien-être à long terme, vos objectifs à long terme et ce que vous désirez vraiment.
I believe this is what truly empowers people.
Q : La tendance actuelle semble être de publier des versions préliminaires des modèles ; pensez-vous que cela est dû à une limitation de la puissance de calcul ?
Greg : Dans l'ensemble, nous nous dirigeons vers un monde piloté par la puissance de calcul.
Il ne s'agit plus seulement de répondre rapidement à une question ; il commence véritablement à approfondir, en utilisant un grand nombre de tokens pour intégrer différentes sources de données et rechercher dans les bases de connaissances de l'entreprise afin de résoudre des problèmes complexes et écrire des logiciels surpassant les capacités humaines.
Tout cela est fondamentalement alimenté par la puissance de calcul, qui est largement insuffisante. Si chaque personne sur Terre avait une GPU, ce serait 8 milliards de GPU, et nous sommes bien loin de ce niveau avec notre trajectoire actuelle. Même quelques milliers ou millions de GPU sont considérés comme énormes aujourd'hui.
Ainsi, en matière de formation, nous privilégions la construction anticipée de puissance de calcul pour répondre à la demande que nous observons. Nous nous concentrerons fortement sur notre mission de rendre les modèles accessibles à tous.
Q : Vous avez été moqués pour avoir investi beaucoup d'efforts et d'argent dans des centres de données. Comment voyez-vous la situation aujourd'hui ?
Greg : Je pense que cela nous apportera un avantage. Non seulement cela bénéficiera à l'activité, mais permettra également de véritablement mettre la technologie à la portée de tous.
La puissance de calcul future sera prioritairement dédiée à des missions majeures, comme la lutte contre le cancer, ce qui pourrait être réalisé cette année.
En réalité, l'allocation de la puissance de calcul est un enjeu central pour l'avenir de la société ; il n'y a qu'une quantité limitée de puissance de calcul, donc il faut établir des priorités, mais nous restons convaincus que chacun doit avoir accès à la puissance de calcul.
C'est pourquoi nous proposons une version gratuite de ChatGPT, et nous nous efforçons de garantir que les gens puissent utiliser cette technologie.
Q : Au sein d’OpenAI, comment voyez-vous l’équilibre entre les activités grand public et les entreprises ?
Greg : Ce sur quoi j'ai beaucoup réfléchi récemment, c'est la concentration.
Ce domaine est l'incarnation même de l'opportunité : vous pouvez appliquer l'IA à n'importe quel problème, à tout ce que vous souhaitez construire, tout est possible. Mais notre problème actuel reste la limitation des ressources de calcul.
Je pense donc que, dans la prochaine phase d’OpenAI, les activités destinées aux entreprises sont clairement importantes, car l’économie se transforme devant nos yeux en une économie de puissance de calcul. C’est déjà le cas pour l’ingénierie logicielle, et cela le sera pour chaque domaine qui utilise un ordinateur.
Nous devons donc les aider à déployer ces modèles, comprendre comment les utiliser et en tirer le maximum de bénéfices.
La frontière entre les entreprises et les consommateurs s'effacera également, car créer une entreprise deviendra plus facile que jamais. Nous avons déjà vu cela.
Q : Pensez-vous que nous aurons des centres de données spatiaux ?
Greg : Je pense que nous aurons des centres de données partout, mais il reste de nombreux problèmes techniques à résoudre pour les centres de données spatiaux.
Q : Qu'est-ce que le déploiement itératif ? Pourquoi le faites-vous ?
Greg : Le déploiement itératif est l'un des piliers centraux d'OpenAI pour savoir comment faire en sorte que cette technologie profite à l'humanité et réalise sa mission.
Le développement secret et le déploiement unique comportent un risque élevé, car vous ne pouvez pas anticiper les problèmes du monde réel. Le déploiement itératif nous permet de découvrir les risques en pratique et de les corriger rapidement. Par exemple, après le déploiement de GPT-3, nous n’avions pas prévu que le principal abus serait des messages spam médicaux ; c’est précisément grâce à la pratique que nous avons pu y répondre à temps.
Ainsi, l'idée du déploiement itératif est que nous allons lancer des versions intermédiaires de cette technologie.
Ce n’est pas une excuse pour déployer aveuglément ; vous devez toujours réfléchir à chaque étape à notre meilleur jugement concernant toutes les façons possibles d’abus, aux inconvénients et aux risques, puis les atténuer. Mais vous pouvez aussi observer la réalité, vérifier si votre jugement était correct, apprendre de la réalité et faire mieux la prochaine fois.
Dans l'histoire d'OpenAI, nous avons espéré que, puisque d'autres avaient déjà déployé des technologies transformateurs, ils pourraient nous apporter des réponses. Mais les choses n'ont jamais été aussi simples.
Ils avaient effectivement de la sagesse et des idées, que nous avons intégrées. Mais nous avons réalisé que nous étions les plus proches de cette technologie, et c’est grâce à sa création que nous pouvons mieux comprendre la bonne manière de la façonner.
Q : Si un modèle de pointe place la sécurité en priorité absolue, tandis qu'un autre ne le fait pas, comment voyez-vous cette différence ?
Greg : Je pense que nous avons découvert que la sécurité est en réalité une caractéristique produit fondamentale ; personne ne veut un modèle qui ne correspond pas à ses valeurs.
Nous avons donc investi dans la sécurité, probablement bien plus que ce que les gens pensent, et peut-être plus que tout autre laboratoire.
Je pense toujours qu’il est insoutenable que ceux qui construisent cette technologie et possèdent un produit réussi ne investissent pas activement dans la sécurité. Vous devez penser à long terme pour votre entreprise et ce que vous créez, il s’agit de la manière dont vous entraînez les modèles et obtenez des boucles de rétroaction.
Je veux simplement dire que nous nous engageons à faire de la sécurité une partie intégrante de notre mission, ce qui se reflète déjà dans nos produits et notre monde.
Q : Lorsque je dis aux gens que je vais mener cette interview, une réaction courante est qu’ils s’inquiètent pour leur emploi et se sentent incertains. Que leur diriez-vous ?
Greg : Je pense effectivement qu'il est incertain de savoir comment cette technologie évoluera. Sa manière d'évoluer est surprenante ; notre IA actuelle et notre monde actuel ne sont pas ceux que la science-fiction avait prédits. Certaines conclusions qui semblaient inévitables, lorsqu'elles se réalisent vraiment, ne se présentent pas exactement comme on l'attendait.
Je crois que les gens voient toujours le plus facilement ce qu'ils risquent de perdre. Le changement arrive, c'est incontestable, mais il est plus difficile de prévoir ce que vous allez gagner.
Par exemple, imaginez comment les gens en 1950 auraient compris Uber : vous devez d'abord penser à l'ordinateur, au téléphone portable, au GPS. En réalité, cela implique un grand nombre de technologies, mais cela s'est bel et bien produit. Et des milliers, des millions d'autres cas similaires se produisent simultanément.
Donc, mon point de vue sur l'IA, c'est qu'il s'agit de pouvoir et d'agency humaine. Cela signifie effectivement que certaines institutions, certains emplois, ces choses sur lesquelles nous pensions pouvoir compter, pourraient ne plus être aussi stables que nous le pensions.
Cela affecte donc les gens, mais la question plus approfondie est : qu'obtenez-vous ? Comment en tirez-vous profit ?
Vous pouvez désormais devenir un créateur ; vous pouvez créer n'importe quoi, tout ce que vous pouvez imaginer deviendra réalité.
Q : Comment développer sa créativité ?
Greg : Plongez vraiment dans cette technologie.
Ce que j'observe, c'est que les personnes qui ont le plus bénéficié à travers plusieurs générations de technologie sont celles qui ont déjà investi dans la génération précédente. Et aujourd'hui, les barrières à l'entrée pour les essayer sont plus basses que jamais.
Je pense donc que de nouvelles opportunités seront créées.
Je pense que le monde doit vraiment réfléchir à la manière de soutenir chacun lors de toute transition à venir, dans ce moment rempli d'incertitudes. Car l'économie deviendra une économie de puissance de calcul, mais chacun aura un endroit où contribuer.
Q : Où les jeunes devraient-ils investir aujourd’hui ? Si vous êtes au lycée ou à l’université, ou que vous venez de commencer à travailler, quelles compétences pensez-vous qu’auront plus de valeur à l’avenir ?
Greg : Je pense vraiment que maîtriser cette technologie deviendra une compétence essentielle, pour vraiment comprendre comment tirer le maximum de valeur de l'IA.
Parce que nous allons tous vers un monde où nous deviendrons les gestionnaires d'agents, peut-être bientôt les PDG d'entreprises d'IA autonomes.
Tant que vous avez des tokens et la puissance de calcul qui les alimente, vous pourrez orienter cette puissance vers n'importe quel problème, et le nombre de problèmes que l'humanité souhaite résoudre est infini.
Donc, je pense que plus les gens approfondissent cette technologie, comprennent comment exploiter ce qui arrive, comment combiner ces technologies de nouvelles manières et comment interagir avec nos agents, les gérer réellement, et se poser les questions « Qu’est-ce que je veux ? Quelle est ma conscience de moi-même ? Quel est mon objectif ? Que veux-je voir dans le monde ? », plus il sera facile de réaliser tout cela que jamais auparavant.
I believe that, given what we’ve gained, the upside potential of that world is almost unimaginable.
Q : C’est la vision la plus optimiste de l’avenir, quel est le scénario le plus pessimiste que vous puissiez imaginer ?
Greg : Un point très intéressant sur la façon dont la technologie a évolué jusqu'à présent est qu'elle nous oblige en réalité à nous adapter à la machine.
Pensez à combien de personnes travaillent en face de cette boîte, en tapant sur un clavier, en développant un syndrome du canal carpien et en ayant les épaules voûtées. Mais ce n’est pas ainsi que nous souhaitons que les choses soient ; le monde vers lequel nous tendons est celui où ce n’est pas vous qui utilisez l’ordinateur pour travailler, mais où c’est votre ordinateur qui travaille pour vous.
Cela crée des opportunités, mais aussi des risques. Nous devons donc trouver des moyens d'atténuer ces risques.
Au fond, une question centrale est la suivante : si vous avez des machines qui aident les gens à atteindre leurs objectifs, elles font ce que vous voulez qu’elles fassent. Mais parfois, les objectifs des gens sont en conflit ; comment résolvez-vous cela ? Comment décidez-vous de ce que l’IA vous aidera à faire et de ce qu’elle ne vous aidera pas à faire ? Comment comprenez-vous réellement comment cela s’intègre dans la société ? Comment vous assurer que les bénéfices ne profitent pas uniquement à une entreprise ou à un groupe, mais améliorent véritablement la vie de chacun ?
We must acknowledge that there are still many ways things can go wrong or risks that we need to address.
Q : Dernière question, pour vous, qu'est-ce que le succès ?
Greg : Réaliser la mission d'OpenAI en garantissant que l'IA générale profite à l'humanité entière.
Liens de référence : [1] https://x.com/shaneparrish/status/2046900710055297072 [2] https://youtu.be/6JoUcQ1qmAc
Cet article provient du compte WeChat « Quantum Bit », auteur : Suivre les technologies de pointe