Tibo révèle que Google a développé un modèle similaire à ChatGPT un an plus tôt

icon MarsBit
Partager
AI summary iconRésumé
Tibo, ancien chercheur chez DeepMind et chef d'OpenAI Codex, a révélé dans une annonce de projet que Google avait développé un modèle similaire à ChatGPT appelé LMChat dès 2021. Le modèle n'a jamais été lancé en raison de préoccupations internes concernant son impact sur la recherche. Tibo a confirmé son implication et a souligné que DeepMind n'avait pas l'autorité pour avancer. Cette nouvelle sur la chaîne a alimenté le débat sur la prudence de Google face à l'innovation en IA.

Quoi, Google a vraiment créé ChatGPT un an avant OpenAI ?

Ce n'est pas Google qui a fait machine arrière après coup, cette fois-ci c'est une personne de chez OpenAI elle-même, Tibo, responsable de Codex, qui vient de le confirmer :

C'est la version de l'année précédente de ChatGPT. Initialement appelé LMChat, il a ensuite changé de code.

Google est trop nerveux pour le publier, tandis que DeepMind est interdit de lancer des produits susceptibles de perturber l'activité de Google.

DeepMind

Mais pourquoi Tibo connaît-il si bien cet ancien fait divers ?

The answer is: He was on that Google team at the time.

I was part of that team at the time.

Oui, Tibo, qui crée actuellement les « tokens infinis » pour OpenAI, était un témoin direct du projet précédent de Google.

Les internautes sont choqués, Tibo a vécu une telle expérience :

Non, je pensais que tu n'étais qu'un bouton de réinitialisation de Codex (bushi).

DeepMind

Jeff Dean : Je ne peux pas accepter ça !!

C'est ainsi qu'un ingénieur de Midjourney a récemment retrouvé une ancienne interview de Jeff Dean, l'ancien responsable de Google Brain, sur X :

Je me demande parfois à propos de cette interview de Jeff Dean, où il a dit qu'ils avaient déjà un chatbot interne avant ChatGPT, mais qu'ils trouvaient qu'il était moins utile que de faire simplement une recherche Google.

DeepMind

Je n'aurais jamais imaginé que Tibo répondrait personnellement, échangeant ainsi une conversation à distance avec Jeff Dean :

Le projet mentionné par Jeff existe réellement ; il s'appelait à l'origine LMChat et ressemblait presque à un ChatGPT un an plus tôt.

Quant à la raison pour laquelle cela n’a pas été publié, Tibo a déclaré avec résignation que DeepMind n’avait pas cette autorisation : les LLM menacent la recherche Google, et les dirigeants sont très inquiets, ils n’ont pas donné leur feu vert.

Après avoir raconté cet épisode passé, Tibo ne laissa qu'un soupir :

Ah, je me souviens souvent de cela.

Les internautes sont restés sans voix...

Votre ancien patron de Google ne devrait absolument plus s'occuper de rien ayant un lien avec le commerce.

DeepMind

De même, dans sa biographie, Demis Hassabis, le chef de l'IA de Google, a déclaré qu'OpenAI n'a pas réalisé d'innovation révolutionnaire. À l'époque, beaucoup avaient déjà compris la puissance des LLM, mais Altman a eu le courage de ne pas tenir compte des questions de sécurité et de les publier directement.

Mais il n'est pas vraiment étonnant que Google, car « Google Search » partait d'un niveau de départ très élevé ; si l'on se limite à la recherche, Google Search est déjà très mature.

Et les grands modèles de 2023 ? Ils se trompent presque tout le temps, et dès qu'il s'agit de contenu temporel, ce sont toutes des hallucinations.

Mais maintenant, Scaling résout tout.

« Mieux que Google Search » — cette norme d'évaluation que Google s'était fixée au départ lui a finalement coûté un prix sans précédent.

Un voyage Google inachevé

Tibo, vrai nom Thibault Sottiaux, responsable de Codex, détenteur de la capacité de Token infini, surnommé « le parrain cybernétique ».

(ps : réinitialiser, réinitialiser o(╥﹏╥)o, je les ai tous épuisés sans faire attention ce week-end !!!)

DeepMind

En 2015, Tibo a rejoint Google, où il a d'abord travaillé sur des projets liés à Google Maps, avant de passer à DeepMind.

À l'époque, DeepMind restait un laboratoire de recherche assez pur, et les recherches sur AlphaGo, l'apprentissage par renforcement et l'intelligence artificielle générale étaient à leur apogée.

Chez DeepMind, Tibo est principalement chargé de construire l'infrastructure d'IA et d'apprentissage automatique utilisée par les chercheurs.

Selon le souvenir de Tibo, DeepMind a autrefois développé un produit de discussion appelé LMChat, qui a ensuite été réaffecté à un autre code. Son expérience était déjà très similaire à celle de ChatGPT.

Mais Google a été extrêmement prudent dans sa supervision, car cela aurait directement affecté ses activités existantes, et DeepMind n'avait pas assez de pouvoirs. Finalement, ce produit n'a jamais été véritablement lancé auprès du grand public.

En novembre 2022, ChatGPT est apparu.

Tibo s'est effondré en le voyant.

En 2024, il a mis fin à sa carrière de près de neuf ans chez Google pour rejoindre officiellement OpenAI.

Il s'est avéré que le choix de Tibo était le bon.

Ce genre d'échec de LMChat n'est pas accidentel ; il est, comme Vibe Coding, une question de zéro ou de plusieurs fois (bushi).

Cette petite histoire est devenue un reflet de Google tout au long de l'ère de l'IA.

Aujourd'hui, le retard de Coding Battle déclenche une vague de turbulence des talents encore plus violente au sein de Google.

Le 18 juin, Noam Shazeer a annoncé son entrée chez OpenAI.

Ce nom n’a pas besoin de présentation. L’un des auteurs principaux du papier Transformer de 2017, « Attention Is All You Need », qui a déclenché toute l’ère de l’IA. En 2021, il a quitté Google pour fonder Character.AI, et en 2024, Google l’a racheté, lui et son entreprise, pour 2,7 milliards de dollars afin qu’il co-dirige Gemini.

En conséquence, les personnes achetées pour 2,7 milliards de dollars n'ont même pas été retenues pendant deux ans.

Le 19 juin, John Jumper a annoncé son départ vers Anthropic.

Le vice-président de DeepMind, Hassabis, a nommé à la tête de l'équipe AlphaFold un général qu'il avait personnellement promu : à peine six mois après avoir obtenu son doctorat, il lui a confié la responsabilité de l'équipe AlphaFold.

En 2024, il a partagé le prix Nobel de chimie avec Hassabis pour leurs travaux révolutionnaires sur la prédiction de la structure des protéines avec AlphaFold.

Mais aujourd'hui, les lauréats du prix Nobel ont choisi le concurrent.

Après deux coups durs successifs, Google continue de perdre.

Le 24 juin, deux nouveaux noms ont été révélés sur la liste des récompenses de Google : Jonas Adler et Alexander Pritzel.

DeepMind

Ces deux personnes sont des contributeurs clés de Gemini. Adler est chargé de la direction de la programmation par l'IA chez Google, tandis que Pritzel travaille sur le pré-entraînement. Ils ont tous deux participé à la recherche sur AlphaFold et sont collègues de John Jumper.

Destination, également Anthropic.

Une dernière chose

Dans les commentaires du post, quelqu'un a posé une question très intéressante :

What if Google had released GPT first?

Dommage, personne n'a répondu.

DeepMind

Mais je sais faire cette question !

N'est-ce pas simplement la vieille blague la plus classique du monde de la technologie ?

Dans les années 1970, le laboratoire Xerox a développé l'interface graphique, la souris et Ethernet. Ces gens avaient complètement en main les cartes maîtresses de l'ère du PC, une vraie carte royale.

And the result? Xerox simply didn’t take this seriously.

Parce que, en faisant le compte de ventes de Xerox : cette interface flashy va-t-elle me permettre de vendre deux cartouches d’encre en plus, deux paquets de papier A4 en plus ? Non. Alors à quoi ça sert ?

...

Ainsi, Xerox a regardé Jobs faire une visite, puis rentrer et créer le Macintosh, qui l'a directement couronné.

Depuis lors, Xerox est devenue le « bouc émissaire » de la Silicon Valley. À chaque transition de paradigme dans l'industrie, les grands noms sortent Xerox pour la critiquer :

Vous voyez, c’est la maladie des grandes entreprises ! (piapiapia, bruit de fouet)

Mais sérieusement, remplacez n'importe qui à cette place, face à un profit d'centaines de milliards de dollars par an provenant de l'imprimante, qui voudrait vraiment révolutionner son propre modèle ?...

Remplacez « toner et papier A4 » par « recherche et publicité », et « interface graphique » par « ChatGPT » —

Ce Google, qui avait déjà écrit le Transformer en 2017 et détenait tout le matériel de haut niveau, finit par...

Je viens d'obtenir « Amérique 豆包 ».

DeepMind

Lien de référence : [1]https://x.com/thsottiaux/status/2083596911060324570

Cet article provient du compte officiel WeChat « Quantum Bit » (ID : QbitAI), auteur : Jay

Clause de non-responsabilité : les informations sur cette page peuvent avoir été obtenues auprès de tiers et ne reflètent pas nécessairement les points de vue ou opinions de KuCoin. Ce contenu est fourni à titre informatif uniquement, sans aucune représentation ou garantie d’aucune sorte, et ne doit pas être interprété comme un conseil en investissement. KuCoin ne sera pas responsable des erreurs ou omissions, ni des résultats résultant de l’utilisation de ces informations. Les investissements dans les actifs numériques peuvent être risqués. Veuillez évaluer soigneusement les risques d’un produit et votre tolérance au risque en fonction de votre propre situation financière. Pour plus d’informations, veuillez consulter nos conditions d’utilisation et divulgation des risques.