Ano, talagang mas maaga ng isang taon ang Google kaysa sa OpenAI sa paggawa ng ChatGPT?
Hindi ito pagkakasalang pagsunod ng Google, ito ay sariling tao ng OpenAI, ang pinuno ng Codex, si Tibo, ay nagpatunay na:
Iyon ang mas maagang bersyon ng ChatGPT. Unang tinawag na LMChat, pagkatapos ay nagbago ng ibang code name.
Napapagod ang Google na maglabas nito, habang pinigilan ang DeepMind na ilabas ang mga produkto na maaaring magdulot ng pagbabago sa negosyo ng Google.
Pero bakit ganong ka-alam ni Tibo sa lumang kuwento na ito?
The answer is: He was on that Google team at the time.
Ako ay isang miyembro ng team noon.
Oo, ang Tibo na nagbuo ng „Infinite Token“ para sa OpenAI ay ang isang nakakasaksi sa proyekto ng Google noong noon.
Napagtanto ng mga netizen, may ganitong karanasan pa si Tibo:
Hindi, akala ko lang ikaw ay isang reset button ng Codex (bushi).
Jeff Dean: Hindi ako makakatulog!
Ganito ang sitwasyon, isang engineer ng Midjourney, noong recent, nakahanap ng isang lumang interbyu ni Jeff Dean, dating pinuno ng Google Brain, sa X:
minsan kong iniisip ang interbyu ni Jeff Dean, kung saan sinabi niya na mayroon silang isang internal na chatbot bago ang ChatGPT, ngunit naniniwala sila na mas mabuti pa ang paggamit ng Google Search kaysa sa paggamit nito.
Hindi inaasahan na si Tibo ang direktang sumagot, at nagkaroon ng di-pagkakasundo sa pagitan niya at ni Jeff Dean:
Ang proyektong sinabi ni Jeff ay totoo, at dating tinawag itong LMChat, isang malapit na kopya ng ChatGPT na isang taon na ang nakalipas.
Tibo ay nagpaliwanag nang walang pag-asa na ang DeepMind ay walang awtoridad para sa ganitong bagay; ang LLM ay magdudulot ng malaking epekto sa Google Search, kaya natatakot ang mga boss at hindi nagbibigay ng pahintulot.
Kapag natapos ni Tibo ang kuwento ng nakaraan, iwan niya ang isang paghinga:
Ah, madalas kong tandaan ang bagay na ito.
Nakaririnig ang mga netizen at naiwan silang walang sabi...
Ang iyong dating boss sa Google, hindi dapat na muling makialam sa anumang bagay na may kinalaman sa negosyo.
Hindi nag-iisa, sinabi rin ni Demis Hassabis, ang pinuno ng AI ng Google, sa kanyang biography na wala pong makabuluhang inobasyon ang OpenAI. Noong panahong iyon, marami na ang nakikita ang kapangyarihan ng LLM, ngunit ang Altman ay may tapang na hindi isinasaalang-alang ang seguridad at diretso na isinampa ito.
Ngunit hindi naman talaga kasalanan ang Google; ang Google Search ay nagsimula sa isang mataas na antas, at kung ang layunin nito ay tanging ang paghahanap, ang Google Search ay nasa matatag na antas na.
At ang malalaking modelo noong 2023? Halos lahat ng bagay ay mali, lalo na kapag may kinalaman sa mga content na may kahalagahan sa oras, lahat ay hallucination.
Ngayon, sinosolusyon ng Scaling ang lahat.
“Mas mahusay kaysa sa Google Search” — ang pamantayan sa pagtataya na itinakda ng Google sa sarili nito, na nagresulta sa isang hindi kailanman nakita na malaking gastos.
Hindi natapos na paglalakbay sa Google
Tibo, tunay na pangalan ay Thibault Sottiaux, puno ng Codex, may-ari ng kakayahan sa Infinite Token, kilala rin bilang "Cyber Godfather".
(ps: I-reset ulit o(╥﹏╥)o, sa weekend ay nawala lahat nang hindi ko naalala!!!)
No translation provided.
Noon ay isang medyo purong pagsisiyasat na laboratorio ang DeepMind, at ang AlphaGo, reinforcement learning, at ang pag-aaral ng artificial general intelligence ay nasa pinakamalaking pagpapansin.
Sa DeepMind, pangunahing responsibilidad ni Tibo ang pagbuo ng AI at mga imprastruktura sa machine learning na ginagamit ng mga mananaliksik.
Ayon sa alaala ni Tibo, may isang chat product na tinawag na LMChat sa loob ng DeepMind, at sumunod ay may ibang codename. Ang karanasan nito ay naging katulad na ng ChatGPT.
Ngunit ang pagmamalasakit ng Google ay sobrang maingat, dahil direktang magdudulot ng epekto sa umiiral na negosyo, at hindi sapat ang awtoridad ng DeepMind. Sa wakas, ang produkto na ito ay hindi talaga napunta sa publiko.
Noong Nobyembre 2022, lumabas ang ChatGPT.
Napaluhod si Tibo nang makita niya ito.
Noong 2024, tapos na niya ang kanyang mahigit sa siyam na taon na karera sa Google at pumasok nang opisyal sa OpenAI.
Napatotohanan na tama ang pagpili ni Tibo.
Ang ganitong pagkabigo ng LMChat ay hindi pangyayari lamang; pareho ito sa Vibe Coding, kung saan mayroon lamang zero o infinitely maraming beses (bushi).
Ang maliit na kuwento na ito ay naging isang pagsasalin ng buong panahon ng AI ng Google.
Ngayon, ang pagkakalikom ng Coding battlefield ay nagdudulot ng isang mas malalim na paggalaw ng mga talento sa loob ng Google.
I Hunyo 18, inanunsyo ni Noam Shazeer ang kanyang pagkakaroon sa OpenAI.
Hindi kailangan ng dagdag paliwanag ang pangalan na ito. Isa sa mga pangunahing may-akda ng makabagong Transformer paper noong 2017 na «Attention Is All You Need», na nag-umpisa sa buong AI era. Umalis siya sa Google noong 2021 upang itatag ang Character.AI, at noong 2024, bumili ang Google ng $2.7 bilyon para makuha siya kasama ang kanyang kumpanya, at gawin siyang co-lead ng Gemini.
Bilang resulta, ang mga tao na binili para sa $2.7 bilyon ay hindi kayang panatilihin kahit dalawang taon.
Hunyo 19, inanunsyo ni John Jumper ang paglipat patungo sa Anthropic.
Ang vice president ng DeepMind, Hassabis, ang nagpapataas sa pangunahing kumander—nagtapos lang siya ng doktorado ng anim na buwan, at agad siyang inilagay bilang puno ng AlphaFold team.
Sa 2024, kanyang natanggap ang Nobel Prize sa Kimika kasama si Hassabis dahil sa kanilang tagumpay sa pagpapahalaga ng protein structure gamit ang AlphaFold.
Ngayon, ang mga nagwagi ng Nobel Prize ay pumili ng kanilang kalaban.
Pagkatapos ng dalawang malalaking pagbagsak, patuloy pa rin ang pagkawala ng谷歌.
I Hunyo 24, dalawang bagong pangalan ang lumabas sa listahan ng pambayad na trabaho ng Google: Jonas Adler at Alexander Pritzel.
Ang parehong ito ay mga pangunahing tagapag-ambag sa Gemini. Ang Adler ay responsable sa direksyon ng AI sa pagprograma ng Google, habang ang Pritzel ay nagsasagawa ng pre-training. Pareho ay nakilahok sa pag-aaral ng AlphaFold at kasama ni John Jumper.
Destination, same as Anthropic.
Isang Bagay Pa
Sa comments ng post, may nagtanong ng isang napakagandang tanong:
Kung una ang Google na naglabas ng GPT, ano ang magiging iba ngayon?
Pasensya na, walang maraming sumagot.
Alam ko 'to!
Hindi ba ito ang pinakaklasikong joke sa tech industry?
Noong 1970s, ang Xerox Laboratories ay nagbuo ng graphical interface, mouse, at Ethernet. Ang mga tao na ito ay may lahat ng mga card sa panahon ng PC—totoong isang royal flush.
Ano ang resulta? Hindi talaga pinansin ng Xerox ang bagay na ito.
Dahil sa pagkalkula ng mga pagbebenta ng Xerox: Maaari ba ng mga kakaibang interface na ito na magdala ng dalawang karatula ng toner o dalawang pack ng A4 paper? Hindi. Kaya bakit gawin ito?
...
Nakikita ni Xerox nang walang magawa ang pagbisita ni Jobs, at pagkatapos ay nagbuo siya ng Macintosh at agad naging hari.
Mula noon, naging “pambubulag” ng Silicon Valley si Xerox. Sa bawat pagbabago ng paradigma sa industriya, ang mga lider ay laging pinapalabas si Xerox para mabulag:
Nakita mo na, iyan ang sakit ng malalaking kumpanya! (piapiapia, tunog ng binti)
Pero seryoso tayo, sinuman ang nakaupo sa posisyong iyon, tingnan ang kita mula sa printer na humahigit sa milyard dolyar bawat taon, sino ang magkakaroon ng galing na mag-rebolusyon sa sarili nila...
Palitan ang "toner at papel na A4" ng "paghahanap at advertisement", at ang "graphical interface" ng "ChatGPT"—
Ang Google, na nag-write ng Transformer noong 2017 at may buong set ng god-tier gear, sa huli ay...
Nakakuha ng "American DouBao ".
Mga link na kaukulang: [1]https://x.com/thsottiaux/status/2083596911060324570
Nakuha mula sa WeChat public account na “Quantum Bit” (ID: QbitAI), may-akda: Jay