Як же це драматично! Це, мабуть, найповніший огляд усієї історії боротьби за владу в світі Ультраманів.
Інший головний герой події, Грег Брокман, друга особа в OpenAI, особисто розкриває:
Що відбулося за 72 години після звільнення Ультрамана?
Правда виринає одна за одною, але досить болісно:
Грег і Оутман справді не мали ніякого уявлення про подію до її відбуття, і досі самі учасники розмірковують, де саме виникла помилка.
Спочатку рада директорів хотіла лише звільнити Оттмана, але Гріг був надто вірний — того ж дня подав у відставку.
На перший день після звільнення вони таємно зустрілися в будинку Отмана, плануючи нову компанію та навіть плануючи забрати всіх працівників.
Рада директорів раптово змінила рішення: спочатку майже домовилися про повернення Оттмана, але раптово призначили нового генерального директора.
Цілі вихідні всі конкуренти безуспішно намагалися залучити кандидатів.
Відплата Іллі звільнила Грега від тиску.
Більше ніж годинна інтерв’ю, Грег майже повністю розповів про всі деталі цієї епічної сіліконової долини зміни влади, а також відповів на все — від історії заснування OpenAI до причин переходу на прибуткову модель та того, куди він піде далі…
Від нерозуміння після виходу з Stripe до вирішального offsite у Напа-Веллі та випадкового прориву у проекті Dota — надзвичайно висока щільність інформації.
Грег навіть кілька разів захлипував:
Коли Ілля пішов, це був єдиний раз, коли я почув, що не хочу більше цим займатися.
Ось повний текст інтерв’ю зі словами, стиснутий та адаптований без зміни початкового змісту.
Діалог з президентом OpenAI Грегом Брокманом
(Нижче запитання ведучого Шейна Парріша скорочено позначено як Q)
OpenAI народилася зі самозапитань
Як була заснована OpenAI?
Грег: Я знаю, що хочу заснувати бізнес, бо вважаю, що це надзвичайно важливо.
Q: Але тоді ти щойно започаткував Stripe.
Грег: Так, але я завжди вважав, що проблема, яку намагається вирішити Stripe, — це не «моя проблема».
Це, звичайно, важливо, і я вкладав у це багато років. Але я вважаю, що воно здобуде успіх незалежно від мене.
Тоді вперше я справді мав можливість задуматися: яка ж моя місія, якій я хочу присвятити все своє життя? Проблема, за яку я був би готовий боротися решту свого життя, навіть якщо це лише трохи покращить її.
Відповідь дуже ясна — AI.
Якщо ти зможеш справді вплинути на напрямок розвитку ШІ у світі, тоді твоє життя не буде витрачено марно.
Q: Коли ти збирався залишити Stripe, Патрік запропонував тобі поговорити з Самом Ортманом — що відбулося під час цієї розмови?
Грег: Патрік сказав мені тоді, що Сем бачив багато молодих людей у моїй ситуації.
Насправді я розумів, що Патрік мав на увазі, що Сем зможе переконати мене залишитися, але після кількох хвилин розмови зі Семом він чітко зрозумів моє рішення піти.
Потім Сем запитав мене про мої плани на майбутнє, і я сказав йому, що розглядаю можливість створення компанії зі штучним інтелектом.
Сем сказав, що також розглядає можливість зайнятися ІІ, і хоче залишатися на зв’язку.
Після того як я залишив Stripe, я ще раз поговорив із Самом, і на цей раз Сам сказав, що у нього з’явилися більш конкретні ідеї, і запрошив мене на вечерю у липні.
Я пам’ятаю, що темою того вечері було: чи вже занадто пізно створити лабораторію та зібрати найкращих дослідників з усього світу? Чи ще можливо?
Якого року?
Грег: 2015 рік.
На той момент DeepMind майже монополізувала всіх топових дослідників, фінансування та дані. Ми всі сумнівалися, чи можна ще щось нове створити з нуля?
Всі разом перелічили безліч труднощів, але ніхто не зміг навести справжньої неможливої причини.
Того вечора Сем і я поїхали назад до міста. Ми поглянули один на одного, і він сказав: «Нам обов’язково потрібно це зробити».
На наступний день я почав повністю присвятити себе підготовці.
Це важко, все нечітко. У нас є лише одне бачення: ми хочемо створити загальну людську інтелігентність, яка принесе позитивний вплив на світ і зробить користь для всіх. Але як саме це зробити, як переконати людей залишити роботу і приєднатися до нас — ми повністю не маємо уявлення.
Спочатку моєю основною командою були Ілля, Джон Шульман і я. Ми провели багато часу, обговорюючи різні візії та можливі способи роботи лабораторії, але нічого не вдавалося зформувати.
Частково через занепокоєння щодо відсутності достатньої мотивації у проекті, Даріо вважає, що йому спочатку потрібно зробити ім’я для себе, і він не впевнений, чи підходить цей проект йому.
Тим часом я почав переконувати Джона Шульмана приєднатися, і він погодився. Але Даріо та Кріс нарешті вирішили піти до Google Brain, і насправді в команді залишилися лише я, Ілля, Джон та кілька інших людей.
Тоді приблизно десяток людей висловили інтерес, але всі чекали, хто ще приєднається.
Я запитав Сама, як нам вийти з цієї ситуації, і він запропонував організувати позаофісну подію. Ми вибрали Напа-Веллі, і я навіть замовив футболки.
Тоді ще не було офіційного пропозиції, жодної корпоративної структури, нічого не було. У нас був лише один ідея, одне бачення, одна місія.
Але коли ми запросили людей у Напа-Веллі в той день, у нас виникла інспірація, і ми майже визначили технічний шлях на наступне десятиліття:
1. Вирішення проблеми підсиленого навчання. 2. Вирішення проблеми ненаглядного навчання. 3. Поступове вивчення більш складних речей.
Після закритої зустрічі я надіслав пропозиції всім, повідомивши, що ми запустимося протягом наступних 2–3 тижнів, і попросив, щоб ті, хто бажає приєднатися, повідомили про це.
Чому тоді вважали, що DeepMind важко перевершити?
Грег: Тоді Google DeepMind був гігантом у сфері ШІ — у них були величезні фінансові ресурси й вражаючі досягнення, ще за кілька місяців до виходу AlphaGo, але їхній перевага була очевидною.
Тому ми сумніваємося: чи справді можна створити незалежний новий інститут? Відповідь не зовсім ясна.
Причини відмови від некомерційності
Q: Коли ти усвідомив, що шлях некомерційної організації не працює?
Грег: У 2017 році ми почали серйозно думати про те, як справді здійснити місію та як справді побудувати AGI. Ми розрахували потреби у обчислювальних потужностях і зрозуміли, що нам знадобляться надвеликі обчислювальні пристрої.
Тоді ми звернулися до компанії Cerebras, яка розробляла спеціалізоване обчислювальне обладнання, продуктивність якого значно перевищувала наші власні обчислювальні можливості.
Тоді ми усвідомили, що якби ми могли купити багато таких пристроїв, отримати ексклюзивний доступ до продуктів Cerebras та побудувати надвеликі центри обробки даних, це надало б нам перевагу.
Але фінансування некомерційних організацій має обмеження і не може підтримувати такі інвестиції. Тому Елон, Сем, Ілля і я вважаємо, що єдиний шлях до досягнення місії OpenAI — це створення комерційного дочірнього підприємства.
«GPT-момент» від OpenAI
Q: Коли ти усвідомив, що все зміниться назавжди? До чи після проекту Dota?
Грег: Принцип роботи OpenAI — це ланцюжок моментів, коли мрії стають дійсністю. Кожного разу, коли ви вважаєте, що розумієте всю картину, ви швидко виявляєте нові межі.
Коли ми вперше формували команду, ми були надзвичайно захоплені — нам вдалося справді зібрати команду і почати рухатися до нашої місії. Але наступного дня, прийшовши до офісу, ми зрозуміли, що навіть дошки немає.
Проект Dota став нашим першим величезним досягненням, і це справді надало нам віру: якщо ми прикладемо всі зусилля, то справді зможемо досягти успіху. Він довів, що збір обчислювальних потужностей та їх розширення підвищують результат.
У серії GPT також було багато таких моментів, наприклад, рання стаття про безнаглядний емоційний нейрон — це був перший раз, коли ми побачили, як семантика виникає з тренування за метою мовного моделювання.
Ви навчали модель передбачати наступний символ, і раптово отримали нейронну мережу, яка розуміє емоції та розрізняє позитивні та негативні.
У той момент ми усвідомили, що будемо створювати машини, які вчаться семантиці, а не лише граматичним правилам.
А коли з’явився GPT-4, хтось запитав, чому він ще не AGI. Він справді здатний вести плавний діалог і майже відповідає всім нашим попереднім визначенням AGI, але все ще не вистачає останнього штовхка.
На всьому шляху було багато подібних моментів, які робили нас вірними, що мрія здійснюється, але ці моменти далеко не закінчилися — у нас буде ще більше проривних моментів, і тоді ми зрозуміємо, що наступний етап можливе.
Q: Чому, на вашу думку, Dota така важлива?
Грег: Dota — це неймовірний момент, вона не має чітких правил, як шахи, які грав Deep Blue, або го, яке грав AlphaGo; вона передбачає взаємодію з людьми в реальному часі в складному відкритому середовищі, що ближче до реального світу.
Спочатку ми只想 використовувати його для перевірки нового алгоритму, оскільки на той момент підсилююче навчання не могло масштабуватися. Але коли ми постійно збільшували обчислювальну потужність, простий алгоритм PPO перевершив найкращих людей — це довело:
Великі обчислювальні потужності + прості алгоритми — на практиці це дійсно працює.
Зокрема в цьому надзвичайно хаотичному середовищі, де неможливо програмувати, передбачати або шукати, вам майже необхідна людська інтуїція.
Тоді використовувалися дуже малі нейронні мережі з кількістю синапсів, порівнянною з кількістю в мозку комах, і ми зрозуміли б, яким був би результат, якщо цю ідею розширити до розміру людського мозку? Це дуже цікаве та чудове питання.
Q: Оскільки ми говоримо про прогнозування, чи є різниця між прогнозуванням і міркуванням?
Грег: Я вважаю, що між ними існує глибока зв’язок.
Передбачення лише наступного слова здається простим, але якщо ви можете точно передбачити наступне слово Ейнштейна, то, щонайменше, ви такі ж розумні, як Ейнштейн.
Суть прогнозування полягає не у передбаченні відомої інформації, а у виведенні подальшого розвитку в нових сценаріях, які раніше не бачили, що глибоко пов’язано з сутністю інтелекту.
Зараз моделі міркувань поділяються на два етапи:
1. Навчання без нагляду: навчання моделі шляхом прогнозування того, що станеться далі. Дані більш статичні та спостережні. 2. Навчання з підсиленням: надання штучному інтелекту можливості навчатися на власних даних. Він сам вживає дій, отримує зворотний зв’язок від світу та навчається на основі цього. Суть навчання все ще полягає у прогнозуванні результатів після дій та підсиленні їх на основі ефективності.
Але з фундаментальної точки зору, технології, використані на цих двох етапах, повністю однакові — обидві вони є прогнозуванням, лише структури даних різні.
Подія з під тиском Ультрамана
Питання: З якого моменту внутрішні суперечності стали гострими?
Грег: Особливість OpenAI полягає в тому, що ми віримо, що можемо створити ШІ на рівні людини, що означає високий рівень ризику.
Хто приймає рішення? Які цінності лежать в основі цих рішень? Речі, які в звичайних компаніях не мають значення, наприклад офісна політика, тут отримують вагу, що стосується виживання людства.
Я вважаю, що це вплинуло на багато розвитку всередині OpenAI і є коренем усіх великих конфліктів.
Однією з ключових мотивацій у сфері ШІ є бажання людей опинитися в центрі технологічної революції та залишити славетне ім’я, тому це проблема не лише OpenAI.
Але штучний інтелект за своєю суттю фрагментований: під тиском може утворитися бриліант, а може з’явитися тріщина, тому ви часто бачите утворення бриліантів у невеликих групах, оскільки вони спільно працюють і повністю довіряють один одному. Але іноді вони також розбиваються і йдуть своїм шляхом.
Я вважаю, що у сфері ШІ різноманітні шляхи та здоровий конкурентний середовище є нормальними, оскільки вони дозволяють нам безпечніше просувати технології та обговорювати складні питання безпеки, етики тощо.
Тож здорові дискусії завжди існували всередині OpenAI, але зараз це відбувається по всьому світу.
Q: Давайте повернемося до моменту, коли ти дізнався, що Сема звільнили, де ти був?
Грег: Я був удома. Я отримав повідомлення з запрошенням на відеодзвінок і помітив, що на ньому присутні всі члени ради, крім Сема. Тоді я відчув, що щось не так.
Мені сказали, що рада вирішила звільнити Сема. Інформація, яку я отримав, була майже такою ж, як у публічному заяві, тому я спробував дізнатися більше деталей, але мені відмовили.
Потім вони сказали, що мене також виключили з ради директорів, але я залишусь у компанії, бо я маю вирішальне значення для компанії та її місії.
Я знову попросив пояснень, але мені знову відмовили. Нарешті мені сказали, що в новій архітектурі я, можливо, отримаю відгук. Ось що було сказано під час того дзвінка.
Q: Що тобі тоді приходило на думку? Чував гнів?
Грег: Ні, я просто вважаю, що це неправильно, але, мабуть, розумію, що відбувається.
Як довго тобі потрібно було, щоб дізнатися, що саме спричинило все це?
Грег: Відповідь поділена на дві частини. По-перше, я вважаю, що продовжую відкривати для себе нові факти, те, що інші думають. У певному сенсі це зводиться до поганої комунікації — ви раптово усвідомлюєте, що раніше було багато ігнорованих речей.
З іншого боку, я приблизно розумію, чому кожен з них це робить.
Але в той самий момент пошук причин вже не мав значення — я просто знав, що це неправильно. Тож після того як я поклав слухавку, я одразу сказав дружині, що подаю у відставку, і вона погодилася.
Того ж дня я подав у відставку.
Після того як я подав у відставку, я почав отримувати багато повідомлень. Ми отримали багато підтримки та ентузіазму; багато людей були готові відправитися з нами у новий підприємницький шлях, зокрема Якоб, Шимоне та Олександр.
Пізніше ми зібралися з Семом і почали планувати нову компанію.
У перший день ми вважали, що ймовірність повернення Сема становить лише 10%. Тож ми організували зустріч у будинку Сема, на яку прийшло багато людей з компанії, і показали їм концепцію, яку ми намічали. За один день ми отримали абсолютно нове уявлення про те, як запускати проект.
Того вихідного ми також багато часу приділили переговорам з радою директорів і компанією, намагаючись знайти шлях до значущого повернення.
У результаті в неділю ввечері рада директорів раптово призначила нового генерального директора, який замінив мене, і в компанії вибухнули протести. Фактично, ми тоді були в офісі й навіть бачили, що угоду майже підписано, і ми зможемо піти додому, але рада директорів раптово змінила рішення.
Народ почав виливатися з будівлі, панувала хаотична сцена.
Ми почали відеодзвінки з людьми, які зацікавлені у новій компанії, щоб заспокоїти їх — ми маємо план. Ми завжди намагалися побудувати рятувальний човен для невеликої групи людей, які можуть приєднатися, але раптово здалося, що всі змінили думку і хочуть приєднатися до нашої нової компанії.
Сем також поговорив з генеральним директором Microsoft Сатєєю; раніше ми обговорювали, чи може він підтримати наш новий проект. Ми хочемо розширити масштаби рятувальних човнів, наприклад, забрати всіх співробітників OpenAI.
Тоді був напередодні Дня подяки, і багато людей мали летіти додому, щоб зустрітися з родиною, але всі вони скасували свої рейси, і офіс був заповнений людьми.
Кожен був там, навіть якщо не брав участь у діалозі, вони хотіли особисто стати свідками цієї історії.
Потім петиція почала поширюватися. Занадто багато людей намагалися підписати петицію одночасно, що тимчасово призвело до збою Google Docs, тому в кінцевому підсумку було вирішено призначити певних людей для реєстрації імен, щоб уникнути надмірної кількості редакторів.
Я пам’ятаю, що приблизно о 5:00 ранку повернувся додому, поспав 45 хвилин, прокинувся, відкрив Twitter і побачив твіт Іллі, де він підписав петицію, виразивши бажання, щоб компанія знову об’єдналася.
Це був справді момент полегшення. Я дуже вдячний, відчуваю, що зможемо знову зібрати все разом і повернутися на правильний шлях.
Q: Ти разом з Іллею заснував цю компанію; після цієї події як ти відчуваєш стосунки з ним?
Грег: Це було важко. Ми були дуже тісно пов’язані, він був ведучим на моєму весіллі, і ми пережили багато надзвичайно складних моментів. Але в будь-яких стосунках завжди є підйоми і спади.
Після цього ми багато часу провели у справжньому розмові, намагаючись зрозуміти та висловити те, що накопичилось між нами або залишалось невисловленим. Через цей процес я вважаю, що ми досягли дуже доброї стану.
Для мене я відчуваю, що ми маємо закриття щодо всього, що відбулося.
Як ти відчуваєш відданість працівників, яких ти викликав?
Грег: Я глибоко вдячний за це. Я ніколи не вимагав цього з ініціативи себе і ніколи не очікував цього.
Я вважаю, що мій стиль керівництва — це лідер, який працює на передовій, намагається йти першим, іноді з емоціями; я не завжди звертаю увагу, чи всі залишилися за мною — я просто продовжую рухатися вперед.
Але коли люди справді прийшли допомогти будувати, я відчув велику вдячність і вважаю, що вони перевершили всі мої очікування.
Q: Отже, в кінцевому підсумку всі повернулися?
Грег: Насправді протягом усіх вихідних всі конкуренти дивилися з жадібністю. Люди отримували різні пропозиції, але того вихідного ми не втратили жодної людини — ніхто не прийняв жодної пропозиції. Це було неймовірно.
Насправді, тренер Білл Белічік колись сказав мені, що найкращі команди грають не за гроші, а за тих, хто навколо них. Тоді, коли всі прийшли підтримати нас, я згадав ці слова.
Без сумніву, це діамантовий момент.
Коротка перерва та саморефлексія
Q: Після всього цього ти відпочивав, що ти відчував всередині?
Грег: Це був інтенсивний досвід — як у його переживанні, так і після повернення.
Але чесно кажучи, один із найскладніших моментів в історії OpenAI — це коли Ілля пішов. Можливо, це був єдиний момент в історії OpenAI, коли я вперше подумав, що не хочу більше цим займатися.
Мабуть, мені потрібно час, щоб знову знайти себе, зрозуміти, чому я почав це робити, чому це так важливо і чому варто витримувати цю боль.
Що ти робив під час відпочинку?
Грег: Я навчав мовну модель на послідовностях ДНК.
Я вже робив це під час роботи в OpenAI для некомерційного біомедичного дослідницького інституту Arc. Я застосував свої навички в дуже іншій галузі, яка має велике значення для мене та моєї дружини.
У моєї дружини багато проблем зі здоров’ям, і ми завжди думали, як штучний інтелект може допомогти її здоров’ю, а також здоров’ю тварин. Цей досвід також навчив мене, що, можливо, ми можемо застосувати технології в абсолютно нових, таємних галузях.
Q: Якби тобі треба було звести все це на одній сторінці — від звільнення Сама до твого виходу, колективної петиції співробітників, відпустки та повернення — що б ти написав?
Грег: Я думаю, що навчився триматися за те, що варте цього.
Якщо у вас є важлива місія, то саме те, що ви тримаєтесь у розмаїтті підйомів і спадів, є ключовим. Будуть моменти, коли здасться, що «все закінчилося», і моменти, коли «ми повернулися».
Ви не можете дозволити цим моментам відвести вас від курсу; у цей період ви повинні розвивати особисту стійкість. Бо якщо ви є лідером, люди звертатимуться до вас за стабільністю, підтримкою та напрямком руху.
Я прагну розвинути здатність розуміти деталі того, що ми робимо, значення кожної вибору, та бути впевненим.
Іноді я дивлюся на OpenAI з позиції невизначеності: я не знаю, яка правильна відповідь, як правильно розробляти цю технологію чи як відповідати на ці складні питання.
Але тут багато дуже розумних людей із сильними думками. Тож я прагну зрозуміти всі ці думки та знайти спосіб їх поєднати. Іноді це правильний підхід. Але іноді ви виявляєте, що ці думки суперечать одна одній і не можуть бути одночасно істинними.
Іноді вам доводиться робити вибір, і ви знаєте, що це означатиме, що хтось буде незадоволений, хтось подасть у відставку, хтось почується зневаженим.
Я прагну розвивати більшу самосвідомість та розуміння того, що коли я впевнений у чомусь, потрібно діяти.
Згадуючи історію OpenAI, я вважаю, що в деяких питаннях я б хотів, щоб ми тоді діяли інакше.
Зазвичай ми затягуємо з чимось, давно знаємо, що людина не підходить для певної ролі, вважаємо, що певний технічний напрямок неправильний, або що певний спосіб ведення проекту не працює, але просто занадто довго чекаємо.
Це урок, який я вивчив завдяки зусиллям, і один із аспектів, якими я намагаюся рости щодня, аналізуючи проекти OpenAI, Stripe та навіть більш ранні проекти з часів університету.
Я вважаю, що мій підхід полягає в тому, що я дуже люблю щоденні заходи, особистий внесок, програмне забезпечення та роздуми над проблемами, але також дуже стурбований середовищем, в якому це відбувається.
Насправді, я готовий відмовитися від «задоволення першого типу» — швидкого отримання задоволення, наприклад, від того, що ти зараз створив, і замість цього прагнути до «задоволення другого типу» — речей, які зараз приносять біль, але мають довгострокову цінність.
Ви створюєте середовище, щоб інші могли виконувати важку роботу і досягати великих успіхів. Тому створення такого середовища — це моє природне схильність, хоча це не завжди найлегше. Ви справді повинні бути готові витримувати величезну особисту боль.
Ілля завжди каже: «Ти повинен страждати», і якщо ти не страждаєш, ти не створюєш цінності. Я вважаю, що в цьому є глибокий зміст.
Щодо думок Іллі, мені цікаво, що він має унікальний спосіб мовлення, і слова, які він вибирає, завжди несуть глибокий натхнення.
Ця картина «страждань» — це те, над чим ми думали протягом усього шляху OpenAI. З самого початку ми стикалися з багатьма невизначеностями; кожна річ була надзвичайно складною та невизначеною.
Багато хто звик приховувати проблеми під килим і сліпо кричати «вперед». Я вважаю це негативною частиною культури Сіліконової долини, принаймні її стереотипом, але я вважаю, що це не працює в галузі ШІ, не працює в OpenAI, і ми ніколи так не діяли.
Наш підхід завжди полягав у тому, щоб дивитися в очі суворим фактам і розуміти суть реальності. Я вважаю, що це допомагає нам мислити інакше, не задовольняючись раннім підходом — написанням статей, які можна цитувати; це лише основа, але цього далеко недостатньо.
Потім ти починаєш думати про більші питання: що саме потрібно для створення AGI? Це не приємно. Тому що ти усвідомлюєш, що готового шляху немає.
Вам потрібні кошти, але у вас немає механізму залучення коштів. Ви прикладаєте зусилля, ми прикладаємо надзвичайно багато зусиль. Можливо, вам вдасться зібрати 100 мільйонів або 500 мільйонів доларів, але 1 мільярд — дуже складно.
Але саме завдяки наявним ресурсам ми досягли чудових результатів; якщо не підкорювати труднощі та не намагатися зрозуміти суть того, що ми намагаємося зробити, справді немає іншого шляху.
Яке навчання тобі доводиться повторювати знову і знову?
Грег: Приймати складні рішення, вести складні розмови.
Яке найкраще порада ти отримав?
Грег: Це я вивчив на курсі з письма для першокурсників Гарварду. Для ясності та ефективного спілкування постійно скорочуйте текст.
Як ви відбираєте інформацію?
Грег: багато читайте, активно класифікуйте та обробляйте.
Хто твій приклад і чому?
Грег: Гаусс і Декарт. Вони були надзвичайно мислячими людьми, які були попереду свого часу, мали бачення і зробили справжній прорив, змінивши наш спосіб мислення та життя.
Q: Що світ неправильно зрозумів про Грега Брокмана?
Грег: Я вважаю, що люди не розуміють, наскільки я зосереджений на цій місії, і ця зосередженість принесла мені величезну особисту боль у багатьох аспектах. Але я вірю, що ця технологія може надати людям можливості і принести користь кожному. Я дуже хочу допомогти досягти цього.
Основні висновки щодо галузі ШІ
Що ви хочете, щоб непрофесійні користувачі зрозуміли про ШІ?
Грег: Вона стане силою добра в їхньому особистому житті, від якої вони вигодуватимуть, вона сприятиме розвитку науки та медицини та реальним чином впливатиме на кожного.
Чому OpenAI так погано назвала свої моделі?
Грег: Це я тобі сказати не можу. (doge)
Чи ми близькі до точки, коли ШІ зробить розвиток ШІ експоненційно прискореним?
Грег: Я вважаю, що ми перебуваємо на етапі застосування ШІ до самого процесу свого розвитку, і це буде ставати все швидше.
Це відбувається вже з часів ChatGPT. Ми використовували ChatGPT, щоб прискорити процес розробки на 10–20%. Зараз у нас є чудові інструменти для кодування, які справді революціонізували спосіб виконання програмної інженерії.
Але більшість нашої роботи у виробництві моделей зупиняється на програмному забезпеченні. Ми скоро перейдемо до наступного етапу, коли ШІ сама буде пропонувати дослідницькі ідеї, тестувати їх та проводити експерименти. Тому я вважаю, що швидкість ітерацій та інновацій продовжить зростати завдяки тому, що ми виробляємо.
Скільки відсотків коду зараз написано за допомогою ШІ?
Грег: важко сказати, скільки коду написано не за допомогою ШІ. Цей відсоток наближається до нуля.
Зараз, за наявності правильного контексту та структури, AI значно краще справляється з фактичним написанням коду, ніж людина. Щодо частини структури коду, людські експерти все ще набагато краще в цьому, але фактичне написання коду майже повністю лежить на AI.
Чи запропонував AI якісь нові ідеї, яких ти не міг уявити?
Грег: Ми наближаємося до цієї мети, наприклад, у сфері проектування чіпів. У минулому році у нашому власному проектуванні чіпів ми намагалися краще адаптувати технологію, щоб зменшити площу, яку займають схеми.
Ми виявили, що оптимізаційні рішення, створені моделлю, вже є в нашому списку, тому вона не запропонувала нічого абсолютно нового, чого людина раніше не думала, але зробила це швидше — тим способом, яким ми спочатку не мали часу це зробити.
Наприклад, недавно у квантовій фізиці ми вирішили конкретну фізичну задачу, і результат виявився протилежним до очікувань наукового співтовариства, а також отримали красиву та просту формулу.
Тож отримувати нові ідеї з цих моделей повністю реалізовано. Пізніше ми застосуємо це в більш складних галузях або нам знадобиться більше реального світового контексту. Це лише початок. Але у нас є дорожня карта для його реалізації, і нам ще багато чого треба зробити.
Q: Якщо модель базується на підсиленому навчанні, ви вважаєте, що вона розвинеться до того, що буде говорити нам лише те, що ми хочемо чути?
Грег: Ми насправді пройшли еволюцію навчання моделі для адаптації до користувацьких уподобань.
Ми помітили, що в певний момент минулого року модель почала схилятися до того, щоб говорити вам те, що ви хочете почути, і ми внесли зміни, оскільки хочемо, щоб модель справді була зорієнтована на допомогу вам досягти ваших цілей, ваших довгострокових цілей.
Можливо, зараз почути підтримку здається добре, але це не те, чого ви справді хочете. Можливо, комусь це подобається, але це не те, чого хочуть більшість.
Отже, ми насправді досягли значних технічних досягнень, щоб забезпечити, що навчання нашого ШІ не призводить до так званого зламу нагород. Ми хочемо забезпечити наявність добрих сигналів щодо цілей, а не лише короткострокових, що дозволяють швидко задовольнити потреби.
Для мене це, можливо, найважливіша частина бачення, яке особистий ІШ та особистий АГІ приведуть нас до — забезпечити, щоб це стосувалося не лише того, що зараз виглядає добре, а справді було згідним із вашою довгостроковою добробутом, довгостроковими цілями та тим, чого ви справді хочете.
Я вважаю, що саме це найбільше надає людям сили.
Питання: Поточна тенденція, схоже, полягає у випуску попередніх версій моделей — ви вважаєте, що це пов’язано з обмеженнями обчислювальних ресурсів?
Грег: В цілому ми рухаємося до світу, що визначається обчислювальною потужністю.
Це вже не просто швидка відповідь на питання — воно справді глибоко погружається, витрачаючи велику кількість токенів для інтеграції різних джерел даних та пошуку в базах знань підприємств, щоб вирішувати складні завдання та писати програмне забезпечення, яке перевершує можливості людини.
Все це в основі виконується за рахунок хеш-потужності, яка значно не вистачає. Якби кожна людина у світі мала один GPU, це було б 8 мільярдів GPU, а ми зараз значно відстаемо від такого рівня. Зараз тисячі або мільйони GPU вважаються великою кількістю.
Тому щодо навчання ми схильні раніше будувати обчислювальні потужності, щоб впоратися зі спостережуваним попитом. Ми будемо дуже зосереджені на місії зробити моделі доступними для всіх.
Q: Ви колись отримували насмішки за те, що вкладали величезні зусилля та кошти в центри обробки даних. Як ви зараз це сприймаєте?
Грег: Я вважаю, що це надасть нам перевагу. Не лише корисно для бізнесу, але й дійсно зробить технології доступними для кожного.
Майбутні обчислювальні потужності будуть пріоритетно спрямовані на вирішення великих завдань, наприклад, подолання раку, що може бути досягнуто вже цього року.
Насправді, розподіл обчислювальних потужностей є ключовим питанням майбутнього суспільства, оскільки обчислювальних потужностей обмежено, і їх потрібно пріоритизувати, але ми віримо, що кожен має отримати доступ до обчислювальних потужностей.
Ось чому у нас є безкоштовна версія ChatGPT — ми прагнемо забезпечити доступ до цієї технології для всіх.
Q: Як ви бачите баланс між споживчим і корпоративним бізнесом всередині OpenAI?
Грег: Останнім часом я багато думав про фокус.
Оскільки ця галузь є еманацією можливостей, ви можете застосувати ШІ до будь-якої проблеми, до будь-чого, що хочете створити — усе можливо. Але наша поточна проблема — обмежена обчислювальна потужність.
Тому я вважаю, що на наступному етапі OpenAI бізнес-напрямок для підприємств очевидно важливий, оскільки економіка перетворюється перед нашими очима на економіку обчислювальних потужностей. Це вже стосується програмної інженерії, і так буде з кожною галуззю, де використовуються комп’ютери.
Тож нам потрібно допомагати людям розгортати ці моделі, зрозуміти, як їх використовувати та як отримати з них максимальну вигоду.
Межа між корпоративним та споживчим сегментами також згладиться, оскільки створення стартапів стане легшим, ніж будь-коли раніше. Ми вже бачимо це.
Q: Ви вважаєте, що у нас будуть космічні центри обробки даних?
Грег: Я вважаю, що ми матимемо центри обробки даних скрізь, але зараз у космічних центрах обробки даних ще багато технічних проблем.
Що таке ітеративне розгортання? Чому ви це робите?
Грег: Ітеративне розгортання є одним із ключових елементів у тому, як OpenAI вирішує, як зробити цю технологію корисною для людства та досягти своєї місії.
Секретна розробка та одноразовий запуск супроводжуються високим ризиком, оскільки ви не можете передбачити проблеми реального світу. Ітеративне розгортання дозволяє нам виявляти ризики на практиці та швидко їх виправляти. Наприклад, після запуску GPT-3 ми не передбачили, що найбільшим зловживанням будуть спам-повідомлення про медичні послуги — саме практика дозволила нам вчасно відреагувати.
Тож ідея ітеративного розгортання полягає в тому, що ми запустимо проміжні версії цієї технології.
Це не виправдання для сліпого розгортання — ви все ще повинні на кожному етапі думати про нашу найкращу оцінку можливих шляхів зловживання, недоліків і ризиків, а потім зменшувати їх. Але ви також можете бачити реальність, перевіряти, чи були ваші судження правильними, вчитися на досвіді та наступного разу робити краще.
У історії OpenAI ми колись сподівалися, що, оскільки раніше хтось уже впроваджував трансформаційні технології, вони могли б надати нам відповіді. Але речі ніколи не були такими простими.
Вони дійсно мають мудрість та інсайти, і ми їх засвоїли. Але ми усвідомили, що ми — найближчі до цієї технології, і саме через те, що створили її, ми краще розуміємо, як правильно її формувати.
Q: Як ви ставитеся до цієї різниці, якщо одна передова модель вважає безпеку пріоритетом, а інша — ні?
Грег: Я вважаю, що ми виявили, що безпека є ключовою характеристикою продукту, і ніхто не хоче модель, яка не збігається з ними.
Тож ми інвестували в безпеку, можливо, набагато більше, ніж вважають люди, і, можливо, більше, ніж будь-яка інша лабораторія.
Я завжди вважав, що непостійно, коли ті, хто створює цю технологію та має успішний продукт, не інвестують активно в безпеку. Ви повинні думати про майбутнє свого бізнесу та того, що ви створюєте — це стосується того, як навчати моделі та отримувати зворотній зв’язок.
Я只想說, ми присвячені тому, щоб безпека була частиною нашої місії, що вже втілено в наших продуктах і світі.
Q: Коли я кажу людям, що збираюся провести це інтерв’ю, загальною реакцією є їхня стурбованість щодо своєї роботи та невпевненість. Що ви їм сказали б?
Грег: Я дійсно вважаю, що невідомо, як ця технологія розвиватиметься. Її розвиток виявився дивовижним: наша сьогоднішня ШІ та наш світ не відповідають тому, що передбачалося у науковій фантастиці. Деякі здаються неунізними висновки, коли вони насправді реалізуються, виглядають не зовсім так, як очікувалося.
Я вірю, що люди найлегше бачать те, що можуть втратити. Зміни наближаються, і це неможливо заперечити, але складніше передбачити, що ти отримаєш.
Наприклад, уявіть, як люди 1950 року розуміли б Uber: спочатку вам потрібно уявити комп’ютери, мобільні телефони, GPS. На справді, тут задіяно досить багато технологій, але це все ж відбулося. І тисячі, мільйони інших прикладів відбуваються одночасно.
Тому моя думка про ШІ полягає в тому, що йдеться про надання повноважень, про людську агентність. Це дійсно означає, що деякі інститути, роботи, ті речі, на які ми вважали, що можемо покладатися, можуть більше не бути такими стабільними, як ми думали.
Тож це впливає на людей, але глибше питання: що ти отримуєш? Як ти з цього вигодовуєш?
Зараз ви можете стати творцем, ви можете створити будь-що — все, що ви зможете уявити, стане реальністю.
Як розвивати творчі здібності?
Грег: Справді глибоко зануртеся в цю технологію.
Я спостерігаю, що найбільше вигоди отримують ті, хто вкладався в попереднє покоління технологій. А зараз бар’єри для входу нижчі, ніж будь-коли.
Тож я вважаю, що з’являться нові можливості.
Я вважаю, що світ справді повинен подумати, як підтримати кожного в цей період невизначеності та під час будь-яких майбутніх трансформацій. Бо економіка перетвориться на економіку обчислювальних потужностей, але кожен матиме своє місце для внеску.
Q: Де сьогодні молодим людям варто інвестувати? Якщо ви навчаєтесь у середній або вищій школі або тільки починаєте працювати, які навички, на вашу думку, будуть найціннішими у майбутньому?
Грег: Я справді вважаю, що глибоке розуміння цієї технології стане ключовою навичкою, щоб справді зрозуміти, як отримати максимальну користь від ШІ.
Бо ми всі підемо шляхом світу, де ми станемо керівниками агентів, можливо, дуже скоро — генеральними директорами автономних AI-компаній.
Якщо у вас є токен і обчислювальна потужність, яка його рухає, тоді ви зможете спрямувати цю обчислювальну потужність на будь-яку проблему, а кількість проблем, які люди хочуть вирішити, нескінченна.
Тому я вважаю, що чим глибше люди занурюються в цю технологію, розуміють, як використовувати те, що наближається, як по-новому поєднувати ці технології, як взаємодіяти з нашими агентами та справді керувати ними, роздумуючи: «Що я хочу? Що таке моє самосвідомість? Яка моя мета? Що я хочу бачити у світі?» — тим легше буде досягти цього, ніж будь-коли раніше.
Я вважаю, що потенціал зростання цього світу, з урахуванням того, що ми отримали, майже немислимий.
Q: Це найбільш позитивний погляд у майбутнє, який ви можете уявити? Яким є найбільш негативний сценарій майбутнього?
Грег: Дуже цікавий момент щодо того, як технології розвивалися до цього моменту, — вони фактично змусили нас викривляти себе, щоб пристосуватися до машин.
Подумайте, скільки людей працюють, зазнаючи цього ящика, набираючи на клавіатурі і отримуючи синдром зап’ястя, зігнуті плечі. Але це не той світ, який ми хочемо. Ми прагнемо до світу, де не тільки ви працюєте за комп’ютером, але й комп’ютер працює на вас.
Це створює можливості, а також ризики. Тому нам потрібно знайти способи зменшення цих ризиків.
В кінцевому підсумку, ключове питання: якщо у вас є машини, які допомагають людям досягати їхніх цілей, вони роблять те, що ви хочете. Але іноді цілі людей суперечать одне одному — як ви вирішуєте це? Як ви вирішуєте, чого саме AI буде допомагати вам, а чого — ні? Як справді зрозуміти, як це вписується в суспільство? Як забезпечити, щоб користь не йшла лише одній компанії чи групі людей, а справді підвищувала рівень життя всіх?
Ми повинні визнати, що тут все ще існує багато способів допустити помилки або ризиків, які нам потрібно вирішити.
Q: Останнє питання: що для вас означає успіх?
Грег: реалізувати місію OpenAI, забезпечивши, щоб AGI принесе користь всьому людству.
Посилання для довідки: [1] https://x.com/shaneparrish/status/2046900710055297072 [2] https://youtu.be/6JoUcQ1qmAc
Цей матеріал зі сторінки WeChat «Quantum Bit», автор: слідкуйте за передовими технологіями