Бывший исследователь ядра в OpenAI: Исследования человека и ИИ могут быть заменены в течение двух лет

Эй, слышали ли вы?

У людей-исследователей осталось всего два года хорошей жизни.

Через два года исследования в области ИИ будут для людей такими же обычными, как игра в шахматы сегодня.

Вы, конечно, можете делать ставки, но никому нет дела до того, как вы это делаете.

Это последнее спорное заявление Джерри Творека, бывшего руководителя модели вывода OpenAI.

Он пришел в OpenAI в 2019 году и проработал там семь лет. Когда в то время усиленное обучение никак не удавалось масштабировать, именно он упорно держался за эту идею и добился ее реализации; именно он лично возглавлял команду, создавшую два мощных продукта — o1 и o3.

«Мы хотим создать AGI.» Это была вся дорожная карта, которую Илья представил на общем собрании в 2019 году, когда только присоединился к OpenAI. Семь лет спустя он решил начать собственное дело.

Еще более пугает то, что эту фразу говорят не только он один. Сейчас самой популярной внутренней шуткой среди исследователей ИИ является следующая —

У нас осталось всего несколько дней работы — пока еще можно работать, давайте сделаем это, а потом все вместе выйдем на пенсию и отдохнем.

Все повторяют это как чёрный юмор. Но каждый, кто рассказывает анекдот, прекрасно это понимает.

Эта шутка, скорее всего, и есть реальность.

А это еще только закуска. В течение всего интервью он не прекращал бросать такие заявления:

• Агент действительно обладает креативностью, но это крайне низкокачественная, гигантская масса креативности — идеи разнообразны, но в целом ужасны.
• Во всём мире настоящих людей, которые сами прошли путь от обучения до внедрения передовой модели, возможно, всего тридцать–пятьдесят, а все остальные помогают им.
• Предположение, что Transformer является оптимальным решением, почти невозможно.
• За семь лет, проведённых в OpenAI, настоящих попыток заменить базовую архитектуру было всего три-четыре.
• Мир не обязан вращаться только благодаря нашей работе — этот предпосылка изначально неверна.

Вот отредактированная версия, наслаждайтесь.

Это число за два года не имеет отношения ни к бенчмаркингу, ни к хэшрейту.

Он подсчитывает, сколько работы в этом исследовании всё ещё выполняется людьми.

А эта работа давно была разделена на две части.

Одна часть — это генерация идей, понимание, куда двигаться. Другая часть — это работа, превращение идей в рабочий код и получение данных.

А вот那段 работы уже в основном передано агенту.

В апреле этого года Tworek основал компанию Core Automation с лозунгом: «Создание самой автоматизированной ИИ-лаборатории в мире».

У них полный цикл эксперимента сократился с одного месяца до одного дня. Эффективность повысилась в тридцать раз!

Однако агент пока не может обработать этот раздел. Причина в том, что—

They absolutely belong to the species of high creativity.

Но они тратят креативность крайне низкокачественно, массово и безвкусно. Идеи действительно разнообразны, но в целом они ужасно плохи.

Так слушать, кажется, эта часть с предложениями всё ещё стабильна.

Но тех, кто действительно может дать совет, и так осталось немного.

В интервью ведущий раскрыл, что один из исследователей OpenAI поделился с ним информацией —

Во всём мире настоящих специалистов, способных полностью понять, как обучать и развертывать передовые модели, может быть всего тридцать–пятьдесят.

Все остальные работают на этих десятков мозгов, включая большинство штатных сотрудников самой крутой компании.

Tworek не возразил.

Он также считает, что любой топ-команда действует именно так: несколько человек задают курс, за которыми следует целая громко работающая машина исполнения.

Чтобы понять, насколько востребованы эти десятки человек, достаточно взглянуть на его список привлечения сотрудников.

Сооснователь Core Automation Рохан Анил, ранее из Anthropic, еще раньше — из Google DeepMind.

Анмол Гулати, работавший над Gemini в DeepMind, также был привлечен. Даже бывший руководитель отдела кадров OpenAI Юлия Вильягра последовала за ним.

Все лаборатории ловят людей в одном и том же пруду. А в этом пруду всего несколько десятков рыб.

Так что это число за два года не имеет отношения к всему человечеству.

Сколько еще смогут продержаться эти десятки людей.

Если людей осталось всего несколько десятков, то какова последняя стена, стоящая перед ИИ?

Ответ Tworek — только одно слово: Transformer.

По его мнению, это почти невозможно является оптимальным решением.

Во-первых, модель не может продолжать обучение после развертывания. Сколько бы вы ни общались с ней, она не станет сильнее, и в следующем диалоге она останется той же самой. Контекстное окно тоже не выдерживает — он говорит, что, работая с Codex около двадцати минут, ему приходится сжимать его.

Во-вторых, если попытаться компенсировать это за счет постоянной тонкой настройки, вы обнаружите, что это не только крайне неэффективно, но и приводит к катастрофическому забыванию: выучив новое, вы забываете старое.

Таким образом, за последние несколько лет большая часть работы в отрасли вокруг Transformer фактически заключалась в снижении его стоимости, и лишь немногие действительно работали над его усилением.

Но то, чего действительно хочет Творек, не находится в самой архитектуре.

Он хочет модель, которая может продолжать обучаться во время тестирования — модель, которая постоянно развивается за счет взаимодействия с пользователями и их данных. Смена архитектуры — это лишь средство для достижения этой цели.

Эти принципы известны каждому в отрасли. Но почему же Transformer до сих пор уверенно держит свои позиции?

Причина настолько проста, что кажется абсурдной — вообще почти не пробовали.

За семь лет в OpenAI настоящих попыток заменить базовую архитектуру было только три-четыре.

Процесс выглядит так.

Исследователь сначала проводит небольшой эксперимент по проверке, запускает его как минимум на три месяца. Только когда результаты выглядят убедительно, он переходит к масштабированию.

А так называемое увеличение означает, что вам нужно убедить примерно десять человек, обладающих жизненной и смертельной властью, с помощью своего красноречия, а затем эти десять человек вложат в вашу бездонную яму от трех до шести месяцев.

В итоге либо будет раздавлен той кинетической энергией, которую Transformer давно скатал в снежный ком, либо частично поглощен и превращён в один из его винтиков.

Семь лет, три-четыре раза. Это весь объем производственных возможностей самого мощного в мире лаборатории ИИ в области архитектурных инноваций.

«Джари, возьми эту вычислительную мощность и используй»

Он сам уже попадал в такую же тупиковую ситуацию в OpenAI. И выйти из неё помогло одно предложение.

Тогда те эксперименты, едва живые, проявили какие-то признаки жизни. Не сказать, чтобы хорошо, но хоть намёк появился.

В этот самый момент его нашёл Якуб Пачоцки, позже занявший пост главного научного сотрудника OpenAI.

«Джаре, все эти GPU — тебе, посмотри, сможешь ли ты добиться еще более масштабных и мощных результатов».

«Теперь у тебя есть эти GPU.» Когда он повторил эту фразу, у o1 еще не было имени.

Эта фраза вытащила его из парадокса —

Вы должны сначала предоставить результат, чтобы иметь право требовать вычислительную мощность.

Но сначала нужно иметь эту вычислительную мощность, чтобы получить результат.

Твокер говорит, что большинство передовых направлений застряли в этом парадоксе. Тайные битвы за вычислительные мощности в лабораториях, в конечном счете, являются попыткой найти выход.

А экспорт — иногда это просто решение руководства Нажмите Confidence.

Достаточно того, что кто-то сверху скажет: я хочу, чтобы у тебя был приличный объем вычислительной мощности, чтобы хорошенько этим заняться.

Как только дверь открылась, дальше уже не остановить.

Реинфорсмент-лёрнинг с этого узла преодолел несколько порядков величины.

Затем выход o1 на свет — этот путь, который многие считали обреченным для моделей рассуждений, — он успешно проложил.

Сто тысяч долларов — это как эксперт

А на этот раз ему больше не нужно ждать, пока кто-то скажет.

Самым затратным этапом всей цепочки является перевод абстрактных идей в рабочий код. И именно это сегодня агенты делают лучше всего.

Например, Core Automation использовала эту стратегию для работы с ядром GPU.

В частности, они передали ядро QR-разложения программному агенту, который работал в течение четырех недель, потратив около 100 000 долларов США на стоимость вызовов, и в итоге ускорил это ядро в 60 раз.

Эта задача относится к низкоуровневой инженерии производительности: речь идет о том, как ускорить выполнение матричных вычислений на графическом процессоре, и обычно это требует ручной настройки от немногих экспертов построчно.

А таких экспертов во всём мире тоже не так уж много.

Сейчас десять тысяч долларов могут заменить одного. Ему не нужно убеждать, и не нужно три-шесть месяцев.

Семилетний барьер был преодолен.

Даже самая трудная архитектура начала ослабевать, поэтому руль в руках у десятков людей не останется надолго.

В конце интервью ведущий прямо спросил его: что останется людям делать, когда этот день наступит?

Tworek описал две картины.

Первая — древняя Греция.

Все собираются на площади, спокойно обсуждают философию весь день, а затем идут заниматься спортом, едят оливки и пьют вино.

Он сам только что описал это и рассмеялся, признав, что, вероятно, просто проецирует свои собственные желания.

«Давайте встретимся на площади, а потом поговорим». Эти были его собственные слова, описывающие повседневную жизнь людей в пост-АГИ эпоху, и он сам рассмеялся, сказав это.

Вторая — средняя школа, или университет.

Он считает, что человек должен сохранять стремление к «превосходству» самому по себе. Продолжать жадно учить новое и изнурять тело и разум до предела.

Это немного похоже на профессиональный спорт: никаких экономических причин нет, чтобы заставлять вас мучиться и потеть, но человеческое достоинство тянет вас к тому, что называется «великим».

Мы должны найти различные способы сделать это.

В следующем мире больше не будет таких вещей, как «если ты этого не сделаешь, мир рухнет». Мир будет продолжать функционировать на уже построенной нами инфраструктуре.

«Мы должны продолжать учиться.» — сказал он об этом, как об обязанности, а не как о развлечении.

Затем он спокойно открыл свои карты.

Мы должны работать, чтобы этот мир функционировал. Это предположение вообще не обязательно.

«Многие люди получают свое самооценочное значение из работы». Он признал, что это самый трудный шаг, включая для него самого.

Честно говоря, после всего выступления самым пугающим было не то, что два года.

Он сам это понимает — он активно ускоряет этот обратный отсчет.

То, что он собирается создать, по определению — это способность самостоятельно учиться и становиться сильнее, больше не требуя постоянного присутствия человека для подпитки. Как только это будет создано, позиции этих десятков людей исчезнут еще быстрее.

А у него еще есть одна более жесткая фраза: первым, кого он приговорит, будет сам он.

Если ты не лаборатория с самым ужасающим запасом вычислительной мощности и наибольшим объемом, ты погибнешь жалко.

В то время, когда говорились эти слова, Core Automation существовала всего четыре месяца и имела нулевой доход.

Он говорил, что с момента основания бизнеса почти каждую неделю кто-то приходил и говорил ему: «Джаре, слишком поздно, ту лестницу в небеса уже убрали».

Его ответ состоял только из одной фразы своей фирменной речи.

Люди в нашей компании чаще всего говорят, что всё — это проблема навыков.

В итоге не вини макроокружение — вини себя, потому что твои навыки слишком слабы.

Надо сказать, эти слова в контексте этого интервью действительно что-то вызывают.

Снова вернемся к началу, к этой популярной шутке.

У нас осталось всего несколько дней работы — пока еще можно работать, делайте это как можно скорее.

Мы не знаем, была ли в этом тоне радость или печаль.

Потому что для человека, который это говорит, эти две эмоции изначально одно и то же.

Твокер сказал, что ритм этой работы крайне изматывает, и за все эти годы он действительно очень-очень устал.

Но если мы действительно в это верим, это самый важный период в нашей карьере.

Наверное, это крайне того стоит.

Справочные материалы:

https://x.com/MTSlive/status/2092387349623935322

Эта статья взята из официального аккаунта WeChat «Новости ИИ», автор: АСИ, редактор: Моисей