Лідери у галузі штучного інтелекту досліджують розробку штучного інтелекту за допомогою штучного інтелекту

Як зробити так, щоб AI розробляв для вас наступне покоління AI

Автор статті, джерело: Telegram-канал "APPSO"

Якщо китайський інженер-штучний інтелект має міцні технічні навички, відмінне резюме та закінчив такий топовий університет, як Пекінський університет, то він може зробити все що завгодно, тільки не може не працювати.

Після того як Вон Лі залишила Thinking Machines Lab, заявивши, що здоров’я та життя — це «найважливіша згідність», вона знову повернулася до OpenAI. За словами прес-секретаря компанії, вона буде керувати командою, що прискорює внутрішні дослідження, і братиме участь у дослідженнях OpenAI щодо «рекурсивного самовдосконалення» — тобто включення ШІ в навчання та покращення власних наступних моделей.

Не дивно, що її колишній колега, ще один колишній ключовий фігур в OpenAI Ілія Цуткевер, засновник Safe Superintelligence, також нарешті відкрив тріщину у своєму закритому дослідженні. Після отримання рідкісного доступу до внутрішніх досліджень, NVIDIA вирішила інвестувати в SSI та збільшити їхні обчислювальні потужності на порядок за допомогою нової системи Vera Rubin.

NVIDIA впевнена, що SSI протягом останніх двох років розвивала новий напрям досліджень, відмінний від існуючих підходів до великих моделей. Ilya не розкрив більше деталей, сказавши лише: «У нас є дослідження, які варто масштабувати».

Цікавість громадськості ще більше зросла, коли в соціальних мережах з’явився зворотний аналіз відкритих підказок, який припустив, що SSI шукає не наступний більший набір передтренувальних рецептів, а новий підхід до ітерації та еволюції: модель, яка не залишається нерухомою після завершення навчання, а постійно розвивається в процесі зворотного зв’язку, експериментів і безперервного навчання, створюючи все потужніші наступні покоління.

Це твердження не підтверджено SSI, але воно дуже збігається з попередніми позиціями Іллі. Він неодноразово стверджував, що ера масштабування, що ґрунтується лише на більшій кількості даних та обчислювальних потужностях, наближається до межі, і що ШІ потрібно знову навчитися, як людина, формувати глибше розуміння на основі меншої кількості досвіду та продовжувати розвиватися шляхом взаємодії з оточуючим середовищем.

Ці вже досить відомі топові фахівці з ШІ, схоже, дивляться в один і той самий бік: як за допомогою ШІ розробити наступне покоління ШІ.

Згадуючи рекурсивне самовдосконалення, легко уявити науково-фантастичну сцену: ШІ раптово усвідомлює свої недоліки, безпосередньо змінює ваги нейронної мережі і прокидається, вже в десять разів розумнішим, ніж вчора.

Реальний початок набагато скромніший. Розробка ШІ — це постійно повторюваний конвеєр: дослідники читають наукові статті та лабораторні записи, формулюють гіпотезу, змінюють код навчання, чекають у черзі на запуск експерименту, після отримання результатів порівнюють показники, шукають причини невдач і розробляють наступний план.

Сьогодні великі моделі можуть брати участь у багатьох етапах, вони можуть читати кодові бази, відтворювати наукові статті, писати сценарії експериментів, використовувати обчислювальні ресурси для запуску тестів, узагальнювати десятки результатів, аналізувати, який параметр, можливо, винен у проблемі, і продовжувати змінювати код. Раніше команда виконувала один цикл роботи протягом кількох днів, а майбутнє може бути таким, що кілька інтелектуальних агентів паралельно спробують десятки шляхів, а потім передадуть найперспективніші результати людям для оцінки.

У липні翁荔 опублікувала довгу статтю «Harness Engineering for Self-Improvement», яка майже передчасно описала її майбутнє дослідницьке напрямок. Вона вважає, що найбільш реалістичним шляхом самовдосконалення на даний момент не є пряме переписування мозку моделлю, а навчання ШІ змінювати власне робоче середовище: автоматично аналізувати записи невдач, налаштовувати управління контекстом, виклик інструментів та робочі процеси, а потім вдосконалювати цю систему на основі нових експериментальних результатів. Більш досконалі harness можуть сприяти автоматизації досліджень, а сильніші моделі, у свою чергу, можуть зробити harness простішим — утворюючи цикл.

Це також створює цікавий паралелізм між двома шляхами Вон Лі та Іллі: OpenAI схоже на поступове передавання існуючих процесів розробки штучному інтелекту, щоб він спочатку став працездатним дослідницьким інженером; SSI, напевно, намагається знайти нові навчальні парадигми на більш глибокому рівні, надаючи моделям здатність до безперервної ітерації та еволюції.

Штучному інтелекту не потрібно почати з здатності безпосередньо змінювати власні ваги. Досить, щоб він міг покращити процес навчання, відбирати дані, розробляти оцінки або оптимізувати оболонку, що оточує модель — це вже означає участь у створенні власної спадкоємців.

Перший рухається всередину інженерного циклу, другий — назовні від моделі, обидва мають мету скоротити відстань між однією генерацією ШІ та наступною.

Тоді, коли великі ведмеді хотіли прискорити ставки на цьому напрямку, у галузі зʼявилися інші думки.

На цьому тижні понад 1100 фахівців з компаній OpenAI, Anthropic, Google, Meta та інших підписали заяву, закликаючи створити технології та координаційні інструменти для контролю швидкості «автоматизованого AI-дослідження». Серед учасників — високопоставлені дослідники, такі як головний науковець OpenAI Якуб Пачоцкі, співзасновники Anthropic Джек Кларк і Джаред Каплан, а також сам Ілля.

Петиція не вимагає припинення досліджень у галузі ШІ і навіть не заперечує цінність самовдосконалення. Вона стурбована тим, що, коли ШІ почне значно прискорювати розробку ШІ, зростання здатностей може випереджати швидкість, з якою люди здатні розуміти та контролювати системи.

Уважно подумавши, цей «на перший погляд суперечливий» стрибок з одного боку на інший походить від тих самих людей, навіть від однієї особи. За одну й ту саму мить можна зробити дві різні висновки: вони одночасно вірять, що автоматизовані дослідження можуть стати ключем до наступного стрибка ШІ, і вірять, що коли цей зворотний зв’язок справді заработає, галузь повинна мати здатність зменшувати швидкість, якщо це необхідно.

Оскільки цей цикл, коли він утворюється, відрізняється від минулих випусків потужніших моделей. Колишній темп прогресу в кінцевому підсумку обмежувався людськими дослідницькими командами. Люди мали ставити питання, організовувати експерименти, оцінювати результати, а прогрес також зупинявся через бюджет, людські ресурси та організаційні процеси.

Метою автоматизованого AI-дослідження є поступове усунення цих обмежень. Чим потужніша модель, тим більше вона допомагає команді швидше створювати наступне покоління моделей; а наступне покоління моделей стає кращими дослідниками, що додає ще більше скорочення часу на наступний цикл розробки.

Отже, хоча ці дві сили здаються суперечливими, вони мають спільну передумову: автоматизоване AI-дослідження перетворюється з віддаленої ідеї на конкретну інженерну мету.

Відродження Вонга в OpenAI свідчить про те, що рекурсивне самовдосконалення вже отримало спеціалізовану організацію та керівника; готовність NVIDIA інвестувати величезні кошти та найсучасніші обчислювальні ресурси після ознайомлення з таємними дослідженнями SSI свідчить про те, що новий шлях навчання принаймні досяг етапу, вартого розширення перевірки.

Підписанти вимагають готуватися до гальмування, не тому, що вважають, що цей шлях не вдасться, а саме тому, що починають серйозно розглядати, що відбудеться після його успіху.

Справжнє розбіжність полягає не в тому, чи має допомагати ШІ людям у дослідженнях. Генерація коду, пошук наукових статей та автоматизація експериментів вже давно увійшли до лабораторій. А в тому, що коли ШІ поступово перетворюється з інструменту, що підвищує ефективність дослідників, на систему, здатну самостійно пропонувати рішення, проводити експерименти, оцінювати результати та коригувати наступні цикли, на яких етапах людина повинна зберігати право прийняття рішень.

Це означає серію питань, які потрібно обговорити: хто встановлює цілі для оптимізації? хто визначає, чи не порушує зміна, що, здається, підвищує бал, безпекові межі? коли кілька лабораторій перебувають у конкуренції, яка компанія згодна самостійно призупинити ефективну ітерацію? якщо цикл розробки моделі справді скоротився з року до кількох місяців або тижнів, чи зможуть зовнішні оцінки та внутрішні команди безпеки за кроком йти за цим темпом?

AI-компанії зараз борються не лише за створення вірусних моделей, а за систему розробки, здатну постійно створювати потужніші моделі.

З одного боку — такі провідні дослідники, як Ілля та Вен Лі, які шукають нові способи ітерації, щоб дозволити ШІ взяти участь у своєму власному розвитку; з іншого боку — тисячі дослідників з тієї ж галузі вимагають підготувати систему гальмування. Між цими двома позиціями лагері постійно змінюються, а ставлення не є протилежним: всі стоять перед однією спільною проблемою: коли інструменти дослідження починають прискорювати саме дослідження, хто зможе вирішити, коли має з’явитися наступне покоління ШІ?