MIT CSAIL запропонувала програмування у просторі ваг, Astra виправила математичну продуктивність Qwen за допомогою зміни ваг на 0,016%

iconMetaEra
Поділитися
AI summary iconКороткий зміст
MIT CSAIL запропонувала новий метод під назвою «Weight-Space Programming», який дозволяє GPT-6 Astra безпосередньо читати та змінювати ваги нейромережі. У тесті оновлення мережі з використанням моделі Qwen3.5-0.8B Astra підвищила показник MATH-500 з 7,9% до 48,1%, змінивши лише 0,016% ваг. Система також продемонструвала здатність розуміти та виправляти пошкоджені ваги, а навіть створювати нові мережі. Цей розвиток приносить новини для криптовалютного світу щодо інтеграції ШІ та блокчейну, хоча результати наразі обмежені простішими моделями.
Команда MIT CSAIL запропонувала метод «програмування в просторі ваг», який дозволяє GPT-6 Astra безпосередньо читати та змінювати ваги нейронної мережі. У моделі Qwen3.5-0.8B достатньо було змінити лише 0,016% ваг, щоб підвищити результат на MATH-500 з 7,9% до 48,1%, ефективно виправивши проблеми з ітераційним міркуванням. Експерименти також підтвердили, що Astra здатна розуміти ваги, виправляти пошкодження та генерувати мережі з нуля, але її ефективність обмежена простими моделями і ще не може замінити навчання або загальне створення складних моделей.

Автор статті, джерело: Big Data Digest

У світі штучного інтелекту знову з’явився потужний ініціатив!

Команда MIT CSAIL запропонувала метод, який називається «програмування в просторі ваг» (Weight-Space Programming): не навчаючи та не обчислюючи градієнти, GPT-6 Astra безпосередньо читає та змінює ваги нейронної мережі.

У експериментах з Qwen3.5-0.8B Astra лише змінила приблизно 0,016% ваг, що дозволило підвищити результати моделі на MATH-500 з 7,9% до 48,1%, на GSM8K — з 13,8% до 67,1%, а також результати з виконання інструкцій IFEval — з 21,0% до 62,3%.

Це означає, що великі моделі почали набувати здатності безпосередньо розуміти та редагувати параметри нейронних мереж.

Цю роботу очолили докторанти MIT CSAIL Рікія Такехі та Джейден Тіох, а також співавтори Алекс Чжан та Омар Хаттаб. Дослідницька група опублікувала результати у дослідницькому блозі «Sparks of Weight-Space Programming».

Що таке програмування в просторі ваг?

Ваги є ключовими параметрами нейромережі, які визначають, як модель обробляє вхідні дані та генерує кінцевий вивід.

Традиційне навчання моделей зазвичай вимагає підготовки даних, обчислення втрат і градієнтів, а потім постійної корекції ваг за допомогою оптимізатора. Цей процес залежить від великої кількості обчислень, а параметри моделі важко зрозуміти людям безпосередньо.

Програмування в просторі ваг надає інший підхід:

Вважайте ваги нейронної мережі об’єктом, який можна читати, аналізувати та змінювати за допомогою великих моделей.

Універсальна велика модель безпосередньо за натуральним мовним цільовим показником визначає функцію мережі, виявляє аномальні структури та корегує відповідні параметри.

У цьому дослідженні Astra виконала три основні завдання: 1. Зчитування вагів, визначення, яке завдання виконує нейромережа; 2. Зміна вагів, виправлення конкретних несправностей у мережі; 3. Генерація вагів з нуля, створення невеликих мереж із певними функціями.

Дослідницька команда спочатку протестувала здатність Astra розуміти ваги нейронних мереж.

У першому експерименті дослідники використали PPO для навчання чотирьох невеликих нейромереж з повністю однаковою структурою, кожна з яких грала у Breakout, Pong, Pac-Man та Freeway.

Astra отримала повну початкову вагу, але не знала назв кандидатів на гри та не могла спостерігати поведінку через мережу. У підсумку вона правильно визначила, які ігри відповідають кожній з чотирьох мереж.

У другому експерименті дослідники навчили три дифузійні моделі генерувати кола, трикутники та квадрати. Astra також, використовуючи лише ваги, успішно визначила мету генерації кожної моделі.

Третій експеримент був розширений до мовних моделей. Дослідники навчили три невеликі Transformer-моделі з 7,2 мільйона параметрів, які вивчали Python-код, японську мову ромадзі та англійську. Навіть надаючи лише ваги проміжних шарів, видаляючи вхідні та вихідні шари, Astra змогла визначити тип навчального корпусу та знайти копіювані головки уваги в мережі.

Ці експерименти показують, що універсальні великі моделі можуть не лише обробляти текст і код, але й витягувати інформацію про функції нейронних мереж із ваг.

Друге: виправлено ітераційний цикл шляхом зміни ваги лише на 0,016%

Експеримент Qwen3.5-0.8B є найбільш цікавою частиною цього дослідження.

Ця модель після включення режиму міркувань легко потрапляє у цикл міркувань, повторюючи подібний вміст і не здатна швидко надати остаточну відповідь. У базових тестах 93% відповідей MATH-500 досягали ліміту в 32768 токенів.

Astra отримує доступ до ваг моделі через інтерфейс Python і перевіряє поведінку моделі за допомогою завдань із наборів даних GSM8K і MATH, але не може використовувати інформацію про навчання чи градієнти, а також не має доступу до фінального тестового набору.

Після аналізу Astra визначила проблему в частині MLP-структури 15-го та 19-го рівнів і видалила напрямок, пов’язаний із дублюванням виводу.

Ця зміна стосується 131072 ваг, що становить приблизно 0,016% від загальної кількості ваг моделі. Після зміни частка відповідей MATH-500, які досягли ліміту токенів, знизилася з 93% до 33,1%.

Тому це покращення результатів зумовлене не введенням нових математичних знань у модель, а виправленням поломок, що перешкоджали їй виконувати міркування. Деякі завдання, які раніше не вдавалося вирішити, тепер можуть надавати повні відповіді.

Проте, хоча фінальний патч був невеликим, процес аналізу був не простим. Найкращий експеримент використав 50 запитів на оцінку, 158 діалогів і 80 виконань Python, що зайняло 20,3 години.

Три. Написання ваг нейронної мережі з нуля

Дослідницька команда також протестувала здатність Astra генерувати мережеві параметри з нуля.

У трьох іграх MinAtari — Breakout, Seaquest та Asterix — Astra отримує правила гри, вихідний код та архітектуру мережі, але не може використовувати дані для навчання, функції втрат, градієнти чи імітацію середовища.

Він створив нову мережу, яка перевершила відповідні мережі, натреновані за 100 мільйонів кроків PPO, у всіх трьох іграх.

Порівняно з мережею PPO, натренованою 500 мільйонів кроків, мережа Astra досягає приблизно в 20 разів більшого рахунку у Breakout, майже такої ж продуктивності у Asterix і приблизно 60% рахунку останнього у Seaquest.

У експерименті з го 9×9 Astra створила мережу з приблизно 1,48 мільйона параметрів. Зі збільшенням кількості дозволених прямих оцінок продуктивність мережі продовжувала зростати; за умови 50 прямих оцінок вона перемогла PPO-мережу такого ж розміру, натреновану на 20 мільйонах партій.

Ці результати свідчать, що великі моделі, можливо, вже здатні перетворювати частину алгоритмічної логіки безпосередньо у ваги нейронної мережі за описом завдання.

Проте відповідні експерименти все ще зосереджені переважно на простих і невеликих мережах; чи можна застосувати їх до більших і складніших моделей, потрібно додатково перевірити.

Щоб відрізняти «виправлення несправностей» від «підвищення здатностей», дослідницька команда провела додаткові експерименти на Gemma 3 270M.

Gemma 3 270M рідко стикається з ітераційними циклами міркувань; основні помилки виникають у арифметичних та алгебраїчних міркуваннях. Astra спробувала кілька цілеспрямованих змін, але покращення результатів MATH-500 не перевищило приблизно 1 відсотка, і не вдалося підтвердити стабільне покращення моделі.

Це свідчить, що програмування в просторі ваг зараз краще підходить для вирішення чітко визначених, зосереджених проблем моделі, таких як аномальні цикли або специфічна поведінка, але не дозволяє безпосередньо додавати моделі знання та здатність до міркувань, яких вона спочатку не мала.

Також те, що Astra не змогла в іншому експерименті визначити лише за вагами, яка модель була навчена на захопленні, свідчить про те, що її здатність розуміти ваги нестабільна і межі завдань все ще існують.

Наразі ці результати є ранніми результатами, опублікованими дослідницькою командою, і потребують додаткового незалежного відтворення та системної оцінки.

Якщо цей метод можна подальше розширити, його можна використовувати для виявлення помилок моделі, видалення аномального поведінки, підвищення пояснюваності або навіть генерації спеціалізованих мереж на основі природної мови.

Але поточні експерименти недостатні, щоб довести, що він може замінити навчання, і не означають, що великі моделі вже здатні загалом «ручною роботою» створювати інші моделі.

Більш важливим значенням цього дослідження є те, що воно демонструє новий спосіб взаємодії:

Не тільки генерує текст і код, але й починає розуміти та писати нейронні мережі саме.

Джерело:Великі дані

Попередження про ризики та відмова від відповідальності

Ринок має ризики, інвестування вимагає обережності. Цей текст не є особистою інвестиційною рекомендацією і не враховує індивідуальні інвестиційні цілі, фінансовий стан або потреби окремих користувачів. Користувачі повинні оцінити, чи відповідають будь-які думки, погляди або висновки, наведені в цьому тексті, їхній конкретній ситуації. Інвестування на основі цього матеріалу здійснюється на власний ризик.

Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації. Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.