Исследователи MIT используют GPT-6 Astra для повышения математических способностей Qwen в 6 раз

Автор: Shenchao TechFlow

Не требуется обучение, не нужны данные, не требуется градиентный спуск.

Исследователи из MIT передали веса открытой небольшой модели GPT-6 Astra и дали команду на естественном языке: «Улучши его математические способности».

Astra потратила 20 часов, просмотрев 800 миллионов параметров, и нашла 131 072 веса в двухслойной сети, после чего провела операцию.

До операции модель показала результат 7,9% на базе данных MATH-500; после операции — 48,1%.

This is today's most explosive AI news.

2 ноября исследовательская группа из Лаборатории компьютерных наук и искусственного интеллекта MIT (CSAIL) опубликовала блог, в котором представила результаты эксперимента, названного ими «программированием в весовом пространстве» (Weight-Space Programming). Первым автором является аспирант первого года обучения MIT CSAIL Рикия Такэхи, соавторами — Джейден Тео, Алекс Чжан и научный руководитель Такэхи Омар Хаттаб.

Суть эксперимента можно описать одной фразой: заставить достаточно мощный ИИ напрямую прочитать «мозг» другого ИИ, найти проблему и точно исправить её, как хирургическим скальпелем.

Выбранным «пациентом» является открытая модель Alibaba Qwen3.5-0.8B — небольшая языковая модель с 800 миллионами параметров. «Хирургом» является последняя модель OpenAI GPT-6 Astra.

Исследовательская команда предоставила Astra три вещи: набор математических задач, Python-среду для чтения и записи весов модели, а также ограниченное количество вызовов вывода модели. Без GPU, без цикла обучения, без оптимизатора. Astra должна, как человеческий исследователь, диагностировать проблему, наблюдая за поведением модели и проверяя значения весов, а затем напрямую изменять параметры.

Процесс занял 20,3 часа, из которых 4,7 часа были потрачены на ожидание восстановления сервиса. Astra провела 158 диалогов, 80 выполнений Python и 50 оценок модели.

В конечном итоге он обнаружил «числовое направление», вызывающее повторяющиеся выводы модели, в матрицах выходных данных MLP на 15-м и 19-м уровнях, а затем вычел это направление из 64 выходных столбцов. Всего было изменено 131 072 веса, что составляет 0,016% от всех параметров модели.

Небольшие изменения, потрясающий эффект.

На трех тестах сравнение до и после изменений выглядит следующим образом:

MATH-500: 7,9% → 48,1%

GSM8K: 13,8% → 67,1%

IFEval (выполнение инструкций): 21,0% → 62,3%

Еще один более наглядный показатель: до изменения 93% ответов Qwen3.5-0.8B на MATH-500 достигали лимита в 32 768 токенов из-за зацикливания. После изменения этот показатель снизился до 33,1%.

Статья VentureBeat сравнивает это с «редактированием генов нейронной сети». Эта метафора точно передает суть: традиционное обучение моделей похоже на то, как человек улучшает математические навыки через многочисленные упражнения, тогда как программирование в пространстве весов напоминает прямое открытие мозга, поиск неправильно подключенного нейрона и его переобъединение.

Однако исследовательская команда сама указала важное ограничение: Astra не добавила Qwen новые математические способности, она просто устранила препятствие, мешавшее модели реализовать свои уже существующие возможности.

Это различие имеет решающее значение. Для проверки этого утверждения команда повторила тот же эксперимент на модели Google Gemma 3 270M. Gemma 3 редко сталкивается с проблемой повторяющихся выводов (только 8,5% ответов достигали лимита токенов), и в результате Astra показала практически никакого улучшения в оценке MATH-500, с колебаниями не более одного процента.

Вывод ясен: программирование в весовом пространстве сейчас может «снимать барьеры», но не «строить новые дороги».

Математика — это лишь один из сценариев, продемонстрированных исследовательской командой; возможности Astra в весовом пространстве гораздо шире.

Идентификация «души»: исследовательская группа обучила четыре стратегические сети для игр Atari с полностью одинаковой архитектурой (Breakout, Pong, Pac-Man, Freeway), а затем передала только веса Astra, не предоставляя никаких меток. Astra смогла точно определить, какой игре соответствует каждая сеть, исключительно на основе числовых значений весов. Ее рассуждение было следующим: веса первого слоя сети Breakout сосредоточены в нижней части экрана (позиция ракетки), а распределение действий в выходном слое склоняется к движениям влево и вправо.

Создание сети с нуля: в экспериментах с MinAtar (мини-версия Atari) Astra напрямую «написала» сеть стратегии игры в пространстве весов. На игре Breakout сеть, созданная Astra, набрала 517,4 балла, тогда как сеть, обученная с помощью алгоритма PPO за 5 миллиардов шагов, набрала всего 25,3 балла.

Исправление зависшего автопилота: контроллер автомобиля, обученный с помощью PPO, застрял на склоне из-за локального оптимума. Astra за один диалог изменила 3,5% весов, и исправленный контроллер успешно прошел все 1 024 теста.

Общая черта этих экспериментов заключается в том, что Astra не только может «читать» веса, понимая, какое поведение представляет каждое число, но и «переписывать» веса, заставляя модель выполнять задачи, которые алгоритм обучения не может выполнить.

До программирования в весовом пространстве академическое сообщество уже предпринимало попытки прямого редактирования весов модели. ROME на NeurIPS 2022 года и MEMIT на ICLR 2023 года продемонстрировали, как точно вставить или изменить факт в весах языковой модели, например, заменив «Эйфелева башня находится в Париже» на «Эйфелева башня находится в Риме».

Но ROME и MEMIT выполняют «поиск и замену на уровне фактов», оперируя отдельными знаниями. Отличие, продемонстрированное командой MIT: Astra изменяет общие способности модели — математические рассуждения и выполнение инструкций — что пересекает порог от «редактирования одной точки знания» до «изменения паттерна поведения».

Заключение Такэхи в блоге более радикально: «Веса нейронных сетей вскоре будут самостоятельно оптимизироваться LLM, способными рассуждать о весах».

Если это направление будет подтверждено, потенциальные сценарии применения включают:

Исправление модели: после развертывания модель возникла проблема — не нужно возвращать её для повторного обучения, просто пусть другая ИИ-система «проведёт диагностику» и внесёт исправления. Для передовых моделей, стоимость обучения которых часто составляет десятки миллионов долларов, это может означать значительную экономию затрат.

Аудит модели: если ИИ может интерпретировать веса, то исследователи безопасности могут использовать это для проверки, не были ли в модель внедрены бэкдоры или вредоносные действия.

Настройка открытых моделей: достаточно мощный ИИ может «настраивать» возможности открытых моделей по натуральным языковым инструкциям, без необходимости в какой-либо инфраструктуре для обучения.

GPT-6 Astra сам по себе является спорной моделью. OpenAI из-за соображений безопасности отложила выпуск обновленной версии GPT-6.1 Astra.

Ученый-исследователь OpenAI Якуб Пачоцки написал статью через три дня после запуска Astra, предупредив, что внутренние тесты OpenAI показали, что прогресс в области ИИ может привести к «рекурсивному самоулучшению», при котором системы ИИ все больше участвуют в создании собственных преемников. Он заявил, что ни одна из существующих систем внутреннего контроля в лабораториях не способна справиться с этим перспективой.

Программирование в пространстве весов как раз затрагивает суть этого предупреждения. Если ИИ может изменять веса другого ИИ, чтобы повысить его способности, то теоретически может ли ИИ изменять свои собственные веса?

Исследовательская команда четко указала в блоге, что они не продемонстрировали рекурсивное самоулучшение и не показали, что эффект может накапливаться. Однако это не помешало сообществу безопасности проявить бдительность. Максим Фурнс из PauseAI назвал это «чрезвычайно безрассудным направлением исследований».

Текущие ограничения реальны: эксперимент удался только на небольшой модели с 800 миллионами параметров, но провалился на Gemma 3. Процесс занял 20 часов и требовал множества попыток и ошибок; никто не воспроизвел его независимо, а преимущество в стоимости по сравнению с традиционной дообучкой также не подтверждено.

Но направление уже указано. В ICML 2026 уже были опубликованы статьи, предлагающие, чтобы пространство весов стало «первоклассным модальным режимом» генеративного ИИ наряду с текстом, изображениями и аудио, и чтобы модели изначально понимали и оперировали весами.

Если 2024 год стал годом, когда ИИ научился «описывать изображения», а 2025 год — годом, когда ИИ научился «писать код», то 2026 год, возможно, станет годом, когда ИИ научится «модифицировать ИИ».

Куда ведет этот путь, пока никто не знает.