Посты
avatar

Сегодня, воспользовавшись впечатляющим дрифтом Старка, я заполню ямы, оставленные пару дней назад, — расскажу о трёх интересных вещах в AI-сфере: Jev, Strata и Atlas. Я свяжу их все вместе через сцену из фильма — «Терминатор»! Представьте, что T-800 отправлен обратно в 1984 год с задачей найти и уничтожить Сару Коннор. Для этого ему нужны три базовые функции: понимать пространство, мгновенно принимать решения и работать без интернета (в 1984 году ещё не было «Невы»). И удачно — эти три функции идеально соответствуют Atlas, Jev и Strata. 1. Сначала — Atlas от профессора Ли Фэйфэй: понимание пространства. Когда Шварценеггер (T-800) заходит в комнату, он одним взглядом понимает, что за дверью, под столом и т.д. Atlas сейчас делает именно это: по нескольким фотографиям предсказывает, как будет выглядеть сцена с нового ракурса. LLM предсказывает следующее слово. Видео-модели (например, Seedance) генерируют кадры по временной оси. Atlas предсказывает новый ракурс. Сейчас многие видео-модели называют себя «моделями мира». Несколько месяцев назад Ли Фэйфэй классифицировала их на три типа: рендереры, симуляторы, планировщики. Симулятор может стать рендерером, но планировщик должен опираться на мощный симулятор. Когда T-800 одним взглядом понимает, что в комнате есть — это симулятор. Расчёт того, что произойдёт, если прыгнуть или выстрелить — тоже симулятор. Выбор действия: преследовать, уклоняться или врезаться в машину — скорее всего требует планировщика. Рендерер тут почти не нужен. Цель Atlas — создать самый мощный симулятор, а затем эволюционировать в планировщик. Их дорожная карта выглядит так: Статичное 3D-пространство (сейчас) → Динамическое (4D) → Редактируемое → Интерактивное → Симулятор = планировщик (финал) Это только первый шаг долгого пути, но без этого невозможно создать Терминатора — одного LLM недостаточно. 2. Затем — Jev: мгновенные решения. Помните сцену? T-800 в мотеле, стучат в дверь — и в его поле зрения сразу появляется список вариантов ответов. Он выбирает один — и отвечает, не составляя фраз. (Я помню, он выбрал самую грубую…) Вот что такое Jev: не нужно, чтобы LLM генерировал текст или проходил через цепочку рассуждений (COT). Он просто выбирает из предложенных вариантов и даёт степень уверенности. Jev от TypeSafe именно так и работает: не генерирует текст, а выбирает из фиксированного набора вариантов с калиброванной вероятностью. Ответ с вероятностью 0.97 → сразу отправляется. Наивысший — 0.60 → не отправлять, передать более медленной, но умной модели. В демонстрационном видео TypeSafe проверяют подлинность счёта: традиционный LLM тратит 8 секунд, Jev — всего 0.1 секунды. Быстро — потому что только выбор, без генерации текста. Точно — благодаря технологии RLCD (Reinforcement Learning for Calibrated Decisions): усиленное обучение для калиброванных решений. Архитектура пока не раскрыта, но я предполагаю, что это всё ещё Transformer-база, просто убрана генерация. Можно считать это ASIC для LLM в конкретном контексте: не умеет общаться или писать код — только принимать частые решения. Все этапы обычного LLM сжаты до одного вопроса с выбором — скорость и стоимость отличаются на один-два порядка. Это как система 1 из книги Даниэля Канемана «Думай медленно… решай быстро». Традиционный LLM — система 2. Похоже, мы открываем новый путь в AI — не генерация, а принятие решений/оценка. Если бы T-800 действовал по скорости современного LLM — он бы не справился ни с одной задачей из фильма, двигался бы как улитка (почему-то вспомнился Спиди из «Зверополиса»). Именно здесь появляется Jev — вторая часть пазла Терминатора собрана. 3. Последняя часть пазла — Strata: локальный запуск крупных моделей. В 1984 году интернет уже существовал — но был крайне медленным, доступен только военным и университетам. Облака? Нет «Невы»! Придётся установить локальную модель прямо в голове T-800. Strata позволяет запустить модель Qwen3.8-Flash-Next с 125 миллиардами параметров на потребительской видеокарте с 12 ГБ VRAM и 64 ГБ ОЗУ. Технология: сначала квантование параметров с 16 бит до 2–3 бит — объём уменьшается в несколько раз. Затем 20% наиболее часто используемых экспертов (копий) загружаются в VRAM, все эксперты — в 64 ГБ ОЗУ. Оставшиеся 30 ГБ — это огромная таблица поиска (справочник обучения), хранящаяся на SSD. Полностью автономно, конфиденциальность данных. Конечно, производительность снижена из-за сжатия, чтение длинных документов медленнее — но теперь игровая консоль может запускать модели с сотнями миллиардов параметров! Это переход от «нельзя» к «можно». Точные параметры видеокарты, памяти и CPU внутри T-800 нам неизвестны — но Strata позволяет запускать более крупные MOE-модели на ограниченном железе (пока только Qwen; однако подход универсален для всех MOE-моделей). Таким образом, мы всё ближе к эпохе «Невы» и Терминатора! @drfeifei @theworldlabs @typesafeai P.S. Кто-нибудь из богачей уже заказал Roadster? Пожалуйста, возьмите меня на пробную поездку в 2028 году!

Этот контент предназначен исключительно для информационных и образовательных целей. Он может содержать информацию от третьих лиц, спонсорский контент или рекламные материалы, за которые креатор может получить вознаграждение. Ничто в этой ленте не является инвестиционным советом или гарантией прибыли. Вы несете полную ответственность за свои собственные инвестиционные решения. Всегда проводите самостоятельные исследования и проявляйте осторожность перед торговлей. Мы не гарантируем точность информации третьих лиц и не несем ответственности за понесенные убытки. Прошлые результаты не являются показателем будущих. Пожалуйста, ознакомьтесь с нашими Условиями сообщества и Заявлением о раскрытии информации о рисках для получения подробной информации.

avatarОставьте свой ответ

Комментарий