Внутренний AI-инкубатор Meta AAI Labs разрабатывает инструмент маршрутизации AI-моделей под названием «Switchboard», который распределяет простые запросы на более дешевые небольшие модели на основе оценки сложности задачи, снижая общие затраты на вывод. Проект находится на ранней стадии и относится к AAI Labs, созданной Meta в марте этого года. Внутренние документы показывают, что Meta платит тарифы на самые мощные модели за каждый программный запрос, включая простые задачи, которые могут быть обработаны небольшими моделями; затраты на вывод стали «главным барьером» для масштабного развертывания агентов в компании. Ожидается, что расходы Meta на инфраструктуру ИИ в этом году достигнут 145 миллиардов долларов, и компания ищет различные способы контроля расходов на ИИ. Рынок маршрутизации моделей, в который входит Switchboard, уже имеет конкурентов, таких как OpenRouter, и соответствующие сделки по приобретению могут оценить проект в десятки миллиардов долларов.Автор статьи, источник: Wall Street Journal
Под давлением постоянного роста расходов на инфраструктуру ИИ, Meta пытается найти пути снижения затрат внутри компании.
21 июля, по сообщению технологического издания The Information, внутренний AI-инкубатор Meta AAI Labs разрабатывает инструмент маршрутизации AI-моделей под названием «Switchboard», чья основная логика сильно напоминает продукт Auto Router от OpenRouter — путем оценки сложности задачи простые запросы направляются на более дешевые малые модели, что снижает общую стоимость вывода.
Switchboard пока находится на ранней стадии, и его окончательное внедрение остается неопределенным. Однако согласно внутренним документам, полученным The Information, команда Meta четко обозначила два потенциальных пути: один — развертывание внутри компании для сокращения затрат, второй — публичный выпуск для внешних организаций, которые масштабно запускают AI-программные агенты.
Анализ указывает, что это означает, что инструмент является не только мерой по снижению затрат, но и попыткой Meta открыть новый источник дохода на рынке инструментов ИИ.
Также сообщается, что предложение этого проекта напрямую направлено на решение текущей реальной проблемы компании: оплату цен на топовые модели за каждый запрос на программирование, включая простые задачи, которые могут быть легко решены небольшими моделями.
Прямое указание на боль: стоимость вывода является главным препятствием для масштабируемого развертывания
Согласно сообщению, логика запуска проекта Switchboard в внутренних документах была описана довольно прямо: «Мы платим цену топовых моделей за каждый запрос на программирование, включая простые запросы».
Документ далее отмечает, что большинство задач программных агентов могут быть полностью решены с помощью меньших моделей, и только немногие задачи действительно требуют возможностей передовых крупных моделей. Однако в настоящее время «все запросы отправляются на одну и ту же модель, что приводит к чрезмерным расходам на простых задачах или недостаточной производительности на сложных задачах».
Документ прямо определяет стоимость вывода как «главное препятствие» для более широкого внедрения агентов внутри компании, заявляя: «Стоимость является ключевым фактором, ограничивающим масштабное использование агентов».
Это утверждение подтверждает недавние действия Meta по контролю за расходами на ИИ. Согласно предыдущему отчету The Information, в июне этого года Meta уведомила сотрудников о том, что спустя всего несколько недель после поощрения широкого внедрения инструментов ИИ по всей компании начнет устанавливать лимиты на использование AI-токенов, а также создаст внутреннюю платформу для отслеживания расходов на ИИ и соблюдения бюджета токенов.
Стоит отметить, что проект Switchboard принадлежит AAI Labs, дочерней структуре Meta, созданной в рамках команды прикладной ИИ-инженерии Meta и официально запущенной в марте этого года. Согласно внутренним документам, просмотренным The Information, эта система позволяет сотрудникам подавать предложения по разработке ИИ-продуктов и сервисов; после одобрения небольшие команды занимаются их созданием и получают возможность опубликовать их для внешней аудитории.
По состоянию на июль этого года AAI Labs одобрила в общей сложности около 200 проектов, охватывающих три направления: потребительские продукты, инструменты для разработчиков и внутреннюю инфраструктуру. Switchboard является одним из них.
Этот механизм отражает более широкую стратегическую идею генерального директора Meta Цукерберга — использовать ИИ для быстрого создания продуктов небольшими командами. В апреле этого года Цукерберг сообщил аналитикам, что ИИ-агенты означают, что «небольшие команды могут добиваться очень быстрых результатов», и предсказал, что эта технология будет стимулировать «массовые инновации». Он также отметил, что Meta может создать до 50 новых приложений.
Сегмент маршрутизации моделей: Кроме OpenRouter, крупные компании также выходят на рынок
Сегмент маршрутизации моделей, на который ориентирован Switchboard, привлекает все больше внимания.
OpenRouter благодаря помощи разработчикам в доступе к различным моделям ИИ по более низкой стоимости уже завоевал значительную популярность среди разработчиков. По сообщению The Information на прошлой неделе, OpenRouter ведет переговоры с более крупной технологической компанией о потенциальном поглощении, сделка которой может повысить оценку компании на десятки миллиардов долларов — оценка компании в апреле этого года составляла 1,3 миллиарда долларов.
Концепция маршрутизации моделей привлекла широкое внимание после того, как OpenAI внедрила функцию маршрутизации в GPT-5 — функцию, которая автоматически переключается на более дешевую модель при относительно простых запросах пользователей. После этого такие компании, как Databricks и Palantir, также разработали собственные инструменты маршрутизации для управления затратами и повышения эффективности.
Meta теперь самостоятельно разработала Switchboard — это не только активный ответ на собственные издержки, но и стратегический выбор для развития собственных возможностей в этой быстро развивающейся области.
Большие амбиции: ИИ-инвестиции стремятся к диверсификации монетизации
За проектом Switchboard стоит общая цель Meta превратить крупные вложения в ИИ в новые инструменты, новые бизнесы и новые источники дохода.
Ранее Meta прогнозировала, что расходы на инфраструктуру ИИ и другие оборудование и объекты в этом году могут достигнуть 145 миллиардов долларов США, что более чем вдвое превышает уровень 2025 года. В то же время Meta проводит реорганизацию инженерных команд для усиления возможностей разработки ИИ.
Проекты, инкубируемые AAI Labs, не ограничиваются Switchboard. Согласно другому внутреннему документу, полученному The Information, AAI Labs также разрабатывает AI-гид для водителей, который будет работать через Apple CarPlay и Android Auto, используя ИИ для комментирования ближайших достопримечательностей и позволяя водителям задавать вопросы.
Документ позиционирует этот продукт как расширение функции карт Instagram, с потенциальной интеграцией геолокационных Reels, рекомендаций по путешествиям и даже умных очков Meta Ray-Ban в будущем.
Согласно сообщениям, эти проекты совместно определяют путь Meta: начинать с идей сотрудников, быстро создавать прототипы продуктов на основе ИИ, а затем в подходящий момент выводить их на внешние рынки — при этом контролируя расходы и исследуя возможности увеличения доходов за пределами рекламного бизнеса.