El laboratorio interno de IA de Meta, AAI Labs, está desarrollando una herramienta de enrutamiento de modelos de IA llamada “Switchboard”, que asigna solicitudes simples a modelos más económicos según una evaluación de la complejidad de la tarea, reduciendo así el costo general de inferencia. El proyecto se encuentra en una etapa inicial y forma parte de AAI Labs, una iniciativa interna creada por Meta en marzo de este año. Documentos internos indican que Meta paga el precio del modelo de élite para cada solicitud de programación, incluidas tareas simples que podrían ser manejadas por modelos más pequeños, y que los costos de inferencia se han convertido en el “principales obstáculo” para la implementación a gran escala de agentes inteligentes. Se espera que el gasto de Meta en infraestructura de IA este año alcance los 145.000 millones de dólares, y la empresa está buscando múltiples formas de controlar sus gastos en IA. El mercado objetivo de Switchboard también incluye el sector de enrutamiento de modelos, donde ya existen competidores como OpenRouter, y transacciones de adquisición relacionadas podrían elevar su valor a miles de millones de dólares.Autor y fuente del artículo: Wall Street Journal
Bajo la presión de los gastos continuamente crecientes en infraestructura de IA, Meta está buscando formas de reducir costos desde dentro.
El 21 de julio, según el medio tecnológico The Information, el incubador de IA interno de Meta, AAI Labs, está desarrollando una herramienta de enrutamiento de modelos de IA llamada “Switchboard”, cuya lógica central es muy similar al producto Auto Router de OpenRouter: clasifica la dificultad de las tareas y redirige las solicitudes sencillas a modelos más pequeños y económicos, reduciendo así el costo total de inferencia.
Switchboard aún se encuentra en una etapa temprana, y no está claro si se implementará finalmente. Sin embargo, según documentos internos obtenidos por The Information, el equipo de Meta ha identificado claramente dos posibles caminos: uno es implementarlo internamente para reducir costos, y el otro es lanzarlo públicamente para organizaciones externas que ejecuten agentes de programación de IA a gran escala.
El análisis indica que esto significa que la herramienta no solo es una medida para reducir costos, sino también un intento de Meta por generar nuevas fuentes de ingresos en el mercado de herramientas de IA.
Además, se informó que la propuesta de este proyecto aborda directamente un problema real con el que la empresa se enfrenta actualmente: pagar el precio de los modelos de alto nivel para cada solicitud de programación, incluidas tareas simples que podrían ser gestionadas fácilmente por modelos más pequeños.
Apuntando directamente al problema: el costo de inferencia es el mayor obstáculo para la implementación a escala
Según el informe, la lógica detrás del proyecto Switchboard se expresó de manera bastante clara en los documentos internos: “Pagamos el precio del modelo de élite por cada solicitud de programación, incluidas las solicitudes simples.”
El documento señala que la mayoría de las tareas de agentes de programación pueden manejarse perfectamente con modelos más pequeños, y solo unas pocas tareas realmente requieren las capacidades de los modelos avanzados más recientes. Sin embargo, la situación actual es que "todas las solicitudes se envían al mismo modelo, lo que genera gastos excesivos en tareas sencillas o un rendimiento insuficiente en tareas complejas".
El documento clasifica explícitamente el costo de inferencia como el "principale obstáculo" para una implementación más amplia de agentes dentro de la empresa, y afirma directamente: "El costo es el factor que limita nuestra capacidad para ejecutar agentes a gran escala."
Esta declaración respalda una serie de acciones recientes de Meta para controlar el gasto en IA. Según informó previamente The Information, en junio de este año, Meta notificó a sus empleados que, tras solo unas semanas de fomentar la adopción generalizada de herramientas de IA en toda la empresa, comenzaría a establecer límites en el uso de tokens de IA, al tiempo que construía una plataforma interna para rastrear los gastos en IA y aplicar presupuestos de tokens.
Cabe destacar que el proyecto Switchboard pertenece a AAI Labs, una institución interna de incubación bajo Meta, establecida oficialmente en marzo de este año como parte del equipo de Ingeniería Aplicada de IA de Meta. Según documentos internos revisados por The Information, este mecanismo permite a los empleados presentar propuestas de productos y servicios de IA; tras la aprobación, pequeños equipos se encargan de su desarrollo y tienen la oportunidad de lanzarlos públicamente.
Hasta julio de este año, AAI Labs ha aprobado aproximadamente 200 proyectos en total, abarcando tres áreas principales: productos para consumidores, herramientas para desarrolladores e infraestructura interna. Switchboard es uno de ellos.
Este mecanismo refleja la visión estratégica más amplia del CEO de Meta, Zuckerberg: utilizar la IA para que pequeños equipos construyan productos rápidamente. En abril de este año, Zuckerberg dijo a los analistas que los agentes de IA significan que “los pequeños equipos pueden lograr avances muy rápidos” y predijo que esta tecnología impulsará “una gran cantidad de innovación”. También indicó que Meta podría desarrollar hasta 50 nuevas aplicaciones.
Carrera de enrutamiento de modelos: Además de OpenRouter, los gigantes entran en el juego
La categoría de enrutamiento de modelos a la que apunta Switchboard está atrayendo cada vez más atención.
OpenRouter ha ganado popularidad entre los desarrolladores por ayudarlos a acceder a múltiples modelos de IA a un costo más bajo. Según informó The Information la semana pasada, OpenRouter ha mantenido discusiones con una empresa tecnológica de mayor tamaño sobre una posible adquisición, un acuerdo que podría elevar su valoración en miles de millones de dólares: la valoración de la empresa en abril de este año fue de 1.300 millones de dólares.
El concepto de enrutamiento de modelos ha generado atención más amplia tras la publicación de GPT-5 por OpenAI, que incluía una función de enrutamiento automático que cambia a modelos más económicos cuando las instrucciones del usuario son relativamente simples. Desde entonces, empresas como Databricks y Palantir también han desarrollado sus propias herramientas de enrutamiento para gestionar costos y mejorar la eficiencia.
Meta ha desarrollado Switchboard en respuesta proactiva a la presión sobre sus costos, y como una elección estratégica para establecer sus propias capacidades en esta categoría que se está calentando rápidamente.
Ambiciones más grandes: La inversión en IA busca diversas fuentes de ingresos
Detrás del proyecto Switchboard se encuentra la aspiración general de Meta de convertir sus grandes inversiones en IA en nuevas herramientas, nuevos negocios y nuevas fuentes de ingresos.
Meta previó anteriormente que sus gastos en infraestructura de IA y otros equipos e instalaciones este año podrían alcanzar hasta 145 mil millones de dólares, más del doble del nivel de 2025. Al mismo tiempo, Meta está reorganizando su equipo de ingeniería para fortalecer su capacidad de desarrollo de IA.
Los proyectos incubados por AAI Labs no se limitan a Switchboard. Según otro documento interno obtenido por The Information, AAI Labs también está desarrollando una aplicación de guía AI para conductores, que funcionará a través de Apple CarPlay y Android Auto, utilizando IA para explicar puntos de interés cercanos y permitir a los conductores hacer preguntas.
El documento posiciona este producto como una extensión de la experiencia de mapas de Instagram, con posibles integraciones futuras de contenido de Reels basado en ubicación, recomendaciones de viajes e incluso las gafas inteligentes Meta Ray-Ban.
Se informa que estos proyectos juntos trazan la ruta de Meta: comenzar con la creatividad de los empleados, prototipar rápidamente productos de IA y luego lanzarlos al mercado externo en el momento oportuno, explorando espacios de ingresos adicionales más allá de los anuncios, todo mientras se controlan los costos.