Meta développe un routeur de modèle IA appelé « Switchboard » pour réduire les coûts et concurrencer OpenRouter

L'incubateur interne d'IA de Meta, AAI Labs, développe un outil de routage de modèles d'IA appelé « Switchboard », qui attribue une évaluation de complexité aux tâches afin de rediriger les demandes simples vers des modèles plus petits et moins coûteux, réduisant ainsi le coût global d'inférence. Ce projet est actuellement à un stade précoce et relève de l'incubateur interne AAI Labs, créé par Meta en mars de cette année. Des documents internes révèlent que Meta paie le prix du modèle de pointe pour chaque requête de programmation, y compris pour des tâches simples qui pourraient être gérées par des modèles plus petits ; les coûts d'inférence sont devenus le « principal obstacle » au déploiement à grande échelle d'agents intelligents. Les dépenses prévues de Meta en infrastructure IA cette année s'élèvent à 145 milliards de dollars, et l'entreprise cherche à maîtriser ses dépenses IA par divers moyens. Le marché cible de Switchboard inclut également le segment du routage de modèles, où des concurrents comme OpenRouter sont déjà présents ; des transactions d'acquisition dans ce domaine pourraient faire grimper sa valorisation à plusieurs milliards de dollars.

Auteur et source de l'article : Wall Street Journal

Sous la pression des dépenses continues croissantes en infrastructure IA, Meta cherche à réduire ses coûts en interne.

Le 21 juillet, selon le média technologique The Information, l'incubateur interne d'IA de Meta, AAI Labs, développe un outil de routage de modèles d'IA appelé « Switchboard », dont la logique centrale est très similaire à celle du produit Auto Router d'OpenRouter — en attribuant une évaluation de difficulté aux tâches, il redirige les demandes simples vers des modèles plus petits et moins coûteux, réduisant ainsi le coût global d'inférence.

Switchboard est encore à un stade précoce, et son déploiement final n'est pas garanti. Toutefois, selon des documents internes obtenus par The Information, l'équipe de Meta a clairement identifié deux pistes potentielles : l'une consiste à le déployer en interne pour réduire les coûts, l'autre à le publier ouvertement pour les organisations externes qui exécutent à grande échelle des agents d'IA programmés.

L'analyse indique que cet outil ne constitue pas seulement une mesure de réduction des coûts, mais pourrait également représenter une tentative de Meta de créer une nouvelle source de revenus sur le marché des outils d'IA.

Selon d'autres rapports, la proposition de ce projet vise directement un problème réel auquel l'entreprise est actuellement confrontée : payer le prix des modèles de haut niveau pour chaque demande de programmation, y compris les tâches simples qui pourraient être facilement gérées par de petits modèles.

Selon les rapports, la logique de démarrage du projet Switchboard est exprimée de manière assez directe dans les documents internes : « Nous payons le prix du modèle de pointe pour chaque demande de programmation, y compris les demandes simples. »

Le document précise que la plupart des tâches d'agents de programmation peuvent être entièrement gérées par des modèles plus petits, et que seules quelques tâches nécessitent réellement les capacités des modèles de pointe. Cependant, la situation actuelle est que « toutes les demandes sont envoyées au même modèle, entraînant des dépenses excessives pour les tâches simples ou une performance insuffisante sur les tâches complexes ».

Le document qualifie explicitement le coût d'inférence comme le « principal obstacle » à un déploiement plus large d'agents au sein de l'entreprise, affirmant directement : « Le coût est le facteur limitant notre capacité à faire fonctionner des agents à grande échelle. »

Cette déclaration corrobore les récentes mesures de Meta visant à contrôler ses dépenses en IA. Selon The Information, Meta avait informé ses employés en juin de cette année qu'elle imposerait des limites à la consommation de jetons IA quelques semaines à peine après avoir encouragé l'adoption généralisée d'outils IA dans l'ensemble de l'entreprise, tout en développant une plateforme interne pour suivre les dépenses IA et appliquer des budgets de jetons.

Il est à noter que le projet Switchboard relève d’AAI Labs, une structure interne d’incubation sous l’égide de l’équipe Applied AI Engineering de Meta, officiellement créée en mars de cette année. Selon des documents internes examinés par The Information, ce mécanisme permet aux employés de soumettre des propositions de produits et services basés sur l’IA ; une fois approuvées, ces propositions sont confiées à de petites équipes pour leur développement et offrent la possibilité d’une publication publique.

À ce jour, en juillet, AAI Labs a approuvé environ 200 projets, couvrant trois domaines principaux : produits grand public, outils pour développeurs et infrastructure interne. Switchboard en fait partie.

Ce mécanisme reflète la vision stratégique plus vaste du PDG de Meta, Zuckerberg — utiliser l'IA pour permettre à de petites équipes de développer rapidement des produits. En avril de cette année, Zuckerberg avait déclaré aux analystes que les agents d'IA signifiaient que « de petites équipes peuvent réaliser des progrès très rapides » et avait prédit que cette technologie stimulerait « une grande quantité d'innovations ». Il a également indiqué que Meta pourrait développer jusqu'à 50 nouvelles applications.

Le segment du routage de modèles visé par Switchboard attire de plus en plus d'attention.

OpenRouter a acquis une popularité considérable auprès des développeurs en leur permettant d'accéder à plusieurs modèles d'IA à un coût réduit. Selon The Information la semaine dernière, OpenRouter a entamé des discussions avec une entreprise technologique plus grande concernant une possible acquisition, un accord qui pourrait faire grimper sa valorisation de plusieurs milliards de dollars — l'entreprise était évaluée à 1,3 milliard de dollars en avril de cette année.

Le concept de routage de modèles a suscité un intérêt plus large suite à la publication par OpenAI de GPT-5, qui intègre une fonction de routage permettant de basculer automatiquement vers un modèle moins coûteux lorsque la requête de l'utilisateur est relativement simple. Depuis, des entreprises telles que Databricks et Palantir ont développé leurs propres outils de routage pour gérer les coûts et améliorer l'efficacité.

Meta a développé Switchboard en interne à la fois pour répondre activement à ses pressions coûteuses et pour s’imposer stratégiquement dans ce secteur en pleine expansion.

Derrière le projet Switchboard se trouve la volonté globale de Meta de transformer ses importantes investissements en IA en de nouveaux outils, de nouvelles activités et de nouvelles sources de revenus.

Meta prévoyait initialement que ses dépenses en infrastructure IA et autres équipements et installations cette année pourraient atteindre jusqu'à 145 milliards de dollars, plus que le double du niveau de 2025. Parallèlement, Meta restructure son équipe d'ingénierie pour renforcer ses capacités de développement IA.

Les projets incubés par AAI Labs ne se limitent pas à Switchboard. Selon un autre document interne obtenu par The Information, AAI Labs développe également une application d’assistant IA destinée aux conducteurs, fonctionnant sur Apple CarPlay et Android Auto, qui utilise l’IA pour commenter les sites touristiques environnants et permettre aux conducteurs de poser des questions.

Le document positionne ce produit comme une extension de l'expérience carte d'Instagram, avec une intégration future possible de contenus Reels basés sur la localisation, de recommandations de voyage, voire de lunettes intelligentes Meta Ray-Ban.

Selon les rapports, ces projets dessinent ensemble la stratégie de Meta : partir des idées des employés, créer rapidement des prototypes de produits d'IA, puis les lancer sur le marché externe au moment opportun — tout en maîtrisant les coûts et en explorant des sources de revenus supplémentaires au-delà de la publicité.