Meta'nın dahili AI yuvası AAI Labs, görev zorluk puanlaması yoluyla basit istekleri daha ucuz küçük modellere yönlendirerek genel çıkarım maliyetlerini düşürmek amacıyla "Switchboard" adlı bir AI model rota aracı geliştiriyor. Proje, Meta'nın bu yıl Mart'ta kurduğu AAI Labs dahili yuva kuruluşuna bağlı olarak şu anda erken aşamada. Dahili belgeler, Meta'nın her programlama isteği için, küçük modellerin işleyebileceği basit görevler dahil olmak üzere en üst düzey modellerin fiyatını ödediğini gösteriyor. Çıkarım maliyetleri, şirketin büyük ölçekli ajanlar yaymak için karşılaştığı "önemli engel" haline geldi. Meta'nın bu yılki AI altyapı harcamaları 145 milyar dolara ulaşması bekleniyor ve AI harcamalarını kontrol altına almak için çeşitli yollar izliyor. Switchboard'un hedef pazarı, OpenRouter gibi rakiplerin bulunduğu model rota sektörüdür ve ilgili satın alma işlemlerinin değerini milyarlarca dolara çıkarabilir.Yazı yazarı, kaynak: Wall Street Journal
AI altyapı harcamalarının sürekli artan baskısı altında, Meta içten maliyet azaltma yolları arıyor.
21 Temmuz'da, teknoloji medyası The Information'a göre, Meta'nın dahili AI inkübatörü AAI Labs, OpenRouter'un Auto Router ürünüyle yüksek oranda benzer temel mantığa sahip olan "Switchboard" adlı bir AI model rota aracı geliştiriyor—görev zorluk puanlaması yoluyla basit istekleri daha ucuz küçük modellere yönlendirerek genel çıkarım maliyetini düşürüyor.
Switchboard hâlâ erken aşamada ve nihai olarak hayata geçirilip geçirilmeyeceği belirsiz. Ancak The Information'ın elde ettiği iç belgeler, Meta ekibinin iki olası yol belirlediğini gösteriyor: biri maliyetleri azaltmak amacıyla şirket içine entegre etmek, diğeri büyük ölçekli AI programlama ajanlarını çalıştıran dış kurumlar için açık kaynaklı yayınlamak.
Analizler, bu aracın sadece bir maliyet azaltma girişimi olmadığını, aynı zamanda Meta'nın AI araçları piyasasında yeni bir gelir kaynağı açma çabası olabileceğini gösteriyor.
Ayrıca, bu projenin ortaya çıkışı, şirketin şu anda karşılaştığı bir gerçek soruna doğrudan işaret ediyor: Her programlama isteği için, küçük modellerin kolayca yönetebileceği basit görevler dahil olmak üzere, en üst düzey modellerin ücretini ödemek.
Sorunun özü: Çıkarım maliyeti, ölçeklenebilir dağıtımın en büyük engelidir.
Raporlara göre, Switchboard projesinin kurulum mantığı, dahili belgelerde oldukça açık bir şekilde ifade edilmiştir: “Her programlama isteği için, basit istekler dahil olmak üzere, en üst düzey modellerin fiyatını ödüyoruz.”
Dosya, çoğu programlama ajan görevinin tamamen daha küçük modellerle yürütülebileceğini, sadece az sayıda görevin gerçekten öncü büyük modellerin yeteneklerine ihtiyaç duyduğunu belirtiyor. Ancak mevcut durumda "tüm istekler aynı modele yönlendiriliyor, bu da basit görevlerde aşırı harcama veya karmaşık görevlerde yetersiz performansa neden oluyor".
Belge, hesaplama maliyetini şirket içinde ajanların daha geniş çapta dağıtımı için "önemli engel" olarak tanımlıyor ve açıkça şunu ifade ediyor: "Maliyet, ajanlarımızı ölçekli olarak çalıştırmamızı sınırlayan kritik faktördür."
Bu ifade, Meta'nın son zamanlarda AI harcamalarına yönelik yaptığı bir dizi adım ile uyumlu. The Information'a göre, Meta bu yıl Haziran'da, şirket genelinde AI araçlarının daha geniş çapta benimsetilmesinden sadece birkaç hafta sonra AI token kullanımına sınır koyacağını ve AI harcamalarını izlemek ve token bütçelerini uygulamak için iç bir platform oluşturacağını çalışanlara bildirmişti.
Dikkat edilmesi gereken nokta, Switchboard projesinin Meta'nın altında yer alan AAI Labs'a ait olmasıdır; bu, Meta Uygulamalı Yapay Zeka Mühendislik ekibinin bir iç girişim birimidir ve bu yıl Mart'ta resmen kurulmuştur. The Information'in incelediği iç belgeler, çalışanların AI ürün ve hizmet önerileri sunmasını, onaylandıktan sonra küçük ekipler tarafından geliştirilmesini ve dışarıya açık bir şekilde yayınlanma şansını sağladığını göstermektedir.
Bu yıl Temmuz itibarıyla AAI Labs, tüketici ürünleri, geliştirici araçları ve dahili altyapı olmak üzere üç ana alanda toplamda yaklaşık 200 projeyi onayladı. Switchboard bunlardan biridir.
Bu mekanizma, Meta CEO'su Zuckerberg'in daha geniş stratejik vizyonunu yansıtmaktadır—AI aracılığıyla küçük ekiplerin hızlıca ürün oluşturması. Zuckerberg, bu yıl Nisan'da analistlere AI ajanlarının "küçük ekiplerin çok hızlı ilerleme kaydetmesini" sağladığını belirtmiş ve bu teknolojinin "çok sayıda yenilik" tetikleyeceğini tahmin etmiştir. Ayrıca, Meta'nın en fazla 50 yeni uygulama geliştirebileceğini ifade etmiştir.
Model Routing Yarışması: OpenRouter Dışında Büyük Oyuncular Girmeye Başlıyor
Switchboard, hedeflediği model rota yarışmasında giderek daha fazla ilgi çekiyor.
OpenRouter, geliştiricilere daha düşük maliyetle çeşitli AI modellerine erişim sağlayarak geliştirici topluluğunda oldukça popüler hale geldi. The Information, geçen hafta OpenRouter'un daha büyük bir teknoloji şirketiyle potansiyel bir satın alma görüşmeleri yaptığını bildirdi; bu işlem, şirketin değerini onlarca milyar dolar artıracak—şirketin bu yıl Nisan'daki değeri 1,3 milyar dolar idi.
Model rota kavramı, OpenAI'nin GPT-5'i yayınlarken dahil ettiği rota işlevinden kaynaklanarak daha geniş çapta ilgi çekti—bu işlev, kullanıcı girdisi nispeten basit olduğunda daha ucuz modele otomatik olarak geçiş yapar. Bundan sonra Databricks ve Palantir gibi şirketler de maliyetleri yönetmek ve verimliliği artırmak için kendi rota araçlarını geliştirdi.
Meta, bu kez kendi Switchboard'ını geliştirmek suretiyle maliyet baskısıyla aktif bir şekilde başa çıkıyor ve bu hızla ısınan alanda kendi yeteneklerini kurma stratejik bir seçimi yapıyor.
Daha büyük bir heves: Yapay zeka yatırımı, çeşitli gelir kaynakları arıyor
Switchboard projesinin ardında, Meta'nın büyük AI yatırımlarını yeni araçlara, yeni işlere ve yeni gelir kaynaklarına dönüştürme genel talebi yer alıyor.
Meta, bu yıl AI altyapısı ve diğer ekipman ile tesislere yapacağı harcamaların 2025 seviyesinin iki katından fazlası olan 145 milyar dolar olabileceğini önceden tahmin etmişti. Aynı zamanda, Meta AI geliştirme kapasitesini güçlendirmek için mühendislik ekibini yeniden yapılandırıyor.
AAI Labs'ın türettiği projeler sadece Switchboard'a sınırlı değil. The Information'ın elde ettiği başka bir iç belgeye göre, AAI Labs, Apple CarPlay ve Android Auto üzerinde çalışabilecek, yakındaki semboller hakkında AI ile açıklama yapan ve sürücülerin soru sormasına izin veren bir sürücü için AI rehber uygulaması geliştiriyor.
Dosya, ürünü Instagram harita deneyiminin bir uzantısı olarak tanımlıyor ve gelecekte konuma dayalı Reels içerikleri, seyahat önerileri ve hatta Meta Ray-Ban akıllı gözlüklerle entegrasyonu sağlayabilir.
Raporlara göre, bu projeler birlikte Meta'nın yolunu çiziyor: çalışanların yaratıcılığından başlayarak AI ürünlerini hızlıca prototipleyip, maliyetleri kontrol altında tutarken reklam işi dışında artı gelir alanları keşfetmek için uygun zamanı bekleyerek dış pazarlara sunmak.