AAI Labs, inkubator AI dalaman Meta, sedang membangun alat pemulaan model AI bernama "Switchboard", yang mengarahkan permintaan ringan kepada model kecil yang lebih murah berdasarkan penilaian kesukaran tugas, untuk mengurangkan kos inferens keseluruhan. Projek ini masih berada dalam peringkat awal dan berada di bawah AAI Labs, inkubator dalaman yang ditubuhkan oleh Meta pada Mac tahun ini. Dokumen dalaman menunjukkan bahawa Meta membayar harga model teratas untuk setiap permintaan pengaturcaraan, termasuk tugas ringan yang boleh ditangani oleh model kecil, dan kos inferens kini menjadi "halangan utama" dalam pelaksanaan agen berskala besar. Belanja infrastruktur AI Meta pada tahun ini dijangka mencapai sehingga US$145 bilion, dan syarikat sedang mengawal perbelanjaan AI melalui pelbagai cara. Pasar sasaran Switchboard juga termasuk bidang pemulaan model, di mana terdapat pesaing seperti OpenRouter, dan transaksi pengambilalihan berkaitan boleh meningkatkan nilai syarikat kepada berbilion dolar.Penulis artikel, sumber: Wall Street Journal
Di bawah tekanan perbelanjaan infrastruktur AI yang terus meningkat, Meta sedang berusaha mencari cara untuk mengurangkan kos dari dalam.
Pada 21 Julai, menurut media teknologi The Information, AAI Labs, inkubator AI dalaman Meta, sedang membangun alat pengecaman model AI bernama “Switchboard”, yang logik utamanya sangat serupa dengan produk Auto Router OpenRouter—dengan mengesan tahap kesukaran tugas, permintaan ringan akan dialihkan ke model kecil yang lebih murah, untuk mengurangkan kos inferens keseluruhan.
Switchboard masih berada dalam peringkat awal, dan kepastian keberhasilannya masih belum jelas. Namun, dokumen dalaman yang diperoleh The Information menunjukkan bahawa pasukan Meta telah secara jelas mengusulkan dua lintasan berpotensi: satu, melaksanakannya di dalam syarikat untuk mengurangkan kos, dan dua, memperkenalkannya secara terbuka kepada organisasi luar yang menjalankan agen pemrograman AI dalam skala besar.
Analisis menunjukkan bahawa ini bermakna alat ini bukan sahaja merupakan inisiatif pengurangan kos, tetapi juga mungkin merupakan usaha Meta untuk membuka sumber pendapatan baru di pasaran alat AI.
Laporan lain juga menyatakan bahawa pencadangan projek ini secara langsung menangani satu masalah nyata yang dihadapi syarikat tersebut: membayar harga model terkemuka untuk setiap permintaan pengaturcaraan, termasuk tugas-tugas ringan yang boleh ditangani dengan mudah oleh model kecil.
Langsung menangani masalah utama: Kos inferens adalah halangan terbesar kepada penyebaran berskala
Laporan tersebut menyatakan bahawa logik projek Switchboard, dalam dokumen dalaman, dinyatakan dengan sangat jelas: "Kami membayar harga model teratas untuk setiap permintaan pengaturcaraan, termasuk permintaan yang ringkas."
Dokumen tersebut lebih lanjut menunjukkan bahawa kebanyakan tugas agen pemrograman boleh ditangani sepenuhnya oleh model yang lebih kecil, dan hanya sedikit tugas yang benar-benar memerlukan kemampuan model besar terkini. Namun, keadaan semasa ialah "semua permintaan dihantar ke model yang sama, menyebabkan perbelanjaan berlebihan pada tugas ringan atau prestasi yang tidak mencukupi pada tugas kompleks".
Dokumen tersebut secara jelas mengkategorikan kos penghujahan sebagai "halangan utama" dalam peluasan agen yang lebih luas di dalam syarikat, dan secara terus menyatakan: "Kos adalah faktor utama yang membatasi kami dalam menjalankan agen dalam skala besar."
Pernyataan ini sejalan dengan serangkaian tindakan terkini Meta dalam mengawal perbelanjaan AI. Menurut laporan sebelumnya dari The Information, pada Jun tahun ini, Meta telah memberitahu pekerjanya bahawa selepas hanya beberapa minggu mendorong penggunaan alat AI secara meluas di seluruh syarikat, mereka akan menetapkan had untuk penggunaan token AI, serta membina platform dalaman untuk memantau perbelanjaan AI dan melaksanakan bajet token.
Perlu diperhatikan bahawa projek Switchboard berada di bawah AAI Labs, sebuah institusi inkubasi dalaman di bawah pasukan Kejuruteraan AI Aplikasi Meta, yang secara rasmi ditubuhkan pada Mac tahun ini. Menurut dokumen dalaman yang dikaji oleh The Information, mekanisme ini membenarkan pekerja menghantar cadangan produk dan perkhidmatan AI; selepas diluluskan, pasukan kecil akan bertanggungjawab untuk membina, serta berpeluang untuk menerbitkannya secara awam.
Sehingga Julai tahun ini, AAI Labs telah menyetujui sekitar 200 projek secara kumulatif, mencakup tiga bidang utama: produk pengguna, alat pembangun, dan infrastruktur dalaman. Switchboard adalah salah satunya.
Mekanisme ini mencerminkan visi strategik yang lebih luas oleh CEO Meta, Zuckerberg—menggunakan AI untuk membolehkan pasukan kecil membina produk dengan pantas. Pada bulan April tahun ini, Zuckerberg pernah menyatakan kepada analis bahawa agen AI bermaksud “pasukan kecil boleh membuat kemajuan yang sangat pantas”, dan meramalkan teknologi ini akan mendorong “inovasi yang melimpah”. Beliau juga menyatakan bahawa Meta mungkin menghasilkan sehingga 50 aplikasi baru.
Laluan penghalaan model: Di luar OpenRouter, raksasa-raksasa semuanya masuk ke dalamnya
Laluan penghalaan model yang dituju oleh Switchboard sedang menarik perhatian yang semakin meningkat.
OpenRouter telah memperoleh populariti yang cukup besar di kalangan pembangun kerana membantu mereka mengakses pelbagai model AI dengan kos yang lebih rendah. Menurut laporan The Information minggu lepas, OpenRouter telah berbincang dengan sebuah syarikat teknologi yang lebih besar mengenai kemungkinan pengambilalihan, dan transaksi berkenaan mungkin akan meningkatkan penilaian syarikat itu sebanyak puluhan miliar dolar—penilaian syarikat itu pada April tahun ini ialah 1.3 bilion dolar.
Konsep routing model mendapat perhatian yang lebih luas selepas OpenAI memperkenalkan fungsi routing yang dibina dalam GPT-5—fungsi ini secara automatik beralih ke model yang lebih murah apabila petunjuk pengguna relatif ringkas. Selepas itu, syarikat-syarikat seperti Databricks dan Palantir juga mengembangkan alat routing masing-masing untuk mengurus kos dan meningkatkan kecekapan.
Meta kali ini mengembangkan Switchboard sendiri, sebagai respons proaktif terhadap tekanan kos, sekaligus pilihan strategik untuk membina kemampuan sendiri di medan yang semakin panas ini.
Ambisi yang lebih besar: Pelaburan AI mencari pelbagai sumber pendapatan
Di sebalik projek Switchboard adalah keperluan menyeluruh Meta untuk mengubah pelaburan AI yang besar menjadi alat baru, perniagaan baru, dan sumber pendapatan baru.
Sebelum ini, Meta menganggarkan perbelanjaan sebanyak sehingga US$145 bilion pada infrastruktur AI dan peralatan serta fasilitas lain pada tahun ini, melebihi dua kali ganda aras 2025. Sambil itu, Meta sedang menyusun semula pasukan kejuruteraan untuk memperkuatkan kemampuan pembangunan AI.
Projek yang diinkubasi oleh AAI Labs tidak terbatas pada Switchboard. Menurut dokumen dalaman lain yang diperoleh The Information, AAI Labs juga sedang membangun aplikasi panduan AI untuk pemandu, yang boleh berjalan melalui Apple CarPlay dan Android Auto, menggunakan AI untuk menjelaskan tanda-tanda berdekatan serta membenarkan pemandu bertanya.
Dokumen tersebut menempatkan produk ini sebagai sambungan kepada pengalaman peta Instagram, yang pada masa depan mungkin mengintegrasikan kandungan Reels berdasarkan lokasi, cadangan perjalanan, bahkan cermin pintar Meta Ray-Ban.
Laporan tersebut menyatakan bahawa projek-projek ini bersama-sama menggambarkan jalan Meta: bermula dengan idea kakitangan, membangunkan prototaip produk AI dengan pantas, kemudian melancarkannya ke pasaran luar pada masa yang sesuai—sambil mengawal kos dan meneroka ruang pendapatan tambahan di luar perniagaan iklan.