Agen AI anda tidak berjalan pada satu model. Ia berjalan pada lima atau enam, dan anda mungkin membayar setiap satunya secara berasingan. Satu untuk menyematkan dokumen anda Satu untuk menyusun semula keputusan carian Satu untuk menukar PDF menjadi teks Satu untuk memeriksa kandungan tidak selamat Satu untuk benar-benar berfikir dan memanggil alat Lima API. Lima bil. Lima perkara yang boleh gagal. Superlinked baru sahaja membuka sumber SIE, satu pelayan yang menjalankan kesemuanya pada peranti anda sendiri atau awan anda sendiri. 85+ model di belakang satu API. Bahagian yang paling saya suka: model dimuatkan apabila anda memanggilnya dan dikeluarkan dari memori apabila anda berhenti, jadi anda tidak membayar GPU untuk mengawal model yang tidak digunakan. Ia juga menghantar tatanan pengeluaran. Penyeimbangan beban, penskalaan automatik hingga ke sifar, papan pemantau Grafana, Terraform untuk GKE dan EKS. Apache 2.0. Percuma. Jangan berpindah semuanya sekaligus. Mulakan dengan penyematan. Endpoinnya kompatibel dengan OpenAI, jadi ia hampir seperti pertukaran satu baris. Kemudian pindahkan model seterusnya apabila yang pertama stabil. Setiap model yang anda pindahkan ialah satu bil yang kurang. Repo dalam jawapan. Tandakan ini. Ikuti @cyrilXBT