Kombinasi model frontier, open-source, dan open-weight dapat memperkuat sistem perusahaan.
Perusahaan dapat melanjutkan penerapan kecerdasan buatan (AI) di berbagai sistem hibrida yang mencakup sistem lama dan modern, alih-alih menunggu hingga seluruh sistem dimodernisasi, menurut Vinod Joseph Cherunni, Wakil Presiden Grup untuk AI/data, cloud, dan arsitektur perusahaan di Singtel.
Berbicara di Singapore Business Review Technology Enterprise Summit pada 12 November, Vinod menyarankan peserta untuk tidak menunggu sistem benar-benar siap AI sebelum memulai perjalanan mereka.
“Hal pertama adalah [meng]bayangkan ulang proses Anda, mengubah alur kerja Anda, dan menggunakan AI di sana,” katanya. “Kalau tidak, Anda tidak akan pernah mendapatkan hasil yang sebaik itu.”
Vinod mengatakan data perusahaan tetap terpisah dan terfragmentasi di berbagai aplikasi, sehingga menyulitkan agen AI untuk bekerja lintas fungsi bisnis.
Untuk mengatasi hal ini, ia mengatakan bahwa data “memerlukan konteks,” yang berarti definisi yang konsisten di seluruh perusahaan, dikenal sebagai ontologi, serta grafik pengetahuan yang menangkap hubungan antar elemen bisnis seperti pelanggan, produk, dan sistem.
Perusahaan mungkin menyalahkan model AI atas output buruk dan halusinasi ketika masalah mendasarnya adalah data yang tidak akurat dan kurangnya konteks, kata Vinod.
“Inilah persis mengapa banyak [proofs of concept] dan pilot gagal,” katanya.
“Setiap kali kami memiliki data terbaik, data paling bersih yang mungkin dengan konteksnya, jumlah token yang Anda bakar [sangat] sedikit,” tambahnya.
Vinod menggambarkan pendekatan “taman model” yang menggabungkan model sumber terbuka, bobot terbuka, dan model terdepan.
Perusahaan dapat mengembangkan lapisan yang mengkontekstualisasi prompt yang dikirim oleh agen dan aplikasi, lalu meneruskannya ke berbagai model berdasarkan karakteristik yang berbeda.
Mendistribusikan beban kerja di antara berbagai model tidak hanya akan mencegah ketergantungan pada penyedia tertentu, tetapi juga mengelola biaya dan kedaulatan, katanya.
Data pelanggan tetap lokal, dengan model on-premises yang dapat beroperasi dalam infrastruktur kedaulatan, sementara kerangka kerja AI yang bertanggung jawab memastikan bahwa model tidak menerima informasi pribadi spesifik pelanggan.
Vinod menyampaikan kepada peserta untuk melanjutkan operasi otonom di seluruh lingkungan TI mereka, dengan tujuan memperbaiki masalah secepat mungkin dan mengidentifikasi insiden keamanan sebelum terjadi.
Dia mencatat bahwa bahkan pengurangan yang wajar dalam jumlah insiden dapat menjadi keuntungan signifikan.




