Laporan Citi: Model AI Meningkat Cepat, Tetapi Infrastruktur Kesulitan Menyesuaikan

Kemampuan cerdas model AI besar meningkat pesat, Kimi K3 dengan skor 57 masuk tiga besar model open-source global, skor median dari 20 model teratas naik dari 34 menjadi 43. Kendala infrastruktur AI menjadi jelas, harga sewa GPU Blackwell naik 27% sejak awal tahun, harga model mutakhir Tiongkok melonjak 45% dalam satu minggu, dan laboratorium seperti SpaceX menghabiskan dana 1 miliar dolar AS untuk membeli peralatan pembangkit listrik. Citi menunjukkan bahwa benteng kompetisi tahap berikutnya akan beralih dari akses ke daya komputasi menjadi efisiensi dan data eksklusif, sementara risiko keamanan juga meningkat, agen AI mandiri telah naik dari "mengganggu makan siang" menjadi "menyusup ke infrastruktur Hugging Face".

Penulis artikel, sumber: Hard AI

Citibank menganalisis bahwa pengembalian investasi (ROI) di industri AI sedang berpindah lebih cepat ke lapisan infrastruktur, dan daya saing masa depan akan bergeser dari akses ke daya komputasi menjadi efisiensi dan data propietari.

Model AI besar sedang menjadi semakin cerdas, tetapi dunia fisik yang menopangnya sedang didorong hingga batasnya.

Dalam laporan terbaru yang dirilis pada 24 Juli, Citibank menulis bahwa Moonshot Kimi K3 berada di peringkat ketiga global dengan skor 57, hanya tertinggal 3 poin dari Claude Fable yang memimpin di kategori tertutup. Sementara itu, harga model canggih Tiongkok yang diwakili oleh Kimi K3 melonjak 45% dalam satu minggu, biaya sewa GPU Blackwell naik 27% sejak awal tahun, dan bahkan ada laboratorium yang menghabiskan 1 miliar dolar AS untuk membeli generator listrik secara langsung.

Citibank menganalisis bahwa pengembalian investasi (ROI) di industri AI sedang berpindah lebih cepat ke lapisan infrastruktur; dan benteng kompetisi tahap berikutnya dalam persaingan model akan benar-benar berubah dari sekadar "akses ke daya komputasi" menjadi "produktivitas efisien dan data eksklusif".

Citibank dalam laporan risetnya menyebut Kimi K3 sebagai model open-source terbesar yang telah dirilis secara publik. Beberapa minggu lalu, skor tertinggi open-source baru 51 poin (Z.ai GLM-5.2), sedangkan Kimi K3 langsung melonjak ke 57 poin, hanya kalah dari Claude Fable 5 (60 poin) dan OpenAI GPT-5.6 Sol (59 poin).

Seluruh industri sedang mempercepat lajunya. Skor kecerdasan median dari 20 penyedia model teratas naik dari 34 menjadi 43 dalam enam minggu terakhir. Di kalangan open-source, DeepSeek V4 Pro (44 poin) menawarkan harga mulai dari 0,03 per juta token—mendekati tingkat kecerdasan terdepan, tetapi harganya 100 kali lebih murah.

Kubu sumber tertutup juga tidak melambat. Google baru saja meluncurkan Gemini 3.6 Flash (21 Juli), sekaligus mengungkapkan bahwa Gemini 3.5 Pro masih dalam pengujian, dan pelatihan awal Gemini 4 telah dimulai—tiga generasi model berjalan secara paralel. Namun, Citi berpendapat bahwa ritme peluncuran 'Flash lebih dulu, Pro tertunda' melepaskan sinyal: kemajuan model mutakhir kini menjadi lebih sulit—konsisten dengan keterlambatan yang dialami perusahaan lain dalam pembangunan infrastruktur, serta mencerminkan kenyataan bahwa industri berharap dapat memperpendek siklus pengiriman tetapi kesulitan mewujudkannya.

Semakin besar dan lebih kuat modelnya, semakin banyak sumber daya yang dibutuhkan untuk menjalankannya.

Model dengan triliunan parameter sedang mengubah makna "kekuatan komputasi".

Citibank menunjukkan bahwa saat model super besar dijalankan, semakin banyak waktu dihabiskan untuk memindahkan bobot dan data KV-cache antara memori HBM dan jaringan interkoneksi GPU, daripada operasi matriks itu sendiri. Bottleneck telah berpindah dari "seberapa cepat menghitung" (FLOPs) menjadi "apakah data bisa dipindahkan" — bandwidth memori, interkoneksi GPU, dan pasokan listrik.

Permintaan GPU masih tinggi, sewa arsitektur Blackwell naik 27% sejak awal tahun. Namun, hanya menambah GPU saja sudah tidak cukup.

Beberapa laboratorium mulai langsung memasuki sektor pembangkit listrik hulu: SpaceX menghabiskan $1 miliar untuk membeli unit turbin mobile 1 GW (15 Juli), sementara Georgia Power menandatangani perjanjian layanan pada minggu yang sama (22 Juli). Laboratorium AI membeli peralatan pembangkit listrik—hal yang hampir tidak mungkin terjadi satu tahun lalu, kini sedang terjadi.

Harga model secara langsung mencerminkan seberapa ketat kapasitas produksi. Harga campuran model terdepan Tiongkok melonjak dari 0,87 per juta token, naik 45% mingguan dan bulanan, merupakan fluktuasi besar pertama dalam dua bulan terakhir. Harga rata-rata global untuk model terdepan naik 6,8% mingguan dan 11,3% bulanan. Amerika Serikat dan Eropa relatif stabil (mingguan -0,5%), tetapi juga naik 4,1% bulanan.

Citibank menilai, tekanan harga akhirnya akan mereda seiring dengan peluncuran bertahap infrastruktur tambahan. Pada saat itu, data bernilai dan kinerja khusus tugas akan membentuk parit perlindungan yang lebih berkelanjutan dibandingkan akses terhadap daya komputasi.

Model menjadi lebih kuat. Namun, agent yang berjalan di atas model juga menjadi lebih berbahaya.

Laporan Citigroup menggunakan ekspresi yang menarik: risiko nyata agen AI otonom melarikan diri dari sandbox telah meningkat dari "mengganggu makan siang" pada bulan April menjadi "menembus infrastruktur Hugging Face" pada bulan Juli.

Semakin kuat dan semakin luas penggunaan model open-source, semakin besar cakupan risiko keamanan yang tersebar. Perdebatan mengenai regulasi AI masih berlangsung—NVIDIA (24 Juli) dan Menteri Keuangan AS Bessent (22 Juli) baru-baru ini menyampaikan pernyataan—namun sulit mencapai kesimpulan dalam jangka pendek. Meskipun kerangka regulasi belum diterapkan, perusahaan yang memelihara arsitektur operasional model mereka sendiri telah menghadapi ambang kepatuhan yang lebih tinggi.

Yang lebih rumit lagi, penyedia yang melatih model-model ini sendiri masih belum dapat sepenuhnya memeriksa mengapa model bertindak demikian. Masalah interpretabilitas hingga kini belum terpecahkan.

Namun, kekhawatiran keamanan tidak memperlambat proses komersialisasi agen. Data dari METR (21 Juli) menunjukkan bahwa kesenjangan ekonomi antara agen AI dan tenaga manusia semakin menyempit. Ketika agen menjadi lebih otonom dan semakin mendekati kelayakan ekonomi, konsumsi token akan terus mempercepat—yang pada gilirannya mendorong peningkatan permintaan infrastruktur.

Semakin kuat kemampuan, semakin ketat batasannya. Semakin ketat batasannya, semakin besar kebutuhan infrastruktur. Siklus ini tidak menunjukkan tanda-tanda perlambatan.