Epoch AI baru saja mengukur biaya "pemikiran" AI, dan penurunannya adalah yang paling cepat yang pernah dialami oleh teknologi transformasional apa pun. Epoch adalah lembaga penelitian independen yang memantau perkembangan AI dengan data sendiri: kinerja model, biaya pelatihan, chip, dan pusat data. Dalam laporan tanggal 22 September, Luke Emberson dan David Roodman menganalisis biaya mencapai tingkat kinerja yang sama pada lima benchmark (matematika, ilmu eksakta, dan permainan keterampilan) selama sekitar tiga tahun. Angka utama: sejak 2023, biaya untuk tingkat kinerja tertentu turun sekitar 47% per triwulan. Itu berarti 13 kali lebih murah per tahun. Dibandingkan secara historis, empat kali lebih cepat daripada urutan DNA, enam kali lebih cepat daripada komputasi, 18 kali lebih cepat daripada baterai lithium, dan 54 kali lebih cepat daripada listrik hingga tahun 1973. Bukti menunjukkan bahwa kecepatan ini sudah berlangsung setidaknya sejak November 2021, ketika OpenAI secara resmi membuka API GPT-3. Pada 31 Januari 2025, o3 dari OpenAI mendapatkan skor 75% di GPQA Diamond (ujian pilihan ganda setara doktor di bidang fisika, kimia, dan biologi) dengan biaya sekitar 30 sen per pertanyaan. Kurang dari 18 bulan kemudian, GPT-5.6 Luna mencapai hasil yang sama dengan biaya empat persepuluh sen sen ($0,0004). Penurunan sebesar 725 kali. Epoch membandingkannya dengan harga mobil baru yang turun dari $50.000 menjadi $69! Kecepatan penurunan bervariasi menurut domain: lebih lambat pada teka-teki permainan (39% hingga 43% per triwulan), lebih cepat pada matematika (50% hingga 52%). Harga turun paling tajam tepat setelah suatu tingkat menjadi yang terbaik saat itu. Rata-rata dari lima benchmark utama, penurunan mencapai 66% per triwulan (75 kali lebih murah per tahun) pada peluncuran state-of-the-art; dua tahun kemudian, separuhnya, yaitu 32% per triwulan (4,7 kali lebih murah per tahun). Hipotesis mereka: di awal, laboratorium menetapkan premi, lalu persaingan terbuka dan tertutup menurunkan harga. Mereka sendiri menyebutkan kelemahannya. Laboratorium mungkin melatih berlebihan untuk benchmark. Menjawab ujian bukanlah pekerjaan yang berguna. Pengguna nyata tidak selalu memilih model termurah di garis depan. Jendela waktu ini hanya tiga tahun. Rata-rata ini bisa dihitung dengan berbagai cara dari data yang ada. Untuk stack AI, kesimpulannya jelas: kapasitas yang kemarin masih premium menjadi komoditas dengan cepat, dan yang membuka penggunaan massal adalah biaya per tugas, bukan hanya model baru. Bagi penjual API, keuntungan berlebih pada model tertentu tampaknya sementara. Epoch sendiri mengatakan bahwa ini sekaligus menjadi penyebab dan akibat dari perlombaan. Dalam grafik mereka, persaingan paling sengit di puncak terutama terjadi di antara model tertutup. Bagi investor, margin inferensi menyempit. Pemain yang mendapatkan volume dan yang tetap unggul dalam biaya selama satu triwulan lebih penting daripada narasi tentang model abadi. Premi menjadi yang termurah di puncak menghilang dengan cepat. Biaya chip dan energi naik. Biaya "pemikiran" menjadi lebih murah.