Selama beberapa dekade, teori permainan telah memiliki jawaban yang cukup kuat terhadap pertanyaan apakah dua orang asing seharusnya bekerja sama ketika mereka tidak akan pernah bertemu lagi: sama sekali tidak. Permainan rasional, menurut keseimbangan Nash, adalah mengkhianati. Setiap kali. Tanpa pengecualian.
Sebuah makalah penelitian baru dari Google DeepMind, Mila-Quebec AI Institute, dan ETH Zürich berargumen bahwa agen AI yang dibangun berdasarkan model dasar tidak mematuhi aturan-aturan tersebut. Dan mereka memiliki matematika untuk mendukungnya.
Akhir dari pengkhianatan yang tak terhindarkan
Makalah yang diajukan ke arXiv pada 4 Agustus 2026, mencakup 75 halaman dengan 11 gambar dan memperkenalkan konsep yang disebut penulis sebagai “similarity inference.” Gagasan intinya secara menyesatkan sederhana: agen AI yang dibangun dari proses pelatihan yang serupa dapat mengenali kesamaan tersebut dan menggunakannya untuk memprediksi apa yang akan dilakukan agen lain.
Teori permainan klasik memperlakukan setiap pemain sebagai pembuat keputusan yang sepenuhnya independen, yang disebut paper sebagai “agensi terpisah.” Di bawah asumsi itu, pilihan lawan Anda adalah kotak hitam. Anda tidak bisa memprediksinya, sehingga Anda menghindari risiko dengan mengkhianati. Keseimbangan Nash berlaku, dan semua orang berakhir dalam kondisi yang lebih buruk daripada jika mereka bekerja sama.
Tim peneliti, yang dipimpin oleh Alexander Meulemans, mengusulkan kerangka kerja alternatif yang disebut “embedded agency.” Dalam model ini, agen memandang diri mereka sebagai bagian dari lingkungan mereka, bukan sebagai entitas yang terpisah. Lebih penting lagi, mereka mempertahankan ketidakpastian murni terhadap proses pengambilan keputusan mereka sendiri.
Ketidakpastian itu adalah bahan utama. Karena sebuah agen tidak sepenuhnya yakin bagaimana ia akan memutuskan, ia dapat memperlakukan penalarannya sendiri sebagai bukti tentang bagaimana agen serupa akan bernalar. Jika saya cenderung bekerja sama, dan saya tahu lawan saya berpikir seperti saya, maka lawan saya kemungkinan juga cenderung bekerja sama. Logika ini membangun dirinya sendiri menjadi hasil kerja sama yang stabil.
Keseimbangan tertanam menggantikan Nash
Untuk memformalkan hal ini, makalah ini memperkenalkan konsep solusi baru yang disebut “embedded equilibrium.” Di mana keseimbangan Nash mengasumsikan para pemain mengoptimalkan secara independen, embedded equilibrium mempertimbangkan korelasi antar agen yang muncul dari arsitektur bersama, data pelatihan, dan prosedur optimasi.
Di bawah Nash, kerja sama dalam Dilema Tahanan satu kali adalah irasional. Di bawah keseimbangan tertanam, itu bisa menjadi strategi rasional satu-satunya.
Temuan empiris para penulis menunjukkan bahwa agen model dasar yang ditempatkan dalam dilema sosial dan diberi alat perencanaan yang dioptimalkan benar-benar cenderung menuju hasil kerja sama. Matematika memprediksi kerja sama, dan eksperimen mengonfirmasinya.
Mengapa hal ini penting di luar laboratorium
Kertas tersebut juga mengangkat pertanyaan tentang apa yang terjadi ketika agen-agen tidak serupa. Jika kerja sama bergantung pada inferensi kesamaan, maka interaksi antara agen yang dibangun berdasarkan arsitektur berbeda atau dilatih pada data berbeda dapat kembali ke dinamika pengkhianatan klasik.
Bagi pembuat kebijakan dan badan tata kelola AI, konsep kesetimbangan tertanam memperkenalkan variabel yang tidak diperhitungkan oleh kerangka regulasi yang ada. Hukum anti-monopoli, misalnya, umumnya memerlukan bukti komunikasi eksplisit untuk menetapkan kolusi. Agen yang bekerja sama melalui inferensi kesamaan tidak melakukan komunikasi apa pun. Mereka hanya berpikir sama.