Selama beberapa dekad, teori permainan telah mempunyai jawapan yang sangat kukuh terhadap soal sama ada dua orang asing sepatutnya bekerjasama apabila mereka tidak akan bertemu lagi: sama sekali tidak. Permainan yang rasional, menurut keseimbangan Nash, ialah untuk berkhianat. Setiap kali. Tiada pengecualian.
Sebuah kertas penyelidikan baharu dari Google DeepMind, Institut AI Mila-Quebec, dan ETH Zürich berhujah bahawa agen AI yang dibina berdasarkan model asas tidak mematuhi peraturan-peraturan tersebut. Dan mereka mempunyai matematik untuk menyokongnya.
Akhir daripada penipuan yang tak terelakkan
Kertas kerja ini, yang dihantar ke arXiv pada 4 Ogos 2026, merangkumi 75 muka surat dengan 11 gambar dan memperkenalkan satu konsep yang dipanggil “inferens kesamaan” oleh penulisnya. Idea utamanya adalah secara menipu mudah: agen AI yang dibina daripada proses latihan yang serupa boleh mengenali kesamaan itu dan menggunakannya untuk meramal apa yang akan dilakukan oleh agen lain.
Teori permainan klasik memperlakukan setiap pemain sebagai pembuat keputusan yang sepenuhnya bebas, yang disebut paper sebagai “agensi terpisah.” Di bawah anggapan itu, pilihan lawan anda adalah kotak hitam. Anda tidak dapat meramalkannya, jadi anda menghalangi dengan berkhianat. Keseimbangan Nash berlaku, dan semua orang berakhir dalam keadaan yang lebih buruk daripada jika mereka bekerjasama.
Pasukan penyelidik, yang dipimpin oleh Alexander Meulemans, mencadangkan kerangka alternatif bernama “agensi tertanam.” Dalam model ini, agen menganggap diri mereka sebahagian daripada persekitaran mereka, bukan sebagai entiti yang terpisah. Lebih penting lagi, mereka mengekalkan ketidakpastian sejati terhadap proses pengambilan keputusan mereka sendiri.
Ketidakpastian itu adalah bahan utama. Kerana agen tidak sepenuhnya pasti bagaimana ia akan membuat keputusan, ia boleh memperlakukan penalarannya sendiri sebagai bukti tentang bagaimana agen serupa akan berfikir. Jika saya cenderung kepada kerjasama, dan saya tahu pihak lawan saya berfikir seperti saya, maka pihak lawan saya juga mungkin cenderung kepada kerjasama. Logik ini menguatkan dirinya sendiri menjadi hasil kerjasama yang stabil.
Keseimbangan terbenam menggantikan Nash
Untuk merumuskan ini, kertas kerja ini memperkenalkan konsep penyelesaian baharu yang dipanggil “keseimbangan tertanam.” Di mana keseimbangan Nash mengandaikan pemain mengoptimumkan secara berasingan, keseimbangan tertanam mengambil kira korelasi antara agen yang timbul daripada arsitektur bersama, data latihan, dan prosedur pengoptimuman.
Di bawah Nash, kerjasama dalam Dilema Tahanan satu kali adalah tidak rasional. Di bawah keseimbangan tertanam, ia boleh menjadi strategi rasional yang unik.
Kesimpulan empirik penulis menunjukkan bahawa agen model asas yang diletakkan dalam dilema sosial dan diberi alat perancangan yang dioptimakan sebenarnya bercenderung kepada hasil kerjasama. Matematik meramalkan kerjasama, dan eksperimen mengesahkannya.
Mengapa ini penting melebihi makmal
Kertas itu juga menimbulkan soalan mengenai apa yang berlaku apabila agen-agen tidak serupa. Jika kerjasama bergantung pada inferens persamaan, maka interaksi antara agen yang dibina berdasarkan arsitektur berbeza atau dilatih dengan data berbeza mungkin kembali kepada dinamik pengkhianatan klasik.
Bagi pembuat dasar dan badan tata kelola AI, konsep keseimbangan tertanam memperkenalkan pemboleh ubah yang tidak diambil kira oleh kerangka peraturan yang sedia ada. Undang-undang anti-monopoli, sebagai contoh, biasanya memerlukan bukti komunikasi eksplisit untuk menubuhkan kolusi. Agen yang bekerjasama melalui kesimpulan kesamaan tidak berkomunikasi apa-apa. Mereka hanya berfikir secara serupa.