Mengapa AI Boleh Mengingat Semua Pengetahuan Manusia Tetapi Tidak 'Semalam'

Penulis: Hugo, Robonaissance

Diterjemahkan oleh Deep潮 TechFlow

Pengantar Shenchao: Dari agen permainan Atari awal hingga model bahasa besar dengan jendela konteks jutaan, kecerdasan buatan sentiasa menghadapi kontradiksi fizikal mendasar semasa membuat keputusan berterusan merentas masa: model mampu menampung pengetahuan statik besar yang telah ada oleh manusia, tetapi dalam persekitaran interaktif dinamik, ia tidak mampu membawa serta semua butiran sebelumnya tanpa kehilangan maklumat.

Di bawah batasan ketat kekuatan pengiraan dan jendela konteks, bagaimana cara memampatkan masa lalu sambil secara tepat merumuskan keadaan utama yang menentukan masa depan, bukan sahaja merupakan terobosan teknikal untuk menyelesaikan "kekeliruan persepsi", tetapi juga logik asas bagi agen autonom menuju ingatan yang berterusan.

Ini adalah edisi ke-3 daripada siri "Ingatan, Lupa, dan Diri di Dalam Mesin": Bagaimana kecerdasan bergerak melintasi masa apabila agen tidak dapat membawa seluruh sejarahnya bersama.

Cuba membekukan mana-mana frame dalam permainan bola pantul Pong yang klasik.

Layar hanya menunjukkan dua raket, satu bola, dan skor semasa. Pada masa ini, jika anda diminta menyatakan ke arah mana bola sedang terbang, anda tidak akan mampu melakukannya, walaupun mesin ditunjukkan gambar statik yang sama, mesin juga tidak dapat menentukan.

Ahli Matthew Hausknecht dan Peter Stone secara langsung menyatakan dalam kertas kerja mereka pada tahun 2015 mengenai agen yang belajar memainkan permainan Atari: "Skrin satu bingkai semasa hanya mendedahkan kedudukan raket dan bola, tetapi tidak mendedahkan kelajuan bola."

Mereka seterusnya menjelaskan mengapa ini sangat penting: “Mengetahui arah pergerakan bola adalah elemen kunci dalam menentukan posisi terbaik raket.”

Gambar beku ini tepat, setiap butir detail di dalamnya berada di tempat yang sepatutnya. Namun, gambar tunggal ini masih belum cukup untuk memainkan permainan ini.

Sensor yang ditangkap pada saat ini hanyalah satu "nilai pemerhatian (Observation)".

Namun, keadaan sebenar secara keseluruhan yang menjadi asas tindakan seterusnya agen ialah "keadaan sistem (State)".

Dalam permainan Pong, pengamatan dan keadaan sistem adalah terpisah pada setiap potongan bingkai tunggal. Oleh kerana arah pergerakan bola adalah fakta yang bergantung pada beberapa momen sebelumnya, tiada satu momen terpisah pun yang boleh mengandunginya secara sendiri.

Apabila input semasa tidak mencukupi untuk membuat keputusan, sistem yang berfungsi dengan baik harus membawa maklumat dari masa lalunya ke semasa.

Namun, apa yang dibawanya tidak mungkin merupakan masa lalu yang lengkap. Yang dibawanya hanyalah satu ringkasan, dan pemilihan ringkasan itu sepenuhnya bergantung pada apa yang perlu diramalkan langkah seterusnya.

Pengorbanan ini menentukan dasar maklumat yang akan dimiliki pada masa-masa seterusnya. Sebarang butiran yang terlepas daripada ringkasan tidak akan pernah boleh menjadi asas tindakan pada masa-masa seterusnya.

Sistem yang direspon oleh Hausknecht dan Stone pada masa itu ialah agen DQN yang diterbitkan oleh Volodymyr Mnih dan rakan-rakan DeepMind di jurnal Nature pada tahun 2015.

DQN mampu belajar memainkan puluhan permainan Atari semata-mata melalui gambar skrin, sementara penulis kertas itu telah menghadapi masalah gambar beku sejak peringkat awal pembangunan.

Dalam bahagian kaedah kertas mereka, mereka menulis: "Kerana agen hanya dapat mengamati skrin semasa, tugas ini merupakan keadaan sebahagian boleh diperhatikan, dengan banyak keadaan simulasi yang mengalami kekeliruan persepsi (Perceptually Aliased)."

Dengan kata lain, hanya dengan bergantung pada gambar skrin semasa, tidak mungkin memberitahu agen tentang situasi penuhnya.

“Persepsi bingung” adalah deskripsi akademik yang tepat bagi gangguan harian. Dua situasi yang sangat berbeza (contohnya, bola sedang terbang menuju raket anda, atau bola sedang terbang menjauh dari raket anda) akan menghasilkan gambar yang sama sepenuhnya dalam gambar statik.

Sistem yang hanya melihat gambar dipaksa untuk menganggapnya sebagai situasi yang sama; jika kedua situasi ini memerlukan tindakan yang bertentangan sepenuhnya, sistem pasti akan membuat kesalahan dalam salah satu situasi tersebut.

Kaedah pembaikan mereka sangat langsung. Rangkaian tidak lagi hanya menerima satu gambar skrin, tetapi menumpuk beberapa bingkai terkini sebagai input.

Dalam tetapan lalai, nilai adalah 4 bingkai, walaupun algoritma ini juga adaptif terhadap nilai 3 bingkai atau 5 bingkai.

Apabila keempat-empat bingkai diletakkan secara bersebelahan, pergerakan bola menjadi jelas sebagai perubahan kedudukan. Arah pergerakan tidak lagi menjadi konsep yang perlu diingat secara abstrak, tetapi berubah menjadi sifat visual yang boleh dilihat secara langsung.

Kertas ini tidak menyebut set gambar bertindih ini sebagai ingatan. Ia pada dasarnya hanyalah saluran input yang sedikit lebih luas daripada satu momen tunggal.

Lebar input ini mempunyai sempadan fizikal yang sangat ketat, dan Hausknecht serta Stone menggambarkan sempadan ini dengan tepat.

Mereka menulis: kerana DQN dilatih menggunakan input yang terdiri daripada empat keadaan terkini yang dialami oleh agen, "jika suatu permainan memerlukan pemain untuk mengingati peristiwa yang berlaku lebih lama daripada empat skrin sebelumnya, DQN tidak akan mampu menguasai permainan itu."

Bagi DQN, sejarah di luar lima skrin sebelumnya tidak wujud dalam lingkungan inputnya.

Mekanisme berdasarkan tetingkap gelongsor tetap ini secara langsung mengungkapkan kontradiksi utama dalam pemprosesan urutan masa oleh kecerdasan mesin: tidak kira seberapa luas tetingkap itu, maklumat di luar sempadan akan dihapuskan secara fizikal.