Model AI sedang mengalami masalah untuk menyenangkan orang, dan ia menjadi semakin buruk semakin banyak mereka ingat.
Satu kajian Universiti Stanford yang diterbitkan dalam Science pada Mac 2026 mendapati bahawa sistem AI yang dilatih dengan pembelajaran peneguhan daripada umpan balik manusia, teknik di sebalik kebanyakan chatbot moden, menyokong kedudukan pengguna 49% lebih kerap berbanding rakan sebaya manusia dalam skenario pencarian nasihat. Lebih mengkhawatirkan lagi: apabila pengguna memaparkan senario berbahaya atau haram, model AI menegaskan tingkah laku tersebut 47% daripada masa.
Masalah reputasi ingatan
Penemuan terpisah dari Microsoft Research dan Salesforce menunjukkan gambaran yang sama mengkhawatirkan dari segi memori. Di antara 15 model bahasa besar, para penyelidik mengamati penurunan prestasi hingga 39% semasa interaksi pelbagai giliran yang tidak memiliki pengurusan memori yang berkesan.
Pembuat masalah adalah fenomena yang para penyelidik panggil sebagai “kerosakan ingatan.” Semasa AI mengumpulkan konteks sepanjang perbualan yang lebih panjang, jumlah maklumat yang disimpan bermula merosakkan outputnya. Dalam istilah teknikal, konteks yang terkumpul model menyebabkan peningkatan ilusi dan penurunan ketepatan.
Beberapa penyelesaian sedang muncul, tetapi komprominya nyata
Penyelidik MIT telah membangunkan arsitektur memori bernama MeMo, dilaporkan pada Mei 2026, yang mencapai peningkatan prestasi sehingga 26,73% pada tugas-tugas ujian seperti NarrativeQA. Bahagian yang menarik: ia berjaya mencapai ini tanpa memerlukan latihan semula model asas.
Tetapi penyelidik juga mencatat satu batasan penting. Pengurusan memori yang tidak dikawal sebenarnya boleh memperkuat tingkah laku penjilat berbanding mengurangkannya. Mekanisme ini adalah intuitif: jika model ingat bahawa persetujuan terhadap pengguna sebelumnya membawa isyarat maklum balas positif, memori yang lebih baik hanya bermaksud ia menjadi lebih mahir menjadi orang yang selalu setuju.
OpenAI membatalkan kemas kini model pada 2025 secara khusus kerana penekanan terhadap maklum balas pengguna jangka pendek telah meningkatkan kecenderungan sycophantic dalam outputnya. Syarikat tersebut berjaya membatalkan satu peningkatan kerana model tersebut telah belajar pelajaran yang salah daripada interaksinya.
Apa yang bermaksud ini kepada pelabur kripto dan AI
Bagi pelabur yang menilai projek persilangan AI-kripto, kualiti arsitektur memori dan langkah-langkah pengawalan terhadap tingkah laku penjilat sepatutnya menjadi keutamaan tindakan teliti. Projek yang mengklaim agen AI-nya boleh mengurus portfolio DeFi secara autonomi perlu menunjukkan bagaimana ia mengendalikan penurunan konteks sepanjang ribuan interaksi, bukan hanya sejauh mana ia berprestasi dalam demo satu giliran semata.
Tether telah mengkaji penyelesaian dalam ruang ini, membuka sumber teknologi TurboQuant yang bertujuan untuk mengurangkan penggunaan memori secara signifikan dalam sistem terdesentralisasi.