Penulis: Byron Gilliam (The Breakdown)
Diterjemahkan oleh Deep潮 TechFlow
Ringkasan Shenchao: Ketika agen AI mulai mendominasi perdagangan pasar, investor manusia mungkin tidak lagi bisa memahami logika di balik sinyal harga. Ekonom Princeton Brunnermeier mengusulkan sebuah argumen yang tampaknya mundur tetapi mungkin menyelamatkan: menyisakan satu area perdagangan yang hanya dapat diakses oleh manusia, sebagai cadangan darurat bagi seluruh sistem keuangan. Ini menjadi pengingat bagi setiap orang yang bergantung pada penetapan harga mengenai kepercayaan dan kerentanan.
Setiap tahun, saya dan beberapa rekan kerja berangkat dari bank investasi tempat saya bekerja tahun itu, dari gedung kantor yang berkilauan di Canary Wharf, menuju wilayah liar yang tak dikenal di selatan London.
Sampai di sana, kami hanya berharap tidak dirampok di jalan, lalu tiba dengan selamat di sebuah bangunan biasa, yang pintunya bisa dibuka dengan kartu karyawan kami. Kami naik lift tanpa label ke lantai dua, karena ada yang memberi tahu kami itu tempatnya.
Ketika pintu yang berderit itu terbuka, langsung terlihat ruang perdagangan, hampir merupakan salinan persis dari ruang perdagangan di Canary Wharf.
Tetapi di sini gelap dan tanpa jendela. Komputer itu setidaknya sudah berusia sepuluh tahun: monitor dengan casing krem berat, bodi tebal di belakangnya, dan unit utama masih menyisakan slot untuk CD-ROM dan floppy drive.
Kami pergi memeriksa apakah sistem perdagangan modern dapat berjalan pada peralatan antik ini.
Yang menakjubkan adalah, mereka benar-benar bisa berjalan. Kami bisa melakukan perdagangan dan mencatat posisi seperti di Canary Wharf. Kecepatannya lambat, karena layar kotak-kotak itu hanya bisa menjalankan satu program sekaligus. Tapi memang berfungsi.
Semuanya berjalan normal.
Ini adalah "ruang perdagangan cadangan bencana" perusahaan kami, yang dipelihara sepanjang tahun oleh departemen TI. Petugas kebersihan juga sering datang, tetapi selain menyapu debu, mereka mungkin tidak punya pekerjaan lain karena tempat ini tidak pernah digunakan.
Bank pasti menghabiskan banyak uang untuk ini. Tetapi ini adalah asuransi penting, bukan hanya bagi bank.
Dalam keadaan darurat (gempa bumi, serangan siber, invasi Godzilla), setiap bank investasi di London memiliki ruang perdagangan cadangan yang dapat diandalkan. Apa pun yang terjadi, pasar harus terus berjalan.
Pasar hari ini mungkin juga memerlukan asuransi serupa, hanya saja skalanya jauh lebih besar.
Ekonom Markus K. Brunnermeier berpendapat bahwa untuk mengatasi keadaan darurat AI, kita harus menyiapkan opsi darurat bagi seluruh sistem keuangan: pasar yang berfungsi setidaknya sebaik sepuluh tahun lalu.
Bertaruh seperti tahun 1999
Bill Gates percaya bahwa pembuat kebijakan harus menyisihkan sebagian aktivitas ekonomi untuk manusia: “Saya percaya bahwa seiring kemajuan AI dan robotika,” tulisnya baru-baru ini, “kita akan secara khusus menyisihkan beberapa hal untuk dikerjakan oleh manusia.”
Dia merujuk pada hal-hal yang berpusat pada manusia, seperti perawatan lansia, pengasuhan anak, dan pengajaran. Mungkin juga mencakup perawatan medis (tetapi hanya untuk menyampaikan kabar buruk).
Namun Brenner-Meyer berpendapat bahwa trader juga harus dimasukkan ke dalam daftar ini.
Dalam "Artificial Intelligence and the New World of Finance", ekonom Princeton ini memperingatkan bahwa pasar keuangan akan menjadi semakin tidak dapat dipahami oleh manusia, karena keputusan perdagangan semakin banyak diambil oleh AI.
Namun AI tetap dapat memahami kita. “Agen AI dapat belajar bagaimana manusia berpikir dan bereaksi,” tulisnya, “sedangkan manusia mungkin tidak dapat memahami atau memprediksi dengan andal bagaimana agen-agen ini akan bertindak.”
Pemahaman "asimetris" ini akan menjadi masalah.
Pada tingkat paling dasar, Brenner mengingatkan bahwa ketidakseimbangan pemahaman antara manusia dan AI dapat melemahkan fungsi pasar Hayekian: “Sinyal harga adalah mekanisme yang mengarahkan cara kerja ekonomi terdesentralisasi,” jelasnya. Tetapi jika kita tidak memahami apa yang mendorong harga, kita tidak tahu sinyal apa yang mereka sampaikan.
Sinyal salah baca, kita mungkin membawa ekonomi ke tepi jurang.
Kepercayaan juga bisa bermasalah.
Ketika agen AI berdagang secara bebas di pasar, kolusi, manipulasi, dan perdagangan liar akan menjadi tak terdeteksi bagi manusia. “Di bawah ketidaksetaraan pemahaman,” tulis Brennermeier, “tujuan agen AI tidak dapat dideskripsikan sepenuhnya dengan kategori manusia, maupun diverifikasi dari luar, sehingga misalignment tujuan akan menjadi tak terdeteksi.”
Jika kita tidak menyadari misalignment tujuan di pasar, kita akan berasumsi bahwa mereka sudah salah arah. Jika kita berasumsi mereka salah arah, kita tidak berani berinvestasi. Jika kita tidak berinvestasi, kita tidak akan bisa membangun apa pun.
Masalah ini mungkin meledak secara terkonsentrasi selama krisis pasar.
Jika investor manusia tidak memahami penyebab kejatuhan, mereka tidak akan bersedia menyerap penurunan dengan mengambil sisi lawan dari pesanan. Mereka mungkin hanya akan menjual bersama. "Informasi asimetris akan mencegah beberapa trader untuk berpartisipasi," peringatan Brennermeier, "dan dapat menyebabkan pasar runtuh sepenuhnya."
Sangat menakutkan.
Untungnya, Brennermeier juga memiliki solusi: regulator harus menciptakan segmen pasar yang hanya memungkinkan perdagangan oleh manusia.
Saya hanya bisa berharap tempat itu terlihat seperti ruang perdagangan tempat saya pernah bekerja: para trader meneriakkan harga secara keras. Penjualan berteriak-teriak memesan. Telepon berdering terus-menerus. Keyboard berbunyi klik-klik. Telapak tangan berkeringat.
It's truly a nostalgic scene.
Namun mungkin tidak ada yang perlu diteriakkan, karena pasar konvensional yang dipimpin AI tetap akan menangani sebagian besar volume perdagangan.
Brennermeier juga mengakui hal ini: "Pada masa normal, pasar lambat ini mungkin tidak akan memiliki banyak aktivitas."
Tetapi seperti ruang perdagangan cadangan bencana yang dikelola dengan biaya besar oleh mantan atasan saya, ini sendiri merupakan bentuk asuransi yang berharga.
“Sektor non-AI berfungsi sebagai rencana cadangan,” kata Brennermayer.
Kemudian, jika pasar anjlok tanpa alasan yang jelas, regulator dapat "sementara membuka batas antara dua sektor, memungkinkan aktivitas penting berpindah ke sektor yang masih beroperasi."
Itu adalah bagian manusia. Pesanan ditangani oleh manusia. Menggunakan komputer tahun 1990-an.
Kecepatan pemrosesan pesanan tidak akan dihitung dalam nanodetik seperti sekarang. Tetapi setidaknya kita bisa memahami apa yang terjadi.
“Logika dasarnya adalah mengorbankan efisiensi selama periode normal untuk mencegah reaksi berantai selama krisis,” jelas Brennermeier.
Dia percaya kita harus segera memulai perdagangan seperti ini agar tidak lupa caranya: "Pasar yang dioperasikan oleh manusia dapat mempertahankan vitalitas keterampilan perdagangan; tanpanya, semakin bergantung pada AI, cadangan ini akan perlahan menyusut."
Seperti GPS yang membuat kita lupa cara membaca peta, agen AI mungkin membuat kita lupa cara melakukan perdagangan.
(Saya pikir bagian pasar baru juga seharusnya memiliki aturan berpakaian, agar kita tidak lupa cara mengikat dasi atau mengelap sepatu.)
Meskipun "hanya untuk perdagangan manusia" terdengar imajinatif, hal ini bukan tanpa preseden.
Logika yang sama menjelaskan mengapa pemerintah berbagai negara terus mendorong penggunaan uang tunai fisik. Meskipun uang tunai telah menjadi kurang praktis, uang tunai menyediakan solusi cadangan penting ketika serangan siber membuat sistem pembayaran berbasis internet yang sangat kita andalkan menjadi lumpuh.
Brennermeier menyimpulkan: "Sistem keuangan kita saat ini tidak dirancang untuk dunia yang memiliki agen AI dengan kemampuan pemahaman yang asimetris."
Di dunia itu (yang sekarang tampak tak terhindarkan), sebuah pasar yang memungkinkan orang berdagang seperti tahun 1999, akan menjadi solusi cadangan yang berharga.
Saya masih ingat cara melakukannya.
(tapi juga tidak bisa diingat terlalu lama.)
Byron Gilliam