Penulis: Byron Gilliam (The Breakdown)
Diterjemahkan oleh Deep潮 TechFlow
Panduan DeepCha: Apabila agen AI mulai menguasai perdagangan pasaran, pelabur manusia mungkin tidak lagi mampu memahami logik di sebalik isyarat harga. Ekonom Princeton, Brunnermeier, mengemukakan cadangan yang kelihatan seperti kemunduran tetapi mungkin menyelamatkan: mengekalkan satu kawasan perdagangan yang hanya boleh diakses oleh manusia, sebagai cadangan kecemasan bagi keseluruhan sistem kewangan. Ini merupakan pengingat tentang kepercayaan dan kerentanan kepada setiap orang yang bergantung pada penentuan harga pasaran.
Setiap tahun, saya dan beberapa rakan sekerja akan bergerak dari bank pelaburan tempat saya bekerja pada masa itu, dari menara pejabat yang berkilauan di Canary Wharf, menuju ke hutan liar yang tidak diketahui di selatan London.
Di sana, kami hanya berharap tidak dirampas di jalan, dan tiba dengan selamat di sebuah bangunan biasa, di mana kad pekerja kami ternyata boleh membuka pintunya. Kami naik lif tanpa tanda ke lantai dua, kerana ada yang memberitahu kami itu tempatnya.
Apabila pintu yang berderit itu dibuka, ia langsung membawa ke ruang perdagangan, hampir merupakan salinan tepat dari ruang perdagangan di Canary Wharf.
Tetapi di sini gelap dan tiada tingkap. Komputer itu sekurang-kurangnya sudah lama sepuluh tahun: monitor dengan cangkang krem berat, dengan badan tebal di belakang, dan kotak utama masih mempunyai slot untuk CD-ROM dan drive flopi.
Kami pergi untuk memeriksa sama ada sistem perdagangan moden boleh berfungsi pada peralatan antik ini.
Yang menakjubkan, ia benar-benar boleh berjalan. Kami boleh melakukan perdagangan dan merekodkan posisi seperti di Canary Wharf. Kelajuan perlahan kerana monitor berbentuk kotak itu hanya boleh menjalankan satu program pada satu masa. Tetapi ia berfungsi.
Semua dalam keadaan normal.
Ini adalah "Aula Perdagangan Pemulihan Bencana" syarikat kami, yang dijaga sepanjang tahun oleh jabatan IT. Pembersih juga sering datang, tetapi selain mengecap debu, mereka mungkin tidak ada perkara lain yang boleh dilakukan, kerana tempat ini tidak pernah digunakan oleh siapa pun.
Bank pasti mengeluarkan banyak wang untuk ini. Tetapi ini adalah insurans yang penting, bukan sahaja untuk bank.
Dalam kes darurat (gempa bumi, serangan siber, invasi Godzilla), setiap bank pelaburan di London mempunyai ruang perdagangan alternatif yang boleh diandalkan. Apa sahaja yang berlaku, pasaran mesti terus beroperasi.
Pasar hari ini mungkin juga memerlukan insurans serupa, hanya sahaja skalanya jauh lebih besar.
Ekonom Markus K. Brennermeier berpendapat bahawa untuk mengatasi keadaan darurat AI, kita perlu menyediakan pilihan kecemasan seluruh sistem kewangan: sebuah pasaran yang berfungsi sekurang-kurangnya sebagaimana ia beroperasi sepuluh tahun yang lalu.
Bertindak seperti tahun 1999
Bill Gates percaya bahawa pembuat dasar harus meninggalkan sebahagian aktiviti ekonomi kepada manusia: “Saya percaya bahawa seiring dengan kemajuan AI dan robot,” tulisnya baru-baru ini, “kita akan mengekalkan beberapa perkara khusus untuk dilakukan oleh manusia.”
Dia merujuk kepada perkara-perkara yang berpusatkan manusia, seperti penjagaan warga tua, penjagaan kanak-kanak, dan pengajaran. Mungkin juga termasuk perubatan (tetapi hanya untuk menyampaikan berita buruk).
Namun, Brenner-Meyer percaya bahawa pedagang juga harus disenaraikan dalam senarai ini.
Dalam "Kecerdasan Buatan dan Dunia Kewangan Baru", ahli ekonomi Princeton ini memperingatkan bahawa pasaran kewangan akan menjadi semakin tidak dapat difahami oleh manusia, kerana keputusan perdagangan semakin banyak diambil oleh AI.
Namun, AI masih boleh memahami kita. “Agen AI boleh belajar bagaimana manusia berfikir dan bertindak balas,” tulisnya, “manakala manusia mungkin tidak dapat memahami atau meramal dengan boleh dipercayai bagaimana agen-agen ini akan bertindak.”
Pemahaman "asimetrik" ini akan menjadi masalah.
Pada aras paling asas, Brenner mengingatkan bahawa ketidaksamaan pemahaman antara manusia dan AI boleh melemahkan fungsi pasar gaya Hayek: “Isyarat harga adalah mekanisme yang mengarahkan ekonomi terpusat berfungsi,” jelasnya. Tetapi jika kita tidak memahami apa yang mendorong harga, kita tidak tahu isyarat apa yang mereka hantar.
Salah baca isyarat, kita mungkin membawa ekonomi ke tebing.
Kepercayaan juga boleh bermasalah.
Apabila agen AI berdagang secara bebas di pasaran, kolusi, manipulasi, dan perdagangan jahat akan menjadi tidak dapat dikesan oleh manusia. “Di bawah pemahaman asimetrik,” tulis Brennermeier, “tujuan agen AI tidak dapat dilukiskan sepenuhnya dengan kategori manusia, dan tidak dapat disahkan dari luar, oleh itu misalignment tujuan akan menjadi tidak dapat dikesan.”
Jika kita tidak dapat mengesan misalignment sasaran di pasaran, kita akan mengandaikan bahawa ia sudah salah arah. Jika kita mengandaikan ia salah arah, kita tidak berani berinvestasi. Jika kita tidak berinvestasi, kita tidak akan dapat membina apa-apa.
Masalah ini mungkin meletus secara terkumpul semasa kemelesetan pasaran.
Jika pelabur manusia tidak memahami sebab kejatuhan, mereka tidak akan bersedia untuk menyerap penurunan dengan mengambil posisi sebaliknya. Mereka mungkin hanya akan menjual bersama. "Maklumat yang tidak seimbang akan menghalang beberapa pedagang untuk terlibat," amaran Brennermeier, "dan boleh menyebabkan pasaran runtuh sepenuhnya."
Sangat menakutkan.
Untungnya, Brennermeier juga mempunyai penyelesaian: regulator seharusnya menciptakan segmen pasaran yang hanya membenarkan perdagangan oleh manusia.
Saya hanya berharap tempat itu kelihatan seperti ruang perdagangan tempat saya pernah bekerja: pedagang menawarkan harga dengan suara keras. Penjual berteriak pesanan. Telefon berbunyi tanpa henti. Keyboard berderap. Tangan berkeringat.
Itu adalah pemandangan yang sangat mengingatkan pada masa lalu.
Namun mungkin tidak ada yang perlu diteriakkan, kerana pasaran biasa yang dipimpin oleh AI masih akan menangani sebahagian besar jumlah perdagangan.
Brennermeier juga mengakui hal ini: "Dalam masa biasa, pasaran perlahan ini mungkin tidak akan mempunyai banyak aktiviti."
Tetapi seperti ruang transaksi sandaran bencana yang dahulu dijaga oleh majikan saya yang lama dengan biaya besar, ini sendiri adalah satu bentuk insurans yang berharga.
“Blok bukan AI berfungsi sebagai rancangan cadangan,” kata Brennermeier.
Kemudian, jika pasaran jatuh tanpa sebab yang jelas, pengawas boleh "membuka sementara sempadan antara dua sektor, membolehkan aktiviti penting berpindah ke sektor yang masih berfungsi".
Itu adalah bahagian manusia. Pesanan diproses oleh manusia. Menggunakan komputer pada dekad 1990-an.
Kelajuan pemprosesan pesanan tidak akan dihitung dalam nanodetik seperti sekarang. Tetapi sekurang-kurangnya kita boleh memahami apa yang berlaku.
“Logik asasnya adalah mengorbankan kecekapan semasa masa biasa untuk menghentikan tindak balas berantai semasa krisis,” jelas Brennermeier.
Dia percaya kita harus memulai perdagangan seperti ini secepat mungkin, supaya tidak lupa caranya: "Pasar yang dioperasikan oleh manusia dapat mempertahankan vitalitas kemahiran perdagangan; tanpanya, semakin bergantung pada AI, cadangan ini akan perlahan-lahan menyusut."
Seperti GPS yang membuat kita lupa bagaimana membaca peta, agen AI mungkin membuat kita lupa bagaimana melakukan perdagangan.
(Saya rasa bahagian pasaran baru seharusnya juga mempunyai peraturan pakaian, supaya kita tidak lupa cara memakai dasi atau membersihkan kasut kulit.)
Walaupun "hanya perdagangan manusia" kedengarannya agak khayalan, ia bukan tanpa contoh sebelumnya.
Logik yang sama menjelaskan mengapa kerajaan-kerajaan di seluruh dunia terus mendorong penggunaan wang tunai fizikal. Walaupun wang tunai menjadi kurang praktikal, ia menyediakan cadangan penting apabila serangan siber melemahkan sistem pembayaran berinternet yang sangat kita bergantung.
Brennermeier menyimpulkan: "Sistem kewangan kita semasa tidak dibina untuk dunia yang memiliki agen AI dengan keupayaan pemahaman yang tidak seimbang."
Dalam dunia itu (yang kini kelihatan tak terelakkan), sebuah pasaran yang membolehkan orang berdagang seperti pada tahun 1999 akan menjadi cadangan yang berharga.
Saya masih ingat bagaimana untuk melakukannya.
(tapi juga tidak boleh diingat terlalu lama.)
Byron Gilliam