Krisis kewangan seterusnya mungkin bukan disebabkan oleh manusia, tetapi oleh AI?
Bomb terkini—model baharu Anthropic, raksasa AI bernama Mythos, membuat seluruh Wall Street panik.
01
Pada hari pelancaran model Mythos, satu peristiwa yang sangat jarang berlaku:
Menteri Kewangan AS Beasant dan Ketua Federal Reserve Powell meninggalkan semua agenda biasa mereka dan mengadakan pertemuan tertutup di Kementerian Kewangan dengan semua CEO bank utama Wall Street.
Menteri Kewangan Amerika Syarikat Scott Bessent (kiri) dan Ketua Federal Reserve Jerome Powell (kanan)
Peserta termasuk CEO Citigroup, Jane Fraser, CEO Goldman Sachs, David Solomon, CEO Morgan Stanley, Ted Pick, dan pemimpin utama lainnya dalam sistem kewangan Amerika.
Perlu diketahui, terakhir kali Federal Reserve dan Departemen Kewangan menggunakan perintah pengumpulan kecemasan selevel ini mungkin masih berpunca daripada serangan pantas semasa krisis hipotek subprima pada 2008.
Namun, kali ini, tujuan mereka bukanlah “mengumpulkan dana untuk menyelamatkan pasaran”, tetapi untuk memastikan bank-bank sedar bahawa model kecerdasan buatan terkini, Mythos, walaupun baru dilancarkan, risiko sistemik yang ditimbulkannya mungkin melebihi lubang subprime pada masa itu.
Kehadiran langsung Powell menghantar isyarat yang sangat serius kepada pihak luar:
Ini bukan lagi perbincangan teknikal, tetapi isu utama yang berkaitan dengan kestabilan kewangan dan bahkan keselamatan negara.
Namun, ini bukan hanya kecemasan sepihak dari Amerika Serikat; kecemasan pasaran dengan cepat menyebar di kedua sisi Atlantik. Hampir secara serentak, Bank England dan Otoriti Perilaku Kewangan (FCA) segera memulakan perbincangan kecemasan bersama Pusat Keselamatan Siber Negara (NCSC).
Pusat Bank Kanada juga telah memanggil secara berasingan bank-bank dan institusi kewangan tempatan untuk memberikan pengesanan risiko tertinggi.
Tindakan berturut-turut oleh bank pusat Amerika, British, dan Kanada dalam tempoh 10 hari adalah tanpa precedent dalam sejarah pengawasan AI.
02
Sejauh mana kehebatan Mythos?
Anthropic menyatakan bahawa Mythos mempunyai kemampuan luar biasa untuk mengesan kelemahan tersembunyi dalam perisian yang menjalankan bank, grid kuasa, dan institusi kerajaan di seluruh dunia.
CEO OpenAI, Sam Altman, membandingkan Mythos dengan "melempar bom sambil menjual tempat perlindungan senilai $100 juta."
Secara ringkas, ia boleh mengenal pasti dan memanfaatkan kelemahan dalam "semua sistem pengendalian utama dan semua peramban web utama" tanpa panduan manusia, dan melakukan serangan memusnahkan terhadap sistem.
Di antaranya, Mythos secara mandiri menemukan "ribuan" kelemahan zero-day semasa ujian dalaman selama beberapa minggu. Ia juga mengesan kelemahan lama yang tersembunyi dalam sistem OpenBSD yang terkenal dengan keselamatan tinggi selama 27 tahun.
Sementara itu, ia menemukan satu lubang keamanan yang telah tersembunyi selama 16 tahun dalam alat lain yang memproses video—lubang keamanan ini, walaupun alat uji automatik terkemuka telah menjalankan ujian sehingga jutaan kali, tetap tidak menyedari keberadaannya seperti orang buta menyentuh gajah.
Sebelum ini, pasukan hacker manusia teratas hanya mampu mengesan sehingga 100 kelemahan kritikal semata-mata dalam setahun. Output Mythos secara langsung 10 hingga 100 kali ganda lebih banyak berbanding pasukan teratas manusia, serta mampu mengurangkan masa pembangunan eksploit kelemahan daripada “berminggu-minggu” kepada “berjam-jam”.
Secara umum, "dinding api" institusi kewangan adalah kawasan pertahanan paling kukuh di dunia, dilindungi oleh pakar keselamatan terkemuka global yang membentuk parit pertahanan.
Namun, Mythos menunjukkan kekuatan pemusnah asimetrik yang membuat "dinding api" kewangan kelihatan tidak berdaya.
Ini membawa kepada dua soalan mematikan:
Pertama, adakah Mythos akan digunakan oleh penjenayah untuk menyerang sistem kewangan? Selepas ini, wang yang kita simpan dalam akaun bank masih selamatkah?
Kedua, adakah model serupa di masa depan akan dijadikan "senjata" oleh beberapa negara, misalnya untuk menyerang institusi dan perusahaan negara musuh?
Fikirkan lebih dalam, ia menakutkan.
Sekarang, bahkan pengembang Anthropic pun agak takut, dan secara aktif mengumumkan: Mythos tidak akan dibuka untuk umum, hanya akan diberikan kepada beberapa institusi untuk ujian.
03
Perubahan zaman berlaku secepat yang membuat orang tidak sempat bereaksi.
Penyelidik tren ZhiGu, Tan Shaoyou, percaya bahawa evolusi AI sedang membentuk perbezaan yang melampaui bayangan, bukan sahaja jurang kognitif, tetapi juga perbezaan kuasa yang besar.
Ketika orang biasa masih menganggap DouBao dan DeepSeek sebagai bot perbualan, model besar yang dikuasai oleh pasukan AI terkemuka sedunia sudah cukup untuk menggugat asas sistem kewangan.
Laporan terbaru dari Morgan Stanley menunjukkan bahawa AI mempunyai perbezaan mendasar berbanding revolusi teknologi sebelumnya: kelajuan.
Manusia memerlukan enam puluh tahun untuk menyelesaikan Revolusi Industri, tiga puluh tahun untuk internet, tetapi ChatGPT mencapai seratus juta pengguna hanya dalam dua bulan. Kurva penyebaran teknologi menjadi begitu curam sehingga membuat tercengang.
Masalahnya ialah terdapat jurang sejarah yang sangat lebar antara kecepatan iterasi teknologi, penerbitan undang-undang pengawasan, mekanisme pertahanan sosial dan perusahaan, serta pendidikan dan latihan sumber manusia.
Seperti yang diakui oleh Ketua Jawatankuasa Ekonomi Negara, Kevin Hassett, dalam temu bual:
Kerajaan Putih Bahagia bahkan pada tahap kerajaan belum bersedia sepenuhnya untuk menangani iterasi yang meledak-ledak ini.
CEO Goldman Sachs, Solomon, lebih lanjut menggambarkan ancaman ini sebagai “sangat waspada”, kerana garis pertahanan semasa telah berubah dari “terus memperkuat dinding api” kepada “harus menggunakan AI terkuat untuk melawan AI terkuat”.
Ini bermakna, perbezaan laju antara kemajuan teknologi dan penyesuaian sosial telah diperluaskan hingga ke had sejarah. Gesaan akan menjadi sangat hebat tanpa contoh sebelumnya.
Seperti yang dikatakan Musk: "Dalam 3-7 tahun ke depan, orang biasa mungkin akan mengalami kesukaran."
Sebagai tindakan balas, orang biasa perlu menganut prinsip pembelajaran seumur hidup. Kemampuan untuk terus-menerus mentakrif dan mengemukakan soalan yang kompleks adalah parit pertahanan terbesar di era AI.
Sementara itu, AI boleh menggantikan kemahiran anda, tetapi tidak boleh menggantikan aset anda. Membina struktur pendapatan yang tidak bergantung pada “menjual masa” menjadi lebih penting.
Artikel ini berasal daripada akaun微信公众号 "ZhiGu Trend", penulis: Bu Yu