Krisis keuangan berikutnya mungkin bukan disebabkan oleh manusia, tapi oleh AI?
Ledakan terbaru—model baru Anthropic, raksasa AI bernama Mythos, membuat seluruh Wall Street panik.
01
Pada hari peluncuran model Mythos, sebuah adegan yang sangat langka muncul:
Menteri Keuangan AS Bessent dan Ketua Federal Reserve Powell meninggalkan semua agenda rutin mereka dan mendadak mengumpulkan seluruh CEO bank-bank utama Wall Street untuk berkonsultasi tertutup di Departemen Keuangan.
Menteri Keuangan AS Scott Bessent (kiri) dan Ketua Federal Reserve Jerome Powell (kanan)
Peserta termasuk CEO Citigroup Jane Fraser, CEO Goldman Sachs David Solomon, CEO Morgan Stanley Ted Pick, dan sejumlah pengendali simpul utama sistem keuangan Amerika.
Perlu diketahui, terakhir kali Federal Reserve dan Departemen Keuangan menggunakan perintah panggilan darurat sebesar ini mungkin masih kembali ke penyelamatan darurat krisis subprime tahun 2008.
Namun, kali ini tujuan mereka bukanlah "mengumpulkan dana untuk menyelamatkan pasar", melainkan memastikan bank-bank menyadari bahwa model kecerdasan buatan terbaru, Mythos, meskipun baru dirilis, potensi risiko sistemik yang ditimbulkannya bahkan bisa melebihi lubang subprime tahun lalu.
Kehadiran langsung Powell menyampaikan sinyal yang sangat serius kepada publik:
Ini bukan lagi diskusi teknis, melainkan topik tingkat tertinggi yang menyangkut stabilitas keuangan dan bahkan keamanan nasional.
Tetapi ini bukan hanya kekhawatiran sepihak dari Amerika Serikat; kecemasan pasar dengan cepat menyebar di kedua sisi Atlantik. Hampir secara bersamaan, Bank Sentral Inggris dan Otoritas Perilaku Keuangan (FCA) segera mengadakan konsultasi darurat bersama Pusat Keamanan Siber Nasional (NCSC).
Bank Sentral Kanada juga secara terpisah memanggil bank-bank dan lembaga keuangan domestik untuk menyampaikan peringatan risiko tingkat tertinggi.
Tindakan berturut-turut dari bank sentral AS, Inggris, dan Kanada dalam 10 hari belum pernah terjadi sebelumnya dalam sejarah regulasi AI.
02
Seberapa hebat Mythos?
Anthropic menyatakan bahwa Mythos memiliki kemampuan luar biasa untuk menemukan kerentanan tersembunyi dalam perangkat lunak yang menjalankan bank global, jaringan listrik, dan lembaga pemerintah.
CEO OpenAI, Sam Altman, membandingkan Mythos dengan "melempar bom sambil menjual tempat perlindungan senilai $100 juta."
Secara sederhana, ia dapat mengenali dan memanfaatkan kerentanan di semua sistem operasi utama dan semua browser web utama, serta melakukan serangan destruktif terhadap sistem tanpa bantuan manusia.
Dalam hal ini, Mythos secara mandiri menemukan "ribuan" kerentanan zero-day selama pengujian internal selama beberapa minggu. Ia juga mengungkap kerentanan lama yang tersembunyi selama 27 tahun di sistem OpenBSD yang dikenal memiliki keamanan tinggi.
Sementara itu, ia menemukan sebuah kerentanan yang telah tersembunyi selama 16 tahun di alat lain yang memproses video—kerentanan yang bahkan alat pengujian otomatis terkemuka sekalipun, meski telah menjalankan hingga jutaan kali, tetap tidak menyadarinya seperti orang buta meraba gajah.
Sebelumnya, tim peretas manusia teratas hanya dapat menemukan hingga 100 kerentanan berisiko tinggi semacam ini dalam satu tahun. Output Mythos langsung 10 hingga 100 kali lebih banyak daripada tim manusia teratas, dan dapat mempersingkat waktu pengembangan eksploit kerentanan dari "beberapa minggu" menjadi "beberapa jam".
Secara umum, "dinding api" lembaga keuangan adalah area pertahanan paling kuat di dunia, dengan para ahli keamanan terkemuka di seluruh dunia membangun pertahanan seperti parit.
Namun, Mythos menunjukkan kekuatan destruktif asimetris yang membuat "tembok api" keuangan tampak rapuh.
Ini menimbulkan dua pertanyaan mematikan:
Pertama, apakah Mythos akan digunakan oleh pelaku kriminal untuk menyerang sistem keuangan? Uang yang kami simpan di rekening bank kami akan tetap aman di masa depan?
Kedua, apakah model serupa di masa depan akan di-"senjatakan" oleh beberapa negara, misalnya untuk menyerang lembaga dan perusahaan negara musuh?
Pikirkan lebih dalam, sangat menakutkan.
Sekarang bahkan pengembang Anthropic pun sedikit takut, secara aktif mengumumkan: Mythos tidak akan dibuka untuk publik, hanya akan diberikan kepada beberapa lembaga untuk pengujian.
03
Perubahan zaman berlangsung cepat hingga membuat orang sulit menanggapinya.
Peneliti ZhiGu Trend, Tan Shaoyou, percaya bahwa evolusi AI sedang membentuk diferensiasi yang tak terbayangkan, bukan hanya kesenjangan kognitif, tetapi juga kesenjangan kekuasaan yang besar.
Ketika orang biasa masih menganggap DouBao dan DeepSeek sebagai chatbot, model besar yang dikuasai oleh tim AI terkemuka global sudah cukup untuk mengguncang fondasi sistem keuangan.
Laporan terbaru dari Morgan Stanley menunjukkan bahwa, dibandingkan revolusi teknologi sebelumnya, AI memiliki perbedaan mendasar: kecepatan.
Manusia membutuhkan enam puluh tahun untuk menyelesaikan Revolusi Industri, tiga puluh tahun untuk internet, sedangkan ChatGPT mencapai satu miliar pengguna hanya dalam dua bulan. Kurva penyebaran teknologi menjadi begitu curam hingga membuat napas tercekat.
Masalahnya, ada jurang sejarah yang sangat lebar antara kecepatan iterasi teknologi dan kecepatan penerbitan undang-undang regulasi, mekanisme pertahanan sosial bahkan perusahaan, serta pelatihan dan pendidikan sumber daya manusia.
Seperti yang diakui oleh Ketua Komisi Ekonomi Nasional Kevin Hassett dalam wawancara:
White House bahkan tingkat pemerintahan belum siap sepenuhnya menghadapi iterasi yang meledak-ledak ini.
CEO Goldman Sachs, Solomon, bahkan menggambarkan ancaman ini sebagai "sangat waspada", karena garis pertahanan saat ini telah berubah dari "terus memperkuat firewall" menjadi "harus melawan AI terkuat dengan AI terkuat".
Ini berarti, selisih kecepatan antara lompatan teknologi dan penyesuaian sosial diperluas hingga batas historis. Gesekan akan menjadi sebelumnya belum pernah terjadi.
Seperti yang dikatakan Musk: "Dalam 3-7 tahun ke depan, orang biasa mungkin akan mengalami masa yang sulit."
Sebagai respons, orang biasa harus menganut prinsip pembelajaran seumur hidup. Kemampuan untuk terus mendefinisikan dan mengajukan pertanyaan-pertanyaan kompleks adalah parit perlindungan terbesar di era AI.
Sementara itu, AI dapat menggantikan keterampilan Anda, tetapi tidak dapat menggantikan aset Anda. Membangun struktur pendapatan yang tidak bergantung pada "menjual waktu" menjadi lebih penting.
Artikel ini berasal dari akun WeChat "Zhi Gu Trend", penulis: Bu Yu