Sonraki finansal kriz, insan kaynaklı olmayabilir, AI tarafından mı oluşturulacak?
Son zamanların en büyük şoku—AI devi Anthropic’in yeni modeli Mythos, Wall Street’i sarsıyor.
01
Mythos modelünün yayınlandığı gün, çok nadir bir sahne ortaya çıktı:
Amerika Birleşik Devletleri Maliye Bakanı Bessent, Federal Rezerv Başkanı Powell ile birlikte mevcut tüm günlük gündemlerini bırakarak, Wall Street'in tüm büyük bankalarının CEO'larını Finans Bakanlığı'nda gizli bir toplantıya çağırdı.
Amerika Birleşik Devletleri Maliye Bakanı Scott Bessent (sol) ve Amerika Birleşik Devletleri Federal Rezerv Başkanı Jerome Powell (sağ)
Katılımcılar arasında Citigroup CEO'su Jane Fraser, Goldman Sachs CEO'su David Solomon, Morgan Stanley CEO'su Ted Pick ve ABD finans sisteminin temel düğümlerini kontrol eden diğer liderler yer alıyor.
Bilinmelidir ki, Federal Rezerv ve Hazine Bakanlığı'nın bu düzeyde acil toplama emri kullanması, muhtemelen 2008 altıncı kredi krizindeki acil kurtarma çabalarına kadar uzanır.
Bu sefer amaçları, "para toplayarak piyasaayı kurtarmak" değil, bankaların, yeni çıkarılan Mythos adlı yapay zeka modelinin, geçmişteki altıncı derece kredi krizinden bile daha büyük sistemik risklere neden olabileceğini fark etmesini sağlamaktır.
Powell'in kişisel katılımı, dış dünyaya son derece ciddi bir sinyal gönderdi:
Bu, teknik düzeyde bir tartışma değil, finansal istikrar ve hatta ulusal güvenliğin öncelikli konularıdır.
Ancak bu sadece ABD'nin tek taraflı uyarısı değil, piyasa kaygısı Atlantik'in her iki yakasında hızla yayıldı. Neredeyse tamamen eş zamanlı olarak, İngiliz Merkez Bankası ve Finansal Davranışlar Otoritesi (FCA), Ulusal Siber Güvenlik Merkezi (NCSC) ile acil değerlendirme görüşmelerine başladı.
Kanada Merkez Bankası, yerel bankaları ve finansal kurumları en yüksek düzeydeki risk bildirimi için ayrı olarak çağırdı.
ABD, İngiltere ve Kanada merkez bankalarının 10 gün içindeki ardışık hareketleri, AI düzenlemesi tarihinde görülmemişti.
02
Mythos gerçekten ne kadar güçlü?
Anthropic, Mythos'un küresel bankalar, elektrik şebekeleri ve hükümet kurumlarının çalıştığı yazılımlarda gizli açıkları keşfetme mucizevi yeteneğine sahip olduğunu iddia ediyor.
OpenAI CEO Sam Altman, Mythos'u "bir taraftan bomba atarken diğer taraftan 100 milyon dolarlık hava sığınakları satmak" olarak karşılaştırdı.
Kısaca, tüm ana akım işletim sistemlerinde ve tüm ana akım web tarayıcılarında bulunan hataları tanıyabilir ve insan müdahalesi olmadan sistemlere yıkıcı saldırılar gerçekleştirebilir.
Bu süreçte, Mythos, haftalar süren dahili testler sırasında "binlerce" sıfır gün (Zero-Day) açığı kendi kendine keşfetti. Ayrıca, yüksek güvenlikle ünlü OpenBSD sisteminde 27 yıldır gizli kalmış eski bir açığı da ortaya çıkardı.
Aynı zamanda, 16 yıldır gizli kalmış bir açığı, önceki en üst düzey otomatik test araçları milyonlarca kez çalıştırılmasına rağmen tamamen fark edememiştir.
Daha önce, en üst düzey insan hacker takımları yılda en fazla 100 tane bu tür kritik açıkları bulabiliyordu. Mythos'un çıktı miktarı, en üst düzey insan takımlarınınkisinin 10 ila 100 katıdır ve açıkların exploitation geliştirme süresini "haftalar"dan "saatler"e indirir.
Genel olarak, finansal kurumların “yangın duvarı”, küresel düzeydeki en güçlü koruma bölgeleridir ve bu bölgelerde küresel düzeydeki en iyi güvenlik uzmanları kale gibi bir birikim oluşturur.
Ancak Mythos, finansal "yangın duvarını" çökmeye zorlayan asimetrik bir yıkım gücü sergiliyor.
Bu, iki ölümcül soruyu ortaya çıkarır:
Birincisi, Mythos, kötü niyetli kişiler tarafından finansal sistemi saldırıda kullanılıp kullanılmayacak? Daha sonra banka hesaplarımızda tuttuğumuz para güvenli mi olacak?
İkincisi, gelecekte benzer modeller bazı ülkeler tarafından silahlanıp, düşman ülkelerin kurumlarına ve şirketlerine saldırmak için mi kullanılacak?
Düşününce korkutucu.
Şimdi geliştirici Anthropic bile biraz korkuyor ve aktif olarak duyuruyor: Mythos, genel halka açık olmayacak, sadece birkaç kuruma test amaçlı verilecek.
03
Zamanın değişimi, tepki vermenizi bile sağlayamayacak kadar hızlı.
Zhi Gu Trend Araştırmacısı Tan Shaoyu, AI'nın gelişiminin hayal edilemeyen bir ayrışma oluşturduğunu, bunun sadece bir bilgi boşluğu değil, aynı zamanda büyük bir güç farkı olduğunu düşünüyor.
Sıradan kullanıcılar hâlâ DouBao ve DeepSeek'i sohbet robotu olarak kullanırken, küresel düzeydeki önde gelen AI ekipleri, finansal sistemin temellerini sarsabilecek kadar büyük modellere sahip.
Son zamanlarda Morgan Stanley'in bir raporunda, önceki teknoloji devrimlerine kıyasla AI'nın temel bir farklılığı olduğu belirtildi: hız.
İnsanlık, endüstri devrimini tamamlamak için altmış yıl, internet için otuz yıl kullandı, ancak ChatGPT bir milyon kullanıcıya ulaşmak için sadece iki ay harcadı. Teknolojinin yayılma eğrisi, nefes kesici kadar dik.
Sorun, teknolojik ilerlemenin, düzenleyici yasaların, toplumun ve hatta şirketlerin savunma mekanizmalarının ve personel eğitiminin hızı ile arasındaki tarihsel sınırları aşan bir uçurum oluşturmasıdır.
Ulusal Ekonomi Komitesi Başkanı Kevin Hassett, röportajda şöyle itiraf etti:
Beyaz Saray ve hatta hükümet düzeyinde bile bu patlayıcı hızdaki iterasyona yeterince hazırlıklı değil.
Goldman Sachs CEO Solomon, bu tehdidi "yüksek düzeyde dikkatli" olarak tanımladı, çünkü şu anki savunma sınırı "güvenlik duvarını sürekli güçlendirmek"ten "en güçlü AI ile en güçlü AI'ya karşı savaşmak" haline geldi.
Bu, teknolojik hızla toplumsal uyum arasındaki farkı tarihsel sınırlara kadar genişletir. Sürtünmeler hiç olmadığı kadar şiddetli olacaktır.
Elon Musk'un dediği gibi: "Gelecek 3-7 yıl içinde, sıradan insanlar için yaşam zor olabilir."
Buna karşılık olarak, sıradan insanlar yaşam boyu öğrenme fikrini benimsemek zorunda kaldı. Sürekli olarak karmaşık sorular tanımlama ve ortaya koyma becerisi, AI çağının en büyük koruma duvarıdır.
Aynı zamanda, yapay zeka becerilerinizi değiştirebilir, ancak varlıklarınızı değiştiremez. "Zaman satma" üzerine kurulmuş gelir yapıları yerine, daha önemli hale gelen yapılar inşa edin.
Bu yazı WeChat hesabından "ZhiGu Trend" tarafından paylaşılmıştır, yazar: Buyu