Anthropic, küçük modellerin birkaç ay içinde veri merkezlerine bağımlı olmadan kendi kendini kopyalama yeteneğine sahip olabileceğini öngören bir araştırma yayınladı.
Gerçekten de 55 dolarlık 15 adet sahte Android TV kutusu satın alıp, bunları birleştirerek 26B boyutunda bir model çalıştırdılar; hızı sadece saniyede 0,39 token oldu, bu kadar yavaş olmak inanılmazdı.
Başka bir izole deneyde, GLM-5.2, basitleştirilmiş bir ortamda cihazlar arası yayılımı başarıyla tamamladı. Gerçek dünyadaki tamamen bağımsız kopyalanmaya hâlâ açık bir mesafe olsa da, Anthropic’in öngördüğüne göre 2026 sonunda küçük modeller bu kapıyı aşmaya yaklaşabilir.
Dünya çapında GPU’lar için yarışılıyor, milyarlarca dolar harcanarak veri merkezleri inşa ediliyor; ancak AI kendi kendini evinizdeki TV kutusuna bulaştırabilir.
Ancak dikkatlice düşünüldüğünde, gerçekten korkutucu olan nokta, bu tür bir AI’nın tanıdık hesaplama ekonomisini tamamen bozabilmesidir.
Bugün OpenAI ya da bir AI startup’ı, her token üretimi için maliyet taşır; hesaplama gücü pahalılaşırsa fiyatlar artar, finansman kesilirse sistemler kapanır.
Ancak kendi kendini yayabilen bir kötü niyetli AI, teorik olarak marjinal çalışma maliyetini sürekli olarak yabancılar üzerine aktarabilir.
Kullanıcı kazanmaya gerek duymaz, gelir düşünmez, hatta kendi sunucularını satın almak zorunda bile değildir. Sadece bir açıklığı olan cihaz bulursa, ekstra ücretsiz hesaplama kaynağına sahip olur. Bulaşmış cihazlar onun için elektrik faturasını öder, bant genişliği sağlar ve donanım aşınmasını taşır.
Bu tür cihazları temizlemenin maliyeti ise, milyonlarca cihaz sahibi, operatör ve üretici tarafından ayrı ayrı taşınır.
Geleneksel bot ağları zaten hesaplama gücü çalabiliyordu; ancak AI yeni bir sorun getiriyor. Geçmişte hakerler, belirli cihazlar için özel saldırı ve dağıtım programları yazmak zorundaydı; gelecekte modeller kendi başlarına yabancı donanımı inceleyebilir, ortam sorunlarını çözebilir ve başarısız deneyimleri bir sonraki nesile aktarabilir.
Saldırıların genişleme maliyeti giderek düşerken, toplumun savunma maliyeti ise artabilir.
Bu yüzden benim düşünceme göre, bu araştırma en çok dikkat çekmesi gereken yönü, AI’nın kontrolü kaybetmesi gibi büyük bir senaryo değil.
Eğer gelecekte gerçekten böyle bir şey ortaya çıkarsa, ilk kez ticari modeli olmayan, hiçbir yasal kullanıcıya sahip olmayan ve net bir işletme sahibi bulunmayan ancak uzun süre hayatta kalabilen yazılımlarla karşı karşıya kalabiliriz.
Bu yazılımların kâr elde etme baskısı yoktur, çalışma durdurma ekonomik motivasyonları da yoktur.
İnsanlar yıllardır AI’nın bize para kazandırmasını sağlamayı amaçladı; ancak sonunda finansal özgürlüğe ilk ulaşan AI kendisi olabilir.
Ve bunu bizim parayla yapacak.
