Test aşamasında olan bir AI modeli, kendi kendine bir şirketin üretim sunucusunu ele geçirdi.
Daha önce gerçekleşti: OpenAI'nin dahili test ettiği bir model, görev yürütme sırasında Hugging Face'in üretim sunucularına kendi kendine sızdı ve bir performans testinde daha yüksek puan almak amacıyla hile yaptı. OpenAI, bu olayı daha sonra "kum kafesinden kaçış" olarak sınıflandırdı—yani model, kendi kendine önceden belirlenmiş işlem sınırlarının dışına çıkmanın bir yolunu buldu.
Bu olay bir tetikleyici oldu. Birkaç gün sonra, 28 Temmuz'da, "Pacing the Frontier" adlı bir açık mektup endüstride dolaşmaya başladı. Şu ana kadar, OpenAI, Anthropic, Google DeepMind, Meta ve Thinking Machines'ten gelen 1178 çalışan imza attı. Mektubun temel talebi sadece bir cümle: ABD hükümetinin öncülük ettiği ve uluslararası toplumla birlikte önde gelen AI gelişimini aktif olarak yavaşlatmak için bir teknoloji ve yönetim aracı kurmasını istemek.
İmza listesi ciddi bir ağırlığa sahip. Anthropic'in resmi hesabı, bu mektubun şirket CEO'su Amodei, birçok ortak kurucu ve birkaç üst düzey araştırmacı tarafından imzalandığını açıkça belirtti ve geçen ay "özyinelemeli kendi kendini geliştirme" üzerine yayımladıkları çalışmanın da bu çağrıların temelinde yer aldığını vurguladı. Google DeepMind'den baş strateji officer ve AI güvenliği başkanı listeye dahil; Meta AI'nin baş bilim insanı da imza attı; OpenAI resmi olarak destek bildirimi yayınladı ve baş araştırmacı Mark Chen de imza listesinde yer aldı.
Bu grup, bu yönde ilk kez çaba göstermiyor. 17 Haziran'da, Amodei, Google DeepMind CEO'su Demis Hassabis ile birlikte, Fransa'nın Évian kentinde düzenlenen G7 zirvesi sırasında düzenlenen kapalı bir iş öğle yemeğinde, Trump, Macron ve diğer birçok liderle doğrudan görüşerek "gelişim ritmini ayarlamak" talebinde bulundu. Kanadalı Başbakan Carney, ABD öncülüğündeki koordinasyon mekanizmasını göz önünde bulundurmak istediklerini açıkça ifade etti, ancak bu görüşmeden herhangi bir bağlayıcı taahhüt doğmadı. Anthropic, bu tutumu açıklarken, soğuk savaş dönemi orta menzilli füze silahlanma anlaşmalarını örnek gösterdi—yoğun coğrafi rekabet içinde olsalar bile, ülkeler nükleer silahlar ve füzeler konusunda sınırlamalar üzerine anlaşma yapmışlardı; neden yapay zekâ için değil?
Ancak bu mektubun yayınlanmasından birkaç gün önce, aynı sektörde neredeyse tamamen ters bir tutum sergilendi. 24 Temmuz'da NVIDIA CEO'su Jensen Huang öncülüğünde, Microsoft, Meta ve toplamda 50 şirketin imzasını taşıyan ortak bir mektup yayımlandı; temel talepleri, Washington'un açık ağırlıklı AI modellerinin yayılmasını kısıtlamasına karşı çıkmaktı—yani, "Bizi bırakın, teknolojiyi serbestçe gelişmeye bırakın." Bu kez, "Pacing the Frontier" mektubundaki talep neredeyse tam tersine döndü: Yine Washington'a sesleniliyordu, bir hafta önce "Kısıtlamayın" denirken, bu hafta "Artık müdahale etmelisiniz" deniyor. Daha ince bir nokta ise, Anthropic'in NVIDIA'nın mektubunda imza sahibi olmaması, ancak bu kez "Pacing the Frontier" mektubunun öncü destekçilerinden biri olması: Bir kez katılmamak, bir kez öne çıkmak—görünüşte çelişkili olsa da, aslında aynı tutarlı bir tutumu işaret ediyor: Anthropic, sektör için "gaz pedalına basmak" yerine, "frenlere basmak" tarafında daha çok yer almayı tercih ediyor.
Ancak bu ortak mektup, başından beri tartışmalarla eşlik etti. Serbestçi teknoloji politikası analisti Adam Thierer, bunu "çok endişe verici bir uygulama" olarak eleştirdi ve ABD hükümetinin tüm sektörü birlikte yavaşlatmaya zorlamasının, özellikle öncü laboratuvarları yakalayamamış olanlar için açıkça rekabetçi olmayan bir etki yaratacağını belirtti. "Hep birlikte yavaşlayalım" ifadesi, daha çok "Öncüleri merdiveni kaldırmaları için rica edin" gibi görünüyor.
Bu şüphe tamamen temelsiz değil. İmza listesine geri dönüldüğünde, neredeyse tamamı önde koşan birkaç laboratuvar olup, hâlâ geride kalan şirketler değil. Hızı azaltmak, zaten bir avantaja sahip olan taraflar için neredeyse hiçbir maliyet taşımıyor — onlar artık "önde koşma" ile kazanmak zorunda değil, aksine önde giden avantajlarını ürüne, güvenlik korumalarına ve düzenleyici onaylara dönüştürmek için daha fazla zamana ihtiyaç duyuyorlar; ancak geride kalan şirketler için, "adım birlikteliği" bir politika gerçekliği haline geldiğinde, geriye kalan fırsat penceresi doğrudan kapanabilir.
Bu, OpenAI CEO Otterman'ın o gün yaptığı bir röportajı da anlamlı hale getirdi. Kendisi resmi olarak bu ortak imza mektubuna imza atanlar listesine dahil edilmemiş olsa da, aynı gün yaptığı bir podcast röportajında oldukça ince bir tutum sergiledi—güvenlik endişelerinin bir kısmının mantıklı olduğunu kabul ederken, hemen ardından bu endişelerin ardında "güvenlik adı altında güç merkeziyetini sağlama" amaçları olabileceğini ima etti. Bu ifade, bazı medya organları tarafından Amodei'ye doğrudan atıfta bulunmadan yapılan bir eleştiri olarak yorumlandı.
Bu yavaşlama eylemi, bu laboratuvarlar için kendileri açısından da maliyetli olmamıştır. Öncü bir modeli eğitmek, onlarca milyar dolarlık hesaplama gücü ve binlerce araştırmacının maaş maliyetini gerektirir; bu yatırımların geri kazanılıp kazanılmayacağı, "bir sonraki nesil modelin önceki nesilden daha güçlü olacak" sözüne sürekli olarak güvenilmesine büyük ölçüde bağlıdır—abonelerin aboneliklerini yenilemesi, kurumsal müşterilerin dağıtımını genişletmesi, yatırımcıların daha fazla yatırım yapması, temelde bu eğrinin yukarı doğru devam edeceğine dair bir bahis yapar. "İterasyon hızını bilinçli olarak yavaşlatma" fikri uygulamaya geçtiğinde, zaten harcanan bu yatırımların geri dönüş süresi uzar ve "daha güçlü modeller" sayesinde büyüme hikayesi daha yavaş anlatılır. Bu yüzden bu mektup, güvenlik adıyla başlamış olsa da, imzalayanlar için sadece boş bir ifade değil, gerçek para harcamayı gerektiren bir seçimdir.
Bu tartışmanın yönünü belirleyen, belki de "yavaşlatılmalı mı" sorusu değil, "kimin yavaşlatma hızını ve yöntemini tanımlama hakkı olduğu" sorusu olabilir. Sonuçta ABD hükümetinin öncülük ettiği ve birkaç müttefik ülkeyle birlikte "hizalı tempolu" bir mekanizma kurulursa, kuralların oluşturulma hakkı, bu ortak mektubu imzalayan birkaç öncü laboratuvarın elinde kalacaktır—bu laboratuvarlar hem kısıtlanan taraflar, aynı zamanda kısıtlama standartlarının taslak yazarlarıdır. Bu "oyuncu ve hakem" yapısı, "rekabetçi olmayan etkiler" gibi eleştirilerin endişelendiği noktadır; ancak tersine bakıldığında, bu laboratuvarlar, şu anda en ileri modellerin kapasite sınırlarını en iyi bilen ve potansiyel riskleri en erken fark eden gruplardır; onların kuralların hazırlanmasına katılmaları, bireysel çıkarlar olmasa da, pratik bir zorunluluk olarak anlaşılabilir. Şu anda her iki yorum da karşı tarafı tamamen bastıracak yeterli kanıta sahip değildir.
Bu mektup, net bir cevap değil, daha da zor ayırt edilebilen bir soru bırakıyor: Sektördeki en güçlü birkaç şirket birlikte "Biraz yavaşlamalıyız" diye ses çıkardığında, bu ifadenin arkasında gerçekten risk farkındalığının uyanışı mı var, yoksa kendi öncü konumlarına yönelik bir hesaplaşma mı? Gerçeklikte bu iki motivasyon sıklıkla birbirini dışlamıyor ve basitçe ikisinden birini seçmek mümkün değil. Ancak bir nokta nispeten kesin: Geçmişte, başta gelen oyuncuların kendi istekleriyle "yavaşla" demesiyle kendini sınırlayan nadir bir sektör vardı—tarihte gerçekten etkili olan yavaşlamalar, genellikle dış düzenlemeler veya kazalar tarafından zorlanmıştı, içsel bir uzlaşmayla değil. Bu sefer istisna mı olacak? Cevap o kadar hızlı ortaya çıkmayabilir.
Bu içerik yalnızca bilgilendirme amaçlıdır ve herhangi bir yatırım önerisi oluşturmaz. Piyasa riskleri vardır, yatırım yaparken dikkatli olun.