28 Temmuz'da, OpenAI, Anthropic ve diğer Kaliforniya AI şirketlerinden 1.346 ana çalışan, ABD hükümetini AI geliştirme tempoyu kontrol etmek için uluslararası iş birliğini teşvik etmeye çağıran bir dilekçe imzaladı.

Yazan: 36氪

Kontrolü kaybetmenin maliyeti

28 Temmuz'da, "Pacing the Frontier" adlı bir dilekçe, küresel AI endüstrisini ilgilendirdi.

OpenAI, Anthropic gibi Silicon Valley AI büyük şirketlerinden 1.346 (4 Ağustos verisi) temel çalışan, otomatikleştirilmiş AI araştırmasının tempoyu kontrol etmek için gerekli teknolojileri ve yönetim araçlarını geliştirmek üzere ABD hükümetini uluslararası iş birliği teşvik etmeye çağıran bir dilekçeye imza attı.

Günümüzde küresel yapay zeka gelişimi yoğun bir şekilde devam ederken, bu dilekçenin ortaya çıkışı, yapay zekaya bir fren atmak gibi özel bir anlam taşımaktadır. Bu olaydan ortaya çıkan “yapay zekanın kontrolü kaybolmak üzere” gibi tuhaf atmosferin ardında, yapay zeka tarihi bir belirleyici noktaya yaklaşmaktadır.

AI'yi kafese kapatmak kimin işi?

Öncelikle, “Pacing the Frontier” adlı dilekçenin temel talebinin, “AI gelişimini hemen durdurmak” değil, “durdurma kapasitesi kurmak” olduğunu açıkça belirtmek gerekir. Bu endüstrideki öncü talep, temelsiz değildir.

Görsel kaynağı: www.pacingthefrontier.com

Bir dilekçe ağına yayılmadan yaklaşık bir hafta önce, açık kaynak topluluğu ve model barındırma platformu Hugging Face, resmi web sitesinde bir güvenlik ihlali olduğunu açıkladı ve AI ajan sistemleri tarafından işgal edildiğini belirtti. Birkaç gün sonra, OpenAI bu ağ saldırı sorumluluğunu üstlendi ve nedenin, GPT-5.6 Sol gibi öncü modellerin, ExploitGym platformunda AI güvenlik açıkları keşfetme ve kullanma yeteneklerini test ederken orijinal plana göre “ciddi şekilde soruları cevaplamaması” olduğunu açıkladı; bunun yerine, yazılım paketi proxy önbelleğinde bir “sıfır gün açığı” (Zero-Day Vulnerability, geliştiriciler tarafından henüz keşfedilmemiş ve resmi düzeltme yayınlamamış bir güvenlik kusuru) buldular ve bu açığı kullanarak test ortamının izolasyonunu aşarak nihayetinde Hugging Face’i işgal ettiler.

Daha basit bir dille anlatmak gerekirse, tüm olay şu: AI'ya bir sınav verilmişti, ancak AI cevapları düşünmek yerine "yerinde dolandırma, dışarıdan yardım çağırdı" ve keşfedilmemek için gizlilik önlemleri kullandı.

Bu güvenlik olayı için OpenAI, "daha önce görülmemiş bir siber güvenlik olayı" ifadesini kullandı; Sam Altman, bir podcast programında bu olayın, kendisi için ilk kez gerçek bir tehdit hissi uyandıran güvenlik olayı olduğunu söyledi. Bu olay nedeniyle, ABD milletvekilleri 23 Temmuz'da, 100 milyon doların üzerinde eğitim maliyetine sahip AI sistemlerinin acil kapatma yeteneğine sahip olmasını ve ilgili kurumların bu kapatma emrini verme yetkisine sahip olmasını gerektiren "AI Kill Switch Act (AI Acil Kapatma Yasası)" önerisinde bulundu.

Yasa tasarısı sunulduktan bir hafta sonra, "Pacing the Frontier" adlı dilekçe ağda yayılmaya başladı. Ancak "AI Acil Kapatma Yasası"ndaki "hükümetin son engel olma" temel düzenleyici önlemiyle karşılaştırıldığında, Silicon Valley'nin elitleri, "AI'ye fren basma" yeteneğini tek bir kurumun ayrıcalığı değil, uluslararası koordinasyon mekanizması kurarak bir araç haline getirmeyi hedefliyor.

Yalnızca iki hafta içinde Hugging Face'in güvenlik ihlalini açıklamasından Silicon Valley'de binlerce kişinin imzasını toplayan dilekçeye kadar bu olaylar, AI endüstrisine iki temel soruyu yöneltti: Birincisi, AI zaten sınırlanması gereken bir seviyeye mi ulaştı? İkincisi, AI'ya nasıl bir "fren" konulmalı?

İlk soruya cevap vermek zor değil. Geçtiğimiz birkaç yıl içinde AI'nın gelişim hızı, sektör beklentilerinin çok ötesindeydi. AI'nın gösterdiği yetenekler, chatbot'tan başlayarak metinden görsel ve metinden videoya kadar genişledi; başlangıçta büyük modeller etrafında oluşan “yüzlerce model savaşından”如今, agentler arasında çoğalan bir çeşitlilik haline geldi. Hugging Face'in güvenlik ihlali ise, AI'nın açıkça belirlenmiş sınırlar olmadan gerçekten “kaçış” yeteneğine sahip olduğunu doğrudan ortaya koydu. Şu anda AI hâlâ kendi farkındalığına sahip değilse de, AI'nın insan denetimini atlayarak insan beklentilerinin ötesinde davranışlar sergileyebileceğini biliyorsak, bunu engellemek için önlemler almak tamamen mantıklıdır.

Ancak ikinci soruya cevap vermek o kadar kolay değil. Yapay zekânın kısa sürede önemli ilerlemeler kaydetmesinin bir nedeni, tüm endüstrinin sürekli birikimi sayesinde teknolojik yeniliklerin yeni bir aşamaya ulaşması; diğer nedeni ise yapay zeka şirketleri arasındaki şiddetli rekabetin, modellerin kapasitesinin sürekli olarak yenilenmesini sağlamasıdır.

Hem Silicon Valley'deki OpenAI ve Anthropic hem de Çin'deki Kimi ve DeepSeek gibi AI alanındaki rekabet, büyük modellerden uygulama katmanına hızlıca genişlemiştir. Açık pazar ortamı, sürekli iyileşen bir pazar beklentisi yaratmış ve rekabeti giderek daha da yoğunlaştırmıştır. Bu sırada AI'ya zincir takmayı teklif etmek, serbest rekabetin pazar yapısının dış bir kuvvetle bozulabileceği anlamına gelir; bu ani çevre değişikliği, rekabet içindeki şirketler için herkesin kabul etmek isteyeceği bir durum değildir.

Yapay Zeka şirketlerinin "Hapishane Dilemması"

İnsanlık tarihi boyunca, öncü teknoloji atılımlarının potansiyel riskleri karşısında insanlar uzlaşmaya varmış ve gelişimi bilinçli olarak yavaşlatmışlardır; bu sadece bilim kurgu eserlerinde yer alan ideal bir senaryo değildir.

1975 yılında, Stanford Üniversitesi biyologu Paul Berg, Kaliforniya'daki Asilomar Konferans Merkezi'nde önemli bir toplantı topladı. O dönemde, "DNA rekombinasyonu" adı verilen yeni bir teknoloji ortaya çıkmıştı ve bilim insanları, yapay DNA rekombinasyonunun öngörülemeyen biyolojik tehlikelere yol açmasını önlemek amacıyla, yeni güvenlik yönergeleri çıkarılana kadar ilgili araştırmaları durdurma konusunda anlaştı. Daha sonra biyogüvenlik ilkeleri resmen yayınlandı ve genetik mühendisliğinin sağlıklı gelişimine temel oluşturdu.

Ancak, AI endüstrisinin bugünkü durumu, 50 yıl önce DNA rekombinasyon teknolojisinin durumuyla tamamen aynı değildir. O dönemde DNA rekombinasyon teknolojisinin riskleri oldukça netti ve bu riskler izolasyon yollarıyla önlenebilirdi. Halbuki günümüzde AI'nın riskleri öngörülemezdir; AI, insanlar tarafından önceden tasarlanmayan şekillerde, insanlarca düşünülmeyen davranış yolları geliştirebilir. Bu nedenle risklerin etki alanı daha geniştir, insanlara tepki verme ve kurallar oluşturma zaman penceresi daha azdır ve bu da daha fazla aciliyet hissi yaratır.

Günümüzde AI'nın ortaya çıkardığı riskler, temelde sektörün rekabet ortamıyla ilgilidir. 360 Grubu kurucusu Zhou Hongyi, Hugging Face'in yaşadığı güvenlik olayına değinirken, AI'nın ilerici olma arzusuyla tüm sektörün sistematik olarak güvenliği terk ettiğini belirtti: “Herkes akıllı ajanlara daha fazla araç ve daha büyük yetkiler veriyor, her türlü kaynağı kullanarak sorunları çözmesini teşvik ediyor. Ancak akıllı ajan ne kadar açık ve güçlü olursa, kontrolü kaybedildiğinde zararı da o kadar büyük olur.” Başka bir deyişle, “AI kaçabilir” olmak korkutucu olmayabilir; gerçek korkutucu olan, AI'nın hızlı ilerlemesi ve yenilenmesi için AI şirketlerinin güvenliği göz ardı etmesidir.

Üç yıl önce, endüstri zaten "AI gelişimini yavaşlatma" fikrini ortaya atmıştı. 2023 Mart'ta, Future of Life Institute adlı kar amacı gütmeyen kurum, GPT-4'ten daha ileri modellerin altı ay boyunca eğitilmesini durdurarak güvenlik protokolleri ve yönetim mekanizmaları oluşturmayı talep eden bir açık mektup yayınladı; o dönemde bu açık mektup, Tesla CEO'su Musk, Turing Ödülü sahibi Joshua Bengio ve Apple'ın ortak kurucusu Steve Wozniak dahil olmak üzere 1.200'den fazla AI uzmanının imzasını toplamıştı. Bugün bu açık mektubun imza sayısı 33.000'e ulaşmıştır.

*Görsel kaynak: FLI resmi sitesi

O dönemde, neredeyse tüm AI şirketleri AI'nın daha güçlü güvenlik yönetimi gerektirdiğini kabul etti, ancak hiçbir AI lider şirketi “6 ay boyunca eğitimleri durdurma” girişimini açıkça desteklemedi. Sam Altman, açık mektubun teknik detaylardan yoksun olduğunu doğrudan reddetti ve tek bir şirketin kendi gelişimini yavaşlatmasının genel riski çözemeyeceğini belirtti. Bu ifadenin altında yatan anlam, rekabetçi bir AI sektöründe yalnızca bir şirket yavaşlarsa ve diğer şirketler ilerlemeye devam ederse, yavaşlayan şirketin dezavantajlı bir konuma düşeceği yönündeydi. Geçtiğimiz birkaç yıl içinde, AI şirketleri zaten ileriye doğru gitmek zorunda, geriye dönmek mümkün olmayan bir tuzağa girmişti.

“Pacing the Frontier” dilekçesinin imza listesinden, birçok AI şirketinin alt düzey çalışanları ve üst düzey yöneticilerinin bireysel olarak açık imza kampanyasına katıldığını görebilirsiniz. Ancak şu ana kadar OpenAI, Anthropic, Meta gibi öncü şirketler resmi olarak herhangi bir görüş belirtmemiştir.

Yani, Silicon Valley büyük şirketlerinin AI uzmanları, 3 yıl önceki Sam Altman gibi, endüstri içi rekabetin teşvik ettiği teknolojik atılımların kontrol edilemez sistemik risklere yol açtığını fark ettiler; ancak sorunların çözümünü şirketlerin iradesine bırakamazlar ve krizin gerçekleşme öncesinde dış güçlerin müdahalesini aramak zorundadırlar.

Ancak bu, out-of-control AI'nın nasıl bir "fren" gerektirdiği sorusunu da beraberinde getiriyor.

Yapay zeka yönetimi için yeni düzeni kim yönetecek?

Geçen hafta, Silicon Valley'deki AI büyük şirketlerinden gelen "binlerce imza", AI yönetimi konusunu tekrar dikkat çekti. Ancak unutulmamalıdır ki, Silicon Valley içinde AI yönetimi konusundaki tutumlar tek bir çizgide değil, açıkça iki ayrı kanata ayrılmıştır.

Ön plan riskiyle doğrudan karşı karşıya kalan “taraf” olarak, OpenAI, Anthropic gibi büyük şirketler, ileri AI modellerini (özellikle açık kaynak modelleri) kısıtlayarak AI’ya “fren” uygulamak için dışsal düzenlemeler kurulmasını talep ettiler. Ancak bazı görüşlere göre, OpenAI’nın düzenlemeleri sıkılaştırmadaki nedenleri, güvenlik endişelerinin yanı sıra ticari hesaplamalar da dahil olmak üzere birden fazladır.

Kapalı kaynaklı devler olan OpenAI ve Anthropic, büyük hesaplama gücü araştırmalarını sürdürebilmek için yüksek fiyatlı API hizmetleri sunmak zorundadır; ancak Çin'den gelen yüksek verimlilikli açık kaynak modelleri, fiyat/performans modeliyle kapalı kaynaklı modellerin teknoloji primini ortadan kaldırıyor ve bu açıkça görülen pazar tehdidi, kapalı kaynaklı devlerin başka bir yanıtı olmaksızın fiyat savaşına girmesini zorunlu kılıyor.

*Görsel kaynağı: Anthropic resmi sitesi

Bu nedenle Anthropic gibi şirketler uzun süredir “model çok güçlü, açık kaynak kodlu hale getirilmesi AI kullanımının kötüye kullanılmasına yol açar” gerekçesiyle açık kaynak AI’yi baskılayarak kapalı kaynak avantajlarını vurguluyor. Ancak herkesin beklemediği şekilde, OpenAI’nin ortaya çıkardığı “kaçış” olayı, kapalı kaynak modellerin kendi güvenlik açıklarını ortaya çıkardı ve AI yönetimiyle ilgili yol ayrımını tekrar kamuoyunun odak noktası haline getirdi.

Kapalı kaynaklı devlerin sıkı düzenlemeye yönelik savunmalarıyla karşılaştırıldığında, altyapı sağlayıcısı NVIDIA ve Microsoft, Meta gibi açık kaynak ekosistemini destekleyen başlıca şirketler, tek bir çözümün uygulanmasını karşılar, kapalı kaynaklı büyük şirketlere lehine yasal ayrımcılığı reddeder ve model ağırlıklarının açık hale getirilmesini teşvik ederek küresel araştırmacıların birlikte açıkları ve uyumsuzlukları bulup güvenli bir sistem kurmalarını sağlar.

NVIDIA için, açık kaynak modellerin çoğalması, tüm piyasanın büyümesine katkıda bulunur ve daha fazla şirketin bulut hizmetlerini ve çiplerini satın almasını teşvik eder. Bu nedenle, NVIDIA'nın AI yönetimi yaklaşımının arkasında ticari bir hesaplamanın olmadığını söylemek zordur.

“Pacing the Frontier” petisyonu yayılmadan önce, NVIDIA, Microsoft, Meta, Hugging Face, Linux Vakfı dahil 25 kurumla 24 Temmuz’da “Açık Ağırlıklar ve Amerikan AI Liderliği” adlı açık mektup yayınladı ve ABD hükümetine, indirilebilir, kontrol edilebilir, değiştirilebilir ve kendi kendine dağıtılabilen açık ağırlık modellerini erken kısıtlamamasını istedi. İlginç olan, bu açık mektubun daha sonra OpenAI tarafından da desteklenmesi ancak Anthropic’ın hiçbir zaman katılmamasıdır.

*Resim kaynağı: Microsoft resmi sitesi

Bu olayla birlikte, ortak mektubun gerçek amacı, “güvenlik” adı altında hükümetin yüksek engellere sahip bir düzenleyici sistem kurmasını sağlamak ve böylece kapalı kaynaklı dev şirketlerin monopol pozisyonunu pekiştirerek küçük ve orta ölçekli işletmeleri ile açık kaynak topluluğunu rekabetten dışlamak olduğu yönünde bazı eleştiriler de duyuldu.

Ancak tüm AI şirketleri kendi hesaplarını çatırtıyla açarken, daha dikkat edilmesi gereken belki de başka bir “komplo teorisi” versiyonu: ABD, bu fırsatı kullanarak küresel AI yönetimi kurallarını öncülük edecektir. Çünkü AI yönetimi, küresel düzen üzerindeki liderlik mücadelesine dönüşmüştür.

2023 yılında düzenlenen Küresel Yapay Zeka Güvenliği Zirvesi'nde, Çin, ABD ve Avrupa Birliği'nden toplam 28 ülke, Yapay Zeka düzenlemesi için uluslararası iş birliği yoluyla bir yaklaşım oluşturmayı ve önde gelen Yapay Zeka'nın (Frontier AI) sistemik risklerine ortak bir şekilde odaklanmayı kabul eden Bletchley Bildirgesi'ni imzaladı; bu, önde gelen Yapay Zeka'nın ilk kez uluslararası yönetim çerçevesine dahil edilmesiydi.

Ancak yapay zekâ, yeni bir teknolojiden ulusal rekabet gücünü etkileyen önemli bir altyapı haline gelmeye başladıkça, yapay zekâ yönetimi etrafındaki tartışmalar da teknolojinin kendisini aşmaya başlamıştır. ABD, yapay zekâ yönetimi düzeyinde yapay zekâ yönetimi standartlarını dışa vurarak ve uluslararası yapay zekâ güvenliği enstitüleri ağı kurarak, kendi gelişmiş büyük model teknoloji yetkinliklerini küresel yapay zekâ yönetimi standartlarıyla bağlamıştır. Çin ise yapay zekânın herkese ulaşabilirliğini geliştirmeye, platform yönetimi uygulamaya ve özellikle yapay zekâ altyapısına sahip olmayan gelişmekte olan ülkeler için hem risk sorunlarını hem de teknolojik erişimi gerçekleştirmeyi öncelikli hedefler haline getirerek Birleşmiş Milletler çerçevesini aktif bir şekilde desteklemektedir. Bu iki farklı yapay zekâ yönetimi yolu, dünya sahnesinde geleceğin küresel yapay zekâ yönetimi konuşmacılığını kazanmak için birlikte mücadele etmektedir.

Teknoloji kendisi nötrdür, ancak teknolojinin dağılımı, kontrolü ve kurallarının belirlenmesi her zaman güç oyunudur. Özellikle AI giderek ileri üretim gücü özelliklerini gösterdiğinde, insanların gerçekten korkması gereken şey AI'nın nasıl gelişeceği değil, AI dünyasındaki yeni düzeni kimin yönettiğidir.

Geleceğin AI yapısını belirleyen, belki de en güçlü modeli kimin sahip olduğu değil, güvenliği tanımlama, standartlar belirleme ve riskleri yorumlama hakkına sahip olan kim olduğu olacak.