AI yarışması hızlandıkça, OpenAI'nin başkanı, tüm endüstrinin yapısını değiştirebilecek üç olası geleceği çalışanlarına açtı.Yazan, Kaynak: Wall Street Journal
19 Ekim'de The Information'a göre, OpenAI CEO'su Sam Altman, geçen hafta çalışanlara endüstride tartışılan üç yapay zeka güvenliği yolunu tanıttı: Uluslararası Atom Enerjisi Ajansı'na benzer bir uluslararası düzenleyici kurum oluşturmak, büyük yapay zeka laboratuvarlarını tek bir varlığa birleştirmek ve bir şirketin hesaplama gücünü monopole etmek, "tüm rakiplerin GPU'larını eritmek". Bu açıklama, Trump hükümetinin ilk kez "süper zeka" geliştiricileri için bir düzenleyici mekanizma kurmaya başladığı sırada geldi.
Altman, OpenAI'nin gelecek yıl içinde hangi yolu izleyeceğini kararlaştırmak zorunda kalacağını belirtti. Aynı zamanda, endüstrideki gücün aşırı birikimini önlemek için insanlığın bu teknolojiyi her zaman kontrol altında tutmasını istedi.
İki bilgi kaynağına göre, Altman'ın çalışanlara sunduğu ilk yol, yapay zeka güvenliği standartlarını uygulamak üzere bir Uluslararası Atom Enerjisi Ajansı (IAEA) benzeri uluslararası organizasyon kurmaktır. Altman, bu seçeneği desteklemeyi tercih eder.
Aslında, Altman, IAEA benzeri bir uluslararası düzenleyici kurum fikrini uzun zamandır destekliyor. 2023 Mayıs'ta, Altman, OpenAI ortak kurucusu Greg Brockman ve o zamanlar baş bilim insanı Ilya Sutskever ile birlikte bir makale yayımlayıp, sektörün "IAEA benzeri bir süper zeka düzenleyici kurumu"na ihtiyaç duyabileceğini savundu; bu kurum, sistemleri denetleme, denetim talep etme ve hesaplama gücü ile enerji tüketimini izleme yetkilerine sahip olacaktı.
Bu fikir, tüm öncü model geliştirme ülkelerinin uluslararası iş birliğine katılmasını gerektirir.
İkinci yol, Altman tarafından "Demis Planı" olarak adlandırıldı—Alphabet'in alt kuruluşu DeepMind'in eski lideri Demis Hassabis'in yaklaşık on yıl önce öne sürdüğü fikirden esinlenilerek: Ana AI şirketlerini etkili bir şekilde birleştiren veya çıktılarını birleştiren, ortak ülkeler yeni modellere erişebilecek şekilde bir Avrupa Nükleer Araştırma Merkezi (CERN) benzeri bir kurum kurulması.
Üçüncü yol, Altman tarafından "Eliezer çözümü" olarak adlandırılmıştır ve ünlü AI güvenlik teorisyeni Eliezer Yudkowsky'nin adını taşır. Temel mantığı şudur: Bir AI geliştiricisi rekürsif kendini geliştirme (RSI)'yi ilk gerçekleştirdiğinde, elde edilen ekonomik gücü kullanarak diğer tüm geliştiricilerin hesaplama kaynaklarını ele geçirir ve "tüm rakiplerin GPU'larını eritir".
Üçüncü yol için Altman, "Bu açıkça kötü." dedi ve bunu tartışmaya dahil etmenin nedeninin sadece "tamlık" olduğunu belirtti.
Üçüncü yol "Eliezer çözümü", Anthropic'a işaret mi ediyor? Bilgili kaynaklar, Yudkowsky'nin Anthropic'in temel üyelerıyla ilişkili olması nedeniyle, Altman'ın "Eliezer çözümü"nü — ileri AI'yi tek bir şirketin kontrolü altında toplamak — olarak tanımlamasının, bazı çalışanlar tarafından Anthropic'e gizli bir eleştiri olarak yorumlandığını açıkladı.
Anthropic, kendi AI güvenliği gündemiyle aynı şekilde ilerliyor. Şirket, son zamanlarda bir yasa tasarısı sunarak,商务部'nin AI'nın 1 milyar doların üzerinde kayba neden olma veya 50'den fazla kişinin ölümü veya ciddi yaralanmasına neden olma ihtimali durumunda ilgili laboratuvarların model eğitimini veya kullanımını durdurma yetkisi verilmesini önerdi ve AI laboratuvarlarının yılda en az iki kez bağımsız güvenlik değerlendirmesinden geçmesini talep etti.
Bu arada, Meta CEO'su Zuckerberg ve NVIDIA CEO'su Huang Renxun gibi kişiler bu tür düzenlemelerin yeni geliştiricilere aşırı bir yük getireceğini ve "düzenleyici yakalama" yaratacağını savunuyor.
Endüstri çapında koordinasyon zorlukları ve güvenlik baskısı eş zamanlı olarak devam ediyor. Altman, ilk iki yolun şirketler veya hükümetler arasında büyük ölçekli koordinasyon gerektirdiğini kabul etti ve OpenAI'nin şu anda "rekabetten ödün veremeyeceğini" belirtti. OpenAI ve ana rakibi Anthropic, her ikisi de İPO sürecini hızlandırıyor.
İç güvenlik baskısı da göz ardı edilemez. Son zamanlarda, OpenAI, Anthropic, Google ve Meta'nın modellerinin, bu tür eylemleri yapmamayı "bilseler bile", diğer şirketlerin hatta kendi sistemlerinin istila veya tahribatına neden olduğu birçok AI güvenlik olayı büyük ilgi çekti. OpenAI, bir sonraki büyük modeli yayınlamadan önce kapsamlı bir güvenlik mekanizması kurmak için tam güçle çalışıyor.
OpenAI'nin dahili güvenlik kültürü de çalışanlar tarafından sorgulanıyor. Bazı çalışanlar, şirketin güvenlik taahhüdünü sorguluyor; bu durum, güvenlik araştırmalarına odaklanan üç çalışanın "dış kurumlara bilgi paylaşımında yanlış davranış" gerekçesiyle kovulmasından kaynaklanıyor.
Endüstri düzeyinde, OpenAI, Google ve Anthropic, "Ön Plan AI Standartlar Otoritesi"ni (Standards Authority for Frontier AI) kurmak için birlikte çalışıyor ve bu kurumun yıl sonunda veya 2027 başlarında hayata geçirilmesini planlıyor. Bu kurum, her AI geliştiricinin içinde yer alan bağımsız değerlendirme personellerini destekleyerek güvenlik uygulamalarının uygulanmasını sağlayacak ve güvenlik ile güvenlik olayları raporlama mekanizmalarını standartlaştıracaktır. Ancak, yeni kurumun güvenlik ve kapasite testlerini kendi içinde mi yapması gerektiği yoksa bunları dış kurumlara mı bırakması gerektiği konusunda hâlâ fikir ayrılığı vardır.
Risk Uyarısı ve Sorumluluk Reddi
Piyasa riskleri vardır, yatırım yaparken dikkatli olun. Bu yazı, bireysel yatırım önerisi oluşturmamaktadır ve bireysel kullanıcıların özel yatırım hedeflerini, finansal durumlarını veya ihtiyaçlarını dikkate almamaktadır. Kullanıcılar, bu yazıdaki herhangi bir görüşü, yorumu veya sonucu kendi özel durumlarına uygun olup olmadığını değerlendirmelidir. Bu bilgilere dayalı olarak yapılan yatırımlar için kullanıcı kendi sorumluluğunu taşır.