Mars Finans haberine göre, OpenAI'nin CEO'su Altman, geçen hafta çalışanlarına süper AI geliştirme konusunda üç güvenlik yöntemi sundu. İlk yöntem, gelişmiş modelleri denetleyen ve güvenlik önlemlerini denetleyen, Uluslararası Atom Enerjisi Ajansı'na benzer bir küresel düzenleyici kurum kurmaktır. Bilgili kaynaklar, Altman'ın bu yola eğilimli olduğunu belirtti. İkinci yöntem, Avrupa Nükleer Araştırma Merkezi'ni örnek alarak, büyük AI laboratuvarlarının bir organizasyona birleşmesini veya ortak bir kurum aracılığıyla birlikte geliştirme yapmasını öngörür; bunun yerine kendi hızlarında yarışmaya devam etmez. Üçüncü yöntem en radikaldir ve onun tarafından "Eliezer yöntemi" olarak adlandırılır: Bir AI şirketi öncelikle özyinelemeli kendi kendini geliştirmeyi gerçekleştirmekte, ardından baskın ekonomik gücünü kullanarak hesaplama kaynaklarını kontrol ederek diğer geliştiricilerin yetişememesini sağlar. Altman, bu fikri "diğer tüm şirketlerin GPU'larını eritmek" olarak tanımlamıştır; ancak bu yöntemin çok kötü olduğunu ve sadece olasılıkları tamamen anlatmak için sunulduğunu belirtmiştir. "GPU eritme" fikri, AI güvenlik araştırmacısı Eliezer Yudkowsky'den gelmektedir. O, 2021 yılında süper AI'nın küresel GPU'ları eritmek için kendini kopyalayan nanomakineler üretmesiyle ilgili bir düşünce deneyi önermiş ve bunun uygulanması önerisi değil, müdahale düzeyinin uç örneklerinden biri olduğunu vurgulamıştır. OpenAI, 2023 yılında "AI versiyonu Uluslararası Atom Enerjisi Ajansı" kurma önerisinde bulunmuş, Google DeepMind lideri Hassabis de "AI versiyonu CERN" kurulmasını savunmuştur. Şu anda OpenAI, Google ve Anthropic, bu yılın sonunda veya gelecek yılın başında ortak bir güvenlik standardı kuruluşu kurmayı planlıyor; ancak model güvenlik testleri sorumluluğunun kimde olacağını konusunda fikir ayrılığı var. Altman, AI geliştirme hızına sınırlar getirmek istiyor; ancak OpenAI'nin şu anda rekabet avantajını rakiplerine bırakamayacağını da belirtiyor.
OpenAI CEO, Güvenli Süper AI Geliştirme İçin Üç Yol Öneriyor
MarsBitPaylaş
Özet
OpenAI CEO Sam Altman, geçen hafta personeline güvenli süper AI geliştirme için üç strateji sundu. Bir seçenek, güvenlik önlemlerini denetlemek ve CFT protokolleriyle uyum sağlamak amacıyla IAEA'ya benzer bir küresel düzenleyici kurum oluşturmak. İkinci fikir, en üst düzey AI laboratuvarlarını CERN benzeri bir varlığa birleştirmeyi öneriyor. Üçüncü fikir, 'Eliezer Planı', tek bir firmanın kendi kendini geliştirmesini ve bilgi işlem gücünü egemen hale getirmesini öngörüyor; ancak Altman bu planı reddetti. OpenAI, Google ve Anthropic, 2026 sonuna kadar bir güvenlik standartları grubu başlatmayı hedefliyor; ancak model testleri konusunda, özellikle güvenli liman varlıkları korumaları üzerine anlaşmazlıklar devam ediyor.
Kaynak:Orijinalini göster
Yasal Uyarı: Bu sayfadaki bilgiler üçüncü şahıslardan alınmış olabilir ve KuCoin'in görüşlerini veya fikirlerini yansıtmayabilir. Bu içerik, herhangi bir beyan veya garanti olmaksızın yalnızca genel bilgilendirme amacıyla sağlanmıştır ve finansal veya yatırım tavsiyesi olarak yorumlanamaz. KuCoin, herhangi bir hata veya eksiklikten veya bu bilgilerin kullanımından kaynaklanan sonuçtan sorumlu değildir.
Dijital varlıklara yapılan yatırımlar riskli olabilir. Lütfen bir ürünün risklerini ve risk toleransınızı kendi finansal koşullarınıza göre dikkatlice değerlendirin. Daha fazla bilgi için lütfen Kullanım Koşullarımıza ve Risk Açıklamamıza bakınız.