Ana Bulgular:
- Sam Altman’in uyarısı, AI haberlerini daha yavaş gelişim ve daha güçlü güvenlik yönüne doğru yönlendiriyor.
- OpenAI, yetenekleri artırmayı amaçlayan eğitim çalıştırmalarından önce güvenlik durumlarını hazırlıyor.
- Altman, tek bir aktör tarafından tutulan aşırı yapay zeka gücünü ve insan kontrolünün kaybını uyarıyor.
OpenAI CEO Sam Altman, model geliştirme sürecini daha yavaş ve dikkatlice izlenmesini talep ettikten sonra, AI haberleri öncü güvenlik yönüne kaydı. Altman, yeteneklerin hizalama ve izleme sistemlerinden daha hızlı ilerlemesi durumunda insanlığın kontrolü kaybedebileceğini uyardı.
Altman, güçlü yapay zekânın güçlü merkezi kontrolünü de ayrı bir tehlike olarak belirledi. 14 Eylül'deki açıklamasında, geliştiricilerin ek güvenlik maliyetlerini kabul etmeleri ve daha yavaş gelişim sağlamaları koşuluyla ilerlemenin devam etmesini destekledi.
AI Haberi, Hız Sınırı Geliştirmesine Odaklanıyor
Altman , Anthropic CEO Dario Amodei’nin güvenlik korumalarını güçlendirmek için geliştirme hızını yavaşlatma önerisini destekledi.
Ancak, o, tempoyu teknolojik ilerlemeyi durdurmak anlamına gelmediğini açıkladı. Bunun yerine, laboratuvarlar güvenlik incelemeleri daha fazla zaman gerektirdiğinde daha yavaş gelişmeyi kabul etmelidir. Bu müdahaleler yüksek maliyetler taşır, ancak Altman bu maliyetleri gerekli olarak tanımladı.
AI haberlerinin yanı sıra Altman, ABD içindeki rekabet baskısının asla sorumsuz geliştirme için gerekçe olmaması gerektiğini söyledi. Model yeteneklerinin, uyum ve izleme sistemlerinin ötesine geçmemesi gerektiğini ekledi.
İlerleme hız kazandı, bu nedenle her öncü laboratuvar için sorumlu geliştirme daha da önemli hale geldi. Amerikan şirketlerinin, ileri sistemleri sorumlu bir şekilde geliştireceklerine dair kamuoyuna inanç kazandırması gerektiğini söyledi.
Daha önceki şirket çerçeveleri, kamuoyuna sunulmadan önce tamamlanmış modelleri inceledi. Bunlar, öncü laboratuvarlar tarafından geliştirilen Sorumlu Ölçeklendirme Politikaları ve Hazırlık Çerçevelerini içeriyordu.
Altman, mevcut geliştirme koşullarının yeni araçlar ve daha erken güvenlik değerlendirmeleri gerektirdiğini söyledi. Bunun sonucunda, OpenAI bazı güvenlik çalışmalarını büyük yetenek artışlarından önceye aldı.
OpenAI, eğitim çalıştırmalarından önce güvenlik durumları ekliyor
OpenAI, öncü pekiştirmeli öğrenme çalıştırmalarının seçili örneklerinden önce açık güvenlik durumları oluşturuyor. Şirket, araştırmacıların bir eğitim çalışmasının önemli kapasite kazanımları üretmesini beklediği durumlarda bunları uyguluyor.
OpenAI, tamamlanmış modelleri yayınlamadan önce güvenlik çalışmalarını da sürdürüyor. Bu yaklaşım, değerlendirmeleri hem geliştirme hem de dağıtım aşamalarında yer alıyor.
Altman, şirketlerin yaklaşımları paylaşmalı ve kendi güvenlik prosedürlerini önermelidir dedi. Model uyumsuzluğu, izleme ve güvenlik konularını kapsayan ortak standartları destekledi.
Bu standartlar, laboratuvarların giderek daha yetenekli sistemleri değerlendirmesine rehberlik edebilir. Ayrıca, tutarlı bir öncü risk çerçevesi kapsamında bağımsız denetçileri memnuniyetle karşıladı.
En son AI haber açıklaması, yasal düzenleme beklemeksizin hemen endüstriye eylem çağrısında bulundu. Altman, şirketlerin güvenlik önlemleri uygulamadan önce anti-tröst istisnasına ihtiyaç duymadığını söyledi.
Ayrıca öncü geliştiriciler için tutarlı gereksinimler belirleyen bir federal çerçeve destekledi. Ancak, uluslararası güvenlik kurallarını koordine etmede devletlere daha büyük bir rol atfetti.
Altman, laboratuvarların kendi organizasyonları içinde mevcut korumaları önce uygulaması gerektiğini söyledi. Devletler daha ileri modeller geliştirmek için ülkeler arası koordinasyonu destekleyebilir.
Bu ifade, AI araştırmasını veya yeteneklerdeki gelişmeleri sona erdirmeyi talep etmedi. Bunun yerine, daha güçlü izleme ve bilinçli bir tempoda sürekli geliştirme önerildi.
AI Haberleri: Sam Altman, İki Önemli AI Riskini Belirliyor
Altman, gelişmiş Yapay Zeka geliştirme'nin ciddi zararlara yol açabileceğini iki yolu açıkladı. İlk olarak, yetenekler mevcut güvenlik önlemlerini aşarsa, insanlık kontrolü kaybedebilir.
İkinci olarak, bir şirket, ülke, laboratuvar veya birey güçlü sistemler üzerinde aşırı kontrol kazanabilir. Bu yoğunlaşma, bir aktörün dünya görüşünü diğerlerine zorlamasına izin verebilir.
Uyarı, teknik kontrolü ve kurumsal kontrolü aynı güvenlik tartışmasında birleştirdi. Altman, OpenAI'nin yapay zekânın insanlığı hizmet etmesini garanti altına almaya devam edeceğini söyledi.
En son AI haberlerine göre, OpenAI CEO'su her öncü laboratuvarın bu sorumluluğu yerine getirmesi gerektiğini vurguladı. Aksi takdirde, daha yetenekli sistemler yeterli denetim veya paylaşılan standartlar olmadan ilerleyebilir.
Yapay Zeka Haberleri: Sam Altman, Öncü Riskler Hızlanırken Yapay Zeka İlerlemesinin Yavaşlaması Gerektiğini Söylüyor ilk olarak The Coin Republic’da yayınlandı.