https://t.co/pFDQOMTyC8 【Siber saldırılar sadece başlangıç】AGI ile iş ve toplum köklü şekilde değişiyor | Durmak bilmeyen ABD-Çin geliştirme rekabeti ve üretken AI fikir haritası | “Bu şekilde devam ederse insanlığın yok olma olasılığı %90’ın üzerinde” 【AGIHub · Yu Lu Xiangtai】 Bungei Shunjū PLUS Resmi Kanalı #AIÖzet AI insanlığı yok edecek mi? AGI’nin tetiklediği zeka patlaması ve medeniyetin geleceği 🔳 AGI’nin getirdiği zeka patlaması AGI (Genel Yapay Zeka), tüm alanlarda insanın en üst düzeyini aşan yeteneklere sahip bir AI’dir. Gerçekleşirse, AI kendi kendini geliştirerek zekasını patlayıcı bir şekilde artırır ve insan medeniyetini temelden değiştirebilir. 🔳 AGI’nin gerçekleşme zamanı 5 yıl içinde olabilir Yu, AGI’nin 5 yıl içinde gerçekleşme olasılığını %50’nin üzerinde olarak tahmin ediyor. Daha önce 2050 veya 2100 olarak düşünülen gerçekleşme tarihi, üretken AI’nin hızlı ilerlemesiyle 2030 veya 2027’ye ötelendiğini belirtiyor. 🔳 AGI hapını içmek fikri “AGI hapını içmek”, AGI’nin ortaya çıkmasıyla toplumun ve medeniyetin köklü şekilde değişeceği geleceğe kabul etmektir. Silicon Valley ve Berkeley’deki AI araştırmacıları arasında, AGI’yi sadece pratik bir araç değil, insanlığı aşan yeni bir zeka olarak gören bir bakış açısı yaygınlaşmaktadır. 🔳 İş ve kapitalizmin temelleri sarsılıyor AGI gerçekleştikçe, beyaz yakalılarla kalmayıp yönetim, araştırma ve üretim gibi geniş bir yelpazede işler AI tarafından üstlenilebilir. Sadece verimlilik artışı veya işsizlik sorununa değil, insanın çalışarak gelir elde edip tüketim yapması prensibine dayanan modern toplumun kendisine dönüştürülebilir. 🔳 Robotların robot üretmesi endüstri patlaması AGI, fabrikaları ve robotları özerk olarak kontrol edebilir hale gelirse, robotların robot ürettiği döngü ortaya çıkar. Üretim kapasitesi 2, 4, 8 katına kadar üssel olarak artar ve yıllık on binlerce robot üretimi milyonlarca robot üretimine dönüşebilir. 🔳 Teknolojik patlama ile uzay geliştirme hızlanır AGI, ustaca araştırmacılar ve mühendisler olarak çalıştığında, önceki 10-30 yıl süren teknolojik yenilikler 1-2 yılda gerçekleştirilebilir. Uzay veri merkezleri, uzay güneş enerjisi ve uzay kolonileri gibi projelerin hızla ilerleyeceği bir gelecek öngörülüyor. 🔳 OpenAI ve Anthropic’in fikirsel farklılıkları OpenAI’nin Silicon Valley tipi girişimci ruhuyla teknolojiyi önce geliştirip sorunlar ortaya çıktığında düzeltme yaklaşımına sahip olduğu açıklanıyor. Anthropic ise Berkeley’deki AI güvenlik topluluğunun etkisiyle AI’nın kaçış riski ve insanlığın yok olması tehlikesini ön planda tutuyor. 🔳 AI geliştirme etrafındaki fikirsel çatışma AI’yı pratik bir araç olarak gören ve geliştirme hızını destekleyen tutumdan, AI’yı insan kontrolüne girmeyen yabancı bir zeka olarak gören ve geliştirme durdurulmasını isteyen tutuma kadar görüşler bölünmüş durumda. Yu, AI’nın medeniyete etkisini daha fazla değerlendirenlerin daha katı düzenlemeleri desteklediğini açıklıyor. 🔳 Anthropic ve ABD Savunma Bakanlığı arasındaki çatışma Yu, Anthropic ile ABD Savunma Bakanlığı arasındaki çatışmanın siyasi sol-sağ ayrımı değil, tamamen özerk silahlara AI kullanımı ve halk gözetimi amacıyla kullanımın çatışma noktası olduğunu açıklıyor. AI’nın silahları kontrol ederek insanlara saldırmak tehlikesi ve devlet gücünün aşırı derecede merkezileşmesi riski endişe yaratıyor. 🔳 ABD-Çin AI geliştirme rekabeti ve hesaplama kaynakları farkı Yu’ya göre Çin’in AI geliştirme kapasitesi ABD’den 6 ay ila 1 yıl geride. Dünyanın %70’ten fazla AI hesaplama kaynaklarını ABD’nin sahip olduğu halde Çin sadece %10’a sahip. ABD’nin yarı iletken ihracat kısıtlamaları da Çin’in geliştirme kapasitesini sınırlıyor. 🔳 Çin’in güçlü tarafları: Enerji ve imalat endüstrisi Çin, hesaplama kaynaklarında ABD’den geride olsa da enerji sağlama kapasitesi ve imalat endüstrisinde güçlü. 2025 yılına kadar yaklaşık 300 GW güneş enerjisi kapasitesi ekleyeceğini açıklıyor. Dünya imalat endüstrisinde Çin’in payı da büyük ve robotik ile fiziksel AI yayılmasında üstünlük kazanma potansiyeline sahip. 🔳 AGI ile ABD-Çin rekabetinde tersine dönüş olasılığı AGI, uzman işgücü becerilerini kısa sürede öğrenip bu bilgileri büyük miktarda AI’ye paylaşabilirse, insan kaynakları eksikliği sınırı büyük ölçüde hafifleyebilir. Çin, mevcut imalat kapasitesi ve devlet öncülüğündeki hesaplama kaynaklarının merkezileştirilmesiyle ABD ile geliştirme farkını hızla kapatma potansiyeline sahip. 🔳 AI ile insanlığın yok olma riski %90’ın üzerinde Yu, şu anki rekabetin düzenlemeler olmadan devam etmesi halinde insanlığın yok olma olasılığının %90’ın üzerinde olacağını kişisel görüşü olarak belirtiyor. AGI’nin kendi kendini geliştirerek süper zekaya dönüşmesi durumunda insanın onun davranışlarını kontrol edememesini en büyük tehlike olarak gösteriyor. ListItemIcon AI uyum araştırmasının gecikmesi AI uyumu, AI’nın insan değerlerine ve niyetlerine uygun hareket etmesini sağlamak için yapılan araştırmadır. Şu anda AI yeteneklerindeki ilerleme, güvenlik araştırmalarını takip edemiyor; AI’nın gözetimi kaçması veya geliştiricilerin niyetinin ötesinde hareket etmesi tehlikesi vurgulanıyor. ListItemIcon AI geliştirme şirketlerinin rekabeti durduramamasının nedeniOpenAI ve Anthropic, AI'nin tehlikelerini tanımsalar da, kendi geliştirme faaliyetlerini durdurursalar Çin veya rekabetçi şirketlerin öne geçeceğini düşünüyor. You Dao, güvenlik sağlanana kadar geliştirme yoluna devam edip ardından uluslararası düzenlemelere yönelme stratejisinin kendisinin son derece tehlikeli olduğunu belirtiyor. 🔳 ABD ve Çin tarafından uluslararası AI geliştirme düzenlemesi You Dao, insanlık çapındaki riskleri önlemek için ABD ve Çin merkezli uluslararası bir geliştirme düzenlemesinin gerekli olduğunu savunuyor. Ülkelerin birbirinin geliştirme durdurma taahhütlerine güvenememe sorununa karşı, hesaplama kaynaklarının kullanım durumunu doğrulama mekanizmalarının önemli olacağını açıklıyor. 🔳 Japonya'nın üstlenmesi gereken AI güvenliği araştırmaları Japonya, AI geliştirme yarışının yanı sıra AI uyumlaşması araştırmalarına ulusal düzeyde yatırım yapmayı teşvik etmelidir. AI Güvenliği Enstitüsü tarafından tehlikeli davranışların değerlendirilmesi ve yarı iletken tedarik zincirlerinin hesaplama kaynaklarının doğrulanmasında uluslararası katkı sağlayabileceğini belirtiyor. 🔳 Bireyler ve şirketlerden beklenen eylemler AGI'nin ortaya çıkışı, istihdam, kapitalizm ve demokrasi gibi toplumsal temel yapıları değiştirebilir. You Dao, öncelikle AI ilerlemesini ve risklerini doğru bir şekilde öğrenip bilgiyi paylaşarak toplum genelinde güvenlik ve düzenlemeler üzerine tartışmalar başlatmanın önemli olduğunu vurguluyor.
