Anthropic, Anthropic Enstitüsü'nü kurarak Yapay Zekânın Toplum ve Ekonomi Üzerindeki Etkisini İncelemeye Başlıyor

Dün gece, AI'nın yeni yıldızı Anthropic (sonraki metinlerde A Topluluğu olarak kısaltılacaktır), Claude'nin yeni modelini değil, özellikle " sıkıcı " görünen bir şeyi sundu: The Anthropic Institute (Anthropic Enstitüsü, kısaca TAI).

2026 yılında popüler olan Harness Engineering’e kıyasla, TAI’nin çözmeyi hedeflediği sorunlar daha büyüktür. Anthropic’in duyurduğu araştırma programına (anthropic-institute-agenda) göre, TAI dört ana alana odaklanmaktadır: ekonomik yayılma, tehditler ve direnç, pratik uygulamalardaki AI sistemleri ve AI destekli araştırma ve geliştirme. TAI, bu sorunları çözmek için dünya çapında araştırmacıları işbirliği için çağırıyor.

(Kaynak: X@Anthropic Resmi)

Yani, A şirketi (Anthropic'in kısaltması), insanların AI ile nasıl etkileşime girdiğini araştırmaya odaklanan bir dahili organizasyon kurdu:

• Yapay zeka istihdamı ve ekonomiyi nasıl etkileyecek?
• Yeni hangi güvenlik risklerini getirecek?
• İnsanlar gerçek dünyada AI'yi kullandıktan sonra davranışları ve yargıları değişir mi?
• Yapay zekânın daha güçlü yapay zeka geliştirmeye başlaması durumunda bu hızlanma süreci nasıl anlaşılmalı ve sınırlanmalı?

Belki birçok okuyucu bunu sıradan bir AI şirketinin bir hareketi olarak görecektir, ancak Lei Teknoloji, bunun A Topluluğu'nun son zamanlarda dikkat edilmesi gereken en önemli hareketi olabileceğini düşünmektedir. TAI'nin AI endüstrisine ve insanoğluna olan olumlu etkisi, Google'nın互联网 endüstrisine yönelik "İyilik yapma" değer inancını ortaya koyması gibi bir öneme sahiptir. Bu nedenle Lei Teknoloji AGI, bunun büyük bir model yükseltmesine eşdeğer bir "yayın" olduğunu söylemektedir.

TAI'nin öncelikli araştırma alanı Ekonomik Yayılımdır.

İnsanlık tarihinin ilk üç endüstriyel devrimini göz önünde bulundurduğumuzda, hem Jenny dokuma makinesi, hem gürültülü buhar motoru, hem de daha sonraki elektrik ve akış hattı, temelde çok ucuz ve tekrarlayan fiziksel işleri değiştirmiştir. Ancak AI'nın başlattığı dördüncü endüstriyel devrim tamamen farklıdır; doğrudan insanlığın en gurur duyduğu zihinsel çalışma alanlarına girmiştir.

TAI'nin belirttiği temel çelişki şudur: Araçlar geliştirilse de, çalışanların durumu daha da kötüleşmiştir.

Araştırma metninde TAI, gelecekte 3 kişi büyük model kullanarak önce 300 kişinin yaptığı işi tamamlayabilirse, bu şirket nasıl bir hale gelir?

Tasarımcılar, AI ile en sıkıcı katmanları ve malzemeleri tek tıkla halledebilir, programcılar AI ile Vibe Coding yapabilir... AI'nın iş verimliliğini %75 artıracağını varsayalım, ancak bu, insan iş saatlerini 8 saatten (hatta 996'dan) 2 saate indirmeyecektir; tam tersine, insanlar muhtemelen beş kat daha fazla iş yapmak zorunda kalabilir.

TAI, "AI'nın ortaya çıkmasıyla iş yükünüz birkaç kat artar" mantığını önemsiyor. Bu durumu nicelleştirmek için TAI, The Anthropic Economic Index (Anthropic Ekonomi Endeksi) adında yeni bir terim sundu. A Topluluğu, ilgi görmeyen akademik makaleler yayınlamak yerine, bu gerçek verileri ortaya çıkararak insanlara açıkça şöyle diyecek: AI, hangi sektörlerde insanlara ait olan pozisyonları gizlice yerini alıyor? Yeni başlayanlar, çıkışlarıyle birlikte "elendi mi" olacak?

(Görsel kaynağı: AI tarafından oluşturuldu)

Ayrıca TAI, bu hesabı gerçek dünyaya da yansıtıyor. Büyük modellerin asla doymayan bir “altın yutan canavar” olduğunu hepimiz biliyoruz; her AI ile metin, resim, video ürettiğimizde veya hatta basit bir soru sorduğumuzda büyük miktarda Token tüketiliyor. Token’ların temelinde hesaplama gücü, hesaplama gücünün temelinde çip, depolama ve elektrik bulunuyor; daha derine inerseniz karbon emisyonları, sermaye vb. unsurlar da var. Kaynaklar her zaman sınırlıdır; toplum, kaynaklarının büyük bir kısmını AI’ye yönlendirdiğinde, diğer sektörler de etkilenmek zorunda kalacaktır.

2026 yılında herkesin en belirgin hissi, yapay zekânın neden olduğu bellek ve depolama eksikliğinin tüketim elektroniği fiyatlarında doğrudan artışa yol açması ve hatta akıllı telefon üreticilerinin yeni cihazlar çıkarma isteğini azaltmasıydı. Ancak aynı zamanda tüm akıllı telefon üreticileri, ürün mantığını yeniden şekillendirmek ve akıllı telefon ürün döngüsünü uzatmak için yapay zekâya güveniyor; OpenAI'nin yerel yapay zekâlı akıllı telefonu da gündeme gelmişti. Herkes yapay zekâdan fayda sağlarken, daha fazla sektör yapay zekâ tarafından derinlemesine etkileniyor; iyi olanlar, kötü olanlar.

TAI, AI'nın ekonomiye etkisini soyut algıdan veri modellerine dönüştürmek için "ekonomik indeks" kullanacaktır: Sorunu açıkça anladığınızda, onu çözmek mümkün olabilir.

Eğer işini kaybetmek sert bir bıçakla eti kesmek ise, AI'nın insan beyninin düşünme biçimine etkisi doğrudan bir zarardır.

En ilk etkilenen, kesinlikle internet olacak. Bugün internetin bir “çöp dağı” haline geldiğini kolayca görebilirsiniz; eskiden seyahat rehberleri ararken birçok deneyim paylaşımlı uyarı ve kaçınma rehberi bulabiliyordunuz, şimdi ise tüm içerikler, AI tarafından görünüşte zarifçe hazırlanmış ve düzenlenmiş, ancak tamamen sahte ve boş sözlerden oluşuyor.

Daha da kritik olan, AI'nın gri sektörlerin engelini sıfıra indirmesi: AI ile yüz değiştirmek ve yalan haberler yaymak, aile bireylerinin sesini klonlayarak telekomünikasyon dolandırıcılığı yapmak; dolandırıcılar sadece bazı Token'ları harcayarak sıradan insanların hayatlarını mahvedebiliyor.

TAI, AI'nin insanları farkında olmadan giderek daha "aptal" hale getirdiği daha derin bir krizi de fark etti.

Daha önce Çinli kullanıcılar, doğada tanımadıkları bir mantar gördüklerinde fotoğrafını çekip AI'ya “Bu şey yenir mi?” diye sormuş, AI ciddi bir şekilde zehirli mantarı “yenebilir lezzetli mantar” olarak tanımlamış; bir çocuk ise bir fare tuzağı tutup AI'ya bunun ne olduğunu sormuş, AI ciddi ciddi bir şekilde bunun “kare biçimli, metal yapıya sahip bir atık karting oyuncak” olduğunu açıklamış, sonuçta çocuk merakla elini uzattığında parmağı sıkılmış.

Bu haberler cehennem şakaları gibi geliyor, ancak bir fenomeni ortaya koyuyor: AI'nın en büyük özelliği akıllılık değil, 'misteriyöz güven' dir. AI, %100 doğruluk sağlayamaz; Google Gemini'nin en yeni modeli yaklaşık %91 gerçeklik doğruluğu ile yüksek bir seviyededir. Ancak birçok kullanıcı, AI kullanırken farkında olmadan düşünmeyi bırakmış ve tüm kararları bir kod dizisine 'outsourcing' etmeye alışmıştır.

Bunun üzerine TAI, toplumun büyük bir kısmının yalnızca iki veya üç büyük modele danışırken insan topluluğunun düşünme biçimlerinin ve sorun çözme yöntemlerinin nasıl korkutucu bir şekilde "homojenleşeceğine" dair düşündürücü bir soru sordu: Üretim verimliliğini ve bilişsel düzeyinizi artırmak için AI araçlarını kullandığınızı düşünüyorsunuz, ancak aslında "beynizi dışarıya veriyorsunuz". Başka bir deyişle, eğer herkes AI'ye baş vurmaya başlarsa, insanlığın bağımsız düşünme yeteneğini kaybetme ihtimali yüksek ve tüm insan beyni aynı kalıptan çıkarılmış kopyalar haline gelebilir.

TAI, çift amaçlı yetenekler (Dual-use capabilities) adında yeni bir kavram da sundu; resmi açıklama şuydu: Bir AI modelinin biyolojik yetenekleri güçlendiğinde, sadece yeni ilaçlar geliştirmek için değil, aynı zamanda son derece ölümcül biyolojik silahlar üretmek için de kullanılabilir; bir AI'nın kod yazma becerisi çok iyiyse, sadece iyi bir programcı değil, aynı zamanda devlet iç ağlarına kolayca sızabilecek bir hacker'dır.

(Kaynak: Anthropic Resmi)

Bu "çift amaçlı" canavar, otonom araçların beynine, fabrikaların ağır robot kollarına ve hatta güvenlik sistemlerine ve drone kümelerine büyük ölçekli olarak entegre edildiğinde ne kadar büyük bir kaosa yol açar? Telefonlarda AI, "Üzgünüm, yanlış yaptım" diye bir mesaj gösterebilir; ancak gerçek dünyada, bir saniyelik tanıma hatası, gerçek bir üretim güvenliği kazasına neden olur.

Büyük modellerin birkaç haftada bir güncellendiğini düşünün, ancak insanlar bir yasayı değiştirmek, hukuki düzenlemeler yapmak veya sigortayı geliştirmek için yıllarca bekliyor. Bu boşluk, en zayıf savunma dönemindeki “naked” dönemdir. AI nedeniyle meydana gelen felaketler olduğunda, günümüz toplumu bu yükü taşımak için yeterli dayanıklılığa sahip değil.

Bu sorunu çözmek için TAI, Frontier Red Team (Ön Plan Kırmızı Takımı) kurdu. Bu ekibin görevi basit ama soyut: Günlük olarak kendi geliştirdikleri AI ajanlarına saldırmak ve onları kandırmak, böylece bu ajanların gerçek dünyada ne kadar büyük bir zarara neden olabileceğini anlamak ve toplumun eski sistemi tamamen çökmeden önce zorla bir savunma hattı kurmak.

Daha önce, AI'nın gelişim hızını insan programcılar yönetiyordu, ancak bugün ileri büyük modeller kendi kendine makaleleri inceleyebiliyor ve kod yazabiliyor; yakında kendi kendine yeni nesil büyük modeller geliştirebilir. AI'nın kendi kendini yineleme hızı ne kadar artarsa, teknolojinin gelişimi de insan algısından o kadar hızlı uzaklaşacaktır.

(Görsel kaynağı: AI tarafından oluşturuldu)

Bu her an gelebilecek tekil noktaya karşı, TAI akıllı patlamaya yönelik bir yangın egzersizi senaryosu öneriyor.

Kısaca, TAI, 'akıllı patlama' gerçekten yaşanmadan önce insanlığın fren yapma kapasitesini test etmek için önde gelen laboratuvarların yöneticileri ve çeşitli hükümetleri bir simülasyona davet ediyor.

Tüm endüstride gözler kapatılarak koşulan bu anda, Anthropic'in TAI'yi kurma hareketine geri dönüldüğünde, gerçekten "saygı duymak" zorunda kalınıyor.

Komşu OpenAI'nin her gün trend listesinde yer alması, üst düzey yöneticilerin istifa etmesi ve iç çatışmaları ya da Musk ile olan karışık davaları nedeniyle. Birçok AI şirketi performansları kötü olmasına rağmen, hem liste artırmak için çeşitli yollar deniyor, hem de sürekli finansman topluyor ve abartılı değerlemelerle toplumsal sermayeyi çekiyor. A topluluğunun TAI konusunu tartışması, sektörde sürekli tartışılan bir konu; ancak çoğu AI devinin tutumu “İlgileneceğim ne olursa olsun, önce büyüyelim” şeklinde. Bu aşırı hırslı atmosferde, A topluluğu bir fren uygulayarak bu görünmez kalması gereken sorunları açıkça masaya yatırıyor ve AI'ya yönelik yeni bir tutum ortaya koyuyor: Bir yandan büyüme, diğer yandan yönetim.

A şirketi bir hayır kurumu değil, annelik duygusuyla hareket etmiyor; tam tersine çok akıllı bir ticari hamle yapıyor. Şu anda büyük güçlere sahip finansal kurumlar ve hükümetler, AI'nın neden olduğu çeşitli kazalardan korkuyor: Bir model alıp geri götürmek, puanı biraz yüksek veya düşük olmasa da, en büyük korkuları, modelin aniden çılgınca davranıp büyük bir felaket çıkarması ve o anda hiçbir şeyin kontrol edilememesi. A şirketi, TAI ile kendisine “normal biri” imajı kazandırarak kullanıcıların güvenini kazanıyor ve dünyaya güven veriyor.

(Görsel kaynağı: AI tarafından oluşturuldu)

TAI makalesinin sonunda açıkça belirtildi ki: TAI'nin tüm araştırma bulguları ve erken uyarı sistemleri, Anthropic'in bir temel kurumuna—Long-Term Benefit Trust (Uzun Vadeli Fayda İhtiyacı)—doğrudan aktarılacaktır. LTBT'nin misyonu, şirketin ticari kararlarını sıkı bir şekilde izlemek ve Anthropic'in her adımı, kısa vadeli mali rapor kazançlarını değil, tüm insanlığın uzun vadeli çıkarlarını hedeflemektir.

Bu, eski谷歌那句名震江湖的“不作恶”如出一辙：TAI aracılığıyla A topluluğu, rakiplerin kimin daha hızlı hızlanacağını rekabet ettiği bir dönemde, sadece hızlı koşmakla kalmayıp, nasıl durdurulacağını da araştırdığını dünyaya duyuruyor.

Kendini kendi başına denetlemek için büyük teknoloji şirketlerine güvenmek gerçekten saçma, ancak şu anda herkes gözlerini kapatıp gaz pedalını sabitleyip hızla ilerliyor. Bu tür bir dönemde, lider bir oyuncunun TAI gibi bir enstitüyü kurup gerçek para harcayarak ekonomik endeksleri incelemesi, akıllı patlamayı simüle etmesi ve insan beyninin gerilemesini araştırması, kendine dikkat çekmeye değer. Bu nedenle Lei Technology, TAI'nin yayınlandığının A şirketi tarafından yeni bir modelin doğrudan duyurulmasından daha önemli olduğunu belirtiyor.

Anthropic Enstitüsü'nde (TAI), öncü laboratuvarlardan elde edebileceğimiz bilgileri kullanarak yapay zekânın dünyaya etkisini araştıracağız ve araştırma bulgularımızı genel halkla paylaşacağız. Burada, araştırma agenda'mızı yönlendiren soruları paylaşacağız.

Araştırma programımız ana olarak aşağıdaki dört alana odaklanmaktadır:

• Ekonomik yayılma
• Tehdit ve Dayanıklılık
• Gerçek uygulamalarda yapay zeka sistemleri
• Yapay zeka destekli araştırma ve geliştirme

Yapay Zeka Güvenliği Çekirdek Görüşleri makalesinde, etkili bir güvenlik araştırması yapmanın önde gelen yapay zeka sistemleriyle yakın temas gerektirdiğini belirttik. Aynı mantık, yapay zekanın güvenlik, ekonomi ve toplum üzerindeki etkilerine ilişkin etkili bir araştırma yapmak için de geçerlidir.

Anthropic'ta, yazılım mühendisliği gibi işlerin temel olarak değiştiğini ilk aşamada gözlemledik. Anthropic içindeki ekonomik yapıların dönüşmeye başladığını ve oluşturduğumuz sistemlerin yeni tehditlerle karşılaştığını görüyoruz; yapay zekânın erken belirtileri, yapay zekânın kendi geliştirilmesini hızlandırıyor. Yapay zekâ ilerlemesinin faydalarını maksimum düzeyde elde etmek için bu bilgileri mümkün olduğunca çok paylaşmak istiyoruz. Bu dinamiklerin dış dünyayı nasıl etkileyeceğini ve kamuoyunun bu dönüşümleri yönlendirmeye nasıl yardımcı olabileceğini araştırıyoruz.

TAI'de, yapay zekânın gerçek dünyadaki etkilerini öncü laboratuvar perspektifinden inceleyip, bu araştırmaların sonuçlarını dış organizasyonlara, hükümetlere ve kamuoyuna yapay zeka gelişimi konusunda daha iyi kararlar almak için sunacağız.

Kişisel araştırmacılar ve kurumların bu araştırma konularını daha kolay ele alabilmeleri için araştırma sonuçlarımızı, verilerimizi ve araçlarımızı paylaşacağız. Özellikle şunları paylaşacağız:

• İnsan ekonomi endekslerinden daha sık ve daha detaylı bilgiler alarak, yapay zekânın işgücü piyasası üzerindeki etkisini ve uygulamalarını anlayacağız. Büyük değişimlerin ve devrimlerin erken uyarı sinyalleri olmaya çalışacağız.
• Yapay zekânın getirdiği yeni güvenlik riskleri karşısında, dirençliliği artırmak için hangi sosyal alanlara en çok yatırım yapılması gerektiği araştırılmaktadır.
• Anthropic'ın yeni AI araçlarını kullanarak iş süreçlerini nasıl hızlandırdığını daha detaylı açıklayın ve AI sistemlerinin potansiyel rekürsif kendini geliştirme anlamını ele alın.

TAI, Anthropic'in kararlarını etkileyecek. Bu, şirketin aksi halde paylaşmayacağı bazı verileri (örneğin ekonomik endeksler) dışarıyla paylaşması veya teknolojiyi farklı bir şekilde yayınlaması (örneğin, "Glass Wings" gibi projelere veri desteği sağlayan ağ tehdit analizleri) şeklinde ortaya çıkabilir.

TAI Enstitüsü'nün gerçekleştirdiği araştırmaların, Anthropic Uzun Vadeli Fayda Güvencesi (LTBT) için giderek daha önemli bir referans kaynağı olacağını bekliyoruz. LTBT'nin misyonu, Anthropic'in eylemlerini sürekli olarak optimize ederek insanlığın uzun vadeli çıkarlarını korumaktır. Bu araştırma planını, LTBT ile Anthropic'in çeşitli departmanlarındaki çalışanlarla birlikte hazırladık.

Bu, sabit bir gündem değil, dinamik bir gündemdir. Kanıtlar biriktiğince bu soruları geliştireceğiz ve bugün kapsanmayan yeni soruların ortaya çıkması beklenmektedir. Gündeme yönelik geri bildirimlerinizi memnuniyetle karşılarız ve tartışmalarımızdan elde ettiğimiz bilgiler doğrultusunda bunu revize edeceğiz.

Bu soruları yanıtlamamıza yardımcı olmak istiyorsanız, Anthropic araştırmacısı olmak için başvuruda bulunmanıza memnuniyet duyarız. Bu araştırmacı programı dört ay sürer ve TAI ekibi üyeleri tarafından yönlendirilir; bir veya daha fazla ilgili sorunu araştırma fırsatı bulursunuz. Daha fazla bilgi edinmek ve bir sonraki program için başvurmak için burayı ziyaret edin.

Araştırma programımız:

Son güncelleme tarihi: 7 Mayıs 2026

Ekonomik yayılma

Artık daha güçlü hale gelen yapay zeka sistemlerinin dağıtımının ekonomiyi nasıl değiştirdiğini anlamak kritik öneme sahiptir. Ayrıca, halka fayda sağlayacak yapay zeka dağıtım biçimlerini seçmek için gerekli ekonomik verileri ve tahmin yeteneklerini geliştirmemiz gerekir.

Bu araştırmanın temel sorularını yanıtlamak için İnsan Ekonomi Endeksi verilerini daha da geliştireceğiz. Ayrıca, güçlü yapay zekânın topluma etkisini—işsizliğe yol açarak, hiç görülmemiş ekonomik büyümeye neden olarak ya da diğer şekillerde—modellemek için diğer yöntemleri de inceleyeceğiz.

Yapay zekânın uygulamaları ve yayılması

• Yapay zekâyı kim kullanıyor? Yapay zekânın geliştirilmesi, birkaç ülkenin ve birkaç şirketin odaklandığı bir alandır, ancak uygulaması küreseldir. Bir ülkenin, bölgenin veya şehrin yapay zekâyı elde etmesini ne belirler? Yapay zekâyı elde edebilirlerse, ekonomik değeri nasıl elde ederler? Bu durumu etkili bir şekilde değiştirebilecek hangi politikalar ve iş modelleri vardır? Özgür ağırlık veya açık ağırlık modelleri bu dinamikte nasıl bir değişime yol açar?
• Kurumsal düzeyde yapay zekâ uygulamaları: Kurumlar yapay zekâyı neden benimser? Sonuçları nelerdir? Yapay zekâ, bir şirketin veya ekibin en yüksek verimlilik seviyesine ulaşabileceği ölçeği nasıl değiştirir? Yapay zekâ uygulamalarının kurumlar arasında yoğunluğu nedir? Yapay zekâ uygulama yoğunluğundaki değişiklikler, kar marjları ve işgücü payı üzerinde nasıl etki yaratır? Eğer 3 kişilik bir ekip veya şirket, artık 300 kişinin yapması gereken işi yapabiliyorsa, endüstri organizasyon yapısı nasıl değişir? Veya eğer kurumlar bilgiyi daha kolay bir şekilde bir araya getirebiliyor ve bu uygulama ölçek ekonomileri sağlıyorsa, daha büyük ve daha geniş çaplı kurumlar mı göreceğiz, bunlar çalışanları sistematik olarak izleme motiveine sahip mi olurlar?
• Yapay zeka genel bir teknolojidir mi? Yapay zeka, karlı ticari uygulamalarda en hızlı yayılan, ancak sosyal getiri özel getiriden yüksek olan alanlarda en yavaş yayılan geçmiş “genel teknolojilerin” modelini mi takip ediyor? Bu eğilimi değiştirebilecek bir politika veya karar var mı?

Üretkenlik ve ekonomik büyüme

• Üretim Artışı: Yapay zekâ, ekonominin genelindeki yenilik hızını ve üretim artışı üzerinde nasıl bir etki yaratacaktır?
• Kazançları Paylaşma: Yapay zeka geliştirme ve uygulama getirilerini daha geniş çapta yaymak için hangi önceden tahsis veya yeniden tahsis mekanizmaları etkili olabilir?
• Pazar işlem maliyeti: Yapay zeka, pazarlardaki işlem sistemlerini ve işlem maliyetlerini nasıl etkiler? Hangi durumlarda temsilcilerin sizin adınıza müzakere yapması pazar verimliliğini ve adil sonuçları artırır? Hangi durumlarda ise artırmaz?

Geniş çaplı işgücü piyasası etkileri

• Yapay Zeka ve İstihdam: Yapay zeka, ekonominin çeşitli alanlarındaki istihdam durumunu nasıl değiştirecek? Yapay zeka otomasyonu mevcut ekonomik süreçleri yerine geçtikçe, hangi yeni görevler ve iş pozisyonları ortaya çıkabilir? Bu değişimler, farklı bölgeler ve ülkeler arasında nasıl farklılık gösterecek? “İnsan Ekonomisi Endeksi Anketi” aylık olarak insanların yapay zekanın işlerine etkisini ve gelecek hakkındaki beklentilerini nasıl gördüklerini sunacaktır. Aynı zamanda daha yüksek frekanslı ve daha detaylı verileri paylaşmak için ekonomi endekslerini güncelleyeceğiz.
• Yapay zekânın yayılma hızı ayarlanabilir mi? Uluslararası merkez bankaları, enflasyonu bastırmak için politika faizleri ve öngörülü yönlendirme gibi “ayar mekanizmaları” kullanır. Yapay zeka şirketleri (endüstri düzeyinde, hükümetlerle iş birliği içinde) benzer ayar mekanizmalarını uygulayarak, her bir endüstride yapay zekânın yayılma hızını kontrol edebilir mi? Bu durum, açıkça kamu yararı sağlar mı?

İş ve iş yerinin geleceği

• İşçilerin işe bakışı: Tüm sektörlerdeki işçiler mesleki değişiklikleri nasıl görüyor? Bu değişikliklere ne kadar etki edebiliyorlar? “İşçi” gücünün korunup korunamayacağı ya da dönüştürülebileceği mı?
• Profesyonel yetenek geliştirme sistemi: Birçok sektör, gelecekteki üst düzey profesyonelleri yetiştirmek için başlangıç seviyesi pozisyonlara (örneğin avukat yardımcıları, başlangıç analistleri ve yardımcı geliştiriciler) dayanır. Eğer yapay zeka, önceki uzmanlık birikimini sağlayan işleri yerine getirirse, insanlar başlangıçta nasıl uzman olacak? Bu, bir alanda uzun vadeli üst düzey yetenek yedekleri için ne anlama gelir?
• Geleceğe Yönelik Öğrenme: Gelecek için hazırlanmak bugün ne öğrenmelisiniz? Geleceğin meslekleri nelerdir? Yapay zeka, öğrenmeyi ve mesleki becerileri geliştirmeyi nasıl değiştirecek?
• Ücretli iş rolleri: Yapay zekânın ücretli işlerin insan yaşamındaki merkezi konumunu büyük ölçüde azaltması durumunda, insanlar zaman ve enerjilerini hangi koşullarda başka anlamlı kaynaklara yönlendirebilir? Tarihsel veya günümüzde iş azlığı veya işsizlik yaşayan gruplardan ne öğrenebiliriz? Toplum bu dönüşümü nasıl karşılamalıdır?

Tehdit ve Dayanıklılık

Yapay zeka sistemleri genellikle birden fazla yeteneği aynı anda artırabilir, bunlar arasında ikili amaçlı yetenekler de yer alır. Örneğin, biyolojik yetenekleri artırılmış yapay zeka sistemleri biyolojik silahlar üretmek için daha kolay hale gelir. Bilgisayar programlama becerisi yüksek yapay zeka sistemleri ise bilgisayar sistemlerine sızmak için daha kolay hale gelir. Yapay zeka sistemlerinin artırabileceği tehditleri daha iyi anlayabiliyorsak, toplum bu değişen tehdit durumlarına daha kolay yanıt verebilir.

Bu soruları, dönüştürücü yapay zekâya karşı dünyayı güçlendirmek ve ortaya çıkabilecek yeni tehditlere karşı bir uyarı sistemi kurmak amacıyla ortaya sürüyoruz. Bu soruların çoğu, öncü kırmızı ekip araştırmalarımızın agenda'sını yönlendirecektir.

Risk ve çift kullanım kapasitesini değerlendirin:

• Çift amaçlı teknoloji: Güçlü yapay zekâ temelde çift amaçlıdır; hem tıbbi ve eğitim araçlarını geliştirebilir, hem de gözetim ve bastırma amaçlı kullanılabilir. Bu durumun gerçekleşip gerçekleşmediğini ve nasıl gerçekleştiğini anlamak için gözlenebilirlik araçları inşa edebilir miyiz?
• Risk'i nasıl doğru şekilde fiyatlandırmak: Yapay zeka sistemlerinin beklenen tehditlerine karşı toplumun direncini artırmak için hangi etkili, piyasa temelli yöntemler mevcuttur? Öngörülebilir tehditlere (örneğin, yapay zeka ağ saldırı yeteneklerindeki artış) karşı direnci artırmak için yeni risk fiyatlandırma yöntemleri mi geliştirebiliriz, yoksa teknolojik araçlar ve insan organizasyonları mı?
• Saldırı ve savunma dengesi: Yapay zekânın sağladığı yetenekler, ağ uzayı ve biyolojik güvenlik gibi alanlarda temel olarak saldırganlara avantaj sağlayacak mı? Yapay zeka, komuta ve kontrol sistemleriyle giderek daha fazla entegrasyon gibi daha geleneksel alanlara uygulandığında, bu da saldırganlara avantaj sağlıyor mu? Daha genel olarak, yapay zeka insan çatışmalarının doğasını nasıl değiştirecek?

Risk azaltma önlemleri belirleyin:

• Kriz yönetimi planı: Soğuk Savaş dönemi boyunca, ABD Başkanı nükleer bir kriz durumunda kullanılmak üzere doğrudan Kremlin'e bağlanan bir hatla donatılmıştı. Peki, yapay zeka sistemleri bir krize neden olursa, hangi coğrafi politik altyapı gereklidir? Bu altyapı mutlaka devletler arası olmak zorunda değil, şirketler arası veya şirket içi de olabilir.
• Daha hızlı bir savunma mekanizması: Yapay zeka yetenekleri aylar içinde büyük ilerlemeler kaydedebilir, ancak düzenleyiciler, sigorta ve altyapının tepkisi yıllar alır. Bu boşluğu nasıl kapatırız? Otomatik yama, yapay zeka tehdit tespiti veya önceden dağıtılmış tepki yetenekleri gibi savunma mekanizmaları, yapay zeka saldırılarının hızına ve ölçeğine yetişebilir mi? Yoksa bu asimetri yapısal mı? Bu savunma mekanizmalarını en etkili şekilde nasıl dağıtabiliriz?

Gözlem için istihbarat kapasitesi

• Yapay zekânın gözetim üzerindeki etkisi: Yapay zeka, gözetimin işleyişini nasıl değiştirecek? Gözetim maliyetlerini düşürecek, yoksa gözetim verimliliğini artıracak, ya da her ikisini birden?

Gerçek uygulamalarda yapay zeka sistemleri

İnsanların ve organizasyonların yapay zeka sistemleriyle etkileşimi, toplumsal değişimin önemli bir kaynağı olacak. Yapay zeka sistemlerinin etkileşimde bulunan insanları ve kurumları nasıl değiştirebileceğini anlamak, sosyal etki ekibimizin temel araştırma alanıdır. Bu değişiklikleri incelemek için, platformun gözlenebilirliğini artırma yazılımlarından büyük ölçekli nitel araştırmalar yapmak için kullanılan araçlara kadar çeşitli alanlarda mevcut araçları geliştiriyor ve yeni araçlar geliştiriyoruz.

Yapay zekânın bireysel ve toplumsal etkileri:

• Kolektif epistemoloji: Büyük bir nüfus aynı az sayıda modeli referans alırken epistemolojimiz nasıl değişir? Yapay zekânın ortak kullanımından kaynaklanan inançlar, yazım stilleri ve problem çözme yöntemlerindeki büyük ölçekli değişiklikleri ölçmenin yollarını bulabilir miyiz?
• Eleştirel düşünme: Yapay zeka sistemleri giderek daha güçlü ve daha güvenilir hale gelirken, yapay zekaya artan bağımlılığın insan eleştirel düşünme becerilerini nasıl etkilediğini ve bunu nasıl önleyebileceğimizi nasıl anlayabiliriz?
• Teknik arayüz: Teknik arayüz, insanların teknolojiyle nasıl etkileşime girdiğini belirler—televizyon insanları pasif izleyicilere dönüştürürken, bilgisayarlar insanları yaratıcı üreticiler yapmaya daha kolay hale getirir. Yapay zeka sistemlerinin insan özerkliğini geliştirmesini ve teşvik etmesini sağlayacak hangi tür arayüzler kurabiliriz?
• İnsan ve makine işbirliği sistemlerinin yönetimi: İnsanlar, insan ve yapay zeka sistemlerinden oluşan takımları nasıl etkili bir şekilde yönetir? Tersine, yapay zeka sistemleri, insanları, yapay zekayı veya ikisini birlikte içeren takımları nasıl yönetir?

Yapay zekânın büyük etkilerini tanımlayın:

• Davranış Etkisi: Sosyal medyanın insan davranışlarını değiştirdiği gibi, yapay zeka da insan davranışlarını şekillendirebilir. Bu dinamik değişimi anlamak için araştırmacılar için hangi izleme veya ölçüm yöntemleri yardımcı olabilir?
• Araştırmayı teşvik edin: Gerçek dünyadaki yapay zeka uygulamalarını, sadece öncü yapay zeka şirketleri değil, geniş kitlelerin kolayca araştırabilmesi için şeffaf mekanizmalar ve araçlar var mı?

Yapay zeka modellerini anlama ve yönetme:

• Sistem "değerleri": Yapay zeka sistemlerinin ifade ettiği "değerler" nedir? Bu değerler, sistemin eğitim yöntemleriyle nasıl ilişkilidir? Daha spesifik olarak, yapay zekanın "oluşumunun" dağıtım sonrası davranışlarına etkisini nasıl ölçeriz? Bu sorulara yönelik önceki araştırmaları genişleteceğiz.
• Özerk akıllı ajanların yönetimi: Mevcut yasal, yönetim ve hesap verebilirlik sistemlerinin hangi yönleri özerk yapay zeka ajanlarına uygulanabilir? Örneğin, deniz hukuku, terk edilmiş gemilerle nasıl başa çıkıyor, bu da yasalara göre denetimsiz akıllı ajanlarla nasıl başa çıkılacağı ile ilişkilidir. Bunun tersine, mevcut yasalarda yapay zeka ajanlarına uygulanabilir olduğu halde aslında uygulanmaması gereken bazı yönler var mı?
• Akıllı ajanların güvenilirliği: Mevcut yasal, yönetim ve hesap verebilirlik sistemlerine uyum sağlamak için otonom yapay zeka ajanlarının hangi yönleri ayarlanabilir? Örneğin, doğrudan insan kontrolü olmasa bile yapay zeka ajanlarının benzersiz ve güvenilir bir kimliğe sahip olduğundan emin olabilir miyiz?
• Yapay zekânın yapay zekâyı yönetmesi: Yapay zekâ sistemlerini yönetmek için yapay zekâyı nasıl etkili bir şekilde kullanabiliriz? Yapay zekâ düzenlemesinde insanlar hangi alanlarda karşılaştırmalı üstünlüğe sahiptir ya da yasal veya normatif gereklilikler kapsamında “katılmalıdır”?
• Akıllı ajan etkileşimi: Yapay zeka ajanları arasındaki etkileşimlerde hangi normlar ortaya çıkar? Farklı ajanlar nasıl farklı tercihler ifade eder ve bu tercihler diğer ajanları nasıl etkiler?

Yapay zeka destekli araştırma ve geliştirme

Yapay zeka sistemlerinin işlevleri giderek daha güçlü hale gelirken, bilim insanları bunları giderek daha fazla araştırma için kullanıyor. Bu, giderek daha az insan müdahalesiyle, özerk veya yarı özerk şekilde bilimsel araştırmaların yürütüldüğü anlamına geliyor. Yapay zeka araştırması alanında, giderek daha güçlü sistemler, kendi sonraki sürümlerini geliştirmek için kullanılabilir. Bu modeli bazen “yapay zeka tarafından yönlendirilen yapay zeka ar-ge” olarak adlandırıyoruz.

Yapay zeka tarafından desteklenen yapay zeka geliştirimi, daha akıllı ve daha güçlü sistemlerin oluşturulmasının “doğal bir kazanımı” olabilir. Kodlama becerilerindeki ilerleme, sivil ve askeri amaçlı ağ yeteneklerini doğurduğu gibi, bilimsel yeteneklerdeki ilerleme de sivil ve askeri amaçlı biyolojik yetenekleri doğurabilir; karmaşık teknik çalışmaların ilerlemesi, kendi kendini geliştiren yapay zeka sistemlerini doğal olarak ortaya çıkarabilir.

Yapay zeka tarafından desteklenen yapay zeka araştırması, büyük potansiyel riskler taşımaktadır. Politika yapıcılar, alınabilecek önlemleri değerlendirmek sırasında yapay zekanın gelişim hızındaki eğilimleri ve yapay zeka araştırmasının bileşik faiz etkisi yaratmaya başlayıp başlamayacağını anlamak kritik önemdedir.

Yapay zeka, yapay zeka geliştirme için kullanılıyor

• Yapay zeka geliştiriminin yönetimi: Yapay zeka sistemleri kendi kendini geliştirme ve iyileştirme amacıyla kullanılırsa, insanlar bu sistemleri nasıl etkili bir şekilde anlayabilir ve kontrol edebilir? Sonuçta, bu sistemleri kim yönetecektir?
• Bilgi patlaması acil durum egzersizi: Bilgi patlaması acil durum egzersizini nasıl gerçekleştiriyoruz? Masal üstü egzersizi nasıl düzenlemeliyiz ki laboratuvar liderliği, yönetim kurulu ve hükümetin karar alma yetenekleri gerçekten sınanabilsin?
• Yapay zeka geliştirimi için uzaktan ölçüm: Yapay zeka geliştiriminin genel hızını nasıl ölçeriz? Bu bilgileri toplamak için hangi uzaktan ölçüm teknikleri ve altyapı destekleri gereklidir? Yapay zeka geliştirimiyle ilgili göstergeler, rekürsif öz-yükseltme için erken uyarı sinyali olarak nasıl kullanılabilir?
• Yapay zekânın hızla gelişimini kontrol etmek: Akıllı patlama yakında geliyorsa, bu patlamanın hızını yavaşlatmak veya değiştirmek için hangi müdahale noktaları kullanılabilir? İnsanların müdahale edebileceği varsayılırsa, bu yetki hangi kurumlar tarafından kullanılmalıdır—hükümetler mi, şirketler mi?

Yapay zekânın araştırma ve geliştirme alanında kullanımı — yani yapay zeka tarafından desteklenen diğer alanlardaki araştırmalar:

• Teknoloji ağacı: Yapay zekâ, bazı bilimsel alanların gelişim hızını diğerlerinden çok daha fazla hızlandırır; bu, verilerin kullanılabilirliğine, değerlendirme metriklerine ve ne kadar bilginin gizli veya kurumsal sınırlamalar altında olduğuna bağlıdır. Bu gelişme gradyanı ne kadar dengesizdir? Bilimsel ilerlemenin oluşturduğu değişim, insanlık için hangi sorunların öncelikli çözüme kavuşacağını anlamakta hangi anlamları taşır?
• Dağlık bir ön cephe: Modellerin yetenekleri bazı alanlarda diğerlerinden daha güçlüdür. Büyük pozitif dışsallıklara sahip alanlar—örneğin ilaç geliştirme ve malzeme bilimi—alınan yatırım, değerlerinin hak ettikleri düzeyin çok altındadır. Piyasa, model iyileştirmelerinin yönünü özel getirilere göre yönlendirir; ancak sosyal dışsallıklara karşı modellerin performansını geliştirebilir miyiz?

Bu yazı, WeChat hesabından "Değer Araştırması" (ID: jiazhiyanjiusuo) tarafından yayınlanmıştır, yazar: Dingxi