Anthropic CEO, Hızlı Teknolojik Büyüme Karşısında Yapay Zeka Politikası Çerçevesi Öneriyor

Son zamanlarda önde gelen AI devi Anthropic'in CEO'su Dario Amodei, tamamen ağda viral olan 10.000 kelime uzunluğunda bir makale yayınladı: Yapay Zekânın Endeks Çağı İçin Politikalar. Makale, beş politika alanını kapsayarak gözlemlerini çok detaylı bir şekilde açıklıyor ve düzenlemelerden coğrafi politikaya kadar sistematik öneriler sunuyor.

(Orijinal bağlantı:https://darioamodei.com/post/policy-on-the-ai-exponential, bu makalenin sonunda Türkçe tam metni yer almaktadır.)

Dario, dünyayı değiştirmek diye ağzında dolaştıran ve sadece büyük vaadler veren Silicon Valley dünyasında nadir bir ışık kaynağıdır.

O, teknoloji dünyasının yüzünü gizleyen sahte kaplamayı son derece dürüstçe, hatta bir nevi "aileyi feda ederek" soydu.

Dario, halkın AI ile ilgili endişelerini "halkla ilişkilerin iyi yapılmaması" olarak açıklamayı kabul etmiyor; endişeler, risklerin gerçek olması nedeniyle ortaya çıkıyor ve bu asla bir halkla ilişkiler sorunu değil.

O, teknoloji devlerinin şiddetle kaçındığı gerçekliği doğrudan kabul etti: Yapay zeka, ekonomiyi " süper büyüme ve süper eşitsizlik " ekstrem durumunda tıkandıran ciddi ve kalıcı bir işsizlik dalgasına neden olma olasılığı yüksektir.

Ancak bu endüstri öncü "bildirgeci" tarafından sunulan ilacı takip edersek, düşündürücü bir yapısal paradoksla karşılaşıyoruz:

Sorumluluk sahibi bu yönetici, sektörü zincirlemeye çağırırken, tarihte görülmemiş bir güç devralma sürecini doğrudan teşvik etmektedir. Silicon Valley elitleri, insan toplumunun kurallarını yeniden yazmaktadır.

Hızla gelişen AI karşısında Dario, hükümetin AI'yi uçaklar ve ilaçlar gibi hemen düzenlemesini önerdi.

Örneğin, güçlü modellerin üçüncü parti zorunlu güvenlik testlerinden geçmesini gerektiren, FAA benzeri bir mekanizma oluşturun, aksi takdirde yayınlanmamaları gerekir.

Başlangıç noktası kesinlikle insan güvenliği içindir.

Ancak ticari evrimin nesnel kanunlarına göre, havacılık sektörünün yüksek derecede oligopolistik olmasının nedeni, uygunluk maliyetlerinin çılgın derecede yüksek olmasıdır.

AI endüstrisi gerçekten "FAA" hale gelirken, yüksek denetim ücretleri, düzenli kırmızı takım testleri ve nüfuz testleri, doğrudan ayrılmaz bir "nefes alma duvarı" haline gelecektir.

Düzenleme, bazen liderlerin koruma duvarıdır. Yeni başlayanlar ve açık kaynak toplulukları tamamen karşılayamaz.

Sonuç olarak, devler, tüm insanlığın güvenliği için olan “büyük sevgi” nedeniyle, resmi otoriteyi kullanarak yasal bir temizlik gerçekleştirdi ve kendi oligopol durumlarını yasalaştırdı.

Tıbbi ve coğrafi politika alanlarında da bu ince mantık mevcuttur.

Dario, AI ilaç geliştirme için FDA gibi geleneksel kurumların uzun klinik deneylerin yerini almak üzere AI simülasyonlarını kabul etmesi için çağrıda bulunuyor. Niyet iyi olsa da, bu kesinlikle en güçlü hesaplama gücünü elinde bulunduran AI devlerinin trilyon dolarlık ilaç sektörüne karşı düşük boyutlu bir saldırı yapmasını kolaylaştırıyor.

Aynı zamanda, içerde çipleri paylaşan ve dışarıya karşı sıkı bir koruma uygulayan bir “Demokratik Ülkeler AI İttifakı” kurguladı.

Bu ittifak kurulursa, teknolojiyi kim sağlar? Kim dışlanır? Kim düşman olur? Bu süreçte kim kazanır?

Teknolojik avantajı korumak için teknoloji devleri sadece teknoloji sağlayıcıları değil, aynı zamanda yeni nesil oyun kurallarını belirleyen ve hatta devasa savunma bütçelerini alan yeni bir "dijital askeri-endüstriyel kompleks" haline gelebilirler.

Eğer tarihin izlerini inceleyecek olursak, bunların hepsi aslında önceden belirtilmişti.

Tarihte, bir şirket yeterince büyük hale geldiğinde genellikle “devleti ele geçirir veya yarı-devletsel özellikler kazanır”. Dario, metinde İngiliz Doğu Hint Şirketi’ne çok doğru bir benzerlik çıkarmıştır.

Şirket, başlangıçta sadece baharat ticareti yapan bir grup tüccardı, ancak rotalarını korumak ve küresel çıkarlarını yönetmek için giderek orduları istihdam etmeye, mahkemeler kurmaya ve para bastırmaya başladı ve nihayetinde Alt Kıta'yı yöneten “yarı devlet” haline geldi.

Bugünün Silicon Valley devleri, tam olarak aynı yolu izliyor.

Ancak o zamanlar medya güçlü gemiler ve silahlardı, bugün ise hesaplama gücü.

Dario, AI'nin üssel olarak gelişmeye devam etmesi durumunda, "veri merkezlerindeki bir deha ülkesi" olacağını hayal etti: AI, tüm alanlardaki dehaların bir araya geldiği bir yer haline gelecek ve güçlü bir AI sahibi olmak, kendine hizmet eden bir ülke kadar çok dehaya sahip olmak anlamına gelecek. Bu nedenle, güçlü bir AI'ye sahip bir ordu, AI'siz bir orduyla karşılaştığında, fark "İkinci Dünya Savaşı'ndaki deniz piyadeleri ile ortaçağ kılıçlıları" arasındaki fark gibi olacak.

Teknoloji devlerinin, finansal çöküşlere neden olabilecek, biyolojik silahlar üretebilecek veya küresel coğrafi siyaseti belirleyebilecek süper teknolojilere sahip olmasının ardından, geleneksel devlet kurumları bunları etkili bir şekilde kontrol etmekte zorlanmaya başlamıştır.

Büyük oyuncular zaten kendi güvenlik standartlarını belirlemeye, modellerini kendi kendine test etmeye ve hatta uluslararası ittifak senaryoları tasarlamaya başlamıştır.

Bu, onların kötülükçü bir heves grubu olması değil, teknolojinin bu boyuta ulaştıktan sonra güç boşluğu ve insan doğasının karmaşıklığı nedeniyle doğal olarak benzer bir yola sapmalarıydı.

Bu, hesaplama gücü her şeyi belirlediği bir dönemde, bireysel gücün sonsuza kadar sıkıştırıldığı görülüyor.

Dario, gerçekliği acımasızca ortaya koydu: AI, sadece fiziksel işleri değil, insanlığın gurur duyduğu bilişsel yetenekleri de yerine geçiyor.

AI'nin "tüm zekâların bir araya geldiği ülke" karşısında, mesleki hayatımızda çaba sarf ettiğimiz mantıksal akıl yürütme ve planlama becerilerimiz çocuk oyuncağı gibi görününce, nasıl davranmalıyız?

Büyüklerin önerdiği çözüm, temel gelir (UBI) gibi makroekonomik desteklerdir. Çalışmasanız bile devlet size para verir.

Ama yemek kabı korundu, içteki büyük boşluğu kim dolduracak?

Belki Dario'nun metindeki metafor gibi: Makineler, satranç ve go'da insanları zaten ezmiş olsa da, insanlar hâlâ şahmat tahtasına hayatlarını adayacak ve hâlâ saygıyı hak edecek.

Makinenin hesapladığı soğuk bir "en iyi çözüm"ken, insanlar canlı bir "deneyim kendisi" arar.

Standartlaştırılamayan özellikler, geleceğin en kıymetli kaynakları olacaktır.

The Lord of the Rings'un bir yan hikayesinde, iki Hobbit, ormanlarını kesen bir orduya karşı korumak için bilge ama yavaş hareket eden bilinçli bir ağaç olan Treebeard'ı uyandırmaya çalışır. Sorun, Treebeard'ın hareket hızının Hobbit'lerden tamamen farklı olmasıdır. Bir ağaca selam vermek bile bir gününü alır, bu nedenle onu ve arkadaşlarını yeterince hızlı harekete geçirmek neredeyse imkânsızdır.

Yapay zeka (AI) ve siyasi sistemlerimiz arasındaki kesişim, Hobbitler ve Treebeard gibi hissettiriyor. AI, çok hızlı bir hızla gelişiyor — sadece dört yıl içinde, AI modelleri neredeyse bir satır tutarlı kod yazamazken, şimdi büyük AI şirketlerinin kodlarının çoğunluğunu yazıyor. Biyoloji, fizik, matematik, finans, hukuk, çeviri ve birçok diğer alanda benzer ilerlemeler kaydedildi. AI'nın ölçekleme yasaları, hesaplama kapasitesinin artmasıyla genel bilişsel yeteneklerin üssel olarak artacağını öngören bu yasaların arkasında şimdiye kadar on yıldan fazla deneysel kanıt var. Eğer bu ölçekleme yasaları yalnızca bir veya iki yıl daha devam ederse, muhtemelen “Güçlü AI” ya da “veri merkezindeki bir zekâ ülkesi” diye adlandırdığım şeyi elde edeceğiz.

Buna karşılık, politika—özellikle yasama—çok yavaş ilerliyor. Bu genellikle yeterli nedenlere dayanır: hükümetin son derece büyük güçleri vardır ve bu güçleri aceleyle kullanmak genellikle en iyi tercihtir. Ancak bu zaman ölçeğindeki uyumsuzluk hâlâ çok acı vericidir: Kongre'nin harekete geçmesi years sürebilirken, AI bir ilginç bir oyuncaktan gerçek bir beyinler ülkesine dönüşebilir.

Geçtiğimiz yıllarda, AI'nın bir ana ticari teknoloji haline gelmesinden beri, bunu sorumlu bir şekilde ele almak isteyenler bir çıkmaza girdi. Üstelik bu üssel büyümenin yönünü net bir şekilde görebiliyoruz: birkaç yıl içinde AI'nın, nükleer silahların jeopolitiği yeniden şekillendirdiği ve endüstri devriminin her ekonomik ve sosyal sorunu kökten değiştirdiği gibi, tüm politika arazisini temelinden sarsacak nadir teknolojilerden biri olacağını şiddetle şüpheleniyoruz. Ancak sadece o anda AI'nın ne yapabildiğine odaklananlar için, bu çok sıradan bir teknoloji gibi görünüyor— belki de en son tüketici uygulaması veya kripto para gibi. Çoğu politika yapıcı ve şirketi, laissez faire yaklaşımının dışında anlamlı bir şeyin olabileceğine ikna etmek zor. Adaletle söylemek gerekirse, AI'nın radikal etkileri henüz ortaya çıkmamıştır ve bunların hangi biçimde ortaya çıkabileceğini tam olarak bilmediğimiz için, eylem alma isteği olsa bile doğru politikaları tasarlamak zordur.

Bu durumdan kaynaklanan sınırlamalar nedeniyle, birçok güvenlik savunucusu (Anthropic dahil) şu ana kadar, seçimlerin korunmasına, gelecekte hızlı tepki verme hazırlığına (tee up, argo/deyim, hazırlık yapmak, temel oluşturmak) veya yakında ortaya çıkacak olaylara (coming down the pike, argo/deyim, yakında ortaya çıkacak veya yaşanacak şeyleri) dair daha iyi bir anlayış sağlayarak politik eylemleri savunmaya odaklanmıştır — şeffaflık yasalaştırmaları, çipler üzerine ihracat kontrolleri ve AI’nın işgücüne etkisiyle ilgili veri toplama gibi. Bunlar yeterli değil, ancak şu anda yapılabilecek her şey gibi görünüyor.

Ancak geçen aylarda AI'nın inanılmaz gücü ve riskleriyle ilgili kanıtlar reddedilemez hale geldi. Belki de en temsili örnek Claude Mythos Preview ve önde gelen modellerin (frontier models) siber güvenliğe çok gerçek bir tehdit oluşturduğu keşfi, finansal sektörü, kritik altyapıyı ve ulusal güvenliği tahrip etme olasılığı yaratmıştır. Mythos Preview, küresel siber güvenlik arazisini tamamen karıştırdı. Ancak daha geniş anlamı, AI modellerinin artık küresel ve ulusal stratejik öneme sahip araçlar haline geldiğini kesin olarak kanıtlamasıdır. Mythos seviyesindeki modellerin getirdiği siber riskler, karşılaşılmak zorunda kalınacak son risk olmayacaktır. Ben, biyolojik risklerin çok yakında takip edeceğini ve ciddi AI özerkliği risklerinin de hemen ardından geleceğini düşünüyorum (Not 1).

Şu anda küresel olarak, bundan sonra şaşırtıcı bir hızla bileşik olarak artacak risklerle fırsatlara yanıt vermek için yavaş ve kararsız bir politika kurumu başlatmamız gerekiyor. Birçok politika yapıcı, eyleme geçmek konusunda giderek daha açık bir tutum sergiliyor ve meslektaşlarımızın, son yıllarda savunduğumuz aynı pozisyonu desteklemeye başladığını görmek cesaret verici. Bu iyi bir şey, ancak bu erken eylemlerin AI'nın hızlı ilerlemesine kıyasla en az bir yıl geride kaldığını endişeyle gözlemliyorum. Bu makale, bu boşluğu kapatmayı amaçlıyor: üstel büyümeyi şu anki konumunu netleştirerek ve anın zorluklarına karşı gerekli olan kolektif eylemi tanımlayarak.

Yapay zekâ dünyasında yeniden düşünülmesi gereken beş sürekli politika alanına odaklanacağım: düzenlemeler ve kamu güvenliği, makroekonomi ve vergi politikaları, bilimsel yenilik, devlet ile toplum arasındaki güç dengesi ve coğrafi politika. Anthropic bir ABD şirketi olduğu için çoğunlukla ABD politikası açısından konuşacağım, ancak sunduğum önerilerin çoğu dünyanın diğer bölgeleri için de geçerlidir.

Bu makaleyle birlikte, Anthropic, ileri model testleri için bir yasa teklifi ve iş kaybı için bir politika çerçevesi yayınlayacak ve bunlar için büyük miktarda finansal destek sağlayacağız. Gelecekte daha fazla şey yapmayı planlıyoruz, ancak bunları ciddiyetimizi göstermenin ilk adımları olarak görüyoruz.

1. Düzenleme ve Kamu Güvenliği

Her yeni teknoloji veya ürün, faydalı ve zararlı kullanım alanlarına sahiptir, bu da yenilik ile güvenlik arasında bir ikilem yaratır. Bir ürünün düzenlenmesi, zarar verme olasılığını azaltır ve dünya çapında insanların yaşam kalitesini iyileştirmede önemli bir rol oynar, ancak aynı zamanda getirdiği faydaları doğrudan azaltabilir ve dolaylı olarak yeniliği bastırabilir. Burada, düzenleyicilerin genellikle karmaşık ekonomik dengeler hakkında doğru kararlar almak için gerekli bilgiye sahip olmadığını savunan bir hayekçilik bakış açısı da vardır; bu nedenle düzenlemeler genellikle hem etkisiz hem de yorucudur. İlgili bir kavram ise Collingridge ikilemi olup, bir teknolojinin etkilerinin genellikle çok geç kalınana kadar tahmin edilmesinin zor olduğunu ve ardından bunları kolayca yönetmenin zor olduğunu belirtir.

2023-2024 yılları arasında bu dinamikler AI alanında özellikle ön plana çıktı (ifade, ön plana çıkmak, dikkat çekmek veya korkutucu görünmek anlamındadır). Anthropic için, AI'nın gelecekte milyonlarca insanı tehdit edebilecek biyolojik silahlar üretme kapasitesine sahip olabileceği veya aşırı durumlarda kendi kendine hareket etme biçimlerinin insanlığı doğrudan tehdit edebileceği açıkça görülüyor. Ancak risklerin tam olarak hangi biçimde ortaya çıkacağı, bunların en iyi şekilde nasıl test edileceği ve azaltılacağı, ayrıca pratikte nasıl gelişeceği (ifade, gelişmek, sonuç doğurmak anlamındadır) belirsiz kalıyor. Bu nedenle, önceden hazırlanmış yasal düzenlemelerin etkisiz hale gelme riski yüksektir — gerçek risklerin en kritik kaynaklarını kaçırmakla birlikte anlamsız veya düşük değerli uyum gereklilikleri yaratma riski taşımaktadır (Not 2).

Sonuç olarak, o dönemde doğru yaklaşım şeffaflık oldu. AI modellerinin geliştiricileri, güvenlik prosedürlerini ve modeller üzerinde gerçekleştirdikleri testleri açıklaymalı ve kamuoyu ve bilim dünyasının risklerle ilgili daha iyi bir anlayış kazanabilmesi için herhangi bir kritik güvenlik olayını rapor etmelidir. Riskler daha net hale gelip biçimleri daha belirgin hale geldiğinde, şeffaflık yoluyla elde edilen kanıtlar, en endişe verici risklere odaklanan akıllı yasal düzenlemelerin tasarlanmasında kullanılabilir. Bu nedenle, 2025 yılında Anthropic, şeffaflık yasalaştırmalarını destekleyerek Kaliforniya'daki SB 53, New York eyaletindeki RAISE ve Illinois'deki SB 315 (2026 başlarında kabul edildi) yasalarının geçişine yardımcı oldu ve federal düzeyde şeffaflık standartları oluşturma konusunda kampanya yürüttü.

Ancak şu anda riskler açıkça ortaya çıkmıştır. AI için şeffaflığı aşarak daha ciddi ve bağlayıcı bir düzenlemeye geçme zamanı geldi. Ben, en azından şu anki üssel büyüme aşamasında, en iyi benzerliğin otomobil, uçak veya ilaçlar olduğu düşünüyorum—bu, modern ekonominin vazgeçilmez güçlü teknolojileridir, ancak yanlış tasarlanırsa veya işletilirse büyük ölçekli ölümlere neden olma potansiyeline sahiptir. Bu nedenle, AI düzenlemesi çerçevesini Federal Havacilik İdaresi (FAA) gibi kurumlar üzerinden oluşturmak gerektiğini düşünüyorum. Öncü AI modelleri uçaklar gibi kabul edilmeli ve teknik testlerden ve denetimlerden geçmeye zorlanmalı; yüksek güvenlik standartlarını karşılamazlarsa, kamu güvenliği tehdidi olarak yayınlanması engellenmeli veya geri çekilmelidir. Trump yönetiminin, hükümetin AI alanında daha büyük bir rol oynamasına yönelik adımlar atmasına şükran duyuyorum, ancak Anthropic'in önerisi daha ileri adımlar öneriyor. Önerimiz aşağıdaki unsurları içeriyor:

• Belirli bir hesaplama gücü eşiğini aşan modeller,网络安全, biyolojik silahlar, AI sistemlerinden kaynaklanan kontrol kaybı ve bu diğer riskleri hızlandırabilecek otomasyonlu araştırma ve geliştirme olmak üzere dört belirli alanda risk seviyelerini değerlendirmek için uygun üçüncü taraf zorunlu testlerini geçmek zorundadır.
• Üçüncü taraf değerlendirmelerine göre modelin kabul edilemez bir risk taşıdığı değerlendirilirse, hükümetin bu modelin dağıtılmasını engelleme veya deter etme yetkisi olmalıdır. Bu yetki, yukarıda belirtilen dört spesifik risk sınırları içinde kalmalı ve siyasi yanlılık veya keyfi kararlar karşısında koruma önlemleri içermelidir.
• Üçüncü taraf değerlendirmesi, hükümet kurumları (FAA'ya benzer) veya belirli standartlara göre modeli değerlendirmek için hükümetten yetki ve denetim almış bir grup özel organizasyon tarafından yapılabilir (bir “düzenleyici pazar” yaklaşımı).
• Gelişmiş AI modelleri geliştiren bir AI şirketi, modellerinin ağırlıklarını korumak için güçlü güvenlik standartlarına sahip olmalı, düzenli olarak kırmızı takım testleri (red teaming) ve nüfuz testleri yapılmalı ve önemli tehdit eden aktörlerle mücadelede hükümetle iş birliği yapmalıdır.
• Bu dört kritik alanın güvenlik olayları zamanında rapor edilmelidir.

Bir gün olabilir, belki de çok yakında, en güçlü yapay zeka sistemleri uçak veya otomobil gibi değil, silahlanabilir nükleer malzeme gibi göründüğünde—bu, insanlık için sadece “sadece” kamu güvenliği tehdidi değil, bir tehdit olur ve bu noktayı aşmamız gerekir. Eğer böyle bir durum ortaya çıkarsa, yukarıda listelediğimden daha radikal düzenleyici önlemler almak zorunda kalabiliriz (not 3). Ancak 2024 yılında önerdiğim önlemleri uygulamak ve hedeflemek zor olduğu gibi, kendi kendimizi aşmamalıyız (deyim, erken harekete geçmek, öne geçmek anlamında). Bugün ortaya çıkan tehditler için politikalar tasarlamalı ve yeni tehditler ortaya çıktığında daha hızlı tepki verebilmemiz için temel oluşturmalıyız.

2. Makroekonomi ve Vergi Politikası

Uzun yıllardır, devletler ekonomik büyüme teşvik ederken aynı zamanda önemli kamu hizmetlerini sağlayıp en zayıf grupları koruma konusunda zorluklarla karşı karşıya kalmıştır. Bu tartışmaların önemli (ve genel olarak doğru) bir varsayımı, ekonomik büyümenin kırılgan ve zor elde edilebilir olmasıdır—eşitsizliğin azaltılması önemli faydalar sağlayabilir ancak bu, vergi artışı veya açıkla maliyetli olma riskiyle dengelenmelidir.

Güçlü bir yapay zekânın bu varsayımı bozabileceğini düşünüyorum. Eğer yapay zeka, insanlardan çok daha iyi şekilde çoğu bilişsel görevi yerine getirebilir hale gelirse, bilim, teknoloji ve operasyonel verimliliği hızlandırarak çok hızlı ve güçlü bir ekonomik büyüme sağlayabilir. Yapay zekânın daha iyi yapay zekâlar oluşturmak için yinelemeli yeteneği, bu büyümeyi daha da artırabilir. Ancak tam olarak aynı nedenlerle, yapay zeka, önceki teknolojilere kıyasla insan bilişsel yeteneklerine karşı daha yaygın bir ekonomik ikame olarak da işlev görebilir ve önceki teknolojilere kıyasla ekonomiyi daha hızlı değiştirebilir. Bu nedenle, yapay zekânın işgücü piyasalarına önceki teknolojilere kıyasla çok daha büyük ve potansiyel olarak daha kalıcı bir çalkantı yaratabileceğine dair gerekçeler vardır. Karşılaştığımız risk, sonunda ekonomik denge dialinin süper büyüme ve süper eşitsizlik ayarında takılı kalacağı ve bu ayardan çıkması zor olabilecek bir dünyaya girmektir. Böyle bir dünyada, temel zorluk büyüme teşvik etmek değil, herkesin faydaları paylaşabileceği bir yol bulmaktır.

Bu makalede tartışılan konular arasında makroekonomi ve kalıcı işgücü yerine geçme, muhtemelen en çok kamu ilgisini çekmiş ve en çok yanlış anlaşılmış konular olduğu için, iki noktayı çok açık bir şekilde belirtmek istiyorum.

Öncelikle, kalıcı iş kayıpları kabul edilemez ve tehlikelidir; bunu teşvik etmek yerine, bunu en aza indirmek veya önlemek için tüm çabalarımızı göstermeliyiz. İş kayıpları konusunda röportajlarda ve yazılarım da uyarıda bulundum, çünkü bir “kıyamet habercisi” olmaya çalışmak yerine, politika yapıcıların ve özel sektörün uyum sağlama ve karşı önlem alma şansını en iyi şekilde değerlendirmelerini istedim. Bir şirket olarak, Anthropic her zaman müşterileriyle iş birliği yaparak, mevcut işgücüyle daha fazla şey yapmalarını sağlayacak yaratıcı yeni kullanım alanları ve yeni gelir kaynakları bulmaya odaklanır, genellikle işten çıkarmayı anlamına gelen maliyet tasarrufuna değil. Bu sistemler ilerledikçe, insanların AI sistemlerinde mümkün olduğunca aktif roller oynayabileceği yeni etkileşim paradigmaları tasarlamaya da devam ediyoruz. Daha geniş bir bağlamda, tüm dünyanın AI'yi mümkün olduğunca çok yeni şekilde kullanmaya çalışması değerlidir, çünkü bu toplumun yeni potansiyel iş yapılandırmalarını keşfetme yoludur. AI'nın büyük ölçekli yeni ekonomik fırsatlar getireceğine inanıyorum. AI'nın tek bir kişinin milyar dolarlık şirketler kurmasına izin vereceğini öngörmüştüm ve zaten birkaç kişilik ekiplerin yüz milyonlarca dolarlık gelir elde ettiğini görmüşüz. Ancak aynı zamanda, tüm çabalarımıza rağmen, AI'nın hâlâ ciddi ve kalıcı işsizliğe yol açma olasılığı yüksek olduğunu kabul etmeliyiz—bu, muhtemelen bu teknolojinin özgün bir özelliği ve insan bilişini geniş çapta kopyalama yeteneğinden kaynaklanmaktadır (not 4).

İkinci olarak, AI tarafından oluşturulan iş kayıpları sorununa yönelik herhangi bir çözüm, herkes için ekonomik güvence sağlama ihtiyacını hem de insanların anlam, amaç ve eylem gücü arayışını karşılama ihtiyacını aynı anda ele almalıdır. Sonuncusu nihayetinde daha önemlidir ve toplumun nasıl organize edilmesi gerektiği, insanların neye ulaşması gerektiği ve güzel bir hayatın ne olduğu gibi derin sorulara dayanır. Aslında, tüm yönlerden herkesden daha iyi bir AI'nın olduğu bir dünyada bile insanların hâlâ derin bir amaçla yaşamaya ve etkileyici ve güzel şeyler yaratmaya devam edebileceğine çok iyimserim (not 5). Ancak bu, politikaların doğrudan çözebileceği bir sorun değil, toplumun ortaklaşa çözmek zorunda kaldığı bir sorundur. Politikaların en çok katkı sağlayabileceği yer, işsizliğin hızını yavaşlatarak ve olası etkilenenlere ekonomik güvence sağlayarak bu çalışmayı yapmak için bize zaman kazandırmaktır.

Bu ruhla, yardımcı olabilecek bazı ana politika müdahaleleri şunlardır:

• Ölçme ve izleme. Basit veri toplama ve analizini, sorunun ölçeğine yanıt vermek için yetersiz olarak reddetmek kolaydır, ancak gerçek durumu doğru bir şekilde ölçemiyorsak, iyi politikalar oluşturmak pek mümkün olmayacaktır. Anthropic, insanların Claude'ı nasıl kullandığına dair ekonomik endeksleri yaklaşık bir buçuk yıldır işletmektedir, ancak hükümetler, bizim erişemeyeceğimiz veri türlerine sahip olabilir ve yapay zekanın yarattığı işsizliği daha dikkatli izlemek için ekonomik istatistiklerini büyük ölçüde genişletebilir.
• İstihdamı teşvik eden teşvikler. Geniş kapsamlı istihdam teşvik politikaları, iş yerlerindeki kayıpları yavaşlatabilir veya azaltabilir: insanların düşük maaşlı işlere yönlendirildiği durumlarda onları karşılayan maaş sigortası politikaları (not 6), işverenlerin işten çıkarmalarını önleyen tutum vergi teşvikleri, işgücü eğitimi hibeleri veya işgücü piyasasının uyum hızını artırmak için işverenler ile çalışanlar arasında eşleştirme sağlayan altyapı. Hangi müdahalelerin en iyi olacağı detayları, AI'nın hangi tür istihdam ikamesine neden olacağınıza bağlı olacaktır; ancak bu politikaların maliyetlerini ve piyasa verimliliği kayıplarını kabul etmeliyiz, özellikle de bunların AI tarafından sürülen verimlilik artışı ile telafi edilebileceğini göz önünde bulundurarak.
• Uzun vadeli makroekonomik destek. Eğer AI tabanlı işgücü yerine geçme sonunda büyük ölçekli olur ve işgücüne olan talebi kalıcı olarak düşürürse, sadece teşvik programlarını aşarak işgücünün büyük bir kısmına uzun vadeli gelir desteği sağlamak gerekli olabilir. Tüm vatandaşlara temel gelir gibi mekanizmalar, ilgili şirketlerden vergi alma veya sermaye kazançları vergisini artırma yoluyla finanse edilebilir. Tüm vatandaşlara sermaye hesabı başka bir araç sunar. Genel olarak, hızlı ekonomik büyüme ortak refah için vergi bazını oluşturmalıdır.

Yapay zekânın ekonomik endişeleri kapsamında bahsetmediğim ortak bir odak, veri merkezleridir, özellikle de enerji fiyatlarını artırma potansiyelleridir. Benim görüşüm, yapay zeka şirketlerinin oranlardaki artışları kendi maliyetlerine karşılaması gerektiğidir—ve Anthropic bunu taahhüt etti—ancak veri merkezleriyle ilgili kamuoyunun düşmanlığı, daha geniş yapay zeka ekonomik endişelerinin bir sembolü veya boşalma yolu olduğuna inanıyorum. Bu daha geniş ekonomik sorunlarla ilgili doğrudan toplumsal bir diyalog yapmak ve onlara ikna edici çözümler sunmak önemlidir; aksi takdirde, veri merkezleri meselesinde olduğu gibi dolaylı yollarla ortaya çıkacaktır.

3. Yapay Zekânın olumlu etkilerini hızlandırın

AI'nin kendisi için yenilik ve güvenlik arasındaki dengenin korunması gerektiği gibi, biyomedikal, enerji veya malzeme bilimi gibi AI tarafından hızlandırılabilecek teknolojiler için de eşit bir denge sağlanmalıdır. Ancak AI'nin kendisi, çok hızlı ortaya çıkan ve hiçbir deneyimimizin olmadığı yeni zorluklar getirebilirken, AI tarafından hızlandırılan diğer alanlar tamamen farklı bir sorunla karşılaşabilir: daha yavaş yenilik hızları için tasarlanmış düzenleyici sistemler, AI'nin getireceği yeni ürünler ve ilerlemelerin akınına hazır değil. AI ayrıca, gıda ve ilaç yönetimi ajansı (FDA) gibi düzenleyici kurumların tuttuğu şüpheli varsayımları bozarak bu alt teknolojileri daha güvenli ve öngörülebilir hale getirebilir.

Bu nedenle, AI'nın kendisiyle tersine, AI'nın alt uygulamaları açısından daha çok endişem, düzenleyicilerin hızla ilerleyen değişimi yakalayamayarak ilerlemeyi yavaşlatmasıdır; önemli riskleri çözememesi değil. AI'nın faydalarının yavaşlamasını ve risklerinin artarak yaklaşmasını en azından istemiyoruz; bu nedenle bu konuda en kısa sürede harekete geçmek önemlidir.

Bu sorun ve çözümü, bilim, ticaret ve teknolojinin çeşitli alanlarında farklı şekillerde ortaya çıkacak, bu nedenle örnekleyici bir alan olan biyomedikal yenilik üzerine odaklanacağım. Bu, hem AI'nın en büyük insani kazanımlarının kaynağı olma olasılığından, hem de özellikle düzenleyici açıdan karmaşık bir alan olması nedeniyledir. AI'nın biyomedikal yeniliği nasıl hızlandıracağını tam olarak bilmiyoruz, ancak muhtemelen şöyle olacak:

• Aday yeni ilaçların düzenleyici süreçlere girmesini büyük ölçüde hızlandırın;
• Daha iyi optimizasyonlar sayesinde yeni ilacın etki büyüklüğünü artırın ve güvenliğini iyileştirin; potansiyel biyolojik özelliklerini daha iyi anlayabilirsiniz;
• Daha önce başarıyla tedavi edilmemiş hastalıklar için aday ilaçlar geliştirildi;
• Antikorlar, peptitler ve hücre tedavileri gibi, yeni tedavi sınıfları haline gelen yöntemlerle hızlıca tamamen yeni türde tedaviler yaratın.

Bu ilerlemelerin bazıları, yapısal değişiklikler yapmadan düzenleyici zaman çizelgesini doğal olarak hızlandıracaktır. Daha büyük etki büyüklüğüne sahip ilaçlar, daha küçük ve daha düşük maliyetli klinik deneylere ve hızlandırılmış onay mekanizmalarına yol açabilir. Ancak mevcut düzenleyici sistem, aday ilaçların genellikle etkisiz olduğunu ve etkili olsalar bile genellikle ciddi güvenlik sorunları taşıdığını varsayarak, yüksek düzeyde inceleme ve çok sayıda aşamalı test uygulamak üzere tasarlanmıştır. Hem FDA'da hem de Avrupa İlaç Ajansı'nda (EMA) bir aday ilacın düzenleyici süreçten geçmesinin tipik süresi 7-8 yıldır ve bu, kısmen bu karamsar varsayımlardan kaynaklanmaktadır. Eğer reform yapılmazsa, yapay zeka basitçe bu sistemi tıkayacak veya aşırı yükleyecektir.

Açıkça, şeyleri, bir dizi萬靈油 ( argot, dolandırıcılık yapan sahte ilaçları ifade eder ) ilaçları veya yaygın güvenlik olaylarına yol açacak şekilde değiştirmek istemiyoruz. Ancak bazı nispeten basit reformlar, FDA, EMA ve benzer kurumları, AI tarafından desteklenen hızlı bilimsel hızlanmaya (eğer böyle bir durum gerçekleşirse) daha iyi uyarlayabilir.

Daha önce pahalı ve yavaş deneyler gerektiren birçok klinik süreç adımı, artık AI ile simüle edilerek veya analiz edilerek hızlıca tamamlanabilecek. Düzenleyici kurumlar, bu tür yöntemlerin kabul edilmesi için gerekli koşulları belirlemeye hemen başlamalı. Bu, yöntemler işe yaradığında gereksiz testlerin uzatıldığı bir dönem geçmeden hemen benimsenmesi anlamına gelir. Bu, şunları içerebilir:

• AI tabanlı farmakodinamik ve farmakokinetik (PD/PK) modelleme;
• Çoklu tür hayvan toksikoloji araştırmalarına gerek kalmadan toksikolojik tahminler yapın;
• Deneysel büyük doz aralığı ihtiyacını azaltmak için daha doğru doz seçimi;
• Büyük veri kümelerinin analizi yoluyla biyobelirteç doğrulaması;
• Daha fazla katılımcı招募 ihtiyacını azaltmak için klinik deneylerde sentetik kontrol grubu;
• Alternatif bitiş noktalarını geliştirin (bu, yaşlanma ve nörodejeneratif hastalıklarda özellikle önemlidir).

Bu özel örneklerin yanı sıra, kurumlar daha radikal ve esnek bir onay hızlandırma mekanizması da göz önünde bulundurmalıdır. Yapay zekânın tahminlerine göre, çok sayıda aniden ortaya çıkan (out of the blue, deyim, beklenmedik şekilde, aniden anlamında) ve son derece etkili müdahaleler ortaya çıkacak ve düzenleyici sistemler bunları aşırı şüphecilikle değil, ciddiye alacak şekilde hazırlanmalıdır.

Biyomedikal hızlanma, AI'nın faydalarını önemli ölçüde artırmalıdır, ancak AI risklerini azaltmaya da katkıda bulunabileceğini unutmamak gerekir. Biyomedikal onay süreçlerinde yapılan reformlar biyolojik savunmaya yardımcı olabilir ve AI destekli biyomedikal ilerlemeler, toplum üzerinde istikrarlayıcı bir etki yaratabilecek şekilde mental sağlık üzerinde de iyileşme sağlayabilir.

4. Ülke ve Vatandaş Özgürlükleri

Her devlet sistemi, devlet gücünü ve sınırlarını ele almak zorundadır. Devlet, nüfusunu iç ve dış tehditlerden korumak konusunda meşru, sıklıkla hayati çıkarlara sahiptir. Ancak ona fazla güç vermek, tiraniye giden yoldur. Modern demokratik devletler bu dengenin yönetimi konusunda büyük ölçüde başarılı olmuşlardır, ancak en iyi dönemlerde bile bu denge endişe vericidir. Bu dengenin korunması, ABD'de Birinci, Dördüncü ve Beşinci Değişiklikler, Posse Comitatus Yasası, FISA vb. gibi yüzyıllar boyunca kurulan çok sayıda yasal ve anayasal mekanizmayı gerektirir.

Yapay zeka bu dengenin bozulmasını tehdit ediyor ve aynı zamanda bahsi büyük ölçüde artırıyor. Ancak hızlı bir şekilde tepki verip zorlukla yüzleşirsek, yapay zekayı kullanarak daha güçlü, daha kalıcı özgürlük güvencelerine ve tehditlere karşı daha iyi korunmaya sahip bir dünya oluşturabiliriz.

Kötü niyetli kişilerin eline geçen güçlü bir AI, otoriter diktatörlüğün nihai aracısı olabilir ve mevcut yasal ve anayasal korumalar bu tehdide tam olarak hazırlanmamıştır. Temel olarak, dünya gücü açısından akıllılığın sunduğu büyük getiriler, AI gelişiminin hızlı tempolu ilerlemesiyle birleşerek, çeşitli tehlikeli aktörlerin rastgele güç ele geçirmesi için mükemmel bir fırtına (perfect storm, birçok kötü durumun aynı anda meydana gelmesi sonucu oluşan son derece kötü bir durum) yaratmaktadır.

Bu tehlike, çeşitli teknik veya operasyonel formlar alabilir; ancak ortak noktası, AI'nın aniden büyük bir güç vermesi ve mevcut demokratik denetim mekanizmalarını argot/figüratif anlamda, engelleri veya düzenlemeleri atlamak olabilir. Bugün bilim kurgu gibi gelen tamamen otomatikleştirilmiş bir drone ordusu, gelecekte yasal olmayan emirleri yerine getirebilir ve hükümetin tek taraflı olarak gücünü pekiştirmesine izin verebilir; profesyonel olarak eğitilmiş insanlar ise bu yasal olmayan emirlere daha olası bir şekilde karşı çıkacaktır. İzleme odaklı bir AI, geniş ölçüde erişilebilir bilgileri büyük ölçekli olarak analiz edebilir ve bunu kullanarak her vatandaşın yaşamının en gizli detaylarını çıkarabilir—bu, mevcut vatandaş özgürlükleri yasalarının dikkate almadığı bir teknolojik yetenektir. Bunların tümü çok kısa bir sürede veya gizlice gerçekleşebilir; bu nedenle demokratik ülkelerin özgürlük ve vatandaş haklarına olan taahhütlerini aktif olarak güçlendirmek çok önemlidir.

Şu politika fikirlerini göz önünde bulundurmalıyız:

• Otomatik silahlar için güvenilir bir hesap verebilirlik çerçevesi kurun. Otomatik silahlar, özellikle bunları koordine eden veya yönlendiren herhangi bir otonom sistem, komutlara körükçe uymak yerine anayasal ve komuta hesap verebilirlik mekanizmalarına (örneğin, mahkeme emirleri, mevzuat ve üst düzey insan denetçilerine karşı hesap verebilirlik) cevap vermek zorunda bırakılmalıdır. Bu, tasarımı iyi bir yasal inceleme grubunun veya yargı organının bir “kapatma anahtarı” üzerinde kontrol sahibi olması anlamına gelebilir; ya da sistem, içsel eğitiminde yasal denetim kurumlarını arayarak ve bunlara cevap vererek çalışabilir; ya da her ikisi birden.
• Ülkede otomatik silahların kullanılması yasaktır. Tamamen otomatik silahlar, yabancı rakiplere karşı korunma (örneğin, Rusya'nın Ukrayna'yı işgal etmesi) açısından legimit bir gerekçe sunsa da, bunların Amerikalılar üzerinde kullanılması için hiçbir neden yoktur. Askeri kuvvetlerin ülke içindeki eylem kapasitesi bazı sınırlamalara tabidir, ancak ideal olarak bu silahlar polis operasyonlarında da yasaklanmalıdır.
• Toplu toplama/veri aracısı açıklığını kapatın. Mevcut yasalara göre, Amerikalıların özel şirketlerle (örneğin internet sağlayıcılar) paylaştığı veriler satın alınabilir ve iç gözetim ile uygulama alanında top lu analizler için kullanılabilir. Bu gizlilik açıklığı, yapay zekâ ortaya çıkmadan önce var idi, ancak yapay zekâ, bu tür verilerin kütleli analizini geçmişe kıyasla çok daha açıklayıcı ve pratik hale getirerek ilgili riskleri büyük ölçüde artıracaktır. Bu açıklık kapatılmalıdır.
• Karşıt hükümet eylemlerine karşı AI önerilerine erişme hakkına sahip olmak, bir kamu hakkı olarak kabul edilmelidir. Genel bir ilke olarak, herhangi bir regülasyon veya yasal eylem gibi karşıt hükümet eylemlerinin hedefi olan bireyler veya kurumlar, hükümetin belirli bir eylemde kullanmaya izin verilen AI ile en azından eşit güçlü bir AI elde etme fırsatına sahip olmalıdır. Bu, vatandaşların meşru haklarını aslında zayıflatacak şekilde hükümete adil olmayan bir avantaj sağlamamayı gerektirir. Bu, İdari Usul Kanunu, adaletli süreç korumaları veya Altıncı Değişiklik kapsamında hukuki temsil alma hakkının bir uzantısı veya yorumu olarak eklenebilir.

Son olarak, AI tabanlı iktidar ele geçirmede, hükümetlerin tek dikkat etmemiz gereken varlık olmadığını unutmamak gerekir. Tarihin farklı dönemlerinde (örneğin ABD'nin Altın Çağı veya İngiliz Doğu Hint Şirketi gibi), şirketler yeterince güçlü hale gelerek devletleri ele geçirmiş ya da yarı-devletsel özellikler kazanmışlardır. AI çok yakında bu kadar güçlü hale gelecek ki, onu tamamen hükümetlere ya da şirketlere güvenmek güvenli olmayacak ve her iki tarafa da denge mekanizmaları gerekecektir.

Düzenleme, şirketleri nasıl kontrol altına alacağını (rein in) konusunda bir cevaptır (bu konudaki düşüncelerim 1. bölümde), ancak aynı şekilde önemli olan, AI şirketlerinin tipik özel varlıklarından daha fazla güç dağıtımı ve hesap verebilirliğe sahip olmasıdır. Anthropic’in Uzun Vadeli İlgi Vakfı (şirketin misyonunu yerine getirmesini teşvik etmeyi amaçlayan bağımsız bir yönetim kurumu) böyle bir yapıdır ve sektör, daha da ileri giden mekanizmaları araştırmaya devam etmelidir. Şirketlerin ve hükümetlerin güçlerinin anlamlı şekilde sınırlanması konusunda doğru dengeyi kurmak kritik öneme sahiptir.

5. Demokratik ülkelerin liderliğini sağlayın

Yeni teknolojileri, “dünya çapında teknoloji yığınlarımızı yaymak” hedefiyle jeopolitik bir araç olarak görmeye yönelik bu yaygın bir itiraz, muhtemelen son zamanlarda internet ve telekomünikasyon sektöründen elde edilen deneyimlerden gelişmiştir. Ancak ben, yapay zekânın daha derin bir şey olduğunu ve tüm jeopolitik stratejilerin bu etrafında, nükleer silahlar gibi ancak potansiyel olarak daha büyük etkilerle şekillendirilmesi gerektiğini çok güçlü bir şekilde düşünüyorum.

Eğer yapay zekâ gerçekten çok yakında “veri merkezlerindeki bir efsanevi ülke” veya bununla benzer bir şey haline gelirse, yapay zekâ muhtemelen herhangi bir ülkenin askeri ve ekonomik gücünün ana kaynağı olacaktır. 100 milyon efsanevi varlığa sahip bir sanal ülkede, 10 milyonu askeri stratejiye, 10 milyonu insansız hava araçları üretimi için, 10 milyonu silah geliştirme için, 10 milyonu istihbarat toplama ve analiz için, 10 milyonu genel bilimsel ilerlemeye vb. yönlendirilebilir. Güçlü bir yapay zekâya sahip bir ülke, yapay zekâya sahip olmayan bir ülkeye—hatta yapay zekâ konusunda 3 yıl geride kalan bir ülkeye—karşı durduğunda, bu fark, İkinci Dünya Savaşı'ndaki bir deniz piyadesi ordusunun ortaçağ kılıçlı ordusuyla karşı karşıya kalması kadar büyük olabilir.

Ayrıca, güçlü bir yapay zekânın daha derin ve muhtemelen kalıcı bir şekilde otoriter baskı uygulamasını sağlayabilmesi (Bkz. 4. bölüm), dünyanın en güçlü ülkesinin demokratik bir ülke olmasını garanti altına almanın veya yapay zeka tabanlı baskılara karşı güçlü koruma önlemlerinin bulunmasının önemini artırır. Bu, hedefe yönelik bir coğrafi politika stratejisi geliştirme aciliyetini de artırır.

Demokratik ülkeler, ortak değerler üzerine kurulmuş bir yapay zekâ ortaklığı kurmak için çaba göstermeli, dünya diğer bölgelerini iteratif olarak çekmeye çalışmalı ve bu ortaklığa katılmayı giderek daha cazip hale getirmeli, dışarıda kalmayı ise giderek daha az cazip hale getirmelidir. Bu ortaklık, 1. ila 4. bölümlerde tartışılan yapay zekâ politikası fikirlerinin koordine edilmiş bir uluslararası versiyonu olmalı ve yapay zekânın oluşturulması için gerekli olan kritik tedarik zincirlerini ortaklık içinde paylaşarak ve dışarıdakilere sağlamayarak kilitlemeye yönelik bir çaba içermelidir. Bazı prensipler ve operasyonel hedefler şunlar olabilir:

AI tedarik zincirini yönetin. Güvenilir ittifak üyeleri, çip ve yarı iletken üretim ekipmanlarını (SME) birbirleriyle serbestçe paylaşmalı ve rakiplerin bunlara erişmesini engellemek için ortak çaba göstermelidir. ABD'nin ileri çiplere ve SME'ye yönelik Çin'e ihracat kontrolleri, ABD'nin AI alanında genel liderliğini korumanın temel nedenlerinden biridir; bu politikalar, benzer düşüncelere sahip diğer ülkelerle genişletilmeli, sıkılaştırılmalı ve koordine edilmelidir. MATCH ve OVERWATCH gibi mevcut yasal öneriler iyi bir başlangıçtır; ittifak demokrasileri benzer önlemleri göz önünde bulundurmalıdır.

• AI risk'larına karşı koordinasyon sağlanmalıdır. Uluslararası düzeyde koordinasyon sağlanırsa, biyolojik, siber güvenlik ve özerklik risklerine karşı yönlendirilen 1. bölümde tanımlanan politikalar daha etkili olacak (aynı zamanda endüstriye daha az yük getirecektir). Bu, şirketlerin birbirine uyumlu standartlara uymasını ve düzenleyicilerin bu riskleri nasıl en iyi şekilde ölçüp hafifleteceklerini birbirinden öğrenmesini sağlayacaktır. Uygulama ve istihbarat kurumları da, teröristlerin AI'yi biyolojik silah üretmek için kullanma çabaları gibi kötüye kullanım tehditlerini takip etmek ve engellemek için daha sıkı iş birliği yapmalıdır.
• AI'nin kazançlarını paylaşın. Ticaret ve düzenleyici politikalar, AI ekonomik kazançlarının ittifak içinde daha hızlı yayılmasını teşvik edebilir ve yenilikleri hızlandırma konusunda dersler paylaşabilir. AI'nın faydalarını geliştirme ülkelerine ulaştırmak için uyumlu dağıtım yöntemlerinin koordinasyonu yardımcı olabilir. Örneğin, tıbbi onay sistemlerinin birleştirilmesi, AI destekli ilaçların daha hızlı ve daha iyi şekilde test edilmesine ve onaylanmasına olanak tanıyabilir (yukarıdaki 3. bölümde açıklandığı gibi).
• Ortak savunma. İttifaktaki ülkeler, kendi kendini savunmak ve rakibin AI'larını savunmak için AI kullanımında iş birliği yapmalıdır. İttifak, AI temelli ağ savunması, AI destekli insansız hava araçları, AI destekli üretim, gizli AI hesaplama gücü, AI destekli araştırma ve geliştirme ile AI destekli istihbarat toplama paylaşımının yeterli üretimini kolektif olarak sağlamalıdır.
• AI destekli baskıları reddedin. İttifak üyeleri, Teknolojinin Ergenliği'nde uyardığım, AI destekli, yüksek teknolojili ve aşırı otoriter bir tiraniyi reddetmek zorundadır ve yukarıdaki 4. bölümde tanımladığım gibi güvenlik önlemlerine sahip olmalıdır.
• Makroekonomik iş birliği. İstihdam veya iş istikrarı krizleri, diğer tüm ekonomik krizler gibi, sınır aşan bulaşıcı özelliktedir. Bu nedenle, ülkelerin istihdam etkilerini dengelemek için makroekonomik destek ve istikrar politikalarını (2. bölümde açıklandığı gibi) koordine etme ortak çıkarları vardır.

Hedef, ittifak üyeliğini mümkün olduğunca çekici hale getirmek ve ittifak dışında kalmak için olan maliyeti açıkça ortaya koymaktır. İttifak, her bir ülkenin kendi iç işlerine tam kontrolünü koruduğu, egemen devletler arasındaki koordinasyona dayanacaktır. İttifak, ideolojik olarak uyumlu demokratik ülkelerle (doğal olarak katılmaya hazır) başlayarak ve daha az doğal olarak uyumlu ancak ittifağın büyük üyelik avantajlarını elde etmek için standartlarını yerine getirmeye hazır olan ülkeleri adım adım kabul ederek ilerleyebilir. İdeal olarak, dünya genelindeki tüm ülkeler sonunda katılmaktadır. Ancak bu mümkün olmasa bile, bu ittifakın kurulması, baskıci rejimlere bağlı kalan rejimleri bastırmak ve aşmak için demokratik ülkeleri en güçlü konuma getirecektir.

Fırsat Penceresi

Yapay zekânın üssel ilerlemesi, politika yapma sürecinin genellikle karşılamaya hazır olmadığı acil bir hız ve dönüşüm getiriyor. Ancak aynı zamanda benzersiz bir fırsat penceresi de yaratıyor. Yapay zekânın risklerine dair net ve gerçek kanıtlar, ekonomik değer yaratma ve bozma potansiyelleriyle ilgili erken deneyimler ve sınırsız yapay zeka işleme yöntemlerine karşı halktaki güçlü tepki, politika yapıcıların öngörülü eylemlere karşı olağanüstü açık bir durum yaratıyor. Tırnaklar ve ormanları uyanıyor.

AI sektöründe bunu bir kamuoyu sorunu olarak görmek oldukça popüler hale geldi: yani AI'nın “daha iyi pazarlama” yapması gerekiyor. Bu çerçeveyi tamamen reddediyorum. İnsanlar, AI'nın risklerinin gerçek olduğunu doğru bir şekilde algıladıkları için endişeli oluyorlar, AI CEO'larının yeterince “Panglossian” (edebi atıf/özne, aşırı iyimseri ifade eder) davranmadıkları için değil. Benim, bir AI lideri olarak görevim, bu riskler konusunda şeffaf kalmaya devam etmektir ve kamuoyunun bu şeffaflıkla ilgili endişesi, demokratik hesap verebilirliğin beklenen şekilde çalıştığını gösterir. Ana zorluk, bu endişeyi inşaatçı çözümlere odaklamak ve bunun görünmez öfkeye ve şiddete dönüşmesini önlemektir.

Çözümler bulmak konusunda iyimserim, çünkü işsizlik sorununu çözmekten modellerin yayınlanmadan önce test edilmesine, çip ihracat kısıtlamalarından enerji tüketimine ve diğer AI ilgili politikalara kadar birçok sorun, siyasi spektrumun tamamında ortak akla hitap ediyor. Yapay zekânın getirdiği zorlukları doğrudan fark eden geniş bir parti dışı ittifakın, bu durumun normalden çok daha hızlı bir şekilde akıllı ve öngörülü politikaları kabul edeceği, gerçekçi ama arzulanan bir gelecek var. Bunu ne kadar erken yaparsak, yapay zekânın inanılmaz faydalarını o kadar erken paylaşabiliriz.

Allan Dafoe, Mariano-Florentino Cuéllar, Richard Fontaine, Buddy Shah, Vas Narasimhan, Matt Yglesias, Nick Beckstead, Jason Matheny, Brad Carson ve Anthropic'in birçok çalışanına makale taslağına verdiği görüş ve geri bildirimler için teşekkür ederim.

Altyazı

Benim makalemde "Teknolojinin Ergenliği" adlı eserde biyolojik riskler ve otonomi riskleri ile diğer konuları ele aldım. Anthropic Enstitüsü de "AI Kendini İnşa Ederken" adlı çalışmada, modellerin kendi kendine daha iyi modeller oluşturabilme olasılığına dair bazı ilk iç verileri paylaştı.

Bu fenomen teorik değildir: Kendi gönüllü yönetim çerçevelerimizde (örneğin, Sorumlu Ölçeklendirme Politikamızda) bunu defalarca gözlemledik. Gelecekteki AI modellerine sabit veya katı bir güvenlik gereklilikleri listesi verirsek, çok olası bir sonuç, aslında önemsiz olan gerekliliklerin %95'lik合规 çabamızı tüketecek ve aynı zamanda en büyük risk kaynaklarının listemizde tamamen öngörülmemiş olmasıdır. Gönüllü çerçeveler değiştirilebilir ve ayarlanabilir, ancak yasalama için bu çok daha zordur. SB 1047 konusunda açıkça yazdığım iki mektuptan, 2024 yılında Kuzey Kaliforniya'da felaket risklerini ele almayı amaçlayan bu yasanın, yukarıdaki nedenlerden dolayı benim için karmaşık duygular uyandırdığını görebilirsiniz.

Örneğin, gerçek ciddi biyolojik riskler, saldırganların savunuculara göre büyük bir avantaja sahip olması ve felaketin ciddiyetinin çok daha büyük olabilmesi nedeniyle ağ risklerinden daha zor yönetilebilir.

Daha ayrıntılı bir analiz için Teknolojinin Ergenlik Dönemi'ne bakın; neden diğer teknolojilerde işgücü piyasasının hızlı kurtuluşuna ve kalıcı işgücü yerine geçmeye neden olmamasına yol açan mantık, özellikle AI için geçersiz olabilir ve Jevons paradoksu veya karşılaştırmalı avantaj gibi genel uyum mekanizmalarının teknolojinin hızı tarafından ezilebileceği nedenlerini anlayın.

Örneğin, insanlar hâlâ satranç veya go oynamaya veya dağlara tırmanmaya yaşamalarını adıyor ve makinelerin bu tüm alanlarda daha iyi performans göstermesine rağmen bu faaliyetlerden dolayı hâlâ büyük saygı görüyorlar.

Bu, kısa vadeli olarak maaş düşüşü yaşansa bile, yeni ve eski maaş arasındaki farkı karşılayarak, insanların geçiş yapmasına ve yeni kariyer basamakları için eğitim almaya ek bir teşvik sunar.

Bu konuda daha fazla bilgi için "Teknolojinin Ergenliği"ne bakın. (Bu makale ilk olarak Titanium Media APP'de yayınlandı, yazar | Silicon Valley Tech_news, editör | Lin Shen)