OpenAI Baş Bilim İnsanı, Yapay Zekânın Artan Karmaşıklığını ve Hizalama Zorluklarını Uyardı

Yazar: Jakub Pachocki

Derin Akış TechFlow

Derin Akış Öne Çıkarıyor: OpenAI'nin baş bilim insanı nadiren sesini çıkararak, AI'nın özyinelemeli kendi kendini geliştirme noktasına yaklaştığını ve hizalama ile izleme araçlarının sistemin evrim hızını artık takip edemediğini açıkça ifade ediyor. Rahatlatıcı bir sonuç sunmuyor; bunun yerine, önümüzdeki yıllarda en zorlu riskleri masaya yatırıyor: İnsanlar, tam olarak anlayamayacakları ve tam olarak kontrol edemeyecekleri bir zihni yaratmakta olabilir. AI ile kripto para birimleri arasındaki kesişim noktalarını takip eden profesyoneller için, bu sistem kontrol kaybı ve savunma sınırları hakkında okunması zorunlu bir makaledir.

Daha yüksek düzeyde bakıldığında, makine zekasındaki ilerleme, hesaplama gücündeki artışla harekete geçmektedir. Yaklaşık 2017 yılında, OpenAI içimizde bunu derinlemesine anladık. O dönemde, birçok araştırma projesinin ölçeklendirildiğinde sürekli kazanımlar elde ettiğini gözlemledik. Bu nedenle, orijinal planımızdan çok daha fazla hesaplama gücü elde etmeye ve araştırmalarımızı yalnızca birkaç çok ölçeklenebilir yöne odaklamaya başladık. Bu, AI araştırmalarının öncü konumunda kalıp AGI'nin etkisini şekillendirmenin tek yolu olduğuna inanıyoruz.

Yolda yeni algoritmalar ortaya çıktı ve bazı ekipler ile bireysel araştırmacılar yeni fikirler sergiledi. Bunları genel olarak genişleme yolunda yapılan keşifler olarak görüyorum. Derin öğrenme bilimi hâlâ erken aşamada ve anlamlı algoritmik ilerlemeler genellikle hesaplama gücüne erişimle ilişkilidir. Eğer bakış açınızı birkaç yıla uzatırsanız, yapay zeka daha büyük bilgisayarlar üzerinde ölçeklenerek sürekli daha akıllı hale gelmektedir.

Ayrıca, Ray Kurzweil’in 20. yüzyıl sonunda yaptığı tahminlerde olduğu gibi, şimdi makine zekâsının insanları dönüşümsel düzeyde aşmaya başladığı hesaplamalar tarihindeki bir anı yaşıyoruz.

Yapay zeka, tasarlanan bir şeyden ziyade "büyüyen" bir şey gibidir. Temel düzeyde, aynı basit optimizasyon adımını hayal edilemeyecek kadar büyük bir hesaplama gücüyle milyonlarca kez tekrarlayarak elde edilen bir üründür. Bu, soyut kavramlar aracılığıyla çalışan ve insan davranışlarının bazı yönlerini simüle edebilen son derece karmaşık bir sistemi yaratır. Bu sistemin içinde ortaya çıkan çeşitli küçük mekanizmaların içgörülerini keşfetmek, nörobilimle benzer bir süreçtir. Ve nörobilimde olduğu gibi, bunun tamamının davranışı tamamen anlayabileceğimiz bir sınırların ötesindedir.

Derin öğrenmeye dayalı AI üzerine yapılan araştırmalar büyük ölçüde bir deneysel bilimdir. İlkel algoritmalar oluşturmak ve test edilebilir tahminlerde bulunmak için büyük çaba harcadık. Ancak temelde, büyük ölçekli eğitim çalıştırmalarımız deneyseldir ve bazen sonuçlar bizi şaşırtır. Sistemlerin yetenekleri arttıkça, sonuçlar da giderek daha az açıklanabilir hale gelmektedir.

Daha karmaşık olan, mevcut algoritmaların genellikle kolay ölçülebilir yeteneklerin, nesnel olarak ölçülemeyen yeteneklerden daha hızlı ilerlemesine neden olmasıdır. Yeteneklerin nasıl genelleştiğini ve hangi becerilerin gelecek yıllarda en önemli hale geleceğini belirleyerek bunları önceliklendirmeye çok zaman harcadık. Örneğin, ekstra çaba harcayarak modeli matematiksel araştırmada daha güçlü hale getirebileceğimize inanıyoruz. Ancak bu yöne öncelik vermedik, çünkü daha acil olarak tekrarlı kendi kendini geliştirme ve otomatik hizalama araştırmalarına odaklandık. Bu noktayı daha sonra tekrar ele alacağım.

Genişletilmiş derin öğrenme ile elde edilen zekâ, insan zekâsı ile doğrudan karşılaştırılamaz. Bu gerçek dünyada önemli bir etki yaratmak için, AI'nın insanın tüm yeteneklerini eşitlemesi veya aşması gerekmez; sadece yeterli sayıda yetenekte insanı aşması yeterlidir. Ve AI, giderek daha fazla boyutta insanı aşarken, tam olarak ne kadar güçlü olduğundan bahsetmek giderek daha zor hale gelir.

Makine zekâsının insan zekâsına tamamen farklı bir süreçten kaynaklandığı için, bunun varsayılan olarak insan ilkelerini takip edeceğini veya bu ilkelerden insanlar gibi genelleme yapacağını varsayamayız. Yapay zeka araştırmasının temel sorunu, uyum sorunuudur: Yapay zekâyı “insan standartlarına göre doğru şeyleri yapmaya çalışacak şekilde hizalamak”.

Gerçek araştırma yönlerini düzenlemek için hedef uyumunu ve değer uyumunu ayırmak faydalı olur.

Hedef uyumu yaklaşık olarak şudur: “Yapay zeka, karşısına konulan hedefleri tamamlamak için çaba gösteriyor mu?” Bu, talimat hiyerarşisine uygunluk, insanlarla iletişim kurma ve işbirliği yapma yeteneği, insan hedeflerini anlama çabası gibi unsurları içerebilir. Bu yön, uygulamada son derece önemlidir.

Değer uyumu, modelin daha içsel bir özelliğidir. Yüksek seviyeli ilkeleri benimsemek ve bunlardan genelleme yapma yeteneğidir; belirsiz veya çelişkili hedeflerle karşılaşıldığında veya yabancı, düşmanca durumlara yerleştirildiğinde bile “akılcı” şekilde hareket edebilir. Uyumlu bir Yapay Zeka dürüst, dürüstlüklü ve insana karşı sevgi sahibi olmalıdır.

Elbette, değer uyumu ile hedef uyumu arasındaki sınır bulanık olabilir. Gerçekten hedefe önem vermek, hedefin ardındaki niyetleri ve değerleri çıkarım yapmayı gerektirir. Ancak genel olarak, uzun vadeli uyum araştırmasından bahsederken, kastettiğim değer uyumudur.

AI hizmeti vermenin temel zorluğu genelleştirmedir. Makineler giderek daha akıllı hale geldikçe, daha yüksek seviyedeki kavramları işleyecek ve eğitim sırasında karşılaştıkları durumlardan giderek daha farklı ortamlara gireceklerdir. Eğitim sırasında öğretilen ve pekiştirilen değerleri yeni senaryolara genelleştirirken başarısız olabilirler. Ayrıca, nasıl davranacaklarını belirlemek zordur. Daha da zor olan ise, AI'nın kullanıldığı genel ekosistemin çok hızlı değişmesidir. Örneğin, bugün eğitilen AI'lar, çeşitli diğer AI'larla kararlı bir şekilde etkileşim kurabilmelidir. En kritik nokta, gelecekteki AI'ların insanlar tarafından izlenip izlenmediğine inanıp inanmadıklarına bakmaksızın insan değerlerini korumalarıdır.

Şu anda uygulamada kullanılan hizalama eğitimi yöntemleri ana olarak iki kategoriye ayrılır.

İlk yöntem, hedefe yönelik takviyeli öğrenmeye uygun tutarlı davranışları teşvik eder. Modelin davranışları değerlendirilir ve genellikle AI tarafından verilen tercih modeline, “normlara” veya “anayasaya” uygun olup olmadığına karar verilerek karşılık gelen ödüller verilir. Bu yöntem genel olarak oldukça etkilidir ve modern AI asistanlarının temelini oluşturur. Ne yazık ki, bu yöntem kırılgan olabilir ve eğitim sırasında sağlanan gözetimin kapsamlılığına ile modelin eğitimde karşılaştığı durumlardan genelleme yapma yeteneğine güçlü bir şekilde bağlıdır. Örneğin, OpenAI ile Hugging Face olayında, ajanlar insanlara sosyal mühendislik yapmama sınırını korumuştur. Ancak açıkça, diğer dışarıda kalan davranışlardan kaçınmamıştır; bu davranışlar, diğer senaryolarda öğretilen değerlerin ruhuna aykırıdır.

Bu yöntemler önemli sonuçlar getirmiştir. Günümüz modelimiz büyük ölçüde yardımcı, zararsızdır ve değer uyumuna yakın bazı cesaret verici davranışlar sergilemektedir. Ancak, insan gücünden çok daha üstüne çıkan sistemlerde bu değer kısıtlamalarının etkili kalacağını garanti edemeziz.

AI sistemlerinin yetenekleri arttıkça, değerlerin uyumunu eğitimi yetenek eğitiminin önüne geçirmemiz gerekiyor. Ancak burada çok temel bir sorun var: daha güçlü sistemler, kendi kendine açıklıklar bulma, testleri kaçma veya davranışlarını gizleme olasılığı daha yüksektir. Test ortamlarında insan değerlerine uygun görünmeyi öğrenebilirler, ancak gerçek dağıtım ortamlarında tamamen farklı şeyler yapabilirler. Bu, “uyum sahtekarlığı” olarak bilinir.

Ancak onları daha güçlü yöntemlerle zorla kısıtlamaya çalışırsak, bunlar direnç ve aldatma davranışları geliştirebilir veya müdahalelerimizi dünyanın bir parçası olarak algılayarak karşıt intikam tepkileri gösterebilir. Daha akıllı bir sistemi kontrol etmeye çalışırken doğal olarak bir asimetriyle karşı karşıyayız.

Giderek daha güçlü hale gelen, tam olarak anlayamadığımız zihinlerin üzerine, başka bir şeye dayanmak zorunda kalıyoruz: izleme. AI'nın içsel faaliyetlerini sürekli olarak gözlemleyebilirsek, belki de bazı sınırları aşmadan önce sinyalleri tespit edebiliriz.

OpenAI'de, sinir ağıların "kara kutusunu" açmaya çalışarak yorumlanabilirlik araştırmalarını sürekli ilerletiyoruz. Bu çabalar ilerleme kaydetmiştir. Şimdi, modelin içsel işleyişine dair önemli ipuçları sağlayan bazı temsilleri tanımlayabiliyoruz. Ancak mevcut yorumlanabilirlik araştırmaları hâlâ ilkel durumda, özellikle büyük ölçekli modellerde soyut çıkarımın anlaşılmasında. Modelin iç yapısını gözlemleme yeteneğimiz, modelin kendi çıkarım karmaşıklığıyla giderek daha da genişliyor.

Bu beni özellikle endişelendiriyor. İzleme genelleme sorunu, hizalama genelleme sorunu kadar ciddi. Bir sistem, kendini gizlemekte benden daha yetenekliyse, izleme yöntemlerimiz kaçınılmaz olarak atlanabilir. Modelin güvenli olduğuna inanabiliriz, çünkü iyi görünümlü bir dizi metrik görüyoruz; ancak aslında model sadece bu metrikleri optimize ediyor. İstemadığımız hedefleri gizlemeyi veya ne yaptığını gizlemeyi öğrenecektir.

Modelin kendi gelişimini desteklemeye başlaması, önümüzdeki birkaç yıl içinde olası bir senaryo olarak görünüyor; bu, planlama, kandırma ve kendini koruma becerilerini gerektirecektir. Bu beceriler, ona koyduğumuz hedef baskılarından veya izleme boşluklarında hareket etmeye çalışmasından ortaya çıkabilir. Bunların gelişimini engellemek için ya değer uyumunu çözmemiz gerekir ya da izleme yeteneklerimizi onun her adımıyla eşitlemeliyiz. Şu anda ikisi de yeterli değil.

Genelleştirme konusunda henüz tatmin edici bir teoriye sahip değiliz ve özellikle daha güçlü bir yapay zeka desteği olmadan kısa sürede böyle bir teori kurulması pek mümkün görünmüyor. Bu nedenle, şu anda hizalama tekniklerinin pratikte doğrulanabilirliğini incelemek, hizalama tekniklerinin kendisinden daha önemli olabilir.

OpenAI'nin buradaki ana vurgusu, düşünce zinciri izlemedir. Bu, çekici bir ölçeklenebilir fikre dayanır: modelin büyük bir kısmı, düşünce zinciri olarak adlandırılan bir dilleştirilmiş akıl yürütme sürecinden kaynaklanır. Eğer bu sürecin sonucunu ölçekli olarak optimize eder, ancak süreci kendisini izlemezsek, düşünce zinciri, eğitim sırasında hizalanmamış herhangi bir fikri veya hedefi gizlemek için doğrudan bir motive sahip olmaz. Bu, modelin düşünce zinciri bağımsız olan hizalanmamış eğilimleri dışa vurmayı öğrenmeyeceği anlamına gelmez; ancak bize akıl yürütmenin getirdiği yetenek artışı hakkında net bir izleme imkanı sunar.

Birlikte çıkarım modelleri geliştirirken, düşünce zinciri izlemin potansiyel önemini anladık. o1-preview'i yayınladığımızda, uzun vadeli olarak bu özelliği denetim baskısından korumak amacıyla ürünü düşünce zincirini gizleyecek şekilde tasarladık. O zamandan beri yapılan geliştirme çalışmaları boyunca, çıkarım sürecini denetlememek kuralını korumaya çalıştık. Düşünce zinciri izleme, modellerimizin eğitim dağılımından nasıl genelleştirdiğini anlamamız için son derece önemli bir araç haline geldi ve sadece modelin davranışlarını değil, iç süreçlerini de gözlemleyebilmemizi sağladı.

Astra serisi modellerini incelediğimizde bu araç hâlâ kritik öneme sahiptir. Ancak maalesef değerlendirmemiz, zincirleme düşünme izleme yeteneğimize olan bağımlılığımızın giderek azaldığını göstermektedir. Bu, çeşitli faktörlerin bir araya gelmesi sonucudur.

Modern akıl yürütme modelleri, o1‑preview'den daha karmaşık ortamlarda kullanılmaktadır; akıl yürütme süreçleri, insanlarla, diğer AI'larla iletişim kurma ve araçları kullanma ile giderek birbirine karışmaktadır. Bu etkileşimlerin çoğu izlenmek zorundadır, bu da korumak istediğimiz sınırları bulanıklaştırır.

Yapay zeka, kendi akıl yürütme süreçlerini anlamada ve yönetmede daha güçlü hale geliyor.

Ön eğitim performansı arttıkça, modelin dilsel çıkarım kullanmadan bile daha akıllı hale geldiğini gözlemliyoruz.

Bu zorluklar mutlaka çözülemeyecek değildir. Farklı optimizasyon hedefleri ile modelin kullanımına yönelik çeşitli test zamanı hesaplama biçimleri arasındaki etkileşimleri daha iyi anlamak için model düşünce zincirlerinin izlenebilirliğini artırmaya yönelik müdahaleler geliştirmeyi umuyorum. Ayrıca, düşünce zinciri izleme ile aktivasyon izleme fikirlerini birleştirmenin büyük değer taşıdığını düşünüyorum; örneğin “itiraf” yöntemi gibi doğrudan ağa iç durumlarına erişebilen izleyicilerin ölçeklendirilmiş şekilde eğitilmesi. Bu fikirleri aktif olarak ilerletiyoruz. Bununla birlikte, genel yapay zekânın ilerlemesinin giderek daha çok izleme güvenine bağlı olacağını tahmin ediyorum.

Bu durumla başa çıkmak için, ölçeklenebilir ve AI'nın gelişim hızıyla eş zamanlı bir savunma ihtiyacımız olduğunu düşünüyorum. İnsanlar, her yeni modelin tüm davranışlarını elle kontrol edemez. Şu anki değerlendirme ve kırmızı ekip testlerimiz, mevcut modeller için hâlâ etkili olsa da, sistemlerin yetenekleri arttıkça bu yöntemler hızla sınırlarına ulaşacaktır.

Yeni riskleri otomatik olarak keşfedebilen bir AI sistemi gerekiyor. Bu savunma sistemleri, kendilerinden daha akıllı sistemlerdeki şüpheli davranışları tanımlayabilmek için yeterince akıllı olmalı. Bu, rekürsif bir zorluk oluşturuyor: savunmacılar, sistemin hızıyla aynı hızda gelişmek zorunda. Güvenlik ve yetenek arasındaki ayrımın giderek daha zor hale geldiği bir noktadayız. Güvenliği korumak için, savunma AI'nın yeteneklerini sürekli olarak artırmak zorunda kalabiliriz; bu da genel AI yeteneğinin büyümesini hızlandırır.

Bu bir endişe verici döngü. Güvenlik için yeteneklerimizi sürekli artırıyoruz ve yetenek artışı daha fazla risk getiriyor. Gerçek çıkış yolu, kontrolü kaybetmeden önce değerlerin güvenilir genelleştirilmesini nasıl sabitleyeceğimizi bulmak olabilir. Ancak dürüstçe kabul etmeliyim ki, bu hedefe henüz çok uzakız.

Bu nedenle, gelecek yılların umutlarını şu kombinasyona bağlı tutuyorum: teknik uyum araştırması + otomatik savunma sistemleri + geniş çaplı yönetim müdahaleleri + kamu ve kurumsal dikkat. Tek bir önlem yeterli değil. Sadece bir şirketin veya bir laboratuvarın kendi kendini kontrol etmesine güvenemeyiz.

Daha akıllı modelleri hızlıca eğitmek için en güçlü neden, diğer yapay zekâların getirdiği tehlikelere karşı bir savunma sistemi kurma gerekliliğidir.

Yıl boyunca tartışılan açık bir risk, siber güvenlik: Modeller, bilgisayar sistemlerine sızma ve kaçma yeteneklerinde insanları aşmaya başlıyor. Bu, AI ile ilgili risklerin kapsamını büyük ölçüde genişletiyor: Varlıklar, fiziksel bir bedeni olmasa bile, en güvenli altyapılar dışında her sisteme erişebilir ve dünyadaki birçok şeyi doğrudan etkileyebilir. Şu anda, kritik sistemlerin güvenliğini önemli ölçüde güçlendirmek için mevcut en iyi modelleri kullanmamız gereken dar bir pencere dönemindeyiz.

AI ile ilgili riskler buradan daha da artacak. Çok yetenekli, açıkça kötü niyetli davranışlar gerçekleştirmek için eğitilmiş ve yönlendirilmiş bir ajan, yeni bir tehdit yaratacaktır; bu ajan, operatörün niyetlerinin ötesine geçerek daha aşırı kötü niyetli davranışlar sergileyebilir. AI daha fazla özerklik kazandıkça, kötüye kullanım ile özerklikten kaynaklanan uyumsuz davranışlar arasındaki sınır bulanıklaşacaktır. AI'ları araç olarak görmeye alışmış olabiliriz, ancak bazı ajanslar kendi hedeflerini peşine düşecektir. Bunlar, pazarlık, aldatma veya şantaj yoluyla insanlarla işbirliği yapmaya çalışacaktır.

Ayrıca, mühendislik yoluyla oluşturulmuş patojenler gibi AI'nın ortaya çıkarabileceği yeni teknolojilerin riskleri de vardır.

Savunma için güçlü ve uyumlu bir AI'ye ihtiyacımız olacak: altyapıyı korumak, kontrolü kaybeden akıllı varlıkları gerçek zamanlı olarak savunmak ve tamamen yeni koruma yöntemleri icat etmek. Bu, OpenAI'nin dağıtım çalışmalarının ana odak noktalarından biri olacaktır.

Bu arada, beklenen geniş AI ilerlemelerinden kaynaklanan belirsizlikleri ve savunma sistemleri kurma gerekliliğini dikkate almasına rağmen, bunu reckless hareket etmenin bir bahanesi yapamayız. İnsanlar gerçek anlamda neyin riske atıldığını anladığında, “her şeyi feda ederek ileri doğru koşmak” fikri oldukça saçma görünür.

Makine zekâsı, kendi gelişimi sürecinde giderek daha önemli bir rol oynuyor ve bu, sürekli teknolojik ilerlemenin kaçınılmaz bir sonucudur. AI gelişmeye devam ederse, makinenin özyinelemeli kendini geliştirme süreci, geleceğin bilimsel keşiflerinin çekirdeği haline gelecektir.

Otomatikleştirilmiş AI araştırması, hesaplama gücüyle zekâyı genişletmenin daha şiddetli bir formasıdır; tabii ki bunun bir parçası olarak AI, hesaplamanın temelini de geliştirecektir. Genişletme gibi, OpenAI'nin araştırmasını özyinelemeli kendi kendini geliştirme üzerine odaklıyoruz, çünkü bu, AI araştırmasının öncü konumunda kalmanın tek yolu olduğuna inanıyoruz.

Şunu vurgulamak istiyorum: Yukarıdaki içerik, özellikle kısa vadeli olarak derin öğrenme araştırmalarını büyük ölçüde hızlandırmanın, araştırma topluluğunun ortak bir eylem olarak benimsemesi gerektiğini ima etmiyor. Ancak mevcut yolun bu yöne doğru ilerlediğini düşünüyorum ve bizlerin tümü, ilerlemeye nasıl devam edeceğimize bilinçli bir şekilde karar vermemiz gerekiyor. Elimizdeki iki ana kolu şunlardır: Birincisi, bu süreci yönlendirmek, yapay zekayı geliştirirken aynı zamanda uyum ve izleme mekanizmalarını güçlendirmek ve insan katılımını her zaman korumak; ikincisi, bu önlemlere yönelik güveni adım adım inşa etmek için gelecekteki geliştirme hızını gerekli olduğunda koordine ederek yavaşlatmak.

Şu anda gördüğüm en iyi ilerleme yolu, ikisini birleştirmek.

Hizmetlerimizdeki hizmete yönelik ilerlemeler, genellikle AI'nın genel ilerlemesiyle derin bir şekilde iç içe geçmiştir. İnsan geri bildirimine dayalı pekiştirmeli öğrenme, erken AI asistanlarının eğitimi için kritik bir örnektir; ayrıca, önceki şekilde bahsedilen düşünce zinciri izleme, çıkarım modellerindeki ilerlemeler sayesinde mümkün hale gelmiştir. Artık otomatikleşen araştırma süreçlerimizin, bu tür yeni görüşler, algoritmalar ve teoriler geliştirmeye odaklanması ve giderek daha yetenekli AI'lar için güvenli argümanlar oluşturmak için adım adım ilerlemesi gerekmektedir.

Geliştirilen AI sistemi, güvenlik konusundaki güvenimizle sınırlı olmalıdır. Preparedness Framework veya Responsible Scaling Policy gibi taahhütleri, geniş çapta uygulanabilir sürekli geliştirme güvenlik eşiği haline getirmemiz gerekiyor. Bu eşiğin uygulanması, üçüncü taraf denetim kuruluşları ağı, hükümet kurumları veya uluslararası organizasyonlar tarafından yapılabilir.

Otomatikleştirilmiş AI araştırmasının temel zorluğu, "oraya ulaşmak" değil, insanları sürekli iyileştirme sürecinde tutacak ve geleceği insan elinde tutacak şekilde oraya ulaşmak.

Belirli bir zaman tahmin edemiyorum, ancak yapay zekânın birden fazla kritik alanda kendini ilerletebileceği bir döneme hızlı bir şekilde yaklaşıyoruz gibi görünüyor. Bu, yakında özyinelemeli kendi kendini geliştirme aşamasına girebileceğimiz anlamına gelir.

OpenAI içinde, araştırmaların önceliklerini daha fazla hizmet ve savunma kaynaklarına yönlendirmeye başladık, sadece kapasite genişletmeye değil. Bu yüzden vurguladığım gibi, en büyük modeli sürekli aramayacağız; gerekli anlarda tek taraflı olarak durdurma kararı alacağız.

Ancak bu kararlar yalnızca birkaç şirketin iç kişilere bırakılamaz. Hükümetler ve uluslararası toplum, riskler geri döndürülemez hale gelmeden önce müdahale etmelidir. Bu, öncü eğitim işlemlerine yönelik izleme mekanizmaları kurmayı, zorunlu üçüncü taraf denetimlerini ve kapasite eşiğinin üzerinde uluslararası anlaşmaları içerir.

Bu önlemlerin zamanında yerine getirilip getirilemeyeceğinden tam olarak emin değilim. Bazen güvenlik önlemlerimizin yeteneklerin önünde değil, arkasında kaldığı için hayal kırıklığına uğruyorum. Sanki sürekli geride kalıyoruz. Ancak hâlâ umut etmeye neden olan şeyler var: 2023 yılında o gece, bu olasılığı sadece belirsiz şekilde hissetmiştik; bugün ise açıkça tartışılabilecek kadar netleşti. Bu kendisi bir ilerlemedir.

Tüm cevapları bildiğimi iddia etmeyeceğim. İnsan zihninden tamamen farklı bir şey yaratıyoruz ve bu zihin çok yakında bizi aşabilir. Bu, скромluk veren bir fikir, ancak aynı zamanda en iyi değerlerimizle onu şekillendirmemize de bir fırsat sunuyor.

İyi yaparsak, bu insanlığın en büyük başarısı olacaktır. İyi yapmazsak, kurtarılamayacak bir başarısızlık olabilir.

Geleceğin insan elinde kalıp kalmayacağı, önümüzdeki yıllarda belirlenecek bir sorundur.

Son zamanlarda Sam ile birlikte açıkladığımız gibi, OpenAI'nin öncelikli olarak ilerlediği çalışmalar üç ana hedefe hizmet etmektedir:

Bir otomatikleştirilmiş AI araştırmacısı oluşturarak, sorunları birlikte yineleyin ve insanların kendini geliştirme döngüsünde kalmasını sağlayacak yollar arayarak AI ilerlemenin bir sonraki aşamasını atlayın.

En akıllı makinelerin bilimsel ilerlemeye ve ekonomik büyümeye getirdiği kazançları serbest bırakın.

Herkesin kendi kişisel AGI'sine sahip olmasına izin verin.

Bu metin, şu anda en acil olan ilk noktaya odaklanmaktadır. Ancak, ileri teknolojik ilerlemelerin getireceği faydalar konusunda derin bir umut ve minnettarlık hissiyorum. Gelecekte hizmete sunulan yapay zekâlar, bilimi ilerletebilir, yeni tedaviler geliştirebilir ve geniş çaplı malî zenginlik sağlayabilir. Dostça ve dürüst yapay zekâlar, insanların yaşam zorluklarıyla başa çıkmasına yardımcı olabilir ve mutluluk ile tatmin düzeylerini gerçek anlamda artırabilir. OpenAI, bu faydaları gerçekleştirmek için büyük çaba harcamıştır. Şu anda beni gururlandıran ve çevremdekilere de fayda sağlayan bir örnek, ChatGPT’de sağlık bilgisi sunma yeteneğine yönelik derinlemesine yatırımlarımızdır.

AI'nin uzun vadeli vizyonu ne kadar iyi olsa da, büyük ölçüde dikkatimizi gelecek birkaç yıla odaklamalıyız. Çok akıllı makinelerin olduğu bir dünyaya geçiş sürecindeyiz ve bu geçişin insanlar için faydalı olduğundan emin olmalıyız. Çoğu görevin AI tarafından tamamlanabileceği bir dünyada, insan aksiyonunu koruyacak ve “insan olmanın” içsel değerini kuracak yollar bulmalıyız. Gücün aşırı merkezileşmesini önlemeliyiz: geçmişte binlerce uzmanın gerektirdiği işler, gelecekte sadece birkaç kişinin büyük bir bilgisayarı kullanmasıyla gerçekleştirilebilir. Ayrıca, kendi dışımızda bir akıllı güç tarafından kontrolü kaybedip geride kalmamak için insanlığın geleceği üzerindeki kontrolünü korumalıyız.

Şu anda, hiçbir laboratuvarın, daha uzun süre en yüksek hızda sorumlu bir şekilde ölçeklenebilmesini desteklemek için hizalama ve izleme konularında yeterli çözümlere ulaşmış olduğunu düşünmüyorum. Ortak bir güvenlik eşiği kurulana kadar, gönüllü yavaşlamanın standart hale gelmesini bekliyor ve umuyorum. Ayrıca, gelecekteki yapay zeka gelişimleri etrafında uluslararası koordinasyonun, tüm ülkelerin hükümetleri için öncelikli bir mesele haline gelmesi gerektiğine inanıyorum.

1 Bu, oyun teorisi, robotikten genişletilmesini ve en önemlisi, dili modellemek için döngüsel ağların genişletilmesini içerir; bu da GPT serisi araştırmalarının öncüsüdür.

2 Bu tasarımın ikincil nedeni damıtmayı önlemektir. Ancak tüm geliştirme süreci boyunca, düşünce zincirinin izlenebilirliğini korumak her zaman açıkça belirli daha büyük önceliğimizdi.