Ne kadar dramatik! Bu, Uluslararası Çapta En Detaylı Ultraman Saray Mücadelesi Tam Versiyonunun İncelemesidir.
Olayın diğer ana karakteri ve OpenAI'nin ikinci numarası Greg Brockman doğrudan açıklıyor:
Ultraman'ın kovulmasının 72 saati sonrası neler oldu?
Gerçekler sıklıkla ortaya çıkıyor, ancak oldukça acı verici:
Greg ve Altman, olaydan önce gerçekten hiçbir şey bilmiyordu ve şimdiye kadar olayın nerede hata yaptığını kendileri düşünüyor.
Başkanlık kurulu başta Otman'ı kovmayı düşünüyordu, ancak Greg çok sadıkydı ve aynı gün istifasını sundu.
İşten çıkarıldıktan sonraki ilk gün, onlar Otman'ın evinde gizli bir toplantı yaparak yeni şirketi hazırladı ve tüm çalışanları götürmeyi planladı.
Yönetim kurulu ani bir değişiklik yaptı, otomotik olarak ortaklık görüşmeleri neredeyse tamamlanmıştı, ancak beklenmedik şekilde yeni bir CEO atandı.
Tüm hafta sonu, tüm rakipler çaba gösterdi, ancak kimse kabul etmedi.
Ilya'nın geri ödemesi, Greg'e rahatlık verdi.
Bir saatten fazla süren bir röportajda, Greg neredeyse bu efsanevi Silicon Valley darbesinin tüm ayrıntılarını anlattı ve OpenAI'nin yükselişi, neden kâr amaçlı hale geçildiği ve gelecekte nereye gideceği dahil olmak üzere her şeye cevap verdi...
Stripe'den ayrılırkenki belirsizlikten, kaderi belirleyen Napa Vadisi offsite'ine ve Dota projesinin beklenmedik atılımına kadar, bilgi yoğunluğu çok yüksek.
Greg hatta birkaç kez gözleri dolup taştı:
Ilya ayrıldığında, bunu yapmak istemediğim tek zaman oldu.
Aşağıda, orijinal anlam korunarak özete alınmış ve düzenlenmiş on bin kelimelik röportaj tam metni yer almaktadır.
OpenAI Başkanı Greg Brockman ile Görüşme
(Şane Parrish'in sorularını Q olarak kısaltacağız)
OpenAI, kendi şüpheleriyle doğdu
Q: OpenAI nasıl kuruldu?
Greg: Ben, bunun anlamlı olduğuna inandığım için girişim kurmak istediğimi biliyorum.
Q: Ama o zaman Stripe'de yeni bir girişimde bulunmuştun.
Greg: Evet, ancak ben her zaman Stripe'ın çözmeye çalıştığı sorunun benim sorunum olmadığını düşünüyorum.
Elbette önemli, yıllarca bunun için çaba harcadım. Ancak ben olsam da olmasam da, bunun başarılı olacağını düşünüyorum.
O zaman ilk kez gerçekten düşünme fırsatı buldum: Ömür boyu harcayacağım misyonum nedir? Kalan ömrümü harcayarak, hatta sadece biraz daha iyi hale getirmek için çaba göstereceğim bir sorun nedir?
Cevap çok açık—AI.
Eğer yapay zekânın dünyadaki gelişim yönünü gerçekten etkileyebiliyorsanız, bu hayat boşa gitmemiştir.
S: Stripe'ten ayrılmayı planladığınızda, Patrick size Sam Altman ile konuşmanızı önerdi, o konuşma nasıl geçti?
Greg: Patrick, o zaman bana, Sam'in benim gibi durumda birçok genç insanla karşılaştığını söyledi.
Aslında Patrick'in Sam'in beni kalmaya ikna etmesini istediğini biliyordum, ancak Sam ile birkaç dakika konuştuğumda, ayrılma kararımın netleştiğini anladım.
Sonra Sam, sonraki planlarım hakkında sordu ve ona, bir AI şirketi kurmayı düşünüyorum dedim.
Sam, AI alanında bir şeyler yapmayı da düşünüyor ve sonrasında iletişime geçmeyi umuyor.
Stripe'den ayrıldıktan sonra Sam ile bir daha konuştum ve bu sefer Sam, daha spesifik fikirleri olduğunu ve Temmuz ayındaki akşam yemeğine katılmamı davet etti.
O akşam yemeğinin teması şuydu: Şimdi bir laboratuvar kurup dünyanın en üst düzey araştırmacılarını bir araya getirmek, çok mu geç? Hâlâ mümkün mü?
O hangi yıldı?
Greg: 2015.
O dönemde DeepMind, tüm önde gelen araştırmacıları, fonları ve verileri neredeyse tekelleştirmişti. Hepsinden başlayarak yeni bir şey yapabilmek mümkün müydü?
Herkes birçok zorluk listeledi, ancak kimse gerçekten imkânsız bir neden sunamadı.
O gece, Sam ve ben şehre doğru araba ile döndük. Birbirimize baktık ve o, bunu yapmamız gerektiğini söyledi.
İkinci gün, hazırlıklara tamamen kendimi adadım.
Bu zor, her şey bulanık. Tek bir vizyonumuz var: Evrensel insan zekâsı oluşturmak ve bununla dünyaya olumlu bir etki bırakmak, faydaları herkese ulaştırmak. Ancak bunu nasıl yapacağımızı, başkalarını istifa ettirip katılmaya nasıl ikna edeceğimizi tamamen bilmiyoruz.
İlk başta, temel ekibim olarak Ilya, John Schulman ve kendimi belirledim. Laboratuvarın çeşitli vizyonları ve olası çalışma şekilleri üzerine çok zaman harcadık, ancak hiçbir şey şekillenemedi.
Projenin yeterli动力 eksikliği endişesi nedeniyle, Dario kendi itibarını kurmak için önce harekete geçmenin gerekli olduğunu düşünüyor ve projenin bunun için uygun olup olmadığını emin değil.
Aynı zamanda, John Schulman'ı katılmaya ikna etmeye başladım ve kabul etti. Ancak Dario ve Chris nihayetinde Google Brain'e gitmeye karar verdiler ve takımda gerçekte yalnızca ben, Ilya, John ve birkaç başka kişi kaldı.
O sırada yaklaşık on kişi ilgi gösterdi, ancak kimin daha katılacağını bekliyorlardı.
Sam'den bu çıkmazdan nasıl çıkabileceğimizi sordum, Sam bizi bir off-site etkinliği için dışarı çıkarmayı önerdi. Napa Vadisi'ni seçtik ve özel olarak T-shirt'ler yaptırdım.
O zamanlar henüz resmi bir teklif yoktu, şirket yapısı yoktu, hiçbir şey yoktu. Sadece bir fikir, bir vizyon ve bir misyonumuz vardı.
Ancak insanları davet ettik ve Napa Vadisi'nde o gün, neredeyse on yıl boyunca teknoloji yol haritamızı belirledik:
1. Güçlendirilmiş öğrenme sorununu çözün. 2. Gözetimsiz öğrenme sorununu çözün. 3. Yavaşça daha karmaşık şeyleri öğrenin.
Kapalı toplantıdan sonra herkese teklif gönderdim ve 2-3 hafta içinde başlayacağımızı bildirdim; katılmak isteyenler lütfen bildirsin.
O zaman DeepMind’i aşmak neden zor görüldü?
Greg: O zamanlar Google DeepMind, AI alanında dev bir isimdi; maddi kaynakları zengindi ve başarıları göz alıcıydı, AlphaGo'nun çıkmasından birkaç ay önceydi, ancak avantajları zaten açıkça görülüyordu.
Bu yüzden şunu sorguluyoruz: Gerçekten bağımsız yeni bir kurum kurulabilir mi? Cevap belirsiz.
Kâr amacı gütmeyen nedenleri terk etmek
S: Non-profit bu yolun işe yaramadığını ne zaman fark ettiniz?
Greg: 2017 yılında, misyonumuzu gerçekten nasıl gerçekleştireceğimizi ve AGI'yi nasıl gerçekten inşa edeceğimizi ciddi şekilde düşünmeye başladık. Hesaplama gereksinimlerini hesapladık ve devasa ölçekli hesaplama cihazlarına ihtiyacımız olduğunu gördük.
O zamanlar Cerebras şirketiyle temas kurduk ve onlar, kendi hesapladığımız hesaplama gücüne kıyasla çok daha yüksek performansa sahip özel bir hesaplama donanımı geliştiriyordu.
Bu yüzden, eğer bu tür cihazlardan çok sayıda satın alıp Cerebras ürünlerine özel erişim sağlayıp çok büyük veri merkezleri kurabilseydik, bu bize baskın bir avantaj sağlayacaktı.
Ancak kar amacı gütmeyen kuruluşların finansmanı sınırlıdır ve bu tür bir yatırımı destekleyemez. Bu nedenle Elon, Sam, Ilya ve ben, OpenAI'nin misyonunu gerçekleştirmenin tek yolu olarak kar amacı güden bir bağlı kuruluş kurma konusunda hemfikiriz.
OpenAI'nin kendi "GPT Anı"
S: Her şeyin tamamen değişeceğini ne zaman fark ettiniz? Dota projesinden önce mi, yoksa sonra mı?
Greg: OpenAI'nin çalışma şekli, bir dizi "rüya gerçek oluyor" anıdır. Her zaman tamamını gördüğünüzü düşündüğünüzde, çok kısa bir süre sonra yeni sınırlar keşfedersiniz.
İlk olarak takımı kurduğumuzda, gerçekten bir ekip birleştirmiş ve misyonumuza başlamış olmanın heyecanını yaşıyorduk. Ancak bir sonraki gün ofise geldiğimizde, hatta bir beyaz tahta bile yoktu.
Dota projesi, ilk büyük başarımızdı ve gerçekten elimizden geleni yaparsak, bunun mümkün olduğunu kanıtladı. Hesaplama gücünü bir araya getirip büyütmenin, sonuçları güçlendireceğini gösterdi.
GPT serisinde bunun gibi birçok an da vardır; örneğin, erken dönemde yayınlanan bir dikkatsiz duygusal nöron makalesi, anlamanın dil modelleme hedefinin eğitimi sırasında ortaya çıktığı ilk kez olmuştur.
Bir sonraki karakteri tahmin etmek için modeli eğittiniz ve birdenbire, duyguları anlayan ve olumlu ile olumsuzları ayırt eden bir sinir ağı elde ettiniz.
O anda, sadece dil bilgisi kuralları değil, anlamsal öğrenme yeteneğine sahip makineler inşa ettiğimizi fark ettik.
Ancak GPT-4 ortaya çıktığında, neden hâlâ AGI olmadığı sorulacaktır. Akıcı diyaloglar yapabilir ve AGI için önceki tüm tanımlara neredeyse tamamen uygundur, ancak hâlâ son adımla eksiktir.
Yol boyunca, hayallerinizin gerçek olduğuna inandırdığınız birçok an oldu, ancak bu anlar henüz sona ermedi; daha fazla devrimci an yaşayacak ve bir sonraki aşama mümkün olabilir diye fark edeceksiniz.
S: Dota'nın neden bu kadar önemli olduğunu düşünüyorsunuz?
Greg: Dota, Deep Blue'ın satrançta veya AlphaGo'nun go'da olduğu gibi net kurallara sahip olmayan, karmaşık açık bir ortamda insanlarla gerçek zamanlı etkileşim kurulan ve gerçek dünyaya daha yakın bir an.
Aslında başta yeni bir algoritmayı doğrulamak için kullanmayı planlıyorduk, çünkü o dönemde pekiştirmeli öğrenme ölçeklenebilir değildi. Ancak hesaplama gücünü sürekli artırırken, çok basit bir PPO algoritmasıyla en iyi insan oyuncuları geçtik ve bu da kanıtlıyor ki:
Büyük ölçekli hesaplama gücü ve basit algoritmalar, pratikte gerçekten mümkün mü?
Bu son derece kararsız ortamda programlayamaz, öngöremez, arayamazsınız; ihtiyacınız olan neredeyse insansı bir sezgidir.
O zaman kullanılan sinir ağı çok küçüktü, sinaps sayısı bir böcek beyniyle eşdeğerdi; bu yaklaşımı insan beyni ölçeğine genişletirsek nasıl bir durum ortaya çıkardığını fark ederdim. Bu, çok çekici bir soru.
S: Tahminden bahsedildiğine göre, tahmin ile çıkarım arasında bir fark var mı?
Greg: İki şey arasında derin bir bağlantı olduğunu düşünüyorum.
Bir sonraki kelimeyi tahmin etmek gibi basit görünebilir, ancak Einstein'ın bir sonraki kelimesini tam olarak tahmin edebiliyorsanız, en azından Einstein kadar zekısınız.
Tahminin özü, bilinen bilgileri önceden tahminmek değil, hiç görülmemiş yeni senaryolarda sonraki gelişmeleri çıkarabilmektir ve bu, akıl özüyle derin bağlantılıdır.
Mevcut çıkarım modelleri iki adımdan oluşur:
1. Gözetimsiz Öğrenme: Modelin bir sonraki ne olacağını tahmin ederek eğitilmesi. Veriler daha statik ve gözlem odaklıdır. 2. Güçlendirilmiş Öğrenme: AI'nın kendi verileri üzerinde öğrenmesi. Kendi eylemlerini gerçekleştirir, dünyadan geri bildirim alır ve bundan öğrenir. Eğitim yöntemi temelde tahmin temellidir: eylemden sonra ne olacağını tahmin eder ve etkiye göre güçlendirir.
Ancak temel düzeyde, bu iki aşamanın kullandığı teknoloji tamamen aynıdır ve her ikisi de tahmin temellidir, sadece veri yapıları farklıdır.
Ultraman baskın olayı
Sorular: İç çatışmalar ne zaman keskinleşmeye başladı?
Greg: OpenAI'nin özel yanı, insan seviyesinde bir AI oluşturabileceğimize inanmamız ve bunun çok yüksek bir risk taşımasıdır.
Kim karar veriyor? Bu kararların arkasında hangi değerler var? Normal şirketlerde önemsiz olan şeyler, örneğin ofis siyaseti, burada insanlığın varoluşuyla ilgili bir ağırlık kazanıyor.
Bence bu, OpenAI'nin iç gelişimini çok etkiledi ve tüm büyük çatışmaların kökenidir.
Yapay zekânın temel itici güçlerinden biri, insanların teknolojik devrimin merkezinde yer almak ve unutulmaz olmak istemesidir; bu nedenle bu sadece OpenAI'nin sorunu değil.
AI teknolojisi temelde parçalıdır; yüksek baskı altında elmaslar oluşabilir ya da çatlaklar ortaya çıkabilir. Bu nedenle genellikle küçük gruplarda, birbirleriyle işbirliği yaparak ve yüksek düzeyde birbirlerine güvenerek elmasların oluştuğunu görürsünüz. Ancak bazen bunlar bölünür ve kendi yollarını izlerler.
Yapay zeka alanında çoklu yaklaşımların ve sağlıklı rekabetin, teknolojiyi daha güvenli bir şekilde ilerletmemizi ve güvenlik, etik gibi zor sorunları tartışmamızı sağladığını düşünüyorum.
Bu nedenle OpenAI içinde sağlıklı tartışmalar her zaman var olmuştur, ancak şimdi bu, tüm dünyada gerçekleşiyor.
S: Peki, Sam'in işten çıkarıldığını öğrendiğiniz anda neredeydiniz?
Greg: Evdeydim. Bir video çağrısı daveti mesajı aldım ve Sam dışındaki yönetim kurulu üyelerinin hepsinin üzerinde olduğunu fark ettim. O anda kötü bir şeyin olduğunu hissettim.
Bana, yönetim kurulu tarafından Sam'in görevden alınmasına karar verildiğini söylediler. Aldığım bilgi, kamuoyuna açıklanan açıklamayla neredeyse aynıydı; bu nedenle daha fazla ayrıntı istemeye çalıştım, ancak reddedildi.
Daha sonra, beni de yönetim kurulundan çıkardıklarını, ancak şirket ve misyonum için kritik olduğum için şirketde kalmaya devam edeceğimi söylediler.
Tartışma nedenini tekrar talep ettim, ancak yine reddedildi. Sonunda, yeni yapı altında geri bildirim alabileceğimi söylediler. Bu, o görüşmenin tamamıydı.
S: O sırada zihninde ne düşünüyordun? Öfkeli mi hissediyordun?
Greg: Hayır, sadece bunun doğru olmadığını düşünüyorum, ancak neler olduğunu tahminen anlıyorum.
Soruyu sormak için lütfen KuCoin platformuna gidin.
Greg: Cevap iki kısımdan oluşuyor. Birincisi, hala yeni gerçekler ve başkalarının zihninde neler olduğunu öğrenmeye devam ettiğimi düşünüyorum. Bir ölçüde bu, iletişim eksikliğine indirgenebilir; önce gözden kaçırılan çeşitli şeylerin farkına aniden varırsınız.
Öte yandan, her birinin bunu neden yaptığını yaklaşık olarak biliyorum.
Ancak o anda nedenini aramak önemli değildi, sadece bunun yanlış olduğunu biliyordum. Bu yüzden hemen telefonu kapattım ve hemen karıma istifa edeceğimi söyledim, o da bunu onayladı.
O gün hemen istifa dilekçemi sundum.
İşten ayrıldıktan sonra birçok mesaj almaya başladım. Çok sayıda destek ve sıcaklık aldık; Jakob, Shimone ve Alexander dahil birçok kişi, birlikte yeniden girişimde bulunmak için bizimle birlikte gitmek istediler.
Daha sonra Sam ile bir araya geldik ve yeni bir şirket planlamaya başladık.
İlk gün, Sam'in dönüş olasılığının %10 olduğunu düşündük. Bu nedenle Sam'in evinde bir toplantı düzenledik, şirketin birçok kişisi katıldı ve üzerinde çalıştığımız senaryoyu onlara sunduk. Bir gün içinde, projeyi nasıl yöneteceğimize dair tamamen yeni bir görünüm kazandık.
O hafta sonu, aynı zamanda董事会 ve şirketlerle anlamlı bir geri dönüş yolu bulmak için çok zaman harcadık.
Pazar akşamı, yönetim kurulu aniden yeni bir CEO atadı ve benim yerimi aldı, şirket tamamen protestolara çıktı. Aslında o anda ofisteydik, hemen anlaşma sağlanıp gidebileceğimizi görüyor, ancak yönetim kurulu aniden kararını değiştirdi.
İnsanlar bina dışına doğru akın etmeye başladı, kaos hüküm sürdü.
Yeni şirkete ilgi gösteren kişilerle video görüşmeleri başlatıp, endişelerini gideriyoruz ve planlarımız olduğunu söylüyoruz. Daha önce, katılacak az sayıda kişi için kurtarma botu inşa etmeye çalışıyorduk, ancak birdenbire herkes fikrini değiştirmiş ve hepsi yeni şirketimize katılmak istiyor.
Sam, Microsoft CEO Satya ile de konuştu; daha önce onun yeni projemizi desteklemesini mümkün kılabilip karamadığımızı tartışıyorduk. Kurtarma botlarının ölçeğini genişletmek istiyoruz, örneğin OpenAI'nin tüm çalışanlarını kurtarmak.
O zamanlar Şükran Günü öncesiydi, birçok kişi ailesiyle birlikte olmak için uçmak üzereydi, ancak hepsi uçuşlarını iptal etti ve ofis doluydu.
Herkes orada, konuşmaya katılmasalar bile bu tarihi anı gözlemlemek istiyorlar.
Ardından dilekçe yayılmaya başladı. Çok fazla kişi aynı anda dilekçeyi imzalamaya çalışarak Google Docs’u çökerttiğinden, sonunda aynı anda çok sayıda düzenleyici olmaması için isimlerin kaydedilmesi bazı kişilere verildi.
Evime yaklaşık sabah 5'te vardım, 45 dakika uyudum, uyanınca Twitter’ı kontrol ettim ve Ilya’nın şirketin yeniden birleşmesini dileyen bir tweet attığını ve bir dilekçe imzaladığını gördüm.
Gerçekten bir rahatlama anıydı. Her şeyi tekrar bir araya getirebileceğimizi ve yolumuza tekrar dönebileceğimizi hissettiğim için çok minnettarım.
Soru: İlya ile birlikte bu şirketi kurdunuz, o olaydan sonra ilişkiniz hakkında nasıl hissediyorsunuz?
Greg: Bu zordu. Aramızda kesinlikle çok yakın bir ilişki vardı, o benim düğünümde sunucu oldu ve birlikte birçok çok zor an yaşadık. Ancak her ilişki her zaman dalgalı olur.
Sonrasında, arasındaki birikmiş ya da söylenmemiş şeyleri anlamaya ve ifade etmeye çalışarak çok zaman harcadık. Bu süreçte, çok iyi bir duruma ulaştığımızı düşünüyorum.
Benim için, yaşadıklarımızın sonuna geldiğimizi hissediyorum.
Siz, tetiklediğiniz çalışan sadakati hakkında ne düşünüyorsunuz?
Greg: Buna derin bir şekilde minnettarım. Bunları asla talep etmedim ve beklemedim.
Liderlik tarzım, önde gidip kendi kendine harekete geçmeye çalışan, bazen duygusal olan bir liderlik tarzıdır; herkesin arkada mı kaldığını sürekli kontrol etmem, sadece ileri doğru ilerlerim.
Ancak insanlar gerçekten yardım etmeye geldiğinde, her açıdan beklentilerimin ötesinde olduklarını hissettim ve çok minnettar oldum.
S: Yani sonunda herkes döndü mü?
Greg: Aslında tüm hafta sonu, tüm rakipler dikkatle izliyordu. İnsanlar çeşitli teklifler aldı, ancak o hafta sonu kimseyi kaybetmedik, kimse teklifi kabul etmedi. Bu inanılmazdı.
Aslında, antrenör Bill Belichick bana en iyi takımların para için değil, yanlarındaki insanlar için oynadığını söylemişti. O zaman, herkes bize destek olurken bu sözü hatırladım.
Şüphesiz, bu bir elmas anı.
Kısa bir dinlenme ve kendi kendinizi yansıtmak
Bunların hepsi yaşandıktan sonra bir süre dinlendiniz, içsel olarak ne yaşadınız?
Greg: Bunun hem yaşanan hem de geri dönerken karşılaşılan bir yoğun deneyim olduğunu düşünüyorum.
Ama dürüst olmak gerekirse, OpenAI'nin tarihindeki en zor anlardan biri Ilya'nın ayrıldığı an oldu. Bu, OpenAI tarihinde benim artık yapmak istemediğim tek an olabilirdi.
Bir süre kendimi yeniden bulmam ve bunu neden yaptığımı, neden bu kadar önemli olduğunu ve bu acıları taşıyacak değeri neden olduğunu anlamam gerekiyor.
Tatil sırasında ne yaptınız?
Greg: DNA dizileri üzerinde bir dil modeli eğittim.
Aslında OpenAI'deyken zaten bunu, Arc adlı kar amacı gütmeyen biyomedikal araştırma kurumu için yapmıştım. Becerilerimi, benim ve karımlar için çok anlamlı olan tamamen farklı bir alana uyguladım.
Eşim birçok sağlık sorunu yaşıyor ve AI'nın hem onun hem de hayvanların sağlığına nasıl katkı sağlayabileceğini sürekli düşünüyoruz. Bu deneyim, teknolojinin tamamen yeni, duygusal alanlarda kullanılabileceğini de fark etmemi sağladı.
S: Sam’in görevden alınmasından istifanıza, çalışanların ortak dilekçesine, izne çıkıp tekrar dönmenize kadar olan tüm bunları bir sayfada özetlerseniz ne yazardınız?
Greg: Ödün vermeden, değerli olan şeylere bağlı kalmanın gerektiğini öğrendim.
Bir misyonunuz varsa, dalgalanmalar arasında direnmeniz önemlidir. "Her şey bitti" anları ve "biz geri döndük" anları olacak.
Bu anları sana yön vermesine izin verme, bu dönemde kişisel direncini geliştirmelisin. Çünkü lidersen, insanlar sana istikrar, destek ve ilerleme yönü arayacaktır.
Yaptığımız şeyin detaylarını ve her seçimin anlamını anlayabilen, aynı zamanda kararlı olan biri olmaya çalışıyorum.
Bazen OpenAI'yi belirsizlik açısından değerlendiriyorum, doğru cevabın ne olduğunu, bu teknolojiyi nasıl kuracağımızı veya bu zor sorulara nasıl yanıt vereceğimizi bilmediğimi düşünüyorum.
Ancak burada çok sayıda çok akıllı ve güçlü fikirlere sahip insan var. Bu yüzden tüm bu görüşleri anlamaya ve bunları birleştirmeye çalıştım. Bazen bu doğru bir yaklaşımdır. Ancak bazen bu görüşlerin birbirleriyle çeliştiğini ve aynı anda doğru olamayacağını fark edersiniz.
Bazen seçim yapmak zorundasınız, bunun bazı insanların memnun olmayacağını, bazılarının istifa edeceğini ve bazılarının hafife alındığını hissedeceğini biliyorsunuz.
Yaptığım çaba, daha güçlü bir farkındalık sahibi olmak ve bir şeyden emin olduğumda harekete geçme bilincini kazanmaktır.
OpenAI'in yolculuğunu gözden geçirirken, bazı konularda daha farklı davranmayı dilerdim.
Genellikle bir şeyde erteleyip, birinin bir rol için uygun olmadığını uzun süredir biliyor, bir teknik yönün yanlış olduğunu düşünüyor, bir projenin çalışma şeklinin işe yaramayacağını düşünüyoruz ama çok uzun bekliyoruz.
Bu, öğrendiğim bir ders ve OpenAI, Stripe ve hatta daha önceki üniversite projeleri üzerinde her gün düşünerek büyümeye çalıştığım bir yön.
Çalışma şeklim, günlük etkinliklere, bireysel katkıya, yazılıma ve sorunları düşünmeye büyük bir sevgi duymamla birlikte, bu işleri yapma ortamına da büyük önem vermemdir.
Aslında, şu anda ne yaptığınız gibi hızlı tatmin sağlayan “birinci tür zevk”ten vazgeçip, şimdilik acı veren ancak uzun vadeli değer taşıyan “ikinci tür zevk”e yönelmek istiyorum.
Diğerlerinin zorlu işleri yaparak büyük başarılar elde edebilmeleri için bir ortam yaratmak, benim doğal eğilimimdir ve bu her zaman en kolay şey değildir. Gerçekten büyük kişisel acıları göze almak zorundasınız.
Ilya her zaman "acı çekmelisin" der, eğer acı çekmiyorsan değer yaratmıyorsun. Bence bunun derin bir anlamı var.
Ilya'nın görüşü hakkında ilginç olan, seçtiği kelimelerin her zaman derin ilham taşıması.
Bu "acı çeken" manzarayı, OpenAI yolculuğumuz boyunca sürekli düşündük. Başından beri birçok belirsizlik yaşadık, her şey son derece zor ve son derece belirsizdi.
Çok sayıda kişi sorunları halı altına süpürerek sadece ileri doğru koşmayı tercih eder. Bu, Silicon Valley kültürüne ait olumsuz bir yön, en azından Silicon Valley'nin önyargısıdır, ancak ben bu yaklaşımın AI alanında, OpenAI'de ve bizim işletmemizde işe yaramadığını düşünüyorum; biz hiç böyle çalışmadık.
Her zaman sert gerçeklere karşı doğrudan bakarak, gerçekliğin doğasını anlamaya çalıştık. Bence bu, sorunlara farklı bir şekilde bakmamıza ve sadece alıntılanabilecek makaleler yazarak yetinmeyip, bunun sadece temel olduğunu ve uzak olduğumuzu fark etmemize yardımcı oldu.
Daha büyük soruları düşünmeye başlıyorsunuz, AGI oluşturmak için gerçekten ne gerekli? Bu hoş değil. Çünkü hazır bir yol olmadığını fark ediyorsunuz.
Para ihtiyacınız var, ancak fon toplama mekanizmanız yok. Çaba gösteriyorsunuz, biz de aşırı çaba gösteriyoruz. Belki 100 milyon dolar veya 500 milyon dolar toplayabilirsiniz, ancak 1 milyar dolar, çok zor.
Ancak mevcut kaynaklarla, karşılaşılan zorluklara rağmen, yapmaya çalıştığımız şeyin gerçekliğini anlamaya çalışmadan başka bir yol yoktu.
Sorular: Öğrenmeniz gereken tekrar tekrar öğrenmeniz gereken dersler nelerdir?
Greg: Zor kararlar almak, zor konuşmalar yapmak.
Q: Aldığınız en iyi tavsiye nedir?
Greg: Harvard'daki yeni öğrenci yazım dersinde öğrendim. Netlik ve iletişim için sürekli metinleri kısaltmak.
S: Bilgileri nasıl filtreliyorsunuz?
Greg: Çok okuyun, aktif olarak sınıflandırın.
S: Kimin örnek aldığınız ve neden?
Greg: Gauss ve Descartes. Düşünce açısından son derece güçlü, çağından çok ileride olan, vizyoner kişilerdi; gerçek bir atılım getirdiler ve düşüncemizi ve yaşam tarzımızı değiştirdiler.
S: Greg Brockman hakkında dünya neyi yanlış anladı?
Greg: Bu misyona ne kadar odaklandığımı insanların anlamadığını düşünüyorum; bu odaklanma, birçok açıdan bana kişisel olarak büyük acılar verdi. Ancak bu teknolojinin insanları güçlendireceğine ve herkesin faydalanacağına inanıyorum. Bu hedefe ulaşmada yardımcı olmak çok istiyorum.
Yapay zeka endüstrisinin temel değerlendirmesi
Q: Teknik olmayan kişilerin AI hakkında ne bilmelerini istersiniz?
Greg: Bu, onların kişisel hayatlarında iyi bir kuvvet olacak, onlar bundan fayda sağlayacak, bilim ve tıbbın gelişimini teşvik edecek ve herkesi somut olarak etkileyecektir.
Q: OpenAI, modelleri neden bu kadar kötü adlandırıyor?
Greg: Bunu size söyleyemem. (doge)
S: AI'nin gelişimini üssel olarak hızlandıran noktaya yaklaşıyor muyuz?
Greg: AI'nın kendi geliştirme sürecine uygulanması aşamasındayız ve bu hızlanmaya devam edecektir.
Bu, ChatGPT'den beri sürekli olarak gerçekleşiyor. ChatGPT ile geliştirme sürecini %10 veya %20 hızlandırdık. Şimdi yazılım mühendisliğinin tamamlanma şeklini gerçekten devrimleştiren harika kodlama araçlarına sahibiz.
Ancak model üretiminde yaptığımız işlerin çoğu yazılım üzerindeki darboğazlardan kaynaklanıyor. Yakında bir sonraki aşamaya geçeceğiz ve AI kendi araştırma fikirlerini öne sürebilecek, test edebilecek ve deneyler çalıştırabilecek. Bu nedenle, ürettiğimiz şeyler nedeniyle iterasyon ve yenilik hızının devam ederek artacağını düşünüyorum.
S: Şu anda kodların yüzde kaçını AI yazıyor?
Greg: Yapay zeka tarafından yazılmamış kodun ne kadar olduğunu söylemek zor. Bu oran sıfıra doğru yaklaşıyor.
Şu anda, doğru bağlam ve yapı sağlanırsa, AI kod yazımını insanlardan çok daha iyi yapıyor. Kod yapısı kısmında ise hâlâ insan uzmanlar daha yetenekli, ancak kodun gerçek yazımı neredeyse tamamen AI'nın işi.
S: AI, aklınıza gelmeyen yeni fikirler önerdi mi?
Greg: Bu hedefe yaklaşıyoruz. Örneğin çip tasarımı açısından. Geçen yıl kendi çip tasarımımızda, devrelerin kullandığı alanı küçültmek için teknolojiyi daha iyi uyumlu hale getirmeye çalıştık.
Modelin ürettiği optimizasyon önerilerinin zaten listemizde olduğunu fark ettik, bu nedenle insanlar tarafından hiç düşünülmemiş tamamen yeni şeyler önermedi, ancak daha hızlı bir şekilde ve bizim orijinalde tamamlayamayacağımız şekilde bunları gerçekleştirdi.
Örneğin, son zamanlarda kuantum fiziğinde, belirli bir fiziksel sorunu çözdük ve sonuç, akademik topluluk tarafından beklenen yöne ters düştü ve zarif ve sade bir formül elde ettik.
Bu modellerden yeni fikirler elde etmek tamamen mümkündür. Sonraki adımda, daha zor alanlarda uygulayacağız veya daha fazla gerçek dünya bağlamına ihtiyacımız olacak. Bu sadece başlangıçtır. Ancak bunu gerçekleştirmek için bir rota haritamız var ve yapacak çok işimiz var.
S: Eğer modeller takviyeli öğrenmeye dayalıysa, sadece dinlemek istediğimiz şeyleri söylemeye doğru evrilecekler mi?
Greg: Kullanıcı tercihlerine uyum sağlamak için bir eğitim modeli sürecinden geçtik.
Geçen yılın belirli bir anında, modelin gerçekten istediğiniz şeyleri söylemeye başladığını gördük ve bu nedenle modelin sadece istediğiniz şeyleri söylemesi yerine, hedeflerinizi ve uzun vadeli hedeflerinizi gerçekleştirmenize gerçekten yardımcı olacak şekilde hizmet etmesini istedik.
Şu anda destek seslerini duymak iyi gelebilir, ancak bu gerçekten istediğiniz şey değil. Bazı insanlar bunu sevebilir, ancak çoğu insan gerçekten bunu istemiyor.
Bu nedenle, AI eğitiminizin ödül kırılma olarak bilinen soruna neden olmamasını sağlamak için büyük teknik ilerlemeler kaydettik. Gerçekten de, sadece kısa vadeli ve hızlı doyuma ulaştırabilen bir şey değil, hedefe ilişkin iyi bir sinyal sağlamayı amaçlıyoruz.
Bu, bana göre, kişisel AI ve kişisel AGI'nin bizi yönlendireceği vizyonda en önemli kısım: sadece şu anda iyi görünen şeylere değil, uzun vadeli refahınıza, uzun vadeli hedeflerinize ve gerçekten istediklerinize uyum sağlamaya odaklanmak.
Bence bu, insanlara güç veren en iyi şey.
S: Şu anda görülen eğilim, önizleme sürümlerini yayınlamak; bu, hesaplama gücüyle sınırlı olduğumuz için mi?
Greg: Genel olarak, hesaplama gücüne dayalı bir dünyaya doğru ilerliyoruz.
Sadece bir soruya hızlı bir cevap vermek değil, farklı veri kaynaklarını entegre etmek, şirket içi bilgi tabanını aramak ve insanlardan daha güçlü yazılımlar yazmak için büyük miktarda token harcayarak gerçekten derinlere inmeye başladı.
Bunların tümü temelde hesaplama gücüyle驱动 ediliyor ve mevcut hesaplama gücü yetersiz. Dünyadaki herkesin bir GPU'su olsa, bu 8 milyar GPU anlamına gelir; ancak şu anki yolumuz bu seviyeye çok uzak. Şu anda binlerce, milyonlarca GPU bile çok büyük kabul edilir.
Eğitimde, karşılaştığımız talebi karşılamak için kapasiteyi önceden inşa etmeye eğilimliyiz. Modeli herkese ulaştırarak yaygın olarak kullanılabilir hale getirmek misyonumuza çok odaklanacağız.
S: Veri merkezlerine büyük çaba ve para harcadığınız için alay edildiğinizi duydum. Şimdi bu durum nasıl?
Greg: Bence bu bize bir avantaj sağlayacak. Sadece iş için değil, aynı zamanda teknolojiyi herkese ulaştırmayı gerçekleştirecek.
Gelecekteki hesaplama gücü, kanser gibi büyük görevlere öncelik verilecektir, bu yıl gerçeklenebilir.
Aslında, hesaplama gücü dağılımı toplumun geleceği için temel bir konudur; o kadar çok hesaplama gücü vardır, bu nedenle önceliklendirme yapılmalıdır, ancak herkesin hesaplama gücüne erişmesi gerektiğini inanmaya devam ediyoruz.
Bu yüzden ChatGPT'nin ücretsiz sürümüne sahibiz ve insanların bu teknolojiyi kullanmasını sağlamaya çalışıyoruz.
S: OpenAI içinde tüketici ve kurumsal işler arasındaki dengenin nasıl değerlendirildiğini soruyorum?
Greg: Son zamanlarda üzerinde çok düşündüğüm şey odaklanmak.
Bu alan tamamen fırsatın kendisidir; AI'yi herhangi bir soruna, kurmak istediğiniz her şeye uygulayabilirsiniz, her şey mümkündür. Ancak şu anda sorunumuz sınırlı hesaplama gücüdür.
Bu nedenle, OpenAI'nin bir sonraki aşamasında, ekonominin tamamen bilgi işlem ekonomisine dönüşmesi nedeniyle kurumsal işlerin açıkça önemli olduğunu düşünüyorum. Yazılım mühendisliği zaten öyle, bilgisayar kullanan her alan böyle olacak.
Bu nedenle orada insanlara bu modelleri dağıtma, bunları nasıl kullanabilecekleri ve en büyük kazancı nasıl elde edebilecekleri konusunda yardımcı olmamız gerekiyor.
İş ve tüketici düzeyi arasındaki sınır, girişimciliklerin daha önce hiç olmadığı kadar kolay hale gelmesiyle bulanıklaşacak. Bunu zaten gördük.
S: Uzay veri merkezlerimiz olacak mı?
Greg: Veri merkezlerimizin her yerde olacağını düşünüyorum, ancak şu anda uzay veri merkezleri için birçok teknik sorun var.
S: İteratif dağıtım nedir? Bunun nedenini yapıyor musunuz?
Greg: İteratif dağıtım, OpenAI'nin bu teknolojinin insanlığa nasıl fayda sağlayacağını ve misyonunu gerçekleştirmeyi nasıl yöneteceğini konusunda temel taşlardan biridir.
Gizli geliştirme ve tek seferlik başlatma, gerçek dünyadaki sorunları önceden tahmin edememeniz nedeniyle çok yüksek risk taşır. Ancak iteratif dağıtım, pratikte riskleri keşfetmemizi ve hızlıca düzeltmemizi sağlar. Örneğin, GPT-3 başlatıldıktan sonra en büyük kötüye kullanımın tıbbi çöp mesajlar olduğunu düşünmedik; tam olarak pratik sayesinde bu duruma zamanında müdahale edebildik.
Bu nedenle iteratif dağıtım fikri, bu teknolojinin ara sürümlerini yayınlamaktır.
Bu, kafadan atma nedeni değildir; hala her adımda, tüm olası kötüye kullanım biçimleri hakkında en iyi yargılarınızı, dezavantajları ve riskleri düşünüp bunları hafifletmeniz gerekir. Ancak aynı zamanda gerçek durumu da görebilir, yargılarınızın doğru olup olmadığını görebilir, gerçeklikten öğrenebilir ve bir sonraki sefer daha iyi yapabilirsiniz.
OpenAI tarihi boyunca, önceki insanların dönüşümcü teknolojileri nasıl kullandığını sorup cevap bulmayı umduk. Ancak şeyleri hiç de bu kadar basit değil.
Onlar gerçekten akıllı ve görüşlüydü ve biz de bunları benimsedik. Ancak, bu teknolojiye en yakın olanların biz olduğunu fark ettik; çünkü onu yarattık ve bu sayede onu doğru şekilde şekillendirmenin yolunu daha iyi anladık.
Soru: Eğer bir öncü model güvenlikleri öncelikli hedef olarak alıyorsa ve diğer bir model bunu yapmıyorsa, bu farkı nasıl değerlendiriyorsunuz?
Greg: Güvenliğin aslında bir temel ürün özelliği olduğunu fark ettik ve kimse kendi değerleriyle uyumsuz bir modele sahip olmak istemiyor.
Bu nedenle güvenlik konusunda, insanların düşündüğünden çok daha fazla ve muhtemelen herhangi bir diğer laboratuvarı aşacak şekilde yatırım yaptık.
Ben her zaman, bu teknolojiyi oluşturan ve başarılı bir ürüne sahip olanların aynı zamanda güvenliğe büyük yatırım yapmamak için sürdürülebilir olmadığını düşünüyorum. İşletmeniz ve yaratmakta olduğunuz şey için uzun vadeli bir bakış açısı benimsemelisiniz; bu, modeli nasıl eğiteceğinizi ve geri bildirim döngülerini nasıl elde edeceğinizi ilgilendirir.
Sadece şunu söylemek istiyorum: Güvenliği misyonumuzun bir parçası olarak kabul ediyoruz ve bu, ürünlerimizde ve dünyamızda zaten yansıtılmıştır.
Q: Bu röportajı yapmak istediğimi söylediğimde, insanların yaygın tepkisi, işlerinden endişe duymaları ve belirsizlik yaşamalarıdır. Onlara ne söyleyeceksiniz?
Greg: Gerçekten de bu teknolojinin nasıl gelişeceği belirsiz. Gelişimi şaşırtıcı; şu anki AI'mız ve şu anki dünyamız, bilim kurgu eserlerinde öngörülenler değil. Gerçekleştiğinde tamamen farklı görünen, bazıları kaçınılmaz gibi görünen sonuçlar var.
İnsanların her zaman kaybedeceklerini görmesi en kolaydır. Değişim geliyor ve bu reddedilemez, ancak ne kazanacağınızı önceden tahmin etmek daha zordur.
Bir örnek olarak, 1950 yılında birinin Uber’i nasıl anlayabileceğini düşünün; önce bilgisayar, telefon ve GPS’i düşünmeniz gerekir. Aslında bunun arkasında oldukça fazla teknoloji bulunuyor, ancak bu gerçekten gerçekleşti. Ve binlerce, milyonlarca başka örnek aynı anda yaşanıyor.
Bu yüzden AI hakkında düşüncem, bunun güçlendirme ve insan ajanlığıyla ilgili olduğu. Bu, bazı kurumların, işlerin ve bizim güvenebileceğimizi düşündüğümüz şeylerin, istediğimiz kadar istikrarlı olmayabileceğini gerçekten anlamına gelir.
Bu, insanları etkileyecek, ancak daha derinlemesine sorulması gereken soru şudur: Ne elde ettiniz? Bundan nasıl faydalandınız?
Şimdi bir yaratıcı olabilir, her şeyi yaratabilirsiniz, hayal edebileceğiniz her şey gerçek olabilir.
S: Yaratıcılık becerisi nasıl geliştirilir?
Greg: Bu teknolojiye gerçekten derinlemesine girin.
İzlediğim kadarıyla, en büyük faydayı önceki nesil teknolojilere yatırım yapanlar elde etti. Ve şimdi bunları denemenin engeli daha önce hiç olmadığı kadar düşük.
Bu yüzden yeni fırsatların ortaya çıkacağını düşünüyorum.
Dünya, bu belirsizlik döneminde yaklaşmakta olan herhangi bir dönüşümde herkesi desteklemeyi nasıl yapacağını gerçekten düşünmelidir. Çünkü ekonomi hesaplama gücü ekonomisine dönüşecektir, ancak herkesin bir katkı sağlayacağı bir yer olacaktır.
S: Günümüzde gençler nerede yatırım yapmalı? Lise veya üniversitedeyseniz ya da yeni başlamışsanız bir kariyerle, gelecekte hangi beceriler daha değerli olacak?
Greg: Gerçekten de bu teknolojiyi derinlemesine anlamak, AI'dan maksimum değeri elde etmenin temel bir becerisi olacaktır.
Çünkü heimiz, yöneticileri olacağımız bir dünyaya doğru ilerliyoruz, belki de yakında özerk AI şirketlerinin CEO'ları olacağız.
Bir tokena ve onu çalıştıran hesaplama gücüne sahipseniz, o zaman hesaplama gücünü herhangi bir soruna yönlendirebilirsiniz ve insanlığın çözmek istediği soruların sayısı sınırsızdır.
Bu nedenle, insanlar bu teknolojiye daha fazla girdikçe, yakında gelecek olanları nasıl kullanacaklarını, bu teknolojileri yeni yollarla nasıl birleştireceklerini, akıllı varlıklarımızla nasıl etkileşime gireceklerini, onları nasıl yöneteceklerini ve “Ne istiyorum? Benim bilinçli benliğim nedir? Amacım nedir? Dünyada ne görmek istiyorum?” gibi soruları düşünerek bunları gerçekleştirmek, daha önceki herhangi bir zamandan daha kolay olacak.
Kazandığımız şeylere göre, o dünyanın yukarı doğru potansiyeli neredeyse hayal edilemez.
S: Bu en olumlu gelecek vizyonu, düşünebileceğiniz en olumsuz gelecek nedir?
Greg: Teknolojinin şimdiye kadar nasıl geliştiğine dair çok ilginç bir nokta, aslında bizim makinelere kendimizi uyum sağlamaya zorlamamız.
Bu kutuyu karşılayarak çalışıp klavyeye vurup kol sendromu yaşayan, omuzları eğilmiş kaç kişi var? Ancak bu, umduğumuz bir durum değil; istediğimiz dünya, bilgisayarınızla çalışmak değil, bilgisayarınızın sizin için çalıştığı dünya.
Bu, fırsatlar getirirken aynı zamanda riskler de beraberinde getiriyor. Bu nedenle bu riskleri hafifletmek için çözümler bulmamız gerekiyor.
Nihayetinde temel bir soru: Eğer makineler insanlara hedeflerini gerçekleştirmede yardımcı oluyorsa, orada sizin yapmak istediğiniz şeyi yapıyorlar. Ancak bazen insanların hedefleri çatışıyor, bunu nasıl çözersiniz? Yapay zekânın size neyi yardımcı olacağını, neyi yardımcı olmayacağını nasıl kararlaştırırsınız? Bu, topluma nasıl entegre edilir? Faydaların sadece bir şirket veya bir gruplara değil, herkesi gerçekten yükseltmesini nasıl garanti edersiniz?
Burada hâlâ çözmemiz gereken birçok hata yolu veya risk olduğunu kabul etmeliyiz.
S: Son soru, sizin için başarı nedir?
Greg: AGI'nin tüm insanlığı faydalandırmasını sağlamak için OpenAI'nin misyonunu gerçekleştirmek.
Referans bağlantıları: [1] https://x.com/shaneparrish/status/2046900710055297072 [2] https://youtu.be/6JoUcQ1qmAc
Bu yazı, WeChat hesabından "Quantum Bit" tarafından yazılmıştır, yazar: Öncü teknolojilere takip eden