Sangat drama! Ini mungkin ulasan lengkap paling terperinci tentang drama persaingan di istana Ultraman di seluruh internet.
Peserta lain dalam peristiwa tersebut, Greg Brockman, nombor dua OpenAI, secara langsung mengungkapkan:
Apa yang berlaku dalam 72 jam selepas Ultraman dipecat?
Kebenaran muncul berturut-turut, tetapi cukup menyakitkan:
Greg dan Ultraman benar-benar tidak tahu apa-apa sebelum kejadian berlaku, dan hingga kini, pihak yang terlibat sendiri masih merefleksikan di mana letak kesalahan tersebut.
Pihak penguasa awalnya hanya ingin memecat Otman, tetapi Greg terlalu setia, jadi beliau mengemukakan pengunduran diri pada hari yang sama.
Pada hari pertama selepas pemecatan, mereka mengadakan pertemuan rahsia di rumah Otman untuk merancang syarikat baharu, bahkan merancang untuk membawa serta semua pekerja.
Pihak jawatankuasa tiba-tiba berubah pikiran; sebelum ini hampir sepakat dengan Otman mengenai keembalian, tetapi tiba-tiba melantik CEO baharu.
Sepanjang hujung minggu, semua pesaing sedang giat merekrut, tetapi tiada seorang pun menerima.
Pembalikan Ilya membuat Greg merasa lega.
Dalam temu bual selama lebih daripada satu jam, Greg hampir mengungkap seluruh sejarah kudeta Silicon Valley yang epik ini, serta menjawab semua perkara, termasuk sejarah asal OpenAI, mengapa ia berpindah ke model untung, dan kemana ia akan pergi seterusnya…
Dari kebingungan ketika meninggalkan Stripe, hingga offsite penentu nasib di Napa Valley, hingga terobosan tak terduga dalam projek Dota, kepadatan maklumat sangat tinggi.
Greg bahkan beberapa kali terisak-isak:
Ketika Ilya pergi, itulah satu-satunya kali saya merasa tidak ingin melanjutkan lagi.
Berikut ialah wawancara penuh sepuluh ribu kata, dengan kandungan diringkaskan dan disesuaikan tanpa mengubah maksud asal.
Bercakap dengan Presiden OpenAI, Greg Brockman
(Menyebut soalan pengerusi Shane Parrish sebagai Q)
OpenAI dilahirkan daripada keraguan diri
Q: Bagaimana OpenAI ditubuhkan?
Greg: Saya tahu saya ingin memulakan perniagaan kerana saya rasa ia sangat bermakna.
Q: Tetapi anda baru sahaja bermula di Stripe.
Greg: Betul, tetapi saya sentiasa rasa masalah yang ingin diselesaikan oleh Stripe bukanlah "masalah saya".
Ia memang penting, dan saya telah menginvestasikan bertahun-tahun ke dalamnya. Tetapi saya rasa, sama ada saya ada atau tidak, ia akan berjaya.
Jadi ketika itu, saya pertama kali mendapat peluang sebenar untuk memikirkan: apakah misi yang ingin saya dedikasikan seumur hidup saya? Masalah yang saya rela perjuangkan sepanjang sisa hidup saya, walaupun hanya untuk membuatnya sedikit lebih baik.
Jawapannya jelas—AI.
Jika anda benar-benar dapat mempengaruhi arah perkembangan AI di dunia, maka hidup ini tidak akan sia-sia.
T: Apabila anda bercadang untuk meninggalkan Stripe, Patrick menyuruh anda berbincang dengan Sam Altman, apakah yang berlaku dalam perbincangan itu?
Greg: Patrick berkata kepada saya ketika itu, Sam telah bertemu banyak remaja yang berada dalam situasi seperti saya.
Sebenarnya saya tahu maksud Patrick ialah harapan agar Sam dapat meyakinkan saya untuk tinggal, tetapi selepas berbual dengan Sam selama beberapa minit, beliau menjadi jelas bahawa saya teguh dengan keputusan untuk pergi.
Kemudian Sam bertanya kepada saya tentang rancangan seterusnya, dan saya memberitahunya bahawa saya sedang mempertimbangkan untuk mewujudkan sebuah syarikat AI.
Sam mengatakan bahawa beliau juga mempertimbangkan untuk membuat sesuatu di bidang AI, dan berharap dapat terus berhubungan.
Selepas meninggalkan Stripe, saya berbual sekali lagi dengan Sam, dan kali ini Sam menyatakan bahawa beliau mempunyai idea yang lebih spesifik serta menjemput saya ke majlis makan malam pada bulan Julai.
Saya ingat topik makan malam itu adalah: Adakah sudah terlambat untuk menubuhkan sebuah laboratorium sekarang, dan mengumpulkan para penyelidik terkemuka di seluruh dunia? Adakah ia masih mungkin?
Which year was that?
Greg: 2015.
Pada masa itu, DeepMind hampir memonopoli semua penyelidik terkemuka, dana, dan data. Kami semua meragukan sama ada masih mungkin mencipta sesuatu yang baru dari awal?
Semua orang bersama-sama menyenaraikan banyak kesukaran, tetapi tiada siapa yang boleh memberikan sebab yang benar-benar mustahil.
Jadi pada malam itu, Sam dan saya memandu kembali ke bandar. Kami saling melihat, lalu dia berkata, kita mesti lakukan ini.
Pada hari berikutnya, saya mulai sepenuhnya bersiap.
Ini sukar, semuanya kabur. Kami hanya mempunyai satu visi: kami ingin membina kecerdasan manusia am, agar ia memberi kesan positif kepada dunia dan memastikan faedahnya dinikmati oleh semua orang. Tetapi, bagaimana cara melakukannya atau bagaimana meyakinkan orang lain untuk berhenti bekerja dan menyertai kami, kami sama sekali tidak tahu.
Pada awalnya, pasukan inti yang saya tetapkan ialah Ilya, John Schulman, dan saya sendiri. Kami menghabiskan banyak masa bersama membincangkan pelbagai visi dan cara kerja yang mungkin untuk laboratorium, tetapi ia tidak pernah berwujud.
Sebahagian besar disebabkan kebimbangan bahawa projek kurang daya dorong, Dario merasa dia perlu membina reputasi sendiri terlebih dahulu, dan tidak pasti sama ada projek ini sesuai untuknya.
Sambil itu, saya mulai menggalakkan John Schulman untuk menyertai, dan beliau bersetuju. Namun, Dario dan Chris akhirnya memutuskan untuk pergi ke Google Brain, sehingga pasukan sebenarnya hanya tinggal saya, Ilya, John, dan beberapa orang lain.
Pada masa itu, kira-kira sepuluh orang menunjukkan minat, tetapi semuanya menunggu siapa lagi yang akan menyertai.
Saya bertanya kepada Sam bagaimana kita boleh memecahkan kebuntuan ini, dan Sam mencadangkan agar kita mengajak semua orang keluar untuk mengadakan aktiviti off-site. Kami memilih Napa Valley, dan saya juga membuat baju T khas.
Pada masa itu, tiada tawaran rasmi, tiada struktur syarikat, tiada apa-apa. Kami hanya mempunyai satu idea, satu visi, satu misi.
Tetapi ketika kami mengundang orang-orang itu pada hari itu di Napa Valley, kami mendapat inspirasi dan hampir menetapkan jalan teknologi untuk sepuluh tahun ke depan:
1. Selesaikan masalah pembelajaran penguatan. 2. Selesaikan masalah pembelajaran tanpa pengawasan. 3. Belajar secara bertahap perkara yang lebih kompleks.
Selepas mesyuarat tertutup, saya telah menghantar tawaran kepada setiap orang, memberitahu bahawa kami akan memulakan dalam 2-3 minggu mendatang; sila beritahu jika anda bersedia untuk menyertai.
Q: Mengapa pada masa itu merasakan DeepMind sukar untuk dilampaui?
Greg: Pada masa itu, Google DeepMind adalah raksasa dalam bidang AI, dengan dana yang melimpah dan pencapaian yang cemerlang, bahkan sebelum pelancaran AlphaGo beberapa bulan sebelumnya, keunggulannya sudah jelas terlihat.
Oleh itu, kita meragukan: adakah mungkin mencipta sebuah institusi baru yang bebas? Jawapannya tidak jelas.
Alasan untuk meninggalkan bukan keuntungan
Q: Kapan anda sedar bahawa jalan bukan keuntungan tidak berkesan?
Greg: Pada tahun 2017, kami mulai memikirkan dengan serius bagaimana benar-benar mewujudkan misi kami dan bagaimana benar-benar membangun AGI. Kami menghitung kebutuhan daya komputasi, dan ternyata memerlukan peralatan komputasi berskala sangat besar.
Pada masa itu, kami berhubungan dengan Cerebras, yang sedang mengembangkan peranti keras komputasi khusus dengan prestasi jauh melebihi kapasiti komputasi yang kami hitung sendiri.
Kami sedar bahawa jika kami boleh membeli banyak peralatan seperti itu, mendapatkan eksklusif produk Cerebras, dan membina pusat data berskala besar, ia akan memberi kami keunggulan yang sangat besar.
Namun, penggalangan dana untuk organisasi bukan keuntungan mempunyai had, dan tidak mampu menyokong pengeluaran sebegini. Oleh itu, Elon, Sam, Ilya dan saya semuanya bersetuju bahawa satu-satunya jalan bagi OpenAI untuk mencapai misinya ialah dengan membentuk entiti berkaitan yang mencari keuntungan.
Masa "GPT" milik OpenAI
T: Kapan anda sedar bahawa segalanya akan berubah sepenuhnya? Sebelum atau selepas projek Dota?
Greg: Cara OpenAI beroperasi adalah satu siri momen "impian menjadi kenyataan". Setiap kali anda fikir anda sudah memahami keseluruhan gambaran, anda akan segera menemui sempadan baru.
Semasa membentuk pasukan pada awalnya, kami merasa sangat bersemangat kerana akhirnya berjaya mengumpulkan pasukan dan boleh mula memajukan misi. Tetapi pada esok harinya, apabila tiba di pejabat, kami mendapati tidak ada papan putih pun.
Projek Dota adalah hasil besar pertama kami, yang benar-benar membuat kami percaya bahawa jika kami memberikan segala usaha, kami benar-benar boleh berjaya. Ia membuktikan bahawa dengan mengumpulkan daya pengiraan, memperluaskan daya pengiraan, akan meningkatkan hasil.
Terdapat juga banyak momen serupa dalam siri GPT, seperti kertas kerja awal tentang neuron sentimen tanpa pengawasan, yang merupakan kali pertama kami melihat makna muncul daripada latihan objektif pemodelan bahasa.
Anda melatih model untuk meramal aksara seterusnya, lalu tiba-tiba, anda mendapat jaringan saraf yang mampu memahami perasaan dan membezakan positif dan negatif.
Pada saat itu kami sedar bahawa kami sedang membina mesin yang mampu belajar makna, bukan hanya peraturan tatabahasa.
Dan apabila GPT-4 diperkenalkan, ada yang bertanya, mengapa ia belum menjadi AGI. Ia memang mampu berdialog dengan lancar, hampir memenuhi semua definisi AGI yang pernah kita kenal, tetapi masih kekurangan satu langkah terakhir.
Sepanjang perjalanan ini, terdapat banyak momen serupa yang membuat kami merasa impian menjadi kenyataan, tetapi momen-momen ini masih jauh dari berakhir; kami akan mengalami lebih banyak momen terobosan, lalu menyadari bahwa tahap berikutnya mungkin saja terwujud.
T: Mengapa Dota dianggap sangat penting?
Greg: Dota adalah momen yang luar biasa, ia tidak seperti Deep Blue bermain catur atau AlphaGo bermain go yang memiliki peraturan jelas; ia berinteraksi secara langsung dengan manusia dalam lingkungan terbuka yang kompleks, lebih mendekati dunia nyata.
Sebenarnya, kami awalnya hanya ingin menggunakannya untuk mengesahkan algoritma baru, kerana pembelajaran penguatan pada masa itu tidak boleh diskalakan. Tetapi apabila kami terus meningkatkan kuasa pengiraan, algoritma PPO yang paling ringkas saja mampu mengalahkan pemain manusia terbaik, membuktikan:
Kekuatan pengiraan berskala besar + algoritma yang mudah, benar-benar boleh dilaksanakan dalam amalan.
Terutama dalam persekitaran yang sangat kacau ini, di mana anda tidak boleh memprogram, tidak boleh meramal, dan tidak boleh mencari, yang anda perlukan hampir semuanya adalah intuisi manusia.
Pada masa itu, rangkaian saraf yang digunakan sangat kecil, dengan jumlah sinapsis setara dengan otak serangga, kita akan menyedari apakah yang akan berlaku jika pendekatan ini diperluaskan kepada skala otak manusia? Ini adalah soalan yang sangat menarik.
T: Sekiranya kita membincangkan ramalan, adakah anda berpendapat terdapat perbezaan antara ramalan dan penarikan kesimpulan?
Greg: Saya percaya terdapat hubungan mendalam di antara keduanya.
Memprediksi perkataan seterusnya kelihatan mudah, tetapi jika anda mampu meramal perkataan seterusnya Einstein dengan tepat, maka sekurang-kurangnya anda sebijak Einstein.
Inti ramalan bukanlah meramal maklumat yang sudah diketahui, tetapi menarik kesimpulan tentang perkembangan seterusnya dalam senario baru yang belum pernah dilihat, yang secara mendalam berkaitan dengan sifat kecerdasan.
Model penalaran semasa dibahagikan kepada dua langkah:
1. Pembelajaran tanpa pengawasan: Membuat model dilatih dengan meramal apa yang akan berlaku seterusnya. Data lebih statik dan bersifat pemerhatian. 2. Pembelajaran penguatan: Membuat AI belajar daripada data sendiri. Ia mengambil tindakan sendiri, menerima maklum balas daripada alam sekitar, dan belajar daripadanya. Cara latihan pada dasarnya masih meramal, iaitu meramal hasil selepas tindakan, dan memperkuat berdasarkan kesannya.
Namun, dari sudut pandang asas, teknologi yang digunakan dalam dua peringkat ini adalah sama sepenuhnya, iaitu ramalan, hanya struktur data yang berbeza.
Peristiwa tekanan Ultraman
Soalan: Konflik dalaman bermula menjadi tajam pada bila?
Greg: Keistimewaan OpenAI ialah kami percaya bahawa kita boleh mencipta AI yang setara dengan tahap manusia, yang bermakna risikonya sangat tinggi.
Siapa yang membuat keputusan? Apa nilai-nilai di sebalik keputusan-keputusan ini? Hal-hal yang tidak penting di perusahaan biasa, seperti politik pejabat, di sini diberi beban yang berkaitan dengan kehidupan manusia.
Saya percaya, ini mempengaruhi banyak perkembangan di dalam OpenAI, dan ini juga merupakan punca semua konflik besar.
Salah satu pendorong utama dalam bidang AI ialah keinginan orang untuk berada di pusat revolusi teknologi dan menjadi orang yang diingat, jadi ini bukan hanya masalah OpenAI.
Teknologi AI pada dasarnya adalah terpecah-pecah; di bawah tekanan tinggi, ia mungkin menghasilkan berlian, atau mungkin menciptakan retakan. Oleh itu, anda sering melihat pembentukan berlian dalam kumpulan kecil kerana mereka bekerjasama rapat dan saling mempercayai satu sama lain. Namun, terkadang mereka juga bercerai dan mengambil jalan masing-masing.
Saya percaya bahawa pelbagai pendekatan dan persaingan sihat dalam bidang AI adalah normal, dan mampu membantu kita memajukan teknologi dengan lebih selamat serta membincangkan isu-isu sukar seperti keselamatan dan etika.
Jadi, perbincangan yang sihat selalu wujud di dalam OpenAI, tetapi sekarang, ini sedang berlaku di seluruh dunia.
Q: Mari kita kembali kepada saat anda mendengar bahawa Sam dipecat, di mana anda berada?
Greg: Saya berada di rumah pada masa itu. Saya menerima pesan teks yang mengajak saya untuk panggilan video, dan saya perhatikan bahawa semua ahli pihak pengurusan kecuali Sam berada di atasnya. Saya segera merasakan ada yang tidak kena.
Mereka memberitahu saya bahawa pihak jawatankuasa telah memutuskan untuk menggugurkan Sam dari jawatannya. Maklumat yang saya terima pada dasarnya sama dengan pernyataan awam, jadi saya cuba menanyakan lebih banyak butiran, tetapi permintaan saya ditolak.
Selepas itu, mereka juga mengatakan bahawa saya telah dikeluarkan daripada pihak pengurusan, tetapi akan terus tinggal di syarikat kerana saya penting kepada syarikat dan misi kami.
Saya meminta semula alasanannya, tetapi tetap ditolak. Akhirnya mereka memberitahu saya bahawa mungkin saya akan mendapat maklum balas di bawah struktur baharu. Itulah isi kandungan panggilan itu.
Q: Apa yang anda fikirkan pada masa itu? Merasa marah?
Greg: Tidak, saya hanya rasa ini tidak betul, tetapi saya kira saya boleh memahami apa yang berlaku.
Berapa lama selepas itu anda baru tahu apa sebenarnya yang menyebabkan semua ini?
Greg: Jawapannya terbahagi kepada dua bahagian. Pertama, saya rasa saya masih terus memahami fakta-fakta baru, perkara-perkara yang orang lain fikirkan. Dalam beberapa segi, ini boleh dikaitkan dengan komunikasi yang tidak lancar, di mana anda tiba-tiba sedar bahawa terdapat pelbagai perkara yang sebelum ini diabaikan.
Di sisi lain, saya agak tahu mengapa setiap orang melakukan itu.
Namun pada saat itu, mencari sebabnya sudah tidak penting lagi; saya hanya tahu ini salah. Jadi, setelah menutup panggilan, saya segera memberitahu isteri bahawa saya akan mengundurkan diri, dan dia juga bersetuju.
Pada hari itu, saya telah mengemukakan surat perletakan jawatan.
Selepas meletakkan jawatan, saya mula menerima banyak mesej. Kami menerima banyak sokongan dan semangat, dengan ramai yang bersedia meninggalkan bersama kami untuk memulakan perniagaan baharu, termasuk Jakob, Shimone, dan Alexander.
Kemudian kami berkumpul dengan Sam dan mulai merancang sebuah syarikat baru.
Pada hari pertama, kami menganggap kemungkinan Sam kembali hanya 10%. Oleh itu, kami mengatur satu pertemuan di rumah Sam, di mana ramai orang dari syarikat hadir, dan kami mempersembahkan gambaran yang sedang dirancang. Dalam sehari, kami telah memperoleh gambaran baru tentang bagaimana mengendalikan projek tersebut.
Pada hujung minggu itu, kami juga menghabiskan banyak masa berunding dengan pihak penguasa dan syarikat untuk mencari jalan pulang yang bermakna.
Pada malam Ahad, pihak penguasa secara tiba-tiba melantik CEO baharu untuk menggantikan kedudukan saya, menyebabkan protes hebat di syarikat. Sebenarnya, pada masa itu kami berada di pejabat, bahkan baru sahaja hampir mencapai persetujuan untuk pulang, tetapi pihak penguasa tiba-tiba berubah pendapat.
Rakyan mulai membanjir keluar dari bangunan, keadaan kacau.
Kami memulakan panggilan video dengan orang-orang yang berminat dengan syarikat baru kami, menenangkan mereka bahawa semuanya akan baik-baik saja, kami mempunyai rancangan. Kami selalu berusaha membina rakit penyelamat untuk sebahagian kecil orang yang mungkin akan menyertai, tetapi tiba-tiba, kelihatan seperti semua orang telah mengubah fikiran mereka dan semua ingin menyertai syarikat baru kami.
Sam juga berbincang dengan CEO Microsoft, Satya, kerana sebelum ini kami terus membincangkan sama ada beliau boleh menyokong usaha baru kami. Kami berharap dapat memperbesar saiz rakit penyelamat, seperti membawa keseluruhan kakitangan OpenAI.
Pada masa itu, menjelang Hari Syukur, ramai orang sepatutnya terbang pulang untuk berkumpul bersama keluarga, tetapi mereka semua membatalkan penerbangan mereka, dan pejabat dipenuhi orang.
Semua orang berada di sana, walaupun tidak terlibat dalam perbincangan, mereka ingin menyaksikan sejarah ini secara langsung.
Kemudian, petisyen itu mulai tersebar. Terlalu ramai orang mencuba untuk menandatangani petisyen secara serentak, sehingga menyebabkan Google Docs gagal, maka akhirnya hanya beberapa orang yang ditetapkan untuk mendaftarkan nama mereka supaya tidak terlalu banyak penyunting secara serentak.
Saya ingat saya sampai rumah sekitar pukul 5 pagi, tidur selama 45 minit, dan setelah bangun, saya memeriksa Twitter dan melihat Ilya mengeluarkan tweet serta menandatangani petisyen, menyatakan harapannya agar syarikat kembali bersatu.
It was truly a moment of relief. I am deeply grateful, and I feel that we can put everything back together and get back on track.
T: Anda dan Ilya telah mewujudkan syarikat ini bersama-sama; selepas kejadian itu, bagaimana perasaan anda terhadap hubungan anda?
Greg: Ini sangat sukar. Kami mempunyai hubungan yang sangat rapat; dia menjadi pengerusi di pernikahan saya, dan kami telah melalui banyak masa-masa sukar bersama. Tetapi setiap hubungan pasti ada naik turunnya.
Selepas itu, kami menghabiskan banyak masa untuk berbincang dengan tulus, cuba memahami dan mengungkapkan perkara-perkara yang telah terkumpul atau tidak pernah diucapkan antara kami. Melalui proses ini, saya percaya kami telah mencapai keadaan yang sangat baik.
Bagi saya, saya rasa kita telah menutup semua yang berlaku.
Q: Apa perasaan anda terhadap kesetiaan pekerja yang anda galakkan?
Greg: Saya sangat bersyukur atas ini. Saya tidak pernah meminta ini secara aktif, dan tidak pernah mengharapkannya.
Saya rasa gaya kepimpinan saya adalah seorang pemimpin yang berada di garis depan, berusaha menjadi contoh, terkadang agak emosional; saya tidak selalu berpaling untuk memastikan semua orang mengikuti, saya terus maju ke hadapan.
Namun, apabila orang-orang benar-benar datang untuk membantu membina, saya merasa sangat berterima kasih dan merasa mereka melampaui jangkaan saya dalam segala aspek.
Q: Jadi akhirnya semua orang kembali?
Greg: Sebenarnya sepanjang hujung minggu itu, semua pesaing sedang memperhatikan dengan cermat. Orang-orang menerima pelbagai tawaran, tetapi pada hujung minggu itu, kami tidak kehilangan seorang pun, tiada siapa yang menerima tawaran. Ini sungguh luar biasa.
Sebenarnya, pelatih Bill Belichick pernah memberitahu saya, pasukan terbaik bukan bermain demi wang, tetapi demi orang-orang di sekeliling mereka. Pada masa itu, ketika semua orang datang menyokong kami, saya teringat akan perkataan itu.
Undoubtedly, this is a diamond moment.
Rehat sebentar dan refleksi diri
T: Selepas semua ini berlaku, anda berehat seketika, apakah yang anda alami di dalam hati?
Greg: Itu adalah pengalaman yang intens, sama ada semasa mengalaminya atau semasa kembali menghadapinya.
Tetapi, jujur saja, salah satu masa paling sukar dalam sejarah OpenAI ialah ketika Ilya berpindah. Itu mungkin satu-satunya masa dalam sejarah OpenAI yang membuat saya rasa tidak ingin terus lagi.
Saya rasa saya perlu masa untuk kembali menemui diri sendiri, mengingat semula mengapa saya melakukan perkara ini, mengapa ia begitu penting, dan mengapa ia patut ditanggungkan penderitaan ini.
Q: Apa yang kamu lakukan semasa rehat?
Greg: Saya melatih model bahasa pada urutan DNA.
Sebenarnya saya sudah melakukan ini semasa di OpenAI, untuk Arc, sebuah organisasi bukan keuntungan dalam bidang biomedik. Saya menerapkan kemahiran saya ke dalam bidang yang sangat berbeza, yang bermakna secara peribadi kepada saya dan isteri saya.
Isteri saya menghadapi banyak masalah kesihatan, dan kami terus memikirkan bagaimana AI boleh membantu kesihatan beliau serta kesihatan haiwan. Pengalaman ini juga membuat saya sedar bahawa mungkin kami boleh mengaplikasikan teknologi dalam bidang-bidang baru yang penuh empati.
T: Jika anda diminta merumuskan semuanya dalam satu muka surat, dari penggantian Sam hingga anda berhenti, petisyen bersama pekerja, cuti, lalu kembali, apa yang akan anda tulis?
Greg: Saya rasa yang saya pelajari ialah, bertahanlah untuk perkara yang bernilai.
Jika anda mempunyai misi penting, maka kepentingannya ialah keberterusan anda melalui naik turunnya. Akan ada masa-masa "semuanya sudah berakhir", dan juga masa-masa "kita kembali".
Anda tidak boleh membiarkan momen-momen ini menyesatkan anda; pada masa ini, anda perlu membangun ketahanan peribadi. Kerana jika anda seorang pemimpin, orang akan mencari kestabilan, sokongan, dan arah ke hadapan daripada anda.
Saya berusaha membangun kemampuan untuk memahami butir-butir perkara yang kami lakukan, makna setiap pilihan, serta bertindak tegas.
Kadang-kadang, saya melihat OpenAI dari sudut pandang ketidakpastian, di mana saya tidak tahu jawapan yang betul, tidak tahu cara membina teknologi ini, atau bagaimana menjawab soalan-soalan sukar ini.
Tetapi di sini ada banyak orang yang sangat bijak dan mempunyai pendapat yang kuat. Saya berusaha memahami semua pendapat ini dan mencari cara untuk menggabungkannya. Kadang-kadang ini adalah tindakan yang betul. Tetapi kadang-kadang anda akan mendapati bahawa pendapat-pendapat ini saling bertentangan dan tidak mungkin semuanya benar pada masa yang sama.
Kadang-kadang anda harus membuat pilihan, anda tahu bahawa ini bermakna ada orang yang tidak puas hati, ada yang akan mengundurkan diri, dan ada yang merasa dihina.
Yang saya usahakan adalah memiliki kesedaran diri yang lebih kuat, serta kesedaran bahawa saya mesti bertindak apabila yakin akan sesuatu.
Mengingat perjalanan OpenAI, saya rasa ada beberapa perkara di mana saya ingin kami melakukan perkara yang berbeza pada masa itu.
Biasanya, kita terlalu lama menunda dalam sesuatu, kita sudah tahu seseorang tidak sesuai untuk peranan tertentu, kita rasa arah teknikal tertentu tidak betul, kita rasa cara tertentu menjalankan projek tidak berkesan, tetapi kita terlalu lama menunggu.
Ini adalah pelajaran yang saya pelajari dengan susah payah, dan satu aspek yang saya usahakan untuk berkembang setiap hari semasa saya merenungkan OpenAI, Stripe, atau bahkan projek zaman universiti yang lebih awal.
Saya rasa cara saya beroperasi adalah saya sangat mencintai aktiviti harian, sumbangan peribadi, perisian, dan memikirkan masalah, tetapi saya juga sangat peduli dengan persekitaran di mana perkara-perkara ini dilakukan.
Sebenarnya, saya bersedia melepaskan “kesenangan kelas pertama”, iaitu kepuasan pantas, seperti apa yang anda hasilkan sekarang, dan sebaliknya mengejar “kesenangan kelas kedua”, iaitu perkara yang menyakitkan pada masa kini tetapi mempunyai nilai jangka panjang.
Anda menciptakan persekitaran yang membolehkan orang lain menjalankan kerja-kerja sukar dan mencapai pencapaian hebat. Oleh itu, berusaha menciptakan persekitaran adalah kecenderungan semula jadi saya, yang tidak selalu mudah. Anda memang perlu bersedia menanggung penderitaan peribadi yang besar.
Ilya selalu berkata, "Kamu harus menderita," dan jika kamu tidak menderita, kamu tidak menciptakan nilai. Saya rasa ada makna mendalam di dalamnya.
Mengenai pandangan Ilya, saya merasa menarik bahawa beliau mempunyai cara berbicara yang unik, di mana perkataan yang dipilihnya sentiasa mengandungi inspirasi yang mendalam.
Gambaran “penderitaan” ini adalah sesuatu yang terus kami renungkan sepanjang perjalanan OpenAI. Dari awal, kami menghadapi banyak ketidakpastian, setiap perkara sangat sukar dan sangat tidak pasti.
Banyak orang cenderung menyembunyikan masalah di bawah karpet dan secara membabi buta mengatakan "terus maju". Saya rasa ini adalah aspek negatif dari budaya Silicon Valley, sekurang-kurangnya stereotaip Silicon Valley, tetapi saya percaya ia tidak berfungsi dalam bidang AI, tidak berfungsi di OpenAI, dan kami tidak pernah beroperasi dengan cara ini.
Cara kami beroperasi selalu adalah menghadapi fakta yang keras dan memahami hakikat realiti. Saya percaya ini membantu kami berfikir secara berbeza, tidak puas hati hanya dengan menulis kertas yang boleh dirujuk pada peringkat awal—ini hanya asas, tetapi jauh daripada mencukupi.
Kemudian anda mulai memikirkan masalah yang lebih besar: apakah yang diperlukan untuk membina AGI? Ini bukanlah perkara yang menyenangkan. Kerana anda sedar bahawa tiada jalan yang sudah tersedia.
Anda memerlukan dana, tetapi anda tidak mempunyai mekanisme untuk mengumpulkan dana. Anda berusaha keras, kami berusaha sangat keras. Mungkin anda boleh mengumpulkan 100 juta dolar atau 500 juta dolar, tetapi 1 miliar dolar, sangat sukar.
Namun, dengan sumber daya yang ada ini saja, kami telah mencapai pencapaian yang baik; tanpa menghadapi tantangan dan berusaha memahami kebenaran di balik usaha yang kami coba capai, memang tidak ada cara lain.
Q: Apa pelajaran yang anda terpaksa belajar berulang-ulang?
Greg: Buat keputusan sukar, lakukan perbincangan sukar.
Q: Apakah nasihat terbaik yang pernah kamu terima?
Greg: Saya belajar ini daripada kelas penulisan pelajar baru di Harvard. Untuk kejelasan dan komunikasi, terus kurangkan teks.
Q: Bagaimana anda memilih maklumat?
Greg: Banyak membaca, mengklasifikasikan secara aktif.
Siapakah contoh anda, dan mengapa?
Greg: Gauss dan Descartes. Mereka adalah individu yang sangat berfikir, jauh di depan zamannya, dan memiliki visi yang jelas; mereka membawa lompatan sejati yang mengubah cara kita berfikir dan hidup.
T: Apa yang salah fahami oleh dunia mengenai Greg Brockman?
Greg: Saya rasa orang tidak memahami seberapa berkomitmen saya terhadap misi ini, dan komitmen ini telah membawa penderitaan besar kepada saya dalam banyak aspek. Tetapi saya benar-benar percaya bahawa teknologi ini boleh memberdayakan orang ramai dan memberi manfaat kepada semua orang. Saya sangat ingin membantu mewujudkan ini.
Penilaian utama terhadap industri AI
Q: Apa yang ingin anda jelaskan kepada orang awam mengenai AI?
Greg: Ia akan menjadi kekuatan positif dalam kehidupan peribadi mereka, mereka akan mendapat manfaat daripadanya, dan ia akan mendorong perkembangan sains dan perubatan, serta memberi kesan nyata kepada setiap orang.
T: Mengapa OpenAI begitu buruk dalam penamaan model?
Greg: Saya tidak boleh beritahu anda ini. (doge)
Q: Adakah kita hampir mencapai titik di mana AI mempercepatkan perkembangan AI secara eksponen?
Greg: Saya percaya kita sedang berada dalam tahap menerapkan AI pada proses pembangunannya sendiri, dan ia akan menjadi semakin pantas.
Ini sebenarnya telah berlaku sejak ChatGPT. Kami menggunakan ChatGPT untuk mempercepat proses pembangunan sebanyak 10% hingga 20%. Sekarang kami mempunyai alat pemrograman yang menakjubkan yang benar-benar merevolusi cara kerja kejuruteraan perisian.
Sebahagian besar kerja yang kami lakukan dalam penghasilan model adalah terbatas pada perisian. Kami akan segera memasuki peringkat seterusnya, di mana AI juga akan mengusulkan idea penyelidikan sendiri serta menjalankan ujian dan eksperimen. Saya percaya kelajuan iterasi dan inovasi akan terus meningkat kerana apa yang kami hasilkan.
Berapakah peratusan kod yang ditulis oleh AI sekarang?
Greg: Sukar untuk mengatakan berapa banyak kod yang bukan ditulis oleh AI. Peratusan ini sedang mendekati sifar.
Saat ini, dengan konteks dan struktur yang betul, AI jauh lebih unggul daripada manusia dalam penulisan kod sebenar. Mengenai bahagian struktur kod, pakar manusia masih lebih mahir, tetapi penulisan kod sebenar hampir sepenuhnya menjadi tugas AI.
Q: Adakah AI mengemukakan idea baru yang tidak terfikirkan oleh anda?
Greg: Kami sedang mendekati sasaran ini. Contohnya dalam reka bentuk cip. Tahun lepas, dalam reka bentuk cip kami sendiri, kami cuba menyesuaikan teknologi dengan lebih baik untuk mengurangkan luas yang digunakan oleh litar.
Kami mendapati bahawa cadangan pengoptimuman yang dihasilkan oleh model sebenarnya sudah ada dalam senarai kami, jadi ia tidak mengusulkan perkara baru yang belum pernah terfikir oleh manusia, tetapi ia melaksanakannya lebih pantas dengan cara yang kami tidak sempat lakukan sebelum ini.
Sebagai contoh lain, baru-baru ini dalam fizik kuantum, kami menyelesaikan satu masalah fizikal tertentu, dan hasilnya bertentangan dengan jangkaan akademik, serta mendapat satu formula yang indah dan ringkas.
Oleh itu, mendapatkan idea baru daripada model-model ini adalah sepenuhnya mungkin. Seterusnya, kami akan menggunakannya dalam bidang yang lebih sukar, atau memerlukan lebih banyak konteks dunia nyata. Ini baru saja memperlihatkan tanda-tanda awal. Tetapi kami mempunyai peta jalan untuk melaksanakannya, dan masih banyak kerja yang perlu dilakukan.
T: Jika model berdasarkan pembelajaran penguatan, apakah anda berpendapat ia akan berkembang menjadi hanya memberitahu kita apa yang ingin kita dengar?
Greg: Kami sebenarnya mengalami proses evolusi dalam melatih model untuk menyesuaikan diri dengan preferensi pengguna.
Kami melihat bahawa pada suatu masa tahun lepas, model memang mulai cenderung memberitahu anda apa yang ingin anda dengar, dan kami telah membuat perubahan atas perkara ini, kerana kami ingin model benar-benar selari dengan membantu anda mencapai matlamat anda, matlamat jangka panjang anda.
Mungkin terasa baik untuk mendengar persetujuan sekarang, tetapi itu bukan yang benar-benar kamu inginkan. Mungkin ada beberapa orang yang menyukainya, tetapi ini bukan apa yang kebanyakan orang benar-benar inginkan.
Jadi, kami sebenarnya telah membuat kemajuan teknologi yang besar untuk memastikan bahawa latihan AI kami tidak menyebabkan apa yang dikenali sebagai pemecahan ganjaran. Kami benar-benar ingin memastikan ada isyarat yang baik mengenai matlamat, bukan sekadar perkara jangka pendek yang boleh memuaskan anda dengan cepat.
Bagi saya, ini mungkin merupakan bahagian paling penting dalam visi yang akan dibawa oleh AI peribadi dan AGI peribadi, memastikan ia bukan sahaja berkaitan dengan perkara yang kelihatan baik pada masa ini, tetapi benar-benar sejajar dengan kesejahteraan jangka panjang, matlamat jangka panjang, dan apa yang benar-benar anda inginkan.
I believe this is what truly empowers people.
T: Kecenderungan semasa nampaknya adalah untuk menerbitkan model pra-pandangan, adakah anda berpendapat ini disebabkan kita terhad oleh kuasa pengiraan?
Greg: Secara keseluruhan, kita sedang menuju dunia yang didorong oleh kekuatan pengiraan.
Bukan lagi sekadar menjawab soalan dengan cepat, ia benar-benar bermula mendalam, menghabiskan banyak token untuk mengintegrasikan sumber data yang berbeza, mencari pangkalan pengetahuan perusahaan, untuk menyelesaikan masalah sukar dan menulis perisian yang lebih canggih daripada kemampuan manusia.
Semua ini pada dasarnya didorong oleh daya pengiraan, dan daya pengiraan jauh tidak mencukupi. Jika setiap orang di dunia mempunyai satu GPU, itu akan menjadi 8 miliar GPU, dan lintasan kita sekarang jauh di bawah tahap itu. Sekarang, ribuan atau jutaan GPU sudah dianggap banyak.
Oleh itu, dalam pelatihan, kami cenderung membina kapasiti pengiraan lebih awal untuk mengatasi permintaan yang kami lihat. Kami akan sangat fokus pada misi membawa model kepada semua orang agar ia boleh diakses secara meluas.
Q: Anda pernah disindir kerana mengalokasikan banyak tenaga dan dana ke pusat data. Apakah pandangan anda sekarang?
Greg: Saya percaya ini akan memberi kami keuntungan. Bukan sahaja menguntungkan dari segi perniagaan, tetapi juga benar-benar mewujudkan teknologi untuk semua orang.
Kuasa pengiraan masa depan akan diutamakan untuk misi penting, seperti mengatasi kanser, dan ia mungkin berjaya dicapai tahun ini.
Sebenarnya, pengagihan kuasa pengiraan adalah isu utama bagi masa depan masyarakat, kerana hanya ada sejumlah kuasa pengiraan yang terhad, jadi ia perlu diutamakan, tetapi kami tetap percaya bahawa setiap orang perlu mendapat kuasa pengiraan.
Inilah sebabnya kami mempunyai versi percuma ChatGPT, dan kami berusaha memastikan orang-orang dapat menggunakan teknologi ini.
T: Dalam OpenAI, bagaimana anda memandang keseimbangan antara perniagaan peringkat pengguna dan peringkat perusahaan?
Greg: Yang saya fikirkan baru-baru ini ialah fokus.
Kerana bidang ini adalah perwujudan peluang, anda boleh mengaplikasikan AI ke mana-mana masalah, apa sahaja yang ingin anda bina, segalanya adalah mungkin. Tetapi masalah kami pada masa ini masih kekurangan kuasa pengiraan.
Jadi, saya percaya bahawa perniagaan peringkat korporat akan menjadi sangat penting dalam peringkat seterusnya OpenAI, kerana ekonomi sedang berubah menjadi ekonomi pengiraan di hadapan kita. Kejuruteraan perisian sudah begitu, dan setiap bidang yang menggunakan komputer akan menjadi begitu juga.
Jadi, kami perlu membantu orang-orang di sana mengendalikan model-model ini, memahami cara memanfaatkannya, dan cara mendapatkan keuntungan maksimum darinya.
Sempadan antara perniagaan dan peringkat pengguna akan menjadi kabur, kerana usahawan akan menjadi lebih mudah daripada sebelum ini. Kita sudah melihat hal ini.
Q: Adakah anda percaya kita akan mempunyai pusat data luar angkasa?
Greg: Saya percaya kita akan mempunyai pusat data di mana-mana, tetapi masih terdapat banyak masalah teknikal dengan pusat data luar angkasa pada masa ini.
T: Apakah itu pelaksanaan berulang? Mengapa anda melakukan ini?
Greg: Penerapan berulang adalah salah satu pilar utama OpenAI dalam menangani bagaimana memanfaatkan teknologi ini untuk memberi manfaat kepada manusia dan mencapai misinya.
Mengembangkan secara rahsia dan melancarkan sekali sahaja membawa risiko yang sangat tinggi, kerana anda tidak dapat meramalkan masalah dunia nyata. Namun, pelancaran berperingkat membolehkan kita mengenal pasti risiko melalui amalan dan memperbaikinya dengan cepat. Sebagai contoh, selepas GPT-3 dilancarkan, kami tidak menjangka penyalahgunaan terbesar ialah pesan teks sampah perubatan—justeru pengalaman sebenar membolehkan kami menangani masalah ini dengan segera.
Oleh itu, konsep penghantaran berulang ialah kami akan melancarkan versi sederhana teknologi ini.
Ini bukan alasan untuk melaksanakan secara sembarangan; anda masih perlu memikirkan penilaian terbaik kami mengenai semua cara yang mungkin disalahgunakan, kelemahannya, dan risikonya, kemudian menguranginya. Tetapi anda juga boleh melihat situasi sebenar, memeriksa sama ada penilaian anda betul, belajar daripada realiti, dan membuatnya lebih baik pada masa depan.
Dalam sejarah OpenAI, kami pernah berharap, kerana teknologi transformasional sebelumnya telah dilancarkan oleh orang lain, mungkin mereka boleh memberi kami jawapannya. Tetapi perkara itu tidak pernah semudah itu.
Mereka memang memiliki kebijaksanaan dan wawasan, dan kami pun menyerapnya. Namun, kami menyedari bahawa kami adalah pihak yang paling dekat dengan teknologi ini, dan kerana menciptakannya, kami dapat memahami cara yang tepat untuk membentuknya.
T: Jika satu model canggih menjadikan keselamatan sebagai prioriti utama, manakala yang lain tidak, bagaimana anda melihat perbezaan ini?
Greg: Saya percaya kami menemui bahawa keselamatan sebenarnya adalah ciri produk utama, dan tiada siapa yang mahu model yang tidak selari dengan diri mereka.
Jadi, kami telah menginvestasikan sumber daya dalam keselamatan, mungkin jauh melebihi apa yang orang anggap, dan mungkin lebih daripada laboratori lain mana pun.
Saya sentiasa percaya bahawa mereka yang membina teknologi ini dan memiliki produk yang berjaya tidak boleh secara berterusan mengabaikan keselamatan. Anda perlu berfikir jangka panjang untuk perniagaan anda dan apa yang anda cipta, termasuk bagaimana melatih model dan mendapatkan kitaran maklum balas.
Saya hanya ingin mengatakan bahawa kami berkomitmen untuk menjadikan keselamatan sebagai sebahagian daripada misi kami, yang telah terwujud dalam produk dan dunia kami.
T: Apabila saya memberitahu orang-orang bahawa saya akan melakukan temu bual ini, reaksi umum mereka ialah mereka risau tentang pekerjaan mereka dan merasa tidak pasti. Apa yang akan anda katakan kepada mereka?
Greg: Saya memang percaya bahawa bagaimana teknologi ini akan berkembang adalah tidak pasti. Cara ia berkembang sangat mengejutkan; AI dan dunia kita sekarang bukanlah apa yang diperkirakan dalam fiksyen sains. Beberapa kesimpulan yang kelihatan pasti, apabila benar-benar direalisasikan, ternyata tidak sepenuhnya sama.
Saya percaya, orang selalu paling mudah melihat apa yang akan mereka hilangkan. Perubahan sedang datang, dan ini tidak dapat disangkal, tetapi yang lebih sukar adalah meramalkan apa yang akan anda peroleh.
Sebagai contoh, bayangkan bagaimana orang pada tahun 1950 memahami Uber—pertama, anda perlu memikirkan komputer, telefon, dan GPS. Sebenarnya, ini melibatkan banyak teknologi yang cukup besar, tetapi ia benar-benar berlaku. Dan ribuan, bahkan jutaan, kes lain berlaku secara serentak.
Jadi, pandangan saya tentang AI adalah ia berkaitan dengan pemberdayaan dan agensi manusia. Ini memang bermakna bahawa beberapa institusi, pekerjaan, dan perkara yang kita sangka boleh diandalkan mungkin tidak lagi sestabil yang kita bayangkan.
Jadi ia akan mempengaruhi orang-orang, tetapi soalan mendalam yang perlu ditanya adalah: Apa yang kamu dapat? Bagaimana kamu mendapat keuntungan daripadanya?
Sekarang anda boleh menjadi seorang pencipta, anda boleh mencipta apa sahaja, apa sahaja yang anda bayangkan boleh menjadi kenyataan.
Q: Bagaimana cara membangun kreativiti?
Greg: Benar-benar mendalami teknologi ini.
Yang saya perhatikan ialah, orang-orang yang mendapat keuntungan paling besar daripada pelbagai generasi teknologi ialah mereka yang telah terlibat dalam generasi teknologi sebelumnya. Dan kini, ambang untuk mencuba teknologi ini lebih rendah daripada sebelum ini.
Jadi saya rasa peluang baru akan diciptakan.
Saya percaya dunia memang perlu mempertimbangkan bagaimana menyokong setiap orang dalam sebarang transformasi yang akan datang pada masa ketidakpastian ini. Kerana ekonomi akan berubah menjadi ekonomi komputasi, tetapi setiap orang akan mempunyai tempat untuk menyumbang.
T: Di mana orang muda sepatutnya berinvestasi hari ini? Jika anda berada di sekolah menengah atau universiti, atau baru memulakan kerjaya, apakah kemahiran yang akan lebih bernilai di masa depan?
Greg: Saya benar-benar percaya bahawa memahami teknologi ini akan menjadi kemahiran penting, benar-benar memahami cara mendapatkan nilai maksimum daripada AI.
Kerana kita semua akan menuju ke satu dunia, di mana kita menjadi pengurus agen, mungkin segera menjadi CEO syarikat AI autonomi.
Selagi anda memiliki token dan kekuatan pengiraan yang mendorongnya, pada masa itu, anda boleh mengarahkan kekuatan pengiraan tersebut kepada sebarang masalah, dan jumlah masalah yang ingin diselesaikan oleh manusia adalah tak terhingga.
Jadi saya rasa, semakin dalam orang memahami teknologi ini, semakin jelas mereka bagaimana memanfaatkan apa yang akan datang, bagaimana menggabungkan teknologi-teknologi ini dengan cara baru, bagaimana berinteraksi dengan agen kami, mengendalikannya secara sebenarnya, dan memikirkan “Apa yang saya inginkan? Apakah kesadaran diri saya? Apa tujuan saya? Apa yang ingin saya lihat di dunia?”, maka mewujudkannya akan lebih mudah daripada sebelumnya.
I believe that the upside potential of that world, given what we've gained, is almost unimaginable.
T: Ini adalah pandangan masa depan yang paling optimis, apakah anda boleh membayangkan masa depan yang paling pesimis?
Greg: Satu perkara yang sangat menarik mengenai perkembangan teknologi sejauh ini ialah ia sebenarnya membuat kita memutarbelitkan diri sendiri untuk menyesuaikan diri dengan mesin.
Bayangkan berapa banyak orang yang bekerja sambil menghadapi kotak ini, menaip di papan kekunci, dan mengalami sindrom pergelangan tangan serta bahu bengkok. Tetapi ini bukanlah gambaran yang kami harapkan; dunia yang ingin kami capai bukanlah di mana anda menggunakan komputer untuk bekerja, tetapi di mana komputer anda bekerja untuk anda.
Ini membawa peluang serta risiko. Oleh itu, kita perlu mencari cara untuk mengurangkan risiko-risiko ini.
Pada akhirnya, satu masalah utama ialah: jika anda mempunyai mesin yang membantu orang mencapai matlamat mereka, mesin-mesin itu berada di sana untuk melakukan apa yang anda inginkan. Tetapi kadang-kadang matlamat orang adalah bertentangan, bagaimana anda menyelesaikannya? Bagaimana anda memutuskan apa yang akan dibantu oleh AI dan apa yang tidak akan dibantu? Bagaimana benar-benar memahami bagaimana ini menyatu dalam masyarakat? Bagaimana memastikan keuntungan tidak hanya mengalir kepada satu syarikat atau sekumpulan orang, tetapi benar-benar meningkatkan setiap orang?
Kita harus mengakui bahawa masih terdapat banyak cara atau risiko kesilapan yang perlu kita selesaikan.
Q: Soalan terakhir, apakah kejayaan menurut anda?
Greg: Mewujudkan misi OpenAI, memastikan AGI memberi manfaat kepada seluruh umat manusia.
Pautan rujukan: [1] https://x.com/shaneparrish/status/2046900710055297072 [2] https://youtu.be/6JoUcQ1qmAc
Artikel ini berasal daripada akaun微信公众号 "Quantum Bit", penulis: Mengekori teknologi terkini