Sangat dramatis! Ini mungkin tinjauan lengkap terinci tentang drama persaingan di istana Ultraman terlengkap di seluruh internet.
Sosok lain dalam peristiwa ini, Greg Brockman, nomor dua OpenAI, secara langsung mengungkapkan:
Apa yang terjadi dalam 72 jam setelah Ultraman dipecat?
Kebenaran terungkap satu demi satu, tapi cukup menyakitkan:
Greg dan Ultraman benar-benar tidak tahu apa-apa sebelum kejadian, dan sampai sekarang, pihak yang terlibat sendiri masih merefleksikan di mana letak kesalahan tersebut.
Awalnya, dewan direksi hanya ingin mengusir Otomo, tetapi Greg terlalu setia, sehingga pada hari itu ia mengajukan pengunduran diri.
Pada hari pertama setelah pemecatan, mereka mengadakan pertemuan rahasia di rumah Otman untuk merencanakan perusahaan baru, bahkan merencanakan untuk membawa seluruh karyawan.
Dewan direksi tiba-tiba berubah pikiran, awalnya hampir sepakat dengan Otoman untuk kembali, tetapi tiba-tiba menunjuk CEO baru.
Sepanjang akhir pekan, semua pesaing berlomba-lomba merekrut, tetapi tidak seorang pun yang menerima.
Pengembalian Ilya membuat Greg merasa lega.
Wawancara selama lebih dari satu jam, Greg hampir mengungkap seluruh cerita di balik kudeta epik Silicon Valley ini, serta menjawab semua pertanyaan, termasuk sejarah berdirinya OpenAI, mengapa beralih ke model profit, dan kemana arah masa depannya...
Dari kebingungan saat meninggalkan Stripe, hingga offsite penentu nasib di Napa Valley, hingga terobosan tak terduga pada proyek Dota, kepadatan informasinya sangat tinggi.
Greg bahkan beberapa kali terisak-isak:
Ketika Ilya pergi, itu satu-satunya kali saya merasa tidak ingin melanjutkan lagi.
Berikut adalah seluruh wawancara sepuluh ribu kata, dengan konten diringkas dan disesuaikan tanpa mengubah makna aslinya.
Berbicara dengan Presiden OpenAI, Greg Brockman
(Menyebut pertanyaan dari host Shane Parrish sebagai Q)
OpenAI lahir dari keraguan diri
Q: Bagaimana OpenAI didirikan?
Greg: Saya tahu saya ingin memulai bisnis karena saya merasa itu sangat bermakna.
Q: Tapi kamu baru saja memulai bisnis di Stripe.
Greg: Benar, tetapi saya selalu merasa bahwa masalah yang ingin dipecahkan Stripe bukanlah "masalah saya".
Memang penting, dan saya telah menginvestasikan bertahun-tahun untuknya. Tapi saya merasa, entah ada saya atau tidak, itu akan sukses.
Jadi saat itu, saya pertama kali benar-benar punya kesempatan untuk memikirkan: apa misi yang ingin saya dedikasikan seumur hidup saya? Masalah yang saya rela dorong sepanjang sisa hidup saya, bahkan hanya untuk membuatnya sedikit lebih baik.
Jawabannya jelas—AI.
Jika kamu benar-benar dapat memengaruhi arah perkembangan AI di dunia, maka hidup ini tidak akan sia-sia.
T: Ketika kamu berniat meninggalkan Stripe, Patrick menyuruhmu berbicara dengan Sam Altman, apa yang terjadi dalam percakapan itu?
Greg: Patrick waktu itu berkata kepada saya, Sam telah bertemu banyak pemuda yang berada dalam situasi seperti saya.
Sebenarnya saya tahu maksud Patrick adalah berharap Sam bisa meyakinkan saya untuk tetap tinggal, tetapi setelah berbicara dengan Sam selama beberapa menit, ia jelas mengetahui tekad saya untuk pergi.
Kemudian Sam bertanya kepada saya tentang rencana selanjutnya, dan saya memberitahunya bahwa saya sedang mempertimbangkan untuk mendirikan perusahaan AI.
Sam mengatakan bahwa ia juga mempertimbangkan untuk melakukan sesuatu di bidang AI, dan berharap dapat tetap berhubungan.
Setelah meninggalkan Stripe, saya berbicara lagi dengan Sam, dan kali ini Sam mengatakan bahwa ia memiliki ide yang lebih spesifik dan mengundang saya ke pesta makan malam pada bulan Juli.
Saya ingat tema makan malam itu adalah: Apakah sudah terlambat untuk mendirikan laboratorium sekarang, dan menarik para peneliti terbaik di dunia? Masih mungkinkah?
Q: Tahun berapa itu?
Greg: 2015.
Pada saat itu, DeepMind hampir memonopoli semua peneliti terkemuka, dana, dan data. Kami semua meragukan apakah masih mungkin membuat sesuatu yang baru dari awal?
Semua orang bersama-sama mencantumkan banyak kesulitan, tetapi tidak ada yang bisa memberikan alasan yang benar-benar mustahil.
Jadi malam itu, Sam dan saya mengemudi kembali ke kota. Kami saling bertatap, lalu dia berkata, kita harus melakukan ini.
Hari berikutnya, saya mulai sepenuhnya mempersiapkan.
Ini sulit, semuanya kabur. Kami hanya memiliki satu visi: kami ingin membangun kecerdasan umum manusia yang dapat membawa dampak positif bagi dunia dan memastikan manfaatnya dinikmati oleh semua orang. Namun, kami sama sekali tidak tahu bagaimana caranya atau bagaimana meyakinkan orang lain untuk berhenti bekerja dan bergabung.
Awalnya, tim inti yang saya tetapkan adalah Ilya, John Schulman, dan saya sendiri. Kami menghabiskan banyak waktu bersama untuk membahas berbagai visi laboratorium dan cara kerja yang mungkin, tetapi semuanya tidak pernah terwujud.
Sebagian karena kekhawatiran bahwa proyek tersebut kurang memiliki dorongan yang cukup, Dario merasa ia perlu terlebih dahulu membangun reputasinya sendiri, dan tidak yakin apakah proyek ini cocok untuknya.
Sementara itu, saya mulai meyakiti John Schulman untuk bergabung, dan ia setuju. Namun, Dario dan Chris akhirnya memutuskan pergi ke Google Brain, sehingga tim sebenarnya hanya tersisa saya, Ilya, John, dan beberapa orang lainnya.
Saat itu sekitar sepuluh orang menyatakan ketertarikan, tetapi semua masih menunggu siapa lagi yang akan bergabung.
Saya bertanya kepada Sam bagaimana kita bisa mengatasi kebuntuan ini, dan Sam menyarankan untuk mengajak semua orang keluar untuk mengadakan kegiatan off-site. Kami memilih Napa Valley, dan saya bahkan membuat kaos khusus.
Pada saat itu belum ada penawaran resmi, tidak ada struktur perusahaan, tidak ada apa-apa. Kami hanya memiliki satu ide, satu visi, satu misi.
Namun, ketika kami mengundang orang-orang tersebut pada hari itu di Napa Valley, kami mendapatkan inspirasi dan hampir menetapkan jalur teknologi untuk sepuluh tahun ke depan:
1. Selesaikan masalah pembelajaran penguatan. 2. Selesaikan masalah pembelajaran tanpa pengawasan. 3. Pelajari hal-hal yang lebih kompleks secara bertahap.
Setelah rapat tertutup, saya mengirimkan penawaran kepada semua orang, memberi tahu bahwa kami akan memulai dalam 2-3 minggu ke depan, silakan beri tahu jika ingin bergabung.
Q: Mengapa pada saat itu merasa DeepMind sulit dilampaui?
Greg: Saat itu, Google DeepMind adalah raksasa di bidang AI, dengan dana yang melimpah dan prestasi yang gemilang, bahkan beberapa bulan sebelum peluncuran AlphaGo, keunggulannya sudah jelas terlihat.
Karena itulah kami meragukan: apakah benar-benar mungkin menciptakan lembaga baru yang independen? Jawabannya belum jelas.
Alasan Meninggalkan Nirlaba
Q: Kapan kamu menyadari bahwa jalur nirlaba tidak mungkin dilanjutkan?
Greg: Pada tahun 2017, kami mulai memikirkan dengan sangat serius bagaimana benar-benar mewujudkan misi kami, bagaimana benar-benar membangun AGI. Kami menghitung kebutuhan daya komputasi, dan ternyata memerlukan perangkat komputasi berskala sangat besar.
Ketika itu kami berhubungan dengan perusahaan Cerebras, yang sedang mengembangkan perangkat keras komputasi khusus dengan kinerja jauh melebihi daya komputasi yang kami hitung sendiri.
Kami menyadari bahwa jika kami bisa membeli banyak perangkat semacam itu, mendapatkan eksklusif produk Cerebras, dan membangun pusat data berukuran sangat besar, itu akan memberi kami keunggulan yang luar biasa.
Namun, penggalangan dana untuk organisasi nirlaba memiliki batas, yang sama sekali tidak mampu mendukung investasi semacam ini. Oleh karena itu, Elon, Sam, Ilya, dan saya sepakat bahwa satu-satunya jalan bagi OpenAI untuk mencapai misinya adalah dengan mendirikan entitas bisnis yang bertujuan mencari keuntungan.
"Ketika GPT" milik OpenAI
Q: Kapan kamu menyadari bahwa semuanya akan berubah sepenuhnya? Sebelum proyek Dota, atau setelahnya?
Greg: Cara kerja OpenAI adalah rangkaian momen impian menjadi kenyataan. Setiap kali Anda merasa sudah memahami seluruh gambaran, Anda akan segera menemukan batas-batas baru.
Saat awal membentuk tim, kami merasa sangat bersemangat karena akhirnya berhasil menyatukan tim dan bisa mulai menjalankan misi. Tapi keesokan harinya saat tiba di kantor, kami menyadari tidak ada papan putih sama sekali.
Proyek Dota adalah hasil besar pertama kami, yang benar-benar membuat kami percaya bahwa jika kami memberikan segalanya, kami benar-benar bisa mencapainya. Ini membuktikan bahwa dengan menggabungkan daya komputasi, memperluas daya komputasi, hasilnya akan meningkat.
Ada banyak momen seperti itu dalam seri GPT, misalnya makalah awal tentang neuron sentimen tanpa pengawasan, yang merupakan pertama kalinya kami melihat semantik muncul dari pelatihan dengan tujuan pemodelan bahasa.
Anda melatih model untuk memprediksi karakter berikutnya, lalu tiba-tiba, Anda mendapatkan jaringan saraf yang mampu memahami emosi dan membedakan positif dan negatif.
Pada saat itu kami menyadari bahwa kami sedang membangun mesin yang dapat belajar semantik, bukan hanya aturan tata bahasa.
Saat GPT-4 dirilis, ada yang bertanya, mengapa itu belum menjadi AGI. Memang bisa berdialog dengan lancar, hampir memenuhi semua definisi AGI sebelumnya, tetapi masih kurang satu langkah lagi.
Secara keseluruhan, sepanjang perjalanan ini, ada banyak momen serupa yang membuat kami merasa impian menjadi nyata, tetapi momen-momen ini masih jauh dari berakhir; kami akan mengalami lebih banyak momen terobosan, lalu menyadari bahwa tahap berikutnya mungkin saja terwujud.
Q: Mengapa Dota dianggap sangat penting?
Greg: Dota adalah momen yang luar biasa, ia tidak seperti Deep Blue bermain catur atau AlphaGo bermain go yang memiliki aturan jelas; ia berinteraksi secara real-time dengan manusia dalam lingkungan kompleks dan terbuka, lebih mendekati dunia nyata.
Sebenarnya awalnya kami hanya ingin menggunakannya untuk menguji algoritma baru, karena pembelajaran penguatan pada saat itu tidak dapat diskalakan. Namun, ketika kami terus meningkatkan daya komputasi, algoritma PPO yang sangat sederhana mampu mengalahkan pemain manusia terbaik, membuktikan bahwa:
Kekuatan komputasi skala besar ditambah algoritma sederhana, benar-benar feasible dalam praktik.
Terutama di lingkungan yang sangat kacau ini, di mana Anda tidak bisa memprogram, tidak bisa memprediksi, dan tidak bisa mencari, yang Anda butuhkan hampir sama dengan intuisi manusia.
Pada saat itu, jaringan saraf yang digunakan sangat kecil, dengan jumlah sinapsis sebanding dengan otak serangga, kita akan menyadari seperti apa jika pendekatan ini diperluas hingga skala otak manusia? Ini adalah pertanyaan yang sangat menarik.
Q: Karena kita membahas prediksi, apakah menurutmu ada perbedaan antara prediksi dan penalaran?
Greg: Saya percaya ada hubungan mendalam di antara keduanya.
Memprediksi kata berikutnya tampak sederhana, tetapi jika Anda dapat memprediksi kata berikutnya dari Einstein dengan akurat, maka setidaknya Anda secerdas Einstein.
Inti prediksi bukanlah memprediksi informasi yang sudah diketahui, melainkan menyimpulkan perkembangan selanjutnya dalam skenario baru yang belum pernah dilihat sebelumnya, yang secara mendalam terkait dengan esensi kecerdasan.
Model inferensi saat ini terdiri dari dua langkah:
1. Pembelajaran tanpa pengawasan: Melatih model dengan memprediksi apa yang akan terjadi selanjutnya. Data lebih statis dan bersifat observasional. 2. Pembelajaran penguatan: Membiarkan AI belajar dari data miliknya sendiri. Ia mengambil tindakan sendiri, menerima umpan balik dari lingkungan, dan belajar darinya. Cara pelatihannya pada dasarnya masih merupakan prediksi—memperkirakan hasil setelah tindakan diambil, lalu memperkuat berdasarkan efeknya.
Namun, secara mendasar, teknologi yang digunakan pada kedua tahap ini sama persis, yaitu prediksi, hanya saja struktur datanya berbeda.
Insiden pemaksaan Ultraman
Q: Kapan konflik internal mulai menjadi tajam?
Greg: Keunikan OpenAI adalah kami percaya bahwa kami dapat menciptakan AI setara dengan manusia, yang berarti risikonya sangat tinggi.
Siapa yang membuat keputusan? Nilai-nilai apa yang mendasari keputusan-keputusan ini? Hal-hal yang tidak penting di perusahaan biasa, seperti politik kantor, di sini justru diberi bobot yang menyangkut kelangsungan hidup manusia.
Saya percaya ini memengaruhi banyak perkembangan di dalam OpenAI, dan ini adalah akar dari semua konflik besar.
Salah satu dorongan utama di bidang AI adalah keinginan orang-orang untuk berada di pusat revolusi teknologi dan menjadi orang yang diingat, jadi ini bukan hanya masalah OpenAI.
Teknologi AI pada dasarnya terfragmentasi; di bawah tekanan tinggi, mungkin menghasilkan berlian, atau justru retakan. Oleh karena itu, Anda sering melihat pembentukan berlian dalam kelompok kecil, karena mereka bekerja sama erat dan saling mempercayai secara tinggi. Namun, terkadang mereka juga pecah dan menempuh jalan masing-masing.
Saya percaya bahwa dalam bidang AI, berbagai pendekatan dan persaingan sehat adalah hal wajar, yang memungkinkan kita untuk mengembangkan teknologi dengan lebih aman serta membahas isu-isu rumit seperti keamanan dan etika.
Jadi, perdebatan sehat selalu ada di dalam OpenAI, tetapi sekarang, ini sedang terjadi di seluruh dunia.
Q: Lalu mari kita kembali ke saat Anda mendengar bahwa Sam dipecat, di mana Anda berada?
Greg: Saya saat itu di rumah. Saya menerima pesan undangan panggilan video, dan menyadari bahwa semua anggota dewan selain Sam ada di sana. Saat itu saya langsung merasa ada yang tidak beres.
Mereka memberi tahu saya bahwa dewan telah memutuskan untuk memberhentikan Sam. Informasi yang saya terima pada dasarnya sama dengan pernyataan publik, jadi saya mencoba menanyakan lebih banyak detail, tetapi permintaan saya ditolak.
Kemudian mereka mengatakan bahwa saya juga dihapus dari dewan direksi, tetapi akan tetap tinggal di perusahaan karena saya sangat penting bagi perusahaan dan misinya.
Saya kembali meminta alasan, tetapi tetap ditolak. Akhirnya mereka memberi tahu saya bahwa di arsitektur baru, saya mungkin akan mendapatkan umpan balik. Itulah isi percakapan itu.
Q: Apa yang kamu pikirkan saat itu? Apakah kamu merasa marah?
Greg: Tidak, saya hanya merasa ini tidak benar, tapi saya kira bisa memahami apa yang terjadi.
Q: Berapa lama setelah itu kamu baru tahu apa yang sebenarnya menyebabkan semua ini?
Greg: Jawabannya terbagi dua. Pertama, saya merasa saya terus-menerus menemukan fakta-fakta baru, hal-hal yang dipikirkan orang lain. Dalam beberapa hal, ini bisa diringkas sebagai komunikasi yang buruk, di mana Anda tiba-tiba menyadari ada berbagai hal yang sebelumnya diabaikan.
Di sisi lain, saya kira saya tahu mengapa masing-masing dari mereka melakukannya.
Namun pada saat itu, mencari alasan sudah tidak penting lagi; saya hanya tahu bahwa ini salah. Jadi, setelah menutup telepon, saya langsung memberi tahu istri bahwa saya ingin mengundurkan diri, dan dia juga setuju.
Then I submitted my resignation that day.
Setelah mengundurkan diri, saya mulai menerima banyak pesan. Kami menerima banyak dukungan dan semangat, dan banyak orang bersedia meninggalkan bersama kami untuk memulai usaha baru, termasuk Jakob, Shimone, dan Alexander.
Kemudian kami berkumpul dengan Sam dan mulai merencanakan sebuah perusahaan baru.
Pada hari pertama, kami memperkirakan kemungkinan Sam kembali hanya 10%. Jadi, kami mengatur pertemuan di rumah Sam, dan banyak orang dari perusahaan hadir, di mana kami memperlihatkan gambaran yang sedang dirancang. Dalam satu hari, kami memiliki gambaran baru tentang bagaimana mengelola proyek tersebut.
Pada akhir pekan itu, kami juga menghabiskan banyak waktu bernegosiasi dengan dewan dan perusahaan untuk mencari jalan kembali yang bermakna.
Pada akhir minggu, dewan tiba-tiba mengangkat CEO baru secara mendadak, menggantikan posisi saya, dan perusahaan benar-benar meledak dalam protes. Faktanya, pada saat itu kami berada di kantor, bahkan melihat bahwa kesepakatan hampir tercapai dan kami bisa pulang, tetapi dewan tiba-tiba berubah pikiran.
Kerumunan mulai membanjiri keluar dari gedung, kekacauan terjadi.
Kami mulai melakukan panggilan video dengan orang-orang yang tertarik pada perusahaan baru kami, menenangkan mereka bahwa semuanya akan baik-baik saja, kami memiliki rencana. Kami terus berusaha membangun perahu penyelamat untuk sekelompok kecil orang yang mungkin bergabung, tetapi tiba-tiba sepertinya semua orang berubah pikiran dan ingin bergabung dengan perusahaan baru kami.
Sam juga berbicara dengan CEO Microsoft Satya, sebelumnya kami terus membahas apakah ia bisa mendukung usaha baru kami. Kami berharap dapat memperluas skala perahu penyelamat, misalnya dengan membawa seluruh karyawan OpenAI.
Pada saat itu, menjelang Hari Thanksgiving, banyak orang seharusnya terbang pulang untuk berkumpul dengan keluarga, tetapi mereka semua membatalkan penerbangan mereka, dan kantor dipenuhi orang.
Semua orang ada di sana, bahkan jika tidak berpartisipasi dalam percakapan, mereka ingin menyaksikan sejarah ini secara langsung.
Kemudian, petisi tersebut mulai menyebar. Terlalu banyak orang yang mencoba menandatangani petisi secara bersamaan, hingga sempat menyebabkan Google Docs down, sehingga akhirnya hanya beberapa orang yang ditunjuk untuk mencatat nama, agar tidak terlalu banyak penyunting sekaligus.
Saya ingat saya tiba di rumah sekitar pukul 5 pagi, tidur selama 45 menit, lalu bangun dan membuka Twitter, melihat Ilya mengirim tweet dan menandatangani petisi, mengatakan ia berharap perusahaan bisa bersatu kembali.
It was truly a moment of relief. I am deeply grateful; I feel we can put everything back together and get back on track.
Q: Kamu dan Ilya mendirikan perusahaan ini bersama, setelah kejadian itu, bagaimana perasaanmu tentang hubungan kalian?
Greg: Ini sulit. Kami memiliki hubungan yang sangat dekat, dia pernah menjadi pembawa acara di pernikahan saya, dan kami telah melewati banyak momen sulit bersama. Tapi setiap hubungan pasti memiliki pasang surut.
Setelah itu, kami menghabiskan banyak waktu untuk benar-benar berbicara, berusaha memahami dan mengungkapkan hal-hal yang telah menumpuk atau belum pernah kami katakan satu sama lain. Melalui proses ini, saya merasa kami mencapai keadaan yang sangat baik.
Bagi saya, saya merasa kita telah menyelesaikan semua yang terjadi.
Q: Bagaimana perasaanmu terhadap loyalitas karyawan yang kamu timbulkan?
Greg: Saya sangat berterima kasih atas ini. Saya tidak pernah meminta ini secara aktif, dan tidak pernah mengharapkannya.
Saya percaya gaya kepemimpinan saya adalah tipe pemimpin yang turun langsung ke lapangan, berusaha menjadi yang pertama maju, terkadang agak emosional; saya tidak selalu menoleh ke belakang untuk memastikan apakah semua orang mengikuti, saya terus maju.
Namun, ketika orang-orang benar-benar datang untuk membantu membangun, saya merasa sangat berterima kasih dan merasa mereka melampaui harapan saya di segala aspek.
Q: Jadi pada akhirnya semua orang kembali?
Greg: Sebenarnya sepanjang akhir pekan, semua pesaing saling mengawasi. Orang-orang menerima berbagai tawaran, tetapi pada akhir pekan itu, kami tidak kehilangan seorang pun, tidak ada yang menerima tawaran. Ini luar biasa.
Sebenarnya, pelatih Bill Belichick pernah mengatakan kepada saya bahwa tim terbaik bukan bermain karena uang, tetapi karena orang-orang di sekitar mereka. Saat itu, ketika semua orang datang mendukung kami, saya teringat akan kalimat itu.
Tidak diragukan lagi, ini adalah momen berlian.
Istirahat singkat dan refleksi diri
T: Setelah semua ini terjadi, kamu beristirahat sejenak, apa yang kamu alami di dalam hati?
Greg: Itu adalah pengalaman yang intens, baik saat melewati maupun saat kembali menghadapinya.
Tapi jujur saja, salah satu momen paling sulit dalam sejarah OpenAI adalah ketika Ilya pergi. Itu mungkin satu-satunya momen dalam sejarah OpenAI yang membuat saya merasa tidak ingin melanjutkan lagi.
Saya rasa saya perlu waktu untuk menemukan kembali diri saya, mengingat mengapa saya memulai hal ini, mengapa hal ini begitu penting, dan mengapa layak menanggung semua penderitaan ini.
Q: Apa yang kamu lakukan selama istirahat?
Greg: Saya melatih model bahasa pada urutan DNA.
Saya sebenarnya sudah melakukan ini selama saya di OpenAI, untuk Arc, lembaga penelitian biomedis nirlaba. Saya menerapkan keterampilan saya ke bidang yang sangat berbeda, yang sangat bermakna bagi saya dan istri saya.
Istri saya mengalami banyak masalah kesehatan, dan kami terus memikirkan bagaimana AI dapat membantu kesehatannya bahkan kesehatan hewan. Pengalaman ini juga membuat saya menyadari bahwa mungkin kami bisa menerapkan teknologi di bidang-bidang baru yang penuh kehangatan.
Q: Jika Anda harus merangkum semuanya dalam satu halaman, mulai dari pemecatan Sam hingga pengunduran diri Anda, petisi kolektif karyawan, cuti, lalu kembali, apa yang akan Anda tulis?
Greg: Saya belajar bahwa saya harus bertahan untuk hal-hal yang bernilai.
Jika Anda memiliki misi penting, maka kunci utamanya adalah tetap bertahan di tengah naik turunnya situasi. Akan ada saat-saat ketika “semuanya berakhir,” dan juga saat-saat ketika “kita kembali.”
Anda tidak boleh membiarkan momen-momen ini mengalihkan Anda; di masa ini, Anda harus membangun ketahanan pribadi. Karena jika Anda seorang pemimpin, orang-orang akan mencari stabilitas, dukungan, dan arah maju dari Anda.
Saya berusaha menumbuhkan kemampuan untuk memahami detail dari apa yang kami lakukan, makna setiap pilihan, sekaligus bersikap tegas.
Kadang-kadang, saya sangat melihat OpenAI dari sudut pandang ketidakpastian, merasa saya tidak tahu jawaban yang benar, tidak tahu cara yang tepat untuk membangun teknologi ini, atau bagaimana menjawab pertanyaan-pertanyaan sulit ini.
Tetapi di sini ada banyak orang yang sangat cerdas dan memiliki pendapat yang kuat. Jadi saya berusaha memahami semua pendapat ini dan mencari cara untuk mengintegrasikannya. Terkadang ini adalah langkah yang tepat. Tetapi terkadang Anda menemukan bahwa pendapat-pendapat ini saling bertentangan dan tidak mungkin semuanya benar secara bersamaan.
Kadang-kadang Anda harus membuat pilihan, Anda tahu ini berarti ada yang tidak senang, ada yang akan mengundurkan diri, dan ada yang merasa diremehkan.
Yang saya usahakan adalah memiliki kesadaran diri yang lebih kuat, serta kesadaran bahwa saya harus bertindak ketika yakin akan suatu hal.
Mengingat perjalanan OpenAI, saya merasa ada beberapa hal yang ingin kami lakukan berbeda.
Biasanya, situasi seperti itu terjadi ketika kita menunda-nunda sesuatu, kita sudah tahu seseorang tidak cocok untuk peran tertentu, kita merasa arah teknis tertentu tidak tepat, atau kita merasa cara menjalankan proyek tertentu tidak akan berhasil, tetapi kita terlalu lama menunggu.
Ini adalah pelajaran yang saya pelajari dengan susah payah, dan salah satu aspek yang saya usahakan untuk berkembang setiap hari saat merefleksikan OpenAI, Stripe, bahkan proyek-proyek di masa kuliah yang lebih awal.
Saya merasa cara saya bekerja adalah bahwa saya sangat mencintai aktivitas sehari-hari, kontribusi pribadi, perangkat lunak, dan memikirkan masalah, tetapi saya juga sangat peduli terhadap lingkungan di mana hal-hal ini dilakukan.
Sebenarnya, saya bersedia melepaskan “kesenangan kelas pertama,” yaitu kepuasan cepat, seperti apa yang baru saja Anda buat, dan beralih mengejar “kesenangan kelas kedua,” yaitu hal-hal yang menyakitkan saat ini tetapi memiliki nilai jangka panjang.
Anda menciptakan lingkungan agar orang lain dapat melakukan pekerjaan berat dan mencapai pencapaian besar. Jadi, berusaha menciptakan lingkungan adalah kecenderungan alami saya, yang tidak selalu mudah. Anda memang harus bersedia menanggung penderitaan pribadi yang besar.
Ilya selalu mengatakan, "Kamu harus menderita," dan jika kamu tidak menderita, maka kamu tidak menciptakan nilai. Saya pikir ada makna mendalam di balik ini.
Tentang pandangan Ilya, yang saya anggap menarik adalah cara bicaranya yang unik, di mana kata-kata yang dipilihnya selalu mengandung inspirasi mendalam.
Gambaran "penderitaan" ini adalah sesuatu yang terus kami pikirkan sepanjang perjalanan OpenAI. Dari awal, kami penuh ketidakpastian, setiap hal sangat sulit dan sangat tidak pasti.
Banyak orang terbiasa menyembunyikan masalah di bawah karpet dan sembarangan mengatakan “go all in.” Saya menganggap ini adalah bagian negatif dari budaya Silicon Valley, setidaknya stereotip Silicon Valley, tetapi saya percaya ini tidak berlaku di bidang AI, tidak berlaku di OpenAI, dan kami belum pernah beroperasi seperti itu.
Cara kerja kami selalu menghadapi fakta-fakta sulit dan memahami hakikat kenyataan. Saya percaya ini membantu kami memikirkan masalah dengan cara yang berbeda, tidak puas hanya dengan menulis makalah yang bisa dikutip di tahap awal—ini hanya dasar, tetapi jauh dari cukup.
Kemudian Anda mulai memikirkan masalah yang lebih besar: apa yang dibutuhkan untuk membangun AGI? Ini tidak menyenangkan. Karena Anda menyadari tidak ada jalan yang sudah tersedia.
Anda membutuhkan dana, tetapi Anda tidak memiliki mekanisme untuk mengumpulkan dana. Anda berusaha keras, kami juga berusaha sangat keras. Mungkin Anda bisa mengumpulkan 100 juta dolar atau 500 juta dolar, tetapi 1 miliar dolar, sangat sulit.
Namun, dengan sumber daya yang ada ini saja, kami telah mencapai prestasi yang baik; tanpa berani menghadapi tantangan dan berusaha memahami kebenaran di balik usaha yang kami coba capai, memang tidak ada cara lain.
Q: Pelajaran apa yang harus Anda pelajari ulang berulang kali?
Greg: Mengambil keputusan sulit, melakukan percakapan sulit.
Q: Apa saran terbaik yang pernah kamu terima?
Greg: Saya belajar ini dari kelas menulis mahasiswa baru di Harvard. Untuk kejelasan dan komunikasi, terus kurangi teks.
Q: Bagaimana Anda menyaring informasi?
Greg: Banyak membaca, secara aktif mengklasifikasikan dan menangani.
Q: Siapa panutanmu, dan mengapa?
Greg: Gauss dan Descartes. Mereka adalah orang-orang yang sangat berpikir, jauh melampaui zamannya, dan memiliki visi yang jauh ke depan; mereka membawa terobosan nyata yang mengubah cara kita berpikir dan hidup.
Q: Tentang Greg Brockman, apa yang salah dipahami oleh dunia?
Greg: Saya percaya orang-orang tidak menyadari seberapa fokusnya saya terhadap misi ini, dan fokus ini telah membawa penderitaan besar bagi saya dalam banyak hal. Tetapi saya benar-benar percaya bahwa teknologi ini dapat memberdayakan orang-orang dan membuat setiap orang mendapat manfaat. Saya sangat ingin membantu mewujudkan hal ini.
Penilaian inti terhadap industri AI
Q: Apa yang ingin Anda sampaikan kepada orang non-teknis tentang AI?
Greg: Ini akan menjadi kekuatan positif dalam kehidupan pribadi mereka, yang akan memberi manfaat bagi mereka, serta mendorong perkembangan ilmu pengetahuan dan kedokteran, secara nyata memengaruhi setiap orang.
Q: Mengapa OpenAI begitu buruk dalam penamaan modelnya?
Greg: Saya tidak bisa memberi tahu Anda ini. (doge)
Q: Apakah kita sudah mendekati titik di mana AI membuat perkembangan AI berakselerasi secara eksponensial?
Greg: Saya percaya kita sedang berada pada tahap menerapkan AI pada proses pengembangannya sendiri, dan itu akan semakin cepat.
Ini sebenarnya sudah terjadi sejak ChatGPT. Kita menggunakan ChatGPT untuk mempercepat proses pengembangan sebesar 10% atau 20%. Sekarang kita memiliki alat coding luar biasa yang benar-benar merevolusi cara penyelesaian rekayasa perangkat lunak.
Namun, sebagian besar pekerjaan yang kami lakukan dalam produksi model terhambat oleh perangkat lunak. Kami akan segera memasuki tahap berikutnya, di mana AI juga akan mengusulkan ide-ide penelitian sendiri, serta menguji dan menjalankan eksperimen. Jadi, saya percaya kecepatan iterasi dan inovasi akan terus meningkat karena hal-hal yang sedang kami produksi.
Berapa persen kode saat ini yang ditulis oleh AI?
Greg: Sulit untuk mengatakan berapa banyak kode yang bukan ditulis oleh AI. Proporsi ini mendekati nol.
Saat ini, dengan konteks dan struktur yang benar, AI jauh lebih unggul daripada manusia dalam menulis kode secara aktual. Untuk bagian struktur kode, ahli manusia masih jauh lebih unggul, tetapi penulisan kode aktual hampir seluruhnya menjadi tugas AI.
Q: Apakah AI pernah mengusulkan ide baru yang tidak terpikirkan olehmu?
Greg: Kami sedang mendekati target ini. Misalnya dalam desain chip. Tahun lalu dalam desain chip kami sendiri, kami berusaha menyesuaikan teknologi dengan lebih baik untuk memperkecil area yang digunakan oleh sirkuit.
Kami menemukan bahwa solusi yang dihasilkan model sebenarnya sudah ada dalam daftar kami, jadi ia tidak mengusulkan hal baru yang belum pernah terpikirkan oleh manusia, tetapi ia melakukannya lebih cepat, dengan cara yang sebelumnya tidak kami punya waktu untuk selesaikan.
Sebagai contoh lain, baru-baru ini dalam fisika kuantum, kami menyelesaikan masalah fisika tertentu, dan hasilnya berlawanan dengan yang diharapkan oleh komunitas ilmiah, serta menghasilkan sebuah rumus yang indah dan sederhana.
Jadi, mendapatkan ide baru dari model-model ini sepenuhnya mungkin. Selanjutnya, kami akan menerapkannya di bidang yang lebih sulit, atau membutuhkan lebih banyak konteks dunia nyata. Ini baru mulai terlihat tanda-tandanya. Namun, kami memiliki peta jalan untuk mewujudkannya, dan masih banyak pekerjaan yang harus dilakukan.
Q: Jika model berbasis pembelajaran penguatan, menurutmu apakah mereka akan berkembang menjadi hanya memberi tahu kita hal-hal yang ingin kita dengar?
Greg: Kami sebenarnya mengalami evolusi dalam melatih model untuk menyesuaikan preferensi pengguna.
Kami melihat bahwa pada suatu waktu tahun lalu, model memang mulai cenderung mengatakan hal-hal yang ingin Anda dengar, dan kami telah membuat perubahan atas hal ini, karena kami ingin model benar-benar selaras dalam membantu Anda mencapai tujuan Anda, tujuan jangka panjang Anda.
Mungkin terasa enak mendengar persetujuan saat ini, tetapi itu bukan yang benar-benar kamu inginkan. Mungkin beberapa orang menyukainya, tetapi ini bukan yang benar-benar diinginkan sebagian besar orang.
Jadi, kami sebenarnya telah membuat kemajuan teknis besar untuk memastikan bahwa pelatihan AI kami tidak menyebabkan yang disebut reward hacking. Kami benar-benar ingin memastikan adanya sinyal yang baik mengenai tujuan, bukan hanya hal-hal jangka pendek yang bisa membuat Anda cepat puas.
Bagi saya, ini mungkin merupakan bagian paling penting dari visi yang akan dibawa oleh AI pribadi dan AGI pribadi, memastikan bahwa hal itu tidak hanya berfokus pada hal-hal yang tampak baik saat ini, tetapi benar-benar selaras dengan kesejahteraan jangka panjang, tujuan jangka panjang, dan hal-hal yang benar-benar Anda inginkan.
I believe this is what truly empowers people.
Q: Tren saat ini tampaknya adalah merilis model versi preview, apakah menurut Anda ini karena keterbatasan daya komputasi kami?
Greg: Secara keseluruhan, kita sedang menuju dunia yang didorong oleh kekuatan komputasi.
Bukan lagi sekadar menjawab pertanyaan dengan cepat, ia mulai benar-benar mendalam, menghabiskan banyak token untuk mengintegrasikan berbagai sumber data, mencari basis pengetahuan perusahaan, untuk menyelesaikan masalah kompleks dan menulis perangkat lunak yang lebih unggul daripada kemampuan manusia.
Semua ini pada dasarnya didorong oleh daya komputasi, dan daya komputasi jauh dari mencukupi. Jika setiap orang di dunia memiliki satu GPU, itu akan menjadi 8 miliar GPU, dan jalur kita saat ini jauh dari mencapai tingkat tersebut. Sekarang, ribuan hingga jutaan GPU sudah dianggap sangat besar.
Oleh karena itu, dalam pelatihan, kami cenderung membangun daya komputasi lebih awal untuk mengatasi permintaan yang kami lihat. Kami akan sangat fokus pada misi membawa model ke setiap orang agar dapat diakses secara luas.
Q: Anda pernah diejek karena mengalokasikan banyak energi dan dana ke pusat data. Sekarang bagaimana menurut Anda situasinya?
Greg: Saya percaya ini akan memberi kami keunggulan. Bukan hanya menguntungkan bisnis, tetapi juga benar-benar mewujudkan pemberian teknologi kepada setiap orang.
Daya komputasi masa depan akan diutamakan untuk misi besar, seperti mengatasi kanker, yang tahun ini mungkin sudah bisa terwujud.
Faktanya, alokasi daya komputasi adalah isu inti masa depan masyarakat, karena hanya ada sejumlah daya komputasi terbatas, sehingga harus diprioritaskan, tetapi kami tetap percaya bahwa setiap orang perlu mendapatkan akses ke daya komputasi.
Inilah mengapa kami memiliki versi gratis ChatGPT, dan kami berusaha memastikan orang-orang dapat menggunakan teknologi ini.
T: Di dalam OpenAI, bagaimana Anda memandang keseimbangan antara bisnis konsumen dan bisnis perusahaan?
Greg: Hal yang baru-baru ini banyak saya pikirkan adalah fokus.
Karena bidang ini adalah personifikasi peluang, Anda dapat menerapkan AI ke segala masalah, ke segala hal yang ingin Anda bangun, semuanya mungkin. Namun, masalah kami saat ini masih terbatasnya daya komputasi.
Jadi saya berpendapat, pada tahap berikutnya OpenAI, bisnis enterprise jelas sangat penting, karena perekonomian sedang berubah menjadi ekonomi komputasi di depan mata kita. Teknik perangkat lunak sudah demikian, dan setiap bidang yang menggunakan komputer akan mengalami hal yang sama.
Jadi kita perlu membantu orang-orang di sana untuk menerapkan model-model ini, memahami cara memanfaatkannya, dan cara mendapatkan keuntungan maksimal darinya.
Batas antara bisnis dan konsumen juga akan memudar, karena kewirausahaan akan menjadi lebih mudah daripada sebelumnya. Kita sudah melihat hal ini.
Q: Apakah menurutmu kita akan memiliki pusat data luar angkasa?
Greg: Saya pikir kita akan memiliki pusat data di mana-mana, tetapi saat ini masih banyak masalah teknis terkait pusat data di luar angkasa.
Q: Apa itu deployment iteratif? Mengapa Anda melakukannya?
Greg: Deployasi iteratif adalah salah satu pilar utama dalam penanganan OpenAI bagaimana membuat teknologi ini bermanfaat bagi manusia dan mencapai misinya.
Risiko pengembangan rahasia dan peluncuran sekali jalan sangat tinggi, karena Anda tidak dapat memprediksi masalah dunia nyata. Namun, peluncuran bertahap memungkinkan kami menemukan risiko melalui praktik langsung dan memperbaikinya dengan cepat. Misalnya, setelah GPT-3 diluncurkan, kami tidak menyangka penyalahgunaan terbesar adalah pesan spam medis—pengalaman nyata memungkinkan kami merespons secara tepat waktu.
Jadi, konsep deploy iteratif adalah kami akan meluncurkan versi menengah dari teknologi ini.
Ini bukan alasan untuk menerapkan secara sembarangan; Anda tetap perlu memikirkan penilaian terbaik kami tentang semua kemungkinan penyalahgunaan, kelemahan apa yang ada, risiko apa yang muncul, lalu menguranginya. Namun, Anda juga bisa melihat kenyataan sebenarnya, memeriksa apakah penilaian Anda tepat, belajar dari kenyataan, dan melakukan yang lebih baik di masa depan.
Dalam sejarah OpenAI, kami pernah berharap, karena teknologi transformasional pernah diterapkan oleh orang lain, mungkin mereka bisa memberi kami jawabannya. Tetapi hal-hal tidak pernah semudah itu.
Mereka memang memiliki kebijaksanaan dan wawasan, dan kami pun menyerapnya. Namun, kami menyadari bahwa kami adalah orang-orang yang paling dekat dengan teknologi ini, dan karena menciptakannya, kami dapat lebih memahami cara yang tepat untuk membentuknya.
Q: Bagaimana Anda melihat perbedaan ini jika satu model canggih menjadikan keamanan sebagai prioritas utama, sedangkan yang lain tidak?
Greg: Saya percaya kami menemukan bahwa keamanan sebenarnya merupakan fitur produk inti, tidak ada yang menginginkan model yang tidak selaras dengan diri mereka sendiri.
Jadi kami telah berinvestasi dalam keamanan, mungkin jauh melebihi yang dipikirkan orang, dan mungkin lebih dari laboratorium lain mana pun.
Saya selalu percaya bahwa mereka yang membangun teknologi ini dan memiliki produk yang sukses tidak dapat terus-menerus mengabaikan investasi besar dalam keamanan. Anda perlu memikirkan jangka panjang untuk bisnis Anda dan hal yang sedang Anda ciptakan, yang berkaitan dengan bagaimana melatih model dan mendapatkan umpan balik.
Saya hanya ingin mengatakan bahwa kami berkomitmen untuk menjadikan keamanan sebagai bagian dari misi kami, yang telah tercermin dalam produk dan dunia kami.
Q: Ketika saya memberi tahu orang-orang bahwa saya akan melakukan wawancara ini, reaksi umum adalah mereka khawatir tentang pekerjaan mereka dan merasa tidak pasti. Apa yang akan Anda katakan kepada mereka?
Greg: Saya memang percaya bahwa bagaimana teknologi ini akan berkembang masih belum pasti. Cara perkembangannya mengejutkan; AI dan dunia kita saat ini bukanlah yang diprediksi dalam fiksi ilmiah. Beberapa kesimpulan yang tampaknya pasti, ketika benar-benar terwujud, ternyata tidak sepenuhnya sama.
Saya percaya, orang selalu paling mudah melihat apa yang akan mereka kehilangkan. Perubahan sedang datang, dan itu tak bisa disangkal, tetapi yang lebih sulit adalah memprediksi apa yang akan Anda dapatkan.
Sebagai contoh, bayangkan bagaimana orang pada tahun 1950 memahami Uber—pertama, Anda harus membayangkan komputer, ponsel, dan GPS. Sebenarnya, ini melibatkan banyak teknologi yang cukup kompleks, tetapi hal itu memang terjadi. Dan ribuan, bahkan jutaan contoh lainnya sedang terjadi secara bersamaan.
Jadi, pandangan saya tentang AI adalah bahwa ini tentang pemberdayaan, tentang agensi manusia. Ini memang berarti beberapa institusi, pekerjaan, dan hal-hal yang kita anggap bisa diandalkan mungkin tidak lagi sestabil yang kita bayangkan.
Jadi itu akan memengaruhi orang-orang, tetapi pertanyaan mendalam yang layak diajukan adalah: apa yang kamu dapatkan? Bagaimana kamu mendapatkan manfaat darinya?
Sekarang kamu bisa menjadi seorang pencipta, kamu bisa menciptakan apa saja, segala sesuatu yang bisa kamu bayangkan bisa menjadi nyata.
Q: Bagaimana cara mengembangkan kemampuan kreatif?
Greg: Benar-benar mendalami teknologi ini.
Yang saya amati adalah, orang-orang yang mendapat manfaat paling besar dari melewati berbagai generasi teknologi adalah mereka yang sudah terlibat dalam teknologi generasi sebelumnya. Dan sekarang, ambang batas untuk mencobanya lebih rendah daripada sebelumnya.
Jadi saya percaya akan ada peluang baru yang diciptakan.
Saya percaya dunia memang perlu mempertimbangkan bagaimana mendukung setiap orang dalam setiap transisi yang akan datang di saat penuh ketidakpastian ini. Karena ekonomi akan berubah menjadi ekonomi komputasi, tetapi setiap orang akan memiliki tempat untuk berkontribusi.
Q: Di mana pemuda hari ini sebaiknya berinvestasi? Jika Anda masih di sekolah menengah atau universitas, atau baru memulai karier, menurut Anda keterampilan apa yang akan lebih bernilai di masa depan?
Greg: Saya benar-benar percaya bahwa memahami teknologi ini secara mendalam akan menjadi keterampilan kunci, benar-benar memahami cara memaksimalkan nilai dari AI.
Karena kita semua akan menuju dunia di mana kita menjadi pengelola agen, dan mungkin segera menjadi CEO perusahaan AI otonom.
Selama Anda memiliki token dan daya komputasi yang mendorongnya, pada saat itu Anda dapat mengarahkan daya komputasi tersebut ke masalah apa pun, dan jumlah masalah yang ingin dipecahkan manusia tak terbatas.
Jadi saya berpendapat, semakin dalam orang memahami teknologi ini, semakin jelas cara memanfaatkan hal-hal yang akan datang, menggabungkan teknologi-teknologi ini dengan cara baru, berinteraksi dengan agen kami, mengelolanya secara nyata, dan memikirkan “Apa yang saya inginkan? Apa kesadaran diri saya? Apa tujuan saya? Apa yang ingin saya lihat di dunia?”, maka mewujudkannya akan lebih mudah daripada sebelumnya.
I believe that the upside potential of that world, given what we’ve gained, is almost unimaginable.
Q: Ini adalah pandangan masa depan paling positif, apa masa depan paling negatif yang bisa Anda bayangkan?
Greg: Salah satu poin yang sangat menarik tentang bagaimana teknologi berkembang hingga saat ini adalah bahwa sebenarnya itu membuat kita memaksakan diri untuk menyesuaikan diri dengan mesin.
Bayangkan berapa banyak orang yang bekerja sambil menghadapi kotak ini, mengetik di keyboard, dan menderita sindrom pergelangan tangan serta bahu membungkuk. Tapi ini bukanlah dunia yang kami harapkan. Kami ingin menuju dunia di mana bukan hanya Anda yang menggunakan komputer untuk bekerja, tetapi komputer Anda yang bekerja untuk Anda.
Ini membawa peluang sekaligus risiko. Oleh karena itu, kita perlu mencari cara untuk mengurangi risiko-risiko ini.
Pada akhirnya, satu masalah inti adalah: jika Anda memiliki mesin yang membantu orang mencapai tujuan mereka, mesin-mesin itu berada di sana untuk melakukan apa yang Anda inginkan. Tetapi terkadang tujuan orang-orang saling bertentangan, bagaimana Anda menyelesaikannya? Bagaimana Anda memutuskan apa yang akan dibantu AI dan apa yang tidak akan dibantu? Bagaimana benar-benar memahami bagaimana hal ini dapat diintegrasikan ke dalam masyarakat? Bagaimana memastikan bahwa manfaatnya tidak hanya mengalir ke satu perusahaan atau sekelompok orang, tetapi benar-benar meningkatkan setiap orang?
Kami harus mengakui bahwa masih banyak cara kesalahan atau risiko yang perlu kami selesaikan.
Q: Pertanyaan terakhir, apa yang bagi Anda merupakan keberhasilan?
Greg: Mewujudkan misi OpenAI, memastikan AGI memberi manfaat bagi seluruh umat manusia.
Tautan referensi: [1] https://x.com/shaneparrish/status/2046900710055297072 [2] https://youtu.be/6JoUcQ1qmAc
Artikel ini berasal dari akun WeChat "Quantum Bit", penulis: Peduli teknologi mutakhir