真夠抓馬的！這可能是全網最詳細的奧特曼宮鬥大戲完整版回顧。
事件的另一位主角、OpenAI 二號人物 Greg Brockman 親自揭密：
奧特曼被解僱後的 72 小時，究竟發生了什麼？
真相頻出，但相當扎心：
Greg 和 奧特曼 真的在事件發生前一無所知，直到現在，當事人自己仍在反思哪個環節出了錯。
董事會最初只想趕走奧特曼，但格雷格太講義氣，當天就提出了辭職。
被解僱後的第一天，他們就在奧特曼家裡秘密開會，籌備新公司，甚至計劃帶走全部員工。
董事會臨時變卦，原本已與奧特曼基本談妥回歸，卻突然任命新首席執行官。
整個週末，所有競爭對手都在瘋狂挖人，但沒有一個人接受。
Ilya 的返利，讓 Greg 如釋重負。
一個多小時的訪談中，Greg 幾乎將這場史詩級硅谷政變的來龍去脈講了個底掉，並回應了所有問題，包括 OpenAI 的發家史、為何轉向盈利，以及未來將何去何從……
從離開 Stripe 時的迷茫，到納帕谷那場決定命運的 offsite，再到 Dota 項目的意外突破，資訊密度極高。
格雷格甚至幾度哽咽：
當 Ilya 離開時，那是我唯一一次覺得不想再幹了。
以下是萬字訪談全文，在不改變原意的基礎上對內容做了提煉與調整。
與 OpenAI 總裁 Greg Brockman 對話
（以下將主持人 Shane Parrish 的提問簡稱為 Q）
OpenAI 源自自我懷疑
Q：OpenAI 是如何創立的？
Greg：我知道我想創業，因為我覺得那意義非凡。
Q：但你當時剛在 Stripe 創業過。
Greg：沒錯，但我始終覺得，Stripe 要解決的問題並不是「我的問題」。
它固然重要，我也為之投入多年。但我覺得，不管有沒有我，它都會成功。
那時，我第一次真正有機會思考：什麼是我願意終身投入的使命？一個我願意用餘生去推動、哪怕只是讓它變得稍微好一點的問題。
答案很明確——AI。
如果你能真正影響 AI 在世界上的發展方向，那麼這一生就不算白活。
Q：當你打算離開 Stripe 時，Patrick 讓你去找山姆·奧特曼聊聊，那次談話發生了什麼？
Greg：那時 Patrick 對我說，Sam 經歷過很多像我這樣處境的年輕人。
其實我知道 Patrick 的意思是他希望 Sam 能說服我留下，但跟 Sam 聊了幾分鐘後，他就明確了我離開的決心。
然後山姆問我接下來的打算，我告訴他，我在考慮創辦一家 AI 公司。
Sam 說，他也在考慮在 AI 領域做些事情，希望之後保持聯繫。
離開 Stripe 後，我和山姆又聊了一次，這次山姆表示他有了更具體的想法，並邀請我去參加 7 月份的晚宴。
我記得當時晚宴的主題是：現在成立一個實驗室，網羅全球最頂級的研究者，是不是已經太晚了？還有可能嗎？
Q: That was which year?
Greg：2015 年。
當時的 DeepMind 幾乎壟斷了所有頂尖研究員、資金和數據。我們都懷疑，還能不能從頭搞出點新東西？
大家列出了無數困難，但沒人能給出一個真正不可能的理由。
所以那天晚上，山姆和我開車回城裡。我們對視了一下，於是他說，我們必須得做這件事。
第二天，我就開始全身心投入籌備。
這很困難，一切都模糊不清。我們只有一個願景：我們希望構造通用人類智能，讓它為世界帶來積極影響，讓利益造福大眾。但具體該怎麼做、該怎麼說服別人辭職加入，我們完全毫無頭緒。
最初，我敲定的核心團隊是 Ilya、John Schulman 和我自己。我們花費了大量時間在一起討論實驗室的各種願景、可能的工作方式，但始終沒能成型。
部分原因是擔心項目缺乏足夠動力，Dario 認為他需要先闖出自己的名聲，不確定這個項目是否適合它。
與此同時，我開始遊說 John Schulman 加入，他同意了。但 Dario 和 Chris 最終決定前往 Google Brain，團隊實際上只剩下我、Ilya、John 和其他幾個人。
當時大約有 10 多人表示了興趣，但都在觀望還會有誰加入。
我問山姆我們該如何打破這種僵局，山姆建議把大家拉出去組織一場 off-site 活動。我們選在了納帕谷，我還特意做了 T 恤。
那時還沒有正式的 offer，沒有公司架構，什麼都沒有。我們只有一個想法、一個願景、一個使命。
但當我們把人請來，在納帕谷的那一天，我們靈感迸發，幾乎敲定了未來十年的技術路線：
1. 解決強化學習問題。 2. 解決無監督學習問題。 3. 逐步學習更複雜的內容。
閉門會議後，我已向每人發出聘請邀請，告知我們將在未來 2-3 週內啟動，願意加入者請告知。
Q： 當時為何會覺得 DeepMind 難以逾越？
Greg：當時谷歌 DeepMind 就是 AI 領域的巨無霸，他們資金雄厚、成績斐然，那還是 AlphaGo 面世前幾個月，但它的優勢早已顯而易見。
因此我們才會懷疑：真的能打造一個獨立的新機構嗎？答案並不明朗。
背棄非營利的理由
Q：你是在什麼時候意識到，非營利這條路走不通的？
Greg：在2017年，我們開始認真思考如何真正實現使命、如何真正構建AGI。我們計算了一下算力需求，結果發現需要超大規模的計算設備。
當時我們接觸到 Cerebras 公司，他們正在研發一種專用計算硬體，性能遠超我們自己計算的算力水平。
於是我們意識到，如果我們能購買大量這樣的設備，獨家獲得 Cerebras 的產品，並搭建超大型數據中心，那將為我們帶來壓倒性的優勢。
但非營利機構的籌資是有上限的，根本支撐不了這樣的投入。所以Elon、Sam、Ilya和我都一致認為，OpenAI要實現使命，唯一的道路就是創建營利性關聯實體。
OpenAI 自己的「GPT 時刻」
Q：你是在 Dota 專案之前還是之後意識到一切將徹底改變的？
Greg：OpenAI 的運作方式就是一連串「夢想成真」的時刻。每次當你以為你已經看清全貌，很快你就會發現新的邊界。
最初組建團隊時，我們感到非常興奮，竟然真的把團隊湊齊了，可以開始推進使命了。但第二天到辦公室，發現連一塊白板都沒有。
Dota 項目是我們的第一個重大成果，這真的讓我們感受到，只要我們全力以赴，就確實能成事。它證明了只要將算力匯聚在一起、擴大算力，就能強化成果。
GPT 系列中也有許多這樣的時刻，例如早期的一篇無監督情感神經元論文，那是我們第一次看到語義從語言建模目標的訓練中湧現。
你訓練模型預測下一個字元，然後突然之間，就得到了一個能理解情感、區分正負面的神經網絡。
At that moment, we realized we were building machines that could learn semantics, not just grammatical rules.
而當 GPT-4 面世時，有人會問，為何它還不是 AGI。它確實能流暢對話，幾乎符合我們此前對 AGI 的所有定義，但仍然差最後一步。
總之，一路上有許多類似的時刻，讓我們覺得夢想成真，但這些時刻還遠未結束，我們將迎來更多突破性時刻，並意識到下一階段或許有可能實現。
Q：你認為 Dota 為什麼那麼重要？
Greg：Dota 是一個不可思議的時刻，它不像深藍下國際象棋或 AlphaGo 下圍棋那樣有明確的規則，而是在複雜開放的環境中與人類實時互動，更貼近真實世界。
其實我們最初只是想用它來驗證新算法，因為當時的強化學習無法規模化擴展。但當我們不斷擴展算力，用極簡的PPO算法就超越了最優秀的人類玩家，這證明：
大規模算力＋簡單算法，在實踐中真的可行。
尤其是在這個極其混亂的環境中，無法編程、無法預判、無法搜索，你幾乎需要的是人類般的直覺。
而當時使用的神經網絡非常小，突觸數量與昆蟲大腦相當，我們就會意識到，如果將這套思路擴展到人類大腦規模，會是什麼樣子？這是一個非常吸引人的好問題。
Q：既然談到了預測，那麼你覺得預測和推理之間有區別嗎？
Greg：我認為二者之間存在深層關聯。
僅預測下一個詞看似簡單，但如果你能精準預測愛因斯坦的下一個詞，那麼至少你和愛因斯坦一樣聰明。
The core of prediction is not to anticipate known information, but to infer future developments in entirely new scenarios never seen before, which is deeply tied to the essence of intelligence.
目前的推理模型分為兩步：
1、無監督學習：讓模型透過預測接下來會發生什麼來訓練。數據更靜態，更具觀察性。 2、強化學習：讓 AI 在自己的數據上學習。它自行採取行動，從環境中獲得反饋結果，並從中學習。訓練方式本質上仍是預測，預測行動後的結果，並根據效果進行強化。
But fundamentally, the technologies used in these two stages are identical—both are predictions, just with different data structures.
奧特曼逼宮事件
Q：內部矛盾從什麼時候開始變得尖銳？
Greg：OpenAI 的特別之處在於，我們堅信能夠打造出與人類水平相當的 AI，這意味著風險很高。
誰在做決策？這些決策背後是什麼價值觀？在普通公司裡無關緊要的事情，例如辦公室政治，在此都被賦予了攸關人類存亡的重量。
I believe this has affected much of the internal development at OpenAI and is the root of all major conflicts.
AI 領域的核心驅動力之一，就是人們希望站在技術革命的中心，成為被銘記的人，因此這不僅僅是 OpenAI 一家的問題。
而 AI 技術本質是碎片化的，在高壓之下可能淬鍊出鑽石，也可能產生裂痕，因此你經常會在小團體中看到鑽石的形成，因為他們通力合作、高度信任彼此。但有時他們也會分裂，走自己的路。
I believe that in the field of AI, diverse approaches and healthy competition are normal, allowing us to advance technology more safely and explore challenging issues such as safety and ethics.
因此，OpenAI 內部一直存在健康的辯論，但現在，這正在全球範圍內發生。
Q：讓我們回到你得知山姆被解雇的那一刻，你當時在哪裡？
Greg：當時我在家。我收到一條邀請視頻通話的簡訊，並注意到除了山姆以外的董事會成員都在上面。當時我就預感不妙。
他們告訴我，董事會已決定解除山姆的職務。我收到的資訊基本與公開聲明一致，於是我試圖追問更多細節，結果被拒絕了。
隨後他們又說，我也被撤出董事會，但會繼續留在公司，因為我對公司和使命至關重要。
我再次要求提供理由，但仍被拒絕。最後他們告訴我，在新架構下，我或許能獲得回饋。這就是那次通話的內容。
Q：當時你腦子裡在想什麼？覺得生氣嗎？
Greg：不，我只是覺得這不正確，但我大概能理解發生了什麼。
Q：你過多久才知道究竟是什麼導致了這一切？
Greg：答案分兩部分。一是我覺得我仍在不斷發現一些新的事實，一些別人腦子裏在想的東西。某種程度上，這可以歸結為溝通不暢，你會突然意識到此前有各種被忽略掉的事情。
另一方面，我大概知道他們每個人為何要那樣做。
但在當下那一刻，尋找原因已經不重要了，我只是知道這不對。所以掛掉電話後，我立刻和妻子說自己要辭職，她也表示贊同。
於是當天我就遞交了辭呈。
辭職之後，我陸續收到許多訊息。我們收穫了大量支持與熱情，許多人願意與我們一同離開，重新創業，包括 Jakob、Shimone、Alexander。
後來我們和山姆聚在一起，開始規劃一家新公司。
第一天時，我們認為山姆回歸的可能性只有 10%。因此，我們在山姆家安排了一場會議，公司裡很多人都來了，我們向他們展示了正在構思的藍圖。一天之內，我們就擁有了關於如何運營項目的全新圖景。
那個週末，我們同時花了很多時間與董事會和公司談判，試圖找到一條有意義的回歸之路。
結果週日晚上，董事會突然臨時任命新任首席執行官，取代了我的位置，公司隨即爆發抗議。事實上，當時我們就在辦公室，甚至眼看就要達成協議可以回去，結果董事會突然臨時變卦。
人群開始從大樓中湧出，一片混亂。
我們開始與對新公司感興趣的人進行視頻通話，安撫他們會沒事的，我們有計劃。我們一直試圖為可能加入的一小部分人建造救生筏，但突然之間，好像所有人都改變了想法，都想加入我們的新公司。
山姆還與微軟CEO薩提亞進行了交流，此前我們一直討論能否讓他支持我們的新事業。我們希望能夠擴大救生筏的規模，例如帶走OpenAI的全體員工。
At that time, it was just before Thanksgiving, and many people were supposed to fly home to be with their families, but they all canceled their flights, and the office was packed with people.
每個人都在那裡，即使不參與對話，他們也想親眼見證這段歷史。
然後，請願書開始流傳。太多人同時嘗試簽署請願書，一度導致 Google Docs 崩潰，因此最後只好指定某些人來登記名字，以免同時有太多編輯者。
我記得我大約凌晨5點回到家，睡了45分鐘，醒來後刷 Twitter，看到 Ilya 發了推文，並簽署了請願書，說他希望公司重新團結起來。
那真是一個如釋重負的時刻。我非常感激，感覺我們可以將一切重新拼湊，我們可以重回正軌。
Q：你和 Ilya 一起創立了這家公司，在那件事之後，你對你們的關係有什麼感受？
Greg：這很艱難。我們之間絕對是非常親密的關係，他曾在我婚禮上擔任司儀，我們一起經歷了許多極其艱難的時刻。但任何關係總有起起落落。
事後，我們花了很多時間真正地談話，試圖理解並說出我們之間累積或未曾說出口的事情。透過這個過程，我認為我們達成了一個非常好的狀態。
對我來說，我感覺我們對所發生的一切都已了結。
Q：你對你所激發的員工忠誠有何感受？
Greg：我對此深懷感激。我從未主動要求過這些，也從未期待過。
我認為我的領導風格是那種親臨一線的領導者，試圖身先士卒，有時帶點情緒化，我不會總是回頭看是否每個人都跟上了，我就一直往前衝。
但當人們真的來幫助建造時，我感到非常感激，覺得他們在各方面都超出了我的期待。
Q：所以最後每個人都回來了？
Greg：其實整個週末，所有競爭對手都在虎視眈眈。人們收到了各種報價，但那個週末，我們沒有失去任何人，沒有人接受報價。這太不可思議了。
實際上，教練比爾·貝利奇克曾告訴我，最好的球隊打球不是為了錢，而是為了身邊的人。那時當所有人都來支持我們時，我想起了這句話。
Undoubtedly, this is a diamond moment.
短暫休整與自我反思
Q：在這一切發生後，你休息了一段時間，你的內心經歷了什麼？
Greg：那是一段激烈的经历，無論是經歷它還是回來面對。
但老實說，OpenAI 歷史上最艱難的時刻之一就是 Ilya 離開的時候。那可能是 OpenAI 歷史上唯一一個讓我覺得我不想再幹了的時刻。
我想我需要一段時間來重新找回自己，找回當初為什麼要做這件事，為什麼它如此重要，為什麼值得承受這些痛苦。
Q：你在休息期間做了什麼？
Greg：我在 DNA 序列上訓練了語言模型。
其實我在 OpenAI 期間就已經做過這個了，為了 Arc 非營利生物醫學研究機構。我把我的技能應用到一個非常不同的領域，這個領域對我個人和妻子都意義重大。
我的妻子有許多健康問題，我們一直思考 AI 能為她的健康乃至動物健康做些什麼。這段經歷也讓我意識到，也許我們可以將技術運用在一些全新且富有溫度的領域。
問：如果讓你用一頁紙來總結這一切，從山姆被罷免到你離職、員工集體請願、休假後再回來，你會寫什麼？
Greg：我想我學到的是，為了值得的東西，要堅持下去。
如果你有一個重要的使命，那麼你在起起伏伏中堅持下去的事實才是關鍵。會有「一切都完了」的時刻，也會有「我們回來了」的時刻。
你不能任由這些時刻把你帶偏，在這個時期，你必須培養個人的韌性。因為如果你是領導者，人們會向你尋求穩定、支持，以及前進的方向。
我努力培養的是，既要能理解我們所做事情的細節、每個選擇的含義，又要能果斷。
有時候，我很大程度上是從不確定性的角度來看待 OpenAI，覺得我不知道正確的答案是什麼，不知道構建這項技術的正確方式是什麼，或者如何回答這些棘手的問題。
但這裡有很多非常聰明、有強烈意見的人。所以我努力去理解所有這些意見，並想辦法把它們整合起來。有時這是正確的做法。但有時你會發現這些意見是相互矛盾的，不可能同時為真。
有時候你必須做出選擇，你知道這意味著會有人不開心，有人會辭職，有人會覺得被輕視。
我努力去做的，就是擁有更強的自我意識，以及在確信某事時必須採取行動的意識。
回顧 OpenAI 的歷程，我覺得在某些事情上，我們當時本可以做得不一樣。
通常的情況是，我們在某件事上拖延不決，早就知道某人不太適合某個角色，認為某個技術方向不太對，覺得某種項目運作方式行不通，但我們就是等得太久。
這是我努力學習的教訓，也是我每天反思 OpenAI、Stripe 甚至更早的大學時期項目時，努力成長的一個方面。
我認為我的運作方式是，我既非常熱愛日常的活動、熱愛個人貢獻、熱愛軟體、熱愛思考問題，但也非常關心做這些事情的環境。
實際上，我願意放棄那種「第一類樂趣」，即快速獲得滿足感，例如你當前做出了什麼東西，轉而追求「第二類樂趣」，即當下痛苦但具有長期價值的事情。
你透過創造環境，讓其他人能夠從事那些艱苦的工作，取得偉大的成就。因此，努力創造一個環境是我自然而然的傾向，這並不總是最容易的。你確實必須願意承受巨大的個人痛苦。
Ilya 總是說「你必須受苦」，如果你不受苦，你就沒有在創造價值。我認為這其中蘊含著深刻的道理。
關於 Ilya 的觀點，我覺得很有趣的是，他有一種獨特的說話方式，他選擇的詞語總蘊含著深刻的啟發。
這種「受苦」的圖景，是我們在整個 OpenAI 過程中一直思考的。從一開始，我們就充滿了不確定性，每一件事都極其困難、極其不確定。
很多人習慣把問題掃到地毯下，盲目地說衝。我認為這是矽谷文化的負面部分，至少是矽谷的刻板印象，但我認為這在AI領域行不通，在OpenAI也行不通，我們從未這樣運作過。
我們的運作方式始終是面對嚴酷的事實，理解現實的本相。我認為這有助於我們以不同的方式思考問題，不滿足於早期那種撰寫些能被引用的論文，這只是基礎，但遠遠不夠。
然後你開始思考更大的問題，構建 AGI 到底需要什麼？這並不愉快。因為你意識到沒有現成的路。
你需要資金，但你沒有籌集資金的機制。你努力嘗試，我們極其努力。也許你能籌到 1 億美元或者 5 億美元，但 10 億美元，非常難。
但正是依靠這些現有的資源，我們取得了不錯的成就，若不迎難而上、努力理解我們試圖完成的事業的真相，真的別無他法。
Q：有什麼教訓是你不得不反覆學習的？
Greg：做出艱難的決定，進行艱難的對話。
Q：你收到過最好的建議是什麼？
Greg：這是我在哈佛新生寫作課上學到的：為了清晰和溝通，不斷刪減文字。
Q：你如何篩選資訊？
Greg：大量閱讀，積極分類處理。
Q：你的榜樣是誰，為什麼？
Greg：高斯和笛卡爾。他們是極具思想、遠超時代的人，是有遠見卓識的人，他們帶來了真正的突破，改變了我們的思維方式和生活方式。
Q：關於 Greg Brockman，世界誤解了什麼？
Greg：我認為人們不了解我對這項使命有多麼專注，這種專注在許多方面給我帶來了巨大的個人痛苦。但我堅信這項技術能夠賦能人們，讓每個人受益。我非常希望幫助實現這一點。
對 AI 行業的核心判斷
Q：你想讓非技術人士了解 AI 的什麼？
Greg：它將成為他們個人生活中一股向善的力量，他們將從中受益，它將推動科學和醫學的發展，切實影響每一個人。
Q：為什麼 OpenAI 在模型命名上如此糟糕？
Greg：這個我可沒法告訴你。（doge）
Q：我們是否已接近 AI 讓 AI 發展呈指數級加速的那個點？
Greg：我認為我們正處於將 AI 應用於其自身開發過程的階段，而且這將變得越來越快。
這其實自 ChatGPT 以來就一直在發生。我們用 ChatGPT 將開發過程加快了 10% 或 20%。現在我們有了那些令人驚嘆的編碼工具，它們真正革命化了軟體工程的完成方式。
而我們在模型生產中所做的大部分工作，瓶頸都在於軟體。我們很快將進入下一個階段，AI 也將提出自己的研究想法，並進行測試、運行實驗。所以我認為迭代和創新的速度將因我們正在生產的東西而繼續加快。
Q：目前有多少比例的程式碼是由 AI 撰寫的？
Greg：很難說還有多少代碼不是由 AI 編寫的。這個比例正在趨近於零。
目前，在提供正確的上下文和結構的情況下，AI 在實際編寫代碼方面遠勝於人類。至於代碼結構的部分，人類專家仍然更擅長，但實際的代碼編寫基本上全由 AI 完成。
Q：AI 有沒有提出過你想不到的新穎想法？
Greg：我們正接近這個目標，例如在晶片設計方面。去年在我們自己的晶片設計中，我們試圖更好地適配技術，以縮小電路使用的面積。
我們發現模型產生的優化方案其實在我們的清單上，所以它並未提出人類從未想過的全新東西，但它以我們原本沒有時間完成的方式更快地實現了。
再比如，最近在量子物理中，我們解決了一個特定的物理問題，結果與學界預期的方向相反，並得到了一個優美簡潔的公式。
因此，從這些模型中獲得新想法是完全可行的。我們後續將在更困難的領域應用它，或需要更多真實世界背景。這才剛剛看到苗頭。但我們已有實現它的路線圖，還有許多工作要做。
Q：如果模型基於強化學習，你認為它們會進化成只告訴我們想聽的話嗎？
Greg：我們實際上經歷了一個訓練模型以適應用戶偏好的演變過程。
我們看到，在去年的某個時候，模型確實開始傾向於告訴你你想聽的話，我們也對此做出了調整，因為我們希望模型真正對齊的是幫助你實現你的目標、你的長期目標。
也許當下聽到附和會感覺很好，但那不是你真正想要的。也許有些人喜歡，但這不是大多數人真正想要的。
因此，我們實際上已取得重大技術進步，以確保我們的 AI 訓練不會導致所謂的獎勵破解。我們真正希望確保目標有良好的信號，而不僅僅是短期的、能讓你快速滿足的東西。
對我來說，這可能是個人 AI、個人 AGI 帶我們走向的願景中最重要的一部分，確保它不僅僅關乎當下看起來不錯的東西，而是真正與你的長期福祉、長期目標以及你真正想要的東西保持一致。
I believe this is what empowers people the most.
Q：目前的趨勢似乎是發布預覽版模型，你認為是因為我們受到算力限制嗎？
Greg：總的來說，我們正走向一個算力驅動的世界。
不再只是快速回答一個問題，它真正開始深入，耗費大量 token 整合不同的數據來源，搜尋企業知識庫，以解決難題、編寫出超越人類能力的軟體。
所有這些本質上都由算力驅動，而算力遠遠不足。如果世界上每一個人都有一個 GPU，那就是 80 億個 GPU，我們目前的發展軌跡遠遠達不到這個水平。現在幾千、幾百萬個 GPU 已經算是很多了。
因此，在訓練方面，我們傾向於提前建設算力以應對我們所見的需求。我們將非常專注於讓模型廣泛可用的使命。
Q：你們曾因為投入大量精力和資金到數據中心而受到嘲笑，現在你覺得情況如何？
Greg：我認為這將為我們帶來優勢，不僅有利於業務，也能真正實現將技術帶給每一個人。
Future computing power will be prioritized for major missions, such as curing cancer, which could be achieved this year.
事實上，算力分配是社會未來的核心議題，只有那麼多算力，因此必須優先排序，但我們堅信，每個人都需要獲得算力。
這就是為什麼我們提供 ChatGPT 的免費版本，我們致力於確保人們能夠使用這項技術。
Q：在 OpenAI 內部，你們如何看待消費級和企業級業務之間的平衡？
Greg：我最近思考很多的是聚焦。
因為這個領域就是機會的化身，你可以將 AI 應用於任何問題，任何你想構建的東西，一切皆有可能。但我們目前的問題仍是算力有限。
因此，我認為，在 OpenAI 的下一階段，企業級業務顯然至關重要，因為經濟正在我們眼前轉變為算力經濟。軟體工程已經如此，每個使用電腦的領域都將如此。
因此，我們需要在那裡幫助人們部署這些模型，弄清楚如何利用它們，以及如何從中獲得最大收益。
企業與消費級之間的界限也將變得模糊，因為創業將比以往任何時候都更容易。我們已經看到了這一點。
Q：你認為我們會有太空資料中心嗎？
Greg：我認為我們將到處都有數據中心，但目前太空數據中心仍存在許多技術問題。
Q：什麼是迭代部署？你們為什麼要這樣做？
Greg：迭代部署是 OpenAI 處理如何讓這項技術造福人類、實現使命的核心支柱之一。
秘密研發、一次性上線的風險極高，因為你無法預判真實世界的问题。而迭代部署能讓我們在實踐中發現風險，快速修正。比如 GPT-3 上線後，我們沒想到最大的濫用是醫療垃圾簡訊，正是實戰讓我們得以及時應對。
因此，迭代部署的理念是，我們將推出這項技術的中間版本。
這不是盲目部署的藉口，你仍然需要在每一步思考我們對於所有可能被濫用方式的最佳判斷，缺點是什麼，風險是什麼，然後去緩解它們。但你也會看到實際情況，檢視你的判斷是否正確，從現實中學習，下次做得更好。
在 OpenAI 的歷史上，我們曾希望，以前有人部署過變革性技術，也許他們能告訴我們答案。但事情從來沒那麼簡單。
他們確實有智慧和見解，我們也吸收了。但我們意識到，我們才是最接近這項技術的人，由於創造了它，我們才能更深入地理解如何正確塑造它。
Q：如果一個前沿模型將安全作為首要關注目標，而另一個不這樣做，你如何看待這種差異？
Greg：我認為我們發現安全實際上是一個核心產品特性，沒有人想要一個與自己不一致的模型。
因此，我們在安全方面的投資，可能遠超人們所認為的程度，也可能比任何其他實驗室都多。
我始終認為，那些構建這項技術並擁有成功產品的人，若不同時大力投資安全，是不可持續的。你需要為你的業務和你正在創造的東西做長遠考慮，這涉及如何訓練模型、如何獲得反饋迴圈。
我只想說，我們致力於將安全作為使命的一部分，這在我們的產品和世界中已經體現出來。
Q：當我告訴人們我要進行這次採訪時，一個普遍的反應是他們擔心自己的工作，感到不確定。你會對他們說什麼？
Greg：我確實認為這項技術將如何發展是不確定的。它的發展方式令人驚訝，我們現在的AI、我們現在的世界，並非科幻小說所預見的。一些看似必然的結論，當它們真正實現時，結果看起來並不完全一樣。
我認為，人們總是最容易看到自己會失去什麼。變化正在來臨，這是無可否認的，但更難的是預見到你會得到什麼。
舉個例子，想想1950年的人如何理解 Uber，首先你需要想到電腦、手機、GPS。其實這當中涉及了相當多技術，但它確實發生了。而成千上萬、數以百萬計的其他案例也在同步發生。
所以我對 AI 的看法是，它關於賦權，關於人類的能動性。這確實意味著一些制度、工作，以及我們以為可以依賴的東西，可能不再像我們想像的那樣穩定。
所以它會影響到人們，但更值得深入的問題是：你得到了什麼？你如何從中受益？
現在，你可以成為一位創造者，你可以創造任何東西，你所能想像的任何事物都能成為現實。
Q：如何培養創造能力呢？
Greg：真正深入這項技術。
我觀察到的是，跨越多代技術，从中獲益最多的人是那些在上一代技術中就投入其中的人。而現在嘗試它們的門檻比以往任何時候都低。
所以我認為會有新的機會被創造出來。
我認為世界確實需要考慮，在這個充滿不確定性的時刻，如何在即將到來的任何轉型中支持每一個人。因為經濟將變成算力經濟，但我相信每一個人都會有貢獻的地方。
Q：年輕人今天應該投資在哪裡？如果你正在讀高中或大學，或剛開始工作，你認為哪些技能在未來會更有價值？
Greg：我確實認為深入掌握這項技術將成為一項關鍵技能，真正理解如何從 AI 中獲得最大價值。
因為我們都將走向一個世界，在那裡我們成為智能體的管理者，也許很快會成為自主 AI 公司的 CEO。
只要你擁有 token 和驅動它的算力，那時你就可以將算力指向任何問題，而人類想要解決的問題數量是無限的。
所以我認為，人們越深入這項技術，越能弄清楚如何利用即將到來的東西，如何以新方式組合這些技術，如何與我們的智能體互動，真正管理它們，思考「我想要什麼？我的自我意識是什麼？我的目的是什麼？我想在世界上看到什麼？」，實現這些將比以往任何時候都更容易。
I believe that, given what we've gained, the upside potential of that world is almost unimaginable.
Q：這是最積極的未來觀，你能想像到的最消極的未來是什麼？
Greg：關於技術到目前為止如何發展的一個非常有趣的點是，它實際上讓我們扭曲自己去適應機器。
想想有多少人在工作時要面對這個盒子，敲打鍵盤，患上腕管綜合症，肩膀駝背。但這不是我們所期望的樣子，我們要走向的世界，不僅是你使用電腦工作，而是你的電腦為你工作。
這帶來了機遇，也帶來了風險。因此，我們需要想辦法緩解這些風險。
歸根結底，一個核心問題是：如果你有機器幫助人們實現他們的目標，它們在那裡做你想做的事。但有時人們的目標是衝突的，你如何解決？你如何決定 AI 會幫助你什麼，不會幫助你什麼？真正試圖弄清楚這如何融入社會？如何確保利益不只流向一家公司、一群人的手中，而是真正提升每一個人？
我們必須承認，這裡仍然存在許多錯誤方式或風險，需要我們解決。
Q：最後一個問題，對你來說，什麼是成功？
Greg：實現 OpenAI 的使命，確保 AGI 造福全人類。
參考連結：[1] https://x.com/shaneparrish/status/2046900710055297072 [2] https://youtu.be/6JoUcQ1qmAc
本文來自微信公眾號「量子位」，作者：關注前沿科技