本当にドラマチックだ！これはネットで最も詳細なウルトラマンの宮廷争いの完全版振り返りかもしれない。
事件のもう一人の主人公であるOpenAIの2番手、グレッグ・ブロックマンが直接明かす：
ウルトラマンが解雇された後の72時間、一体何が起こったのか？
真実が次々と明らかになるが、かなり辛い：
グレッグとウルトラマンは、事件が発生する前はまったく知らなかったし、現在でも当事者自身がどの段階でミスが起きたのかを振り返っている。
董事会当初只想赶走奥特曼，但Greg太讲义气，当天就提出了辞职。
解雇された翌日、彼らはオートマンの家で秘密会議を開き、新会社を立ち上げ、さらには全従業員を引き連れる計画を立てた。
取締役会が方針を急変させ、オートマンとの復帰についてほぼ合意していたが、突如として新CEOを任命した。
週末全体を通して、すべての競合他社が人材を引き抜こうとしたが、誰も受け入れなかった。
イリヤの反転により、グレッグは安堵した。
1時間以上にわたるインタビューで、グレッグはこの壮大なシリコンバレーのクーデターの経緯をほぼすべて明らかにし、OpenAIの発展史や収益化への移行の理由、そして今後の方向性など、あらゆる疑問に答えました。
ストライプを退職した際の迷いから、ナパバレーでの運命を左右するオフサイト、そしてDotaプロジェクトでの予期せぬブレイクスルーまで、情報量が非常に高い。
グレッグは数回、声を詰まらせた：
イリヤが去ったとき、それが私がもうやめたいと思った唯一の瞬間だった。
以下は、原意を変えることなく内容を整理・調整した万字インタビュー全文です。
OpenAI社長のGreg Brockmanと対話
（以下将主持人Shane Parrishの質問をQと略す）
OpenAIは自己疑念のなかで誕生した
Q：OpenAIはどのように設立されましたか？
グレッグ：私は、それが意味深いと思うので、起業したいと思っています。
Q：でもあなたは当時Stripeで起業したばかりでした。
グレッグ：その通りですが、私は常に、Stripeが解決しようとしている問題は「私の問題」ではないと思っています。
それは確かに重要で、私も長年にわたり取り組んできました。しかし、私がいてもいなくても、それは成功すると思います。
そのとき、初めて本気で考えました。自分が生涯をかけて取り組みたい使命とは何か？ 余生をかけてでも、たとえわずかでも、それを少しでも良くしたいと思う問題は何かと。
答えは明確です——AI。
もしあなたがAIの世界における発展の方向性に実際に影響を与えることができるのであれば、この人生は無駄ではなかった。
Q：ストライプを去ろうとしたとき、パトリックはあなたにサム・アルトマンに話しかけるように言ったが、その会話では何が起きたのか？
グレッグ：パトリックは当時、サムが私と同じような状況の若者をたくさん見てきたと言った。
実はパトリックの意図はサムが私に残るように説得することだと分かっていたが、サムと数分話しただけで、私が去る決意を固めたことが明確になった。
そしてサムが私の次の計画を聞いたので、私はAI企業を立ち上げることを検討していると伝えました。
サムは、AI分野でも何かやろうと考えており、今後も連絡を取りたいと述べました。
Stripeを退職した後、私はサムともう一度話し、このときサムはより具体的なアイデアを持ち、7月のディナーに参加するよう招待してくれた。
当時のディナーのテーマは、今からラボを設立し、世界最高峰の研究者を招き集めるのはもう遅すぎないか？まだ可能なのか？だった。
それは何年ですか？
グレッグ：2015年。
その頃のDeepMindは、トップ研究者、資金、データのほとんどを独占していた。私たち全員が、新たに一から何かを築けるのか疑問に思っていた。
皆が無数の困難を挙げたが、誰も本当に不可能な理由を挙げられなかった。
その夜、サムと私は車で街に戻りました。私たちは目を合わせ、彼は言いました。「私たちはこれをやらなければならない。」
翌日、私は準備に全力で取り組み始めました。
これは難しい。すべてが曖昧だ。私たちには一つのビジョンしかない。それは、汎用的人間知能を構築し、それが世界にポジティブな影響を与え、利益を広く人々に還元することだ。しかし、具体的にどうやって実現するのか、どうやって人々に辞めて参加してもらうかについては、まったく見当がつかない。
最初、私が固めたコアチームはIlya、John Schulman、そして私自身でした。私たちは、ラボのさまざまなビジョンや可能性のある働き方について多くの時間を費やしましたが、いつまでたっても形になりませんでした。
プロジェクトに十分な動力が欠けているという懸念から、Darioはまず自分の名前を築く必要があると考えており、このプロジェクトが自分に合っているかどうかは不明である。
同時に、私はジョン・シュルマンの参加を働きかけ、彼は了承しました。しかし、ダリオとクリスは最終的にGoogle Brainへ行くことを決定し、チームは実質的に私、イリヤ、ジョン、そして他の数人だけとなりました。
当時、約10人ほどが興味を示しましたが、誰がさらに参加するかを見守っていました。
私はサムに、この状況をどう打破すればいいか尋ねたところ、サムは全員を外に連れ出してオフサイト活動を開催することを提案しました。私たちはナパバレーを選んで、私は特意にTシャツも作成しました。
その頃は正式なオファーも、会社の組織構造も、何もない状態でした。私たちにはただ一つのアイデアと、一つのビジョン、一つのミッションしかありませんでした。
しかし、私たちはその日、ナパバレーに人を招き、インスピレーションが湧き、今後10年の技術ロードマップをほぼ決定しました：
1. 強化学習の問題を解決する。 2. 非監視学習の問題を解決する。 3. 徐々により複雑な内容を学ぶ。
ミーティング後、全員にオファーを送り、今後2〜3週間以内に開始することを通知し、参加希望の方はお知らせください。
当時、なぜDeepMindが超えがたいと感じられたのですか？
グレッグ：当時、GoogleのDeepMindはAI分野での巨擘であり、資金が豊富で成果を挙げており、AlphaGoが登場する数ヶ月前からその優位性は明らかだった。
だから私たちは疑問を抱くのです：本当に独立した新しい機関を築けるのでしょうか？答えは明確ではありません。
非営利の理由を裏切る
Q：あなたはいつ、非営利の道はうまくいかないと気づきましたか？
グレッグ：2017年、私たちは使命を本当に実現し、AGIを真正に構築する方法について真剣に考え始めました。計算リソースの要件を計算したところ、超大規模な計算装置が必要であることがわかりました。
当時、私たちはCerebras社と接触し、彼らは私たち自身が計算した演算能力をはるかに上回る専用計算ハードウェアを開発していました。
そこで、多くのそのようなデバイスを購入し、Cerebrasの製品を独占的に入手し、超大規模なデータセンターを構築すれば、圧倒的な優位性を得られると気づきました。
しかし、非営利団体の資金調達には上限があり、このような投資を支えることは不可能です。そのため、Elon、Sam、Ilyaと私は一致して、OpenAIがそのミッションを達成するためには、営利目的の関連法人を設立することが唯一の道であると判断しました。
OpenAI自身の「GPTの瞬間」
Q：すべてが根本的に変わることに気づいたのは、Dotaプロジェクトの前ですか、それとも後ですか？
グレッグ：OpenAIの働き方は、次々と「夢が現実になる」瞬間の連続です。あなたがすでに全体像を理解したと思った瞬間、すぐに新たな境界が現れます。
チームを最初に編成したとき、本当にチームが揃い、ミッションを進められるようになったことにワクワクしました。しかし、翌日オフィスに行ったら、ホワイトボードすらなかったのです。
Dotaプロジェクトは私たちの最初の大きな成果であり、本当に全力を尽くせば、必ず成果を出せることを実感させられました。これは、計算能力を統合し、計算能力を拡大することで、結果が強化されることを証明しました。
GPTシリーズにも、このような瞬間が多数あります。たとえば、初期の無監視感情ニューロンに関する論文では、言語モデリング目標の学習から意味が出現する様子を初めて確認しました。
あなたはモデルを訓練して次の文字を予測し、突然、感情を理解し、肯定的と否定的を区別できるニューラルネットワークを得た。
その瞬間、私たちは、文法ルールだけでなく、意味を学習する機械を構築していることに気づいた。
GPT-4が登場した際、人々は「なぜそれはAGIではないのか」と問うだろう。GPT-4は滑らかに会話でき、これまでのAGIの定義にほぼ合致しているが、まだ一歩足りない。
一路走来，有许多类似的时刻让我们感到梦想成真，但这些时刻远未结束，我们还将迎来更多突破性时刻，并意识到下一阶段或许成为可能。
Q：なぜDotaがそれほど重要だと考えますか？
グレッグ：Dotaは信じられないほどの瞬間です。これは深藍がチェスをプレイしたり、AlphaGoが囲碁をプレイしたりするような明確なルールがあるものとは異なり、複雑で開かれた環境で人間とリアルタイムで相互作用するものであり、現実の世界により近いものです。
当初、私たちは新しいアルゴリズムを検証するためにのみこれを使用しようとしていました。当時の強化学習はスケーリングが不可能だったからです。しかし、計算リソースを継続的に拡大し、極めてシンプルなPPOアルゴリズムだけで最優秀な人間プレイヤーを上回ったことで、これは証明されました：
大規模な計算能力＋シンプルなアルゴリズムは、実践的に可能である。
この極めて混乱した環境では、プログラミングも予測も検索もできず、必要なのはほぼ人間のような直感です。
そのとき使用していたニューラルネットワークは非常に小さく、シナプスの数は昆虫の脳と同等でした。では、この考え方を人間の脳規模に拡大した場合、どのような結果になるでしょうか？これは非常に魅力的な良い質問です。
Q：予測について話しているので、予測と推論の間に違いはあると思いますか？
グレッグ：私は両者間に深い関連性があると考えます。
次の単語を予測するのは単純に見えるが、アインシュタインの次の単語を正確に予測できるなら、少なくともあなたはアインシュタインと同じくらい賢い。
予測の核心は、既知の情報を予測することではなく、これまで見たことのない新しい状況においてその後の展開を推論することであり、これは知性の本質と深く結びついている。
現在の推論モデルは2ステップに分かれています：
1. 無監督学習：モデルに次に何が起こるかを予測させることで学習させる。データはより静的で、観察的である。 2. 強化学習：AIが自らのデータで学習する。AIは自ら行動を取り、世界からフィードバックを得て、そこから学習する。訓練方法は本質的に予測であり、行動後の結果を予測し、その効果に基づいて強化する。
しかし本質的には、この二つの段階で使用される技術は完全に同じであり、どちらも予測であり、データ構造が異なるだけです。
ウルトラマン逼宮イベント
内部矛盾はいつから激しくなりましたか？
グレッグ：OpenAIの特別な点は、人間レベルのAIを実現できると信じていることです。これは非常に高いリスクを伴います。
誰が意思決定をしているのか？これらの意思決定の背後にはどのような価値観があるのか？通常の企業では無関係なこと、たとえばオフィス政治さえも、ここでは人類の存亡に関わる重みを帯びる。
私はこれがOpenAI内部の多くの発展に影響を与え、すべての重大な対立の根源であると考えます。
AI分野の核心的な駆動力の一つは、人々が技術革命の中心に立ち、記憶に残りたいという願望であるため、これはOpenAIだけの問題ではありません。
AI技術は本質的に断片的であり、高圧状況下ではダイヤモンドが生まれることもあれば、亀裂が生じることもある。そのため、あなたはしばしば小集団の中でダイヤモンドが形成されるのを見るだろう。それは、彼らが協力し合い、互いに高度な信頼を置いているからだ。しかし、時には彼らは分裂し、各自の道を歩み始める。
AI分野では、多様なアプローチと健全な競争が当然であり、技術の安全な推進や、セキュリティや倫理などの難しい課題を議論するのに役立ちます。
したがって、OpenAI内部では健康的な議論が常に存在していましたが、現在、これは世界中で起こっています。
Q：それでは、サムが解雇されたという情報を得た瞬間、あなたはどこにいましたか？
グレッグ：そのとき、私は家にいました。私はビデオ通話の招待メッセージを受け取り、サム以外の取締役全員がそこにいることに気づきました。その瞬間、悪い予感がしました。
彼らは、取締役会がサムの職務を解任することを決定したと私に伝えました。私が受け取った情報は公開声明と基本的に同じだったため、さらに詳細を尋ねようとしましたが、拒否されました。
その後、彼らは私も取締役会から外されたが、私が会社とそのミッションにとって不可欠であるため、会社に残ることになると述べた。
私は再び理由を求めたが、依然として拒否された。最後に、新しいアーキテクチャ下ではフィードバックが得られる可能性があると伝えられた。これがその電話の内容だった。
Q：そのとき、あなたの頭には何が浮かんでいましたか？怒りを感じましたか？
グレッグ：いいえ、私はこれが正しいとは思わないですが、何が起こったのかは大体わかります。
あなたはどれくらい後に、これが何によって引き起こされたのかを知ったのですか？
グレッグ：答えは二つの部分に分けられます。一つ目は、私がまだ新しい事実や他の人が考えていることを学び続けているという点です。ある意味、これはコミュニケーションの不備に帰着し、これまで無視されてきたさまざまなことが突然明らかになるのです。
一方で、彼らそれぞれがそうする理由が大体わかります。
しかし、その瞬間、理由を探すことなど重要ではなかった。ただ、これは間違っていると分かっていた。そこで、電話を切ってすぐに妻に辞めると伝えたら、彼女も賛成してくれた。
その日、私は辞表を提出しました。
退職後、私は次々と多くのメッセージを受け取りました。多くの支援と熱意をいただき、Jakob、Shimone、Alexanderを含む多くの人々が私たちと共に新しい事業を始めたいと申し出てくれました。
その後、サムと集まって、新しい会社を立ち上げる計画を始めました。
初日には、サムの復帰の可能性は10％しかないと思っていました。そのため、サムの自宅で会議を開き、会社の多くのメンバーが参加し、私たちが描いていたビジョンを共有しました。たった1日で、プロジェクトの運営方法に関する全新的なビジョンが得られました。
その週末、私たちはまた、意味のある復帰の道を見つけるために、取締役会と会社と多くの時間を費やしました。
結果、日曜日の夜、取締役会が突然私を解任し、新CEOを臨時に任命したことで、会社全体が抗議の声で湧き上がった。実際、そのとき私たちはオフィスにいて、まさに合意に近づき、帰宅の準備をしていたところだったが、取締役会が突然方針を変更したのだ。
人々が建物から次々と涌き出し、混乱が広がった。
私たちは、新会社に興味を持つ人々とビデオ通話を行い、彼らを安心させ、私たちには計画があることを伝えています。私たちは、参加する可能性のある少数の人々のために救命ボートを築いてきましたが、突如として、すべての人が考えを変え、私たちの新会社に参加したいと思い始めました。
サムはまた、マイクロソフトのCEOであるサティアと話しました。これまで、彼に私たちの新しい事業を支援してもらえるかどうかを話し合ってきました。私たちは、救命ボートの規模を拡大し、OpenAIの全従業員を連れて行くことを目指しています。
その頃は感謝祭の前夜で、多くの人が家族と団聚するために飛行機で帰宅する予定だったが、皆がフライトをキャンセルし、オフィスには人が満ちあふれていた。
誰もがそこにいて、会話に参加しなくても、この歴史を目の当たりにしたいと思っていた。
その後、請願書が広まりました。あまりにも多くの人が同時に請願書に署名しようとしたため、Google Docsが一時的にクラッシュし、最終的には同時に編集する人数を制限するために、特定の人物に名前を登録するよう指示しました。
私は約午前5時に家に帰り、45分間眠り、目覚めてTwitterをチェックしたところ、Ilyaがツイートを投稿し、企業が再び団結することを望むという請願書に署名しているのを見ました。
それは本当に安堵の瞬間でした。すべてを再びまとめ上げ、元の軌道に戻ることができて、心から感謝しています。
Q：あなたとIlyaはこの会社を一緒に設立しましたが、その出来事之後、あなたたちの関係についてどのように感じていますか？
グレッグ：これは難しいことです。私たちの間には非常に親密な関係があり、彼は私の結婚式で司会を務めてくれました。私たちは多くの非常に困難な時期を共に乗り越えてきました。しかし、どんな関係にも高低はあります。
その後、私たちは多くの時間をかけて本気で話し合い、積み重なったり、言葉にしなかったりしたことを理解し、言い表そうとしました。このプロセスを通じて、私は私たちが非常に良い状態に達したと考えています。
私にとって、私たちが起こったすべてに決着をつけたと感じます。
Q：あなたが引き出した従業員の忠誠心に対して、どのような感想を持っていますか？
グレッグ：私はこれに深く感謝しています。私はこれらを積極的に求めたことも、期待したこともありません。
私のリーダーシップスタイルは、現場に立ち、率先して行動するタイプです。時として感情的になることもありますし、誰もがついてきているかを振り返ることはあまりありません。ただ、ひたすら前に進むだけです。
しかし、実際に人々が建設を手伝いに来てくれたとき、私は非常に感謝し、彼らがあらゆる面で私の期待をはるかに上回ってくれたと感じました。
Q：だから結局、全員が戻ってきたのですか？
グレッグ：実際、その週末、すべての競合他社が虎視眈々と狙っていました。人々はさまざまなオファーを受け取りましたが、その週末、私たちは誰一人として失いませんでした。誰もオファーを受け入れませんでした。これは信じがたいことでした。
実際、コーチのビル・ベリッチックは、最高のチームはお金のためにプレーするのではなく、周りの人々のためにプレーするものだと私に教えてくれました。そのとき、すべての人が私たちを応援してくれたことを思い出しました。
疑いなく、これはダイヤモンドの瞬間です。
短い休憩と自己反省
Q：すべてが終わった後、あなたはしばらく休みました。その間、内面ではどのような気持ちでしたか？
グレッグ：それには、体験することも、戻って向き合うことも、激しい経験でした。
しかし正直に言うと、Ilyaが去ったときが、OpenAIの歴史で最も厳しい瞬間の一つでした。それは、OpenAIの歴史で唯一、私がもうやりたくないと思った瞬間でした。
私は自分自身を見つめ直し、なぜこのことを始めたのか、なぜそれが如此に重要なのか、なぜこれらの苦しみに耐える価値があるのかを再確認するのに時間がかかると思います。
休憩中に何をしましたか？
グレッグ：私はDNA配列に言語モデルを訓練しました。
実はOpenAI在籍中、非営利の生物医学研究機関であるArcのためにすでにこの作業を行っていました。私のスキルを、私と妻にとって非常に意味のある異なる分野に応用しました。
妻は多くの健康問題を抱えており、AIが彼女の健康や動物の健康にどのように貢献できるかをずっと考えていきました。この経験を通じて、技術をまったく新しい、温かみのある分野に応用できる可能性に気づきました。
Q：山姆の解任からあなたが退職し、従業員の署名運動、休暇を経て復帰するまで、すべてを1枚の紙に要約するとしたら、何と書きますか？
グレッグ：私は、価値あるもののために、諦めずにやり抜くことが大切だと学びました。
重要なミッションを持っているなら、起伏の中でも持ち続けることが肝心です。すべてが終わったと思う瞬間もあれば、私たちが戻ってきたと思う瞬間もあります。
この時期に、これらの瞬間に振り回されてはいけません。あなたは個人のレジリエンスを育む必要があります。なぜなら、あなたがリーダーであれば、人々はあなたに安定性、支援、そして前進の方向性を求めているからです。
私が育てようとしているのは、私たちが行っていることの詳細や、それぞれの選択の意味を理解すると同時に、果断に行動できる能力です。
時には、私はOpenAIを不確実性の観点から大きく捉えており、正しい答えが何か、この技術を構築する正しい方法が何か、あるいはこれらの難しい問題にどう答えるべきかが分からないと思っています。
しかし、ここには非常に賢く、強い意見を持つ人がたくさんいます。そのため、私はこれらのすべての意見を理解し、それらを統合する方法を探しています。時として、これは正しい対応です。しかし、時にはこれらの意見が互いに矛盾しており、同時に真であることは不可能であることに気づくこともあります。
時には選択を迫られる。それは誰かが不満を抱き、誰かが辞め、誰かが軽視されたと感じるということを意味する。
私が努めているのは、より強い自己意識と、何かを確信したときに行動を起こす意識を持つことです。
OpenAIの歩みを振り返ると、いくつかの点で、私たちが当時異なる選択をしていたらよかったと感じます。
通常、私たちはあることに対して先延ばしにし、すでに誰かがある役割に適していないと分かっていたり、ある技術的方向性が間違っていると感じていたり、あるプロジェクトの運営方法がうまくいかないと考えていたりするのに、あまりにも長く待ってしまうのです。
これは私が努力して学んだ教訓であり、OpenAIやStripe、さらにはそれより前の大学時代のプロジェクトを毎日振り返り、成長しようと努めている側面です。
私の働き方について、私は日常の活動や個人の貢献、ソフトウェア、問題を考えることを非常に愛していますが、同時にそれらを行う環境にも深く関心を持っています。
実際、私は現在何かを成し遂げたという即時の満足感をもたらす「第一類の喜び」を諦め、現在は苦しいが長期的な価値を持つ「第二類の喜び」を追求しています。
あなたは環境を創り出すことで、他の人が困難な仕事をし、偉大な成果を上げられるようにします。そのため、環境を創り出すことは私の自然な傾向であり、常に簡単なわけではありません。確かに、大きな個人的な苦しみを受ける覚悟が必要です。
イリヤはいつも「あなたは苦しみを味わわなければならない」と言います。もし苦しまなければ、あなたは価値を生み出していないということです。私はこれに深い意味があると思います。
イリヤの見解について、彼の話し方の独特さが興味深いと感じます。彼が選ぶ言葉には常に深いインスピレーションが込められています。
この「苦しみ」の光景は、OpenAIの歩みを通じて私たちは常に考え続けてきたものです。最初から多くの不確実性があり、すべてのことが非常に困難で、非常に不確実でした。
多くの人々が問題をカーペットの下に隠して、無条件に突き進む傾向があります。これはシリコンバレー文化の否定的な側面、少なくともシリコンバレーのステレオタイプだと考えていますが、AIの分野では通用せず、OpenAIでもそうした運営はしたことがありません。
私たちの運営の基本は、厳しい事実に直面し、現実の本質を理解することです。私はこれが、早期に引用される論文を書くだけでは十分ではなく、基礎に過ぎないという考え方を変えるのに役立つと思います。
そして、あなたはより大きな問題について考え始め、AGIを構築するには何が必要なのかを考える。それは快適なことではない。なぜなら、既成の道がないことに気づくからだ。
資金が必要だが、資金調達の仕組みがない。あなたは努力したし、私たちも非常に努力した。1億ドルや5億ドルなら調達できるかもしれないが、10億ドルは非常に難しい。
しかし、現在のこれらのリソースだけを頼りに、私たちは優れた成果を上げてきました。困難に立ち向かい、私たちが達成しようとしている事業の真実を理解しようと努力しない限り、他の方法は本当にありません。
Q：あなたが繰り返し学ばなければならない教訓は何ですか？
グレッグ：難しい決定を下し、難しい会話を行う。
Q：あなたが受けた最高のアドバイスは何ですか？
グレッグ：ハーバードの新入生向けライティングクラスで学びました。明確さとコミュニケーションのために、常に文を削除し簡潔にします。
Q：情報はどのように選別していますか？
グレッグ：大量の読書を行い、積極的に分類して処理する。
Q：あなたの模範は誰で、その理由は？
グレッグ：ガウスとデカルト。彼らは非常に思考深く、時代を大きく超えた人物であり、遠見を持ち、真のブレイクスルーをもたらし、私たちの考え方や生活様式を変えた。
Q：グレッグ・ブロッカマンについて、世界はどのような誤解をしているのか？
グレッグ：私はこのミッションにどれほど集中しているかを、人々は理解していないと思います。この集中は、多くの面で私に大きな苦痛をもたらしてきました。しかし、私はこの技術が人々を力づけ、誰もが恩恵を受けることができると信じています。私はこれを実現するのを手伝いたいと強く願っています。
AI業界への核心的な判断
Q：非技術者にAIについて何を理解してもらいたいですか？
グレッグ：それは彼らの個人的な生活に善の力となり、彼らが恩恵を受けるとともに、科学や医学の発展を促進し、実際にすべての人々に影響を与えるでしょう。
Q：なぜOpenAIはモデルの命名をこれほど良くないのか？
グレッグ：それは教えられません。（doge）
Q：AIの発展が指数的に加速するポイントに近づいているのでしょうか？
グレッグ：私は、AIがその自身の開発プロセスに適用される段階にいると信じており、そのスピードはますます速まると考えます。
これは実はChatGPT以来ずっと続いてきたことです。私たちはChatGPTを使って開発プロセスを10％または20％高速化してきました。今や、ソフトウェアエンジニアリングの実行方法を真に革命的に変えた素晴らしいコーディングツールが登場しています。
一方、私たちがモデルの生産で行っている大部分の作業のボトルネックはソフトウェアにあります。まもなく次の段階に進み、AI自身が研究アイデアを提案し、テストや実験を実行するようになります。したがって、私たちが生産しているものによって、イテレーションとイノベーションの速度はさらに加速すると考えています。
現在、コードの何パーセントがAIによって書かれていますか？
グレッグ：AIが書かれていないコードの割合を言うのは難しい。その割合はゼロに近づいている。
現在、正しいコンテキストと構造が与えられた場合、AIはコードの実際の記述において人間をはるかに上回っている。コード構造の部分については、依然として人間の専門家の方が優れているが、コードの実際の記述はほぼすべてAIが担っている。
AIは、私が思いつかなかった新しいアイデアを提示したことがありますか？
グレッグ：私たちはこの目標に近づいています。たとえばチップ設計においてです。昨年、私たち自身のチップ設計で、回路が使用する面積を縮小するために、技術をより適切に最適化しようとしました。
私たちが見つけたモデルが生成した最適化案は、実は私たちのリストに既にありました。つまり、人間がこれまで考えたことのない全く新しいものを提案したわけではありませんが、私たちが元々時間がないために実行できなかった方法で、より速く実現しました。
例えば、最近の量子物理学では、特定の物理的問題を解決したところ、学界の予想とは逆の結果が得られ、洗練されたシンプルな公式が導かれました。
したがって、これらのモデルから新しいアイデアを導き出すことは完全に可能です。今後、より難しい分野に適用するか、さらに多くの現実世界の背景が必要になるでしょう。これはまだ始まりにすぎません。しかし、実現のためのロードマップはあり、まだ多くの作業があります。
Q：モデルが強化学習に基づいている場合、それは私たちが聞きたいことだけを伝えるように進化すると考えますか？
グレッグ：私たちは実際に、ユーザーの好みに適応するためのモデルを訓練するプロセスを経てきました。
昨年のどこかの時点で、モデルは確かにあなたが聞きたいことを伝える方向に傾き始めました。私たちはこれを変更しました。なぜなら、モデルが本当にあなたの目標、あなたの長期的な目標を支援するように調整したいと考えているからです。
今、賛成の声を聞くと気分が良いかもしれないが、それはあなたが本当に望んでいるものではない。一部の人々は好むかもしれないが、それは大多数の人が本当に望んでいるものではない。
したがって、我々は実際に、AIのトレーニングがいわゆる報酬の不正利用を引き起こさないように、大きな技術的進歩を遂げました。我々が真に確保したいのは、短期的で即座に満足を得られるものではなく、目標に対する適切なシグナルです。
私にとって、これは、個人用AIや個人用AGIが導き出すビジョンの中で最も重要な部分であり、単に現在看起來良いものにとどまらず、あなたの長期的な幸福、長期的な目標、そしてあなたが本当に望むものと整合性を持つことに真正に焦点を当てるべきだと考えています。
私はこれが人々に最も力を与えるものだと思います。
Q：現在のトレンドはプレビュー版モデルのリリースのようですが、これは計算リソースの制約によるものだとお考えですか？
グレッグ：全体として、私たちは計算能力が駆動する世界に向かっています。
単に質問に素早く答えるだけでなく、さまざまなデータソースを統合し、企業の知識ベースを検索して難題を解決し、人間の能力を超えるソフトウェアを書き始めるようになった。
これらすべては本質的に計算能力によって駆動されており、現在の計算能力ははるかに不足しています。世界中のすべての人が1つのGPUを持っていると仮定しても、それは80億個のGPUに相当しますが、現在の進捗ではその水準に達することは遠く及ばないのです。現在では、数千〜数百万個のGPUがすでに非常に多いとされています。
したがって、訓練においては、私たちが見込んでいる需要に備えて、事前に計算リソースを整備することを重視しています。私たちは、モデルを誰にでも広く利用可能にするというミッションに非常に注力します。
Q：あなたたちはデータセンターに多大な労力と資金を投入したことで笑われたことがありました。今、その状況はどう思いますか？
グレッグ：これは私たちに有利になると考えています。ビジネスの面でも、技術を誰にでも届けるという点でもです。
未来の算力は、がんの克服などの重要なミッションに優先的に投入されます。今年中に実現する可能性があります。
実際、計算能力の割り当ては社会の未来における核心的な課題であり、計算能力には限界があるため、優先順位をつける必要がありますが、私たちは誰もが計算能力を得るべきだと信じ続けています。
だからこそ、私たちはChatGPTの無料版を提供しており、人々がこの技術を利用できるように努めています。
Q：OpenAI内部では、消費者向け事業と企業向け事業のバランスをどのように捉えていますか？
グレッグ：最近私が多く考えているのは集中です。
この分野はまさに機会そのものであり、AIをあらゆる問題に適用でき、構築したいものは何でも可能ですが、現在の課題は依然として計算リソースの制限です。
したがって、次段階のOpenAIにおいて、企業向けビジネスが明らかに重要であると考えます。なぜなら、経済は目の前で計算能力経済へと変化しているからです。ソフトウェアエンジニアリングはすでにそうであり、コンピューターを利用するすべての分野がそうなるでしょう。
そのため、私たちにはそこで人々がこれらのモデルをデプロイし、どのように活用し、最大の利益を得るかを理解する手助けが必要です。
起業がこれまでにないほど容易になるため、企業と消費者の境界も曖昧になるでしょう。私たちはすでにその兆しを目の当たりにしています。
Q：宇宙データセンターが実現すると思いますか？
グレッグ：私は私たちがどこにでもデータセンターを持つことになると思いますが、現在、宇宙データセンターにはまだ多くの技術的課題があります。
Q：イテレーティブデプロイとは何ですか？なぜこのような手法を採用しているのですか？
グレッグ：反復デプロイは、OpenAIがこの技術を人類の利益に役立て、ミッションを達成するための核心的な支柱の一つです。
秘密開発して一度にリリースすることは、現実世界での問題を予測できないため、リスクが非常に高いです。一方、反復的なデプロイにより、実践の中でリスクを発見し、迅速に修正できます。たとえば、GPT-3がリリース後、最大の悪用が医療関係のスパムメッセージであるとは想定していませんでした。しかし、実際の運用を通じて、私たちはその問題に及时に対応することができました。
したがって、反復デプロイの理念は、この技術の中期バージョンをリリースすることです。
これは無計画に実行する言い訳ではありません。あなたは依然として、すべての可能性のある誤用方法についての最善の判断、欠点、リスクを考慮し、それらを軽減する必要があります。しかし、同時に現実の状況を見て、自分の判断が正しいかどうかを確認し、現実から学び、次回はより良く行うことができます。
OpenAIの歴史において、私たちはかつて、以前に変革的な技術を導入した人々が、その答えを教えてくれるかもしれないと願った。しかし、それは決して簡単なことではなかった。
彼らには確かに知恵と洞察があり、私たちはそれらを取り入れました。しかし、私たちは、この技術を生み出した私たち自身が、それを正しく形作るのに最も近い存在であることに気づきました。
Q：ある先進モデルがセキュリティを最優先事項としているのに対し、別のモデルがそうしていない場合、この差異についてどのように考えますか？
グレッグ：私は、セキュリティが本質的な製品機能であると気づきました。誰も自分と価値観が合わないモデルを望まないのです。
そのため、我々はセキュリティ面に投資しており、おそらく人々が考えている以上であり、他のどのラボよりも多くの投資を行っています。
私は常に、この技術を構築し、成功した製品を保有する人々がセキュリティに積極的に投資しないことは持続可能ではないと考えています。あなたのビジネスと創造しているものを長期的に見据えることが重要であり、これはモデルのトレーニング方法やフィードバックループの獲得方法に関わっています。
ただ言いたいのは、私たちが安全をミッションの一部として掲げており、それが私たちの製品と世界にすでに反映されているということです。
Q：私がこのインタビューをすると人々に伝えると、よくある反応は、自分の仕事に対して不安を感じ、不確実さを抱くことです。あなたは彼らに何と言いますか？
グレッグ：この技術がどのように発展するかは不確実だと私は確かに思います。その発展の仕方は予想外で、現在のAIや現在の世界は、SF小説で予想されたものとは異なります。ある種の必然的な結論が実際に実現したとき、その形は完全には同じにはならなかったのです。
私は、人々は常に自分が失うものに最も目を向けがちだと信じています。変化は確かに訪れており、それは否定できませんが、自分が何を得るかを予測することははるかに難しいことです。
例えば、1950年代の人々がUberをどのように理解したかを考えてみてください。まず、コンピューター、携帯電話、GPSを思い浮かべる必要があります。実際、これには非常に多くの技術が関係していますが、それは確かに実現しました。そして、同様に何千、何百万もの他の事例も同時に進行しています。
だから、AIに対する私の見方は、それが権限付与と人間の能動性に関するものだということです。これは、いくつかの制度や仕事、そして私たちが頼りにしてきたものたちが、私たちが思っていたほど安定しなくなることを意味します。
したがって、それは人々に影響を与えますが、より深く考えるべき質問は：あなたは何を得ましたか？あなたはどのようにそれから利益を得ますか？
今、あなたはクリエイターになることができます。あなたが想像できるあらゆるものを創造できます。
Q：創造力をどのように育成すればよいですか？
グレッグ：この技術を深く理解してください。
私が観察したのは、複数世代にわたる技術の恩恵を最も受けるのは、前世代の技術にすでに参入していた人々であるということです。そして、現在それらを試すための障壁は、これまでで最も低くなっています。
したがって、新しい機会が生まれると考えます。
私は、この不確実な時代において、即将到来のあらゆる変革の中で、誰もが支援されるよう、世界がどのように対応すべきかを真剣に考える必要があると思います。なぜなら、経済は計算力経済へと変化するでしょうが、誰にも貢献できる場所があります。
Q：若你是一名高中生、大学生，或刚步入职场的年轻人，今天应该投资于何处？你认为哪些技能在未来会更有价值？
グレッグ：私は、この技術を深く理解することが、AIから最大の価値を引き出すための重要なスキルになると本当に思います。
私たち皆が、エージェントの管理者となり、おそらくまもなく自律AI企業のCEOとなる世界へと向かうのです。
あなたがトークンを持っていて、それを動かす計算能力があれば、その計算能力をあらゆる問題に向けられます。人類が解決したい問題の数は無限です。
したがって、人々がこの技術をより深く理解し、訪れるものをどのように活用し、これらの技術を新しい方法で組み合わせ、エージェントとどのようにやり取りし、それらを真正に管理し、「私は何を望んでいるのか？私の自覚とは何か？私の目的は何か？私は世界に何を実現したいのか？」と考えるほど、それを実現することがこれまで以上に容易になると私は考えます。
私たちが得たものを考えると、その世界の上昇空間は想像を絶するものだと思います。
Q：これは最も前向きな未来観ですが、あなたが想像できる最も消極的な未来とは何ですか？
グレッグ：技術がこれまでどのように発展してきたかという点で非常に興味深いのは、それが私たちに機械に適応するように自分自身をねじ曲げさせたということです。
どれほど多くの人が、この箱に向かってキーボードを叩き、手首の症候群や猫背に悩まされていることか。しかし、それが私たちが目指す姿ではありません。私たちが目指す世界は、あなたがコンピューターを使って働くのではなく、コンピューターがあなたのために働く世界です。
これは機会をもたらす一方で、リスクも伴います。そのため、これらのリスクを軽減する方法を考える必要があります。
根本的な問題は、あなたが機械を使って人々が自分の目標を達成するのを支援する場合、その機械はあなたが望むことを実行するということです。しかし、時として人々の目標は対立します。その場合、どのようにして解決しますか？AIが何を支援し、何を支援しないかをどう決定しますか？これを社会にどのように組み込むかを真剣に考えていますか？利益が一つの企業や特定のグループにのみ流れず、本当にすべての人々の生活を向上させるにはどうすればよいですか？
ここにはまだ多くのエラーやリスクが存在し、私たちが解決する必要があることを認めなければなりません。
Q：最後の質問ですが、あなたにとって成功とは何ですか？
グレッグ：AGIが全人類に利益をもたらすように、OpenAIのミッションを実現する。
参照リンク：[1]https://x.com/shaneparrish/status/2046900710055297072[2]https://youtu.be/6JoUcQ1qmAc
本文は微信公众号「量子位」より、著者：先端テクノロジーに注目