น่าตื่นเต้นมาก! นี่อาจเป็นบทสรุปฉบับสมบูรณ์ที่ละเอียดที่สุดบนอินเทอร์เน็ตเกี่ยวกับละครการต่อสู้ในวังของอุตซึมาน
อีกหนึ่งตัวละครหลักของเหตุการณ์นี้ กรีก บร็อกแมน ผู้บริหารอันดับสองของ OpenAI ได้เปิดเผยเอง:
หลังจากอุตส่าห์ถูกปลดออก 72 ชั่วโมง เกิดอะไรขึ้นบ้าง?
ความจริงเกิดขึ้นบ่อย แต่เจ็บปวดมาก:
เกรกและอุลตร้าแมนแท้จริงแล้วไม่รู้อะไรเลยก่อนเกิดเหตุ และจนถึงตอนนี้ ผู้เกี่ยวข้องยังคงทบทวนว่าขั้นตอนไหนผิดพลาด
คณะกรรมการเริ่มต้น只想ขับออตแมนออก แต่เกรกมีความซื่อสัตย์มาก จึงยื่นใบลาออกในวันนั้นทันที
วันแรกหลังถูกไล่ออก พวกเขาได้จัดประชุมลับที่บ้านของอุตซึมัน เพื่อจัดตั้งบริษัทใหม่ และแม้แต่วางแผนจะพาพนักงานทั้งหมดไปด้วย
คณะกรรมการเปลี่ยนใจอย่างกะทันหัน ซึ่งเดิมได้เจรจาใกล้เสร็จสิ้นเกี่ยวกับการกลับมาของออตติมัน แต่กลับแต่งตั้งซีอีโอคนใหม่ทันที
ตลอดสุดสัปดาห์ คู่แข่งทั้งหมดต่างพากันแย่งชิงบุคลากร แต่ไม่มีใครยอมรับ
การที่อิลยาถอนตัวออกทำให้เกรกรู้สึกโล่งใจ
การสัมภาษณ์ที่ใช้เวลาเกินกว่าหนึ่งชั่วโมง Greg ได้เปิดเผยทุกแง่มุมของการเปลี่ยนแปลงครั้งยิ่งใหญ่ในซิลิคอนแวลลีย์นี้ พร้อมตอบทุกคำถาม รวมถึงประวัติการก่อตั้งของ OpenAI เหตุผลที่เปลี่ยนมาเป็นแบบทำกำไร และอนาคตจะไปทางไหนต่อ...
จากความสับสนเมื่อลาออกจาก Stripe ไปจนถึงการประชุม offsite ที่นาปาแวลซึ่งเป็นจุดเปลี่ยนชะตากรรม และจนถึงความก้าวหน้าที่ไม่คาดคิดในโครงการ Dota ความหนาแน่นของข้อมูลสูงมาก
เกรกถึงกับน้ำเสียงสั่นเป็นระยะๆ:
เมื่ออิลยาจากไป นั่นคือครั้งเดียวที่ฉันรู้สึกว่าไม่อยากทำอีกแล้ว
นี่คือบทความสัมภาษณ์แบบเต็มความยาว ซึ่งได้รับการสรุปและปรับปรุงโดยไม่เปลี่ยนความหมายเดิม
พูดคุยกับประธานเจ้าหน้าที่บริหารของ OpenAI Greg Brockman
(ต่อไปนี้จะเรียกคำถามของผู้ดำเนินรายการ Shane Parrish ว่า Q)
OpenAI เกิดขึ้นจากความสงสัยในตัวเอง
Q: OpenAI ก่อตั้งขึ้นได้อย่างไร?
เกรก: ฉันรู้ว่าฉันอยากเริ่มธุรกิจของตัวเอง เพราะฉันรู้สึกว่านั่นมีความหมายอย่างยิ่ง
Q: แต่คุณเพิ่งเริ่มต้นธุรกิจที่ Stripe มา
เกรก: ใช่ แต่ฉันยังรู้สึกว่าปัญหาที่ Stripe ต้องการแก้ไขไม่ใช่ “ปัญหาของฉัน”
มันสำคัญจริงๆ และฉันได้ทุ่มเทหลายปีให้กับมัน แต่ฉันรู้สึกว่าไม่ว่าจะมีฉันหรือไม่ มันก็จะประสบความสำเร็จ
ดังนั้นในเวลานั้น ฉันจึงมีโอกาสครั้งแรกที่จะได้คิดอย่างแท้จริงว่า: ภารกิจที่ฉันอยากทุ่มเททั้งชีวิตคืออะไร? ปัญหาที่ฉันยินดีจะขับเคลื่อนด้วยชีวิตที่เหลืออยู่ แม้เพียงเพื่อให้มันดีขึ้นเล็กน้อย
คำตอบชัดเจน—AI
หากคุณสามารถมีอิทธิพลอย่างแท้จริงต่อทิศทางการพัฒนาของปัญญาประดิษฐ์ในโลกนี้ ชีวิตนี้ก็ไม่ได้สูญเปล่า
คำถาม: เมื่อคุณตั้งใจจะออกจาก Stripe แพทริคแนะนำให้คุณไปคุยกับแซม อัลต์แมน การพูดคุยครั้งนั้นเกิดขึ้นอย่างไร?
เกรก: แพทริคบอกฉันตอนนั้นว่า แซมเคยพบเยาวชนหลายคนที่อยู่ในสถานการณ์เหมือนฉัน
ที่จริงแล้วฉันรู้ว่าแพทริคต้องการให้แซมโน้มน้าวให้ฉันอยู่ แต่หลังจากคุยกับแซมไปไม่กี่นาที เขาก็ชัดเจนแล้วว่าฉันตั้งใจจะจากไป
จากนั้นแซมจึงถามฉันถึงแผนการต่อไป ฉันจึงบอกเขาว่า ฉันกำลังพิจารณาสร้างบริษัท AI
แซมกล่าวว่าเขากำลังพิจารณาทำบางอย่างในด้าน AI และหวังว่าจะติดต่อกันต่อไป
หลังจากออกจาก Stripe ฉันได้คุยกับแซมอีกครั้ง โดยครั้งนี้แซมบอกว่าเขามีความคิดที่ชัดเจนขึ้น และเชิญฉันไปงานเลี้ยงเย็นในเดือนกรกฎาคม
ฉันจำได้ว่าหัวข้อของงานเลี้ยงเย็นนั้นคือ: การก่อตั้งห้องปฏิบัติการตอนนี้ เพื่อดึงดูดนักวิจัยชั้นนำระดับโลก ยังไม่ช้าเกินไปหรือ? ยังมีโอกาสอยู่ไหม?
That was which year?
เกรก: ปี 2015
ในเวลานั้น DeepMind แทบผูกขาดนักวิจัยชั้นนำ ทุน และข้อมูลทั้งหมด เราต่างก็สงสัยว่า จะสามารถเริ่มต้นสร้างสิ่งใหม่ๆ ขึ้นมาได้อีกหรือไม่
ทุกคนร่วมกันระบุปัญหาหลายประการ แต่ไม่มีใครสามารถให้เหตุผลที่เป็นไปไม่ได้อย่างแท้จริงได้
ดังนั้นคืนนั้น แซมและฉันขับรถกลับเข้าเมือง เราแลกมองกัน และเขาก็พูดว่า เราต้องทำสิ่งนี้
วันถัดมา ฉันก็เริ่มทุ่มเททั้งหมดให้กับการเตรียมการ
มันยากมาก ทุกอย่างดูคลุมเครือ เราแค่มีวิสัยทัศน์เดียว: เราต้องการสร้างปัญญาประดิษฐ์ทั่วไปของมนุษย์ เพื่อสร้างผลกระทบเชิงบวกต่อโลกและแบ่งปันผลประโยชน์ให้กับทุกคน แต่เราไม่มีไอเดียเลยว่าจะทำอย่างไร หรือจะโน้มน้าวให้ผู้คนลาออกมากับเราได้อย่างไร
ในตอนแรก ทีมแกนหลักที่ฉันกำหนดไว้คือ Ilya, John Schulman และตัวฉันเอง เราใช้เวลาจำนวนมากร่วมกันอภิปรายเกี่ยวกับวิสัยทัศน์ต่างๆ และวิธีการทำงานที่เป็นไปได้ของห้องปฏิบัติการ แต่ก็ยังไม่สามารถสรุปเป็นรูปธรรมได้
บางส่วนเนื่องจากกังวลว่าโครงการขาดแรงผลักดันเพียงพอ Dario รู้สึกว่าเขาจำเป็นต้องสร้างชื่อเสียงให้ตัวเองก่อน และไม่แน่ใจว่าโครงการนี้จะเหมาะกับมันหรือไม่
ในขณะเดียวกัน ฉันเริ่มโน้มน้าวให้ John Schulman เข้าร่วม และเขาตกลง แต่ Dario และ Chris สุดท้ายตัดสินใจไปที่ Google Brain ทีมจึงเหลือเพียงฉัน, Ilya, John และอีกไม่กี่คน
ขณะนั้นมีประมาณสิบคนที่แสดงความสนใจ แต่ทุกคนต่างรอคอยดูว่าจะมีใครเข้าร่วมอีก
ฉันถามแซมว่าเราจะแก้ไขสถานการณ์นี้อย่างไร แซมจึงเสนอให้พาทุกคนออกไปจัดกิจกรรมนอกสถานที่ เราเลือกที่นาปาเวลลี และฉันยังออกแบบเสื้อยืดพิเศษด้วย
ในเวลานั้นยังไม่มีข้อเสนออย่างเป็นทางการ ไม่มีโครงสร้างบริษัท ไม่มีอะไรเลย เรามีเพียงความคิดหนึ่งเดียว วิสัยทัศน์หนึ่งเดียว และภารกิจหนึ่งเดียว
แต่เมื่อเราเชิญคนมาในวันที่นาปาแวล ความคิดสร้างสรรค์ก็ไหลบ่า และเกือบจะกำหนดเส้นทางเทคโนโลยีสำหรับสิบปีข้างหน้า:
1. แก้ปัญหาการเรียนรู้แบบเสริมแรง 2. แก้ปัญหาการเรียนรู้แบบไม่มีผู้สอน 3. เรียนรู้สิ่งที่ซับซ้อนขึ้นทีละขั้นตอน
หลังจากการประชุมปิด ฉันได้ส่งข้อเสนอให้ทุกคนแล้ว แจ้งว่าเราจะเริ่มดำเนินการภายใน 2-3 สัปดาห์ข้างหน้า หากต้องการเข้าร่วม กรุณาแจ้งให้ทราบ
คำถาม: ทำไมตอนนั้นถึงรู้สึกว่า DeepMind ยากที่จะก้าวข้าม?
เกรก: ตอนนั้น Google DeepMind เป็นยักษ์ใหญ่ในวงการ AI มีทุนหนาและมีผลงานโดดเด่น แม้จะยังไม่ถึงเวลาเปิดตัว AlphaGo แต่ข้อได้เปรียบของมันก็ชัดเจนอยู่แล้ว
ดังนั้นเราจึงสงสัยว่า: จะสามารถสร้างองค์กรใหม่ที่เป็นอิสระได้จริงหรือ? คำตอบยังไม่ชัดเจน
ข้ออ้างที่ละทิ้งความไม่แสวงหากำไร
คุณรู้สึกตัวว่าเส้นทางที่ไม่แสวงหากำไรนี้เดินไม่ได้เมื่อไหร่?
เกรก: ในปี 2017 เราเริ่มคิดอย่างจริงจังว่าจะบรรลุภารกิจได้อย่างไร และจะสร้าง AGI ได้อย่างไร เราคำนวณความต้องการด้านกำลังการประมวลผล และพบว่าจำเป็นต้องใช้อุปกรณ์การคำนวณขนาดใหญ่มาก
ในขณะนั้นเราได้ติดต่อกับบริษัท Cerebras ซึ่งกำลังพัฒนาฮาร์ดแวร์การคำนวณเฉพาะทางที่มีประสิทธิภาพสูงกว่าความสามารถในการคำนวณที่เราคำนวณเอง
ดังนั้นเราจึงตระหนักว่า หากเราสามารถซื้ออุปกรณ์เหล่านั้นจำนวนมาก สามารถเข้าถึงผลิตภัณฑ์ของ Cerebras ได้แต่เพียงผู้เดียว และสามารถสร้างศูนย์ข้อมูลขนาดใหญ่ยิ่งได้ ก็จะสร้างข้อได้เปรียบที่ท่วมท้นให้กับเรา
แต่การระดมทุนขององค์กรไม่แสวงหากำไรมีขีดจำกัด และไม่สามารถรองรับการลงทุนในระดับนี้ได้ ดังนั้น Elon, Sam, Ilya และฉันจึงเห็นพ้องต้องกันว่า ทางเดียวที่ OpenAI จะสามารถบรรลุภารกิจของตนได้คือการสร้างหน่วยงานที่เกี่ยวข้องเพื่อแสวงหากำไร
ช่วงเวลา GPT ของ OpenAI
คำถาม: คุณรู้ตัวเมื่อไหร่ว่าทุกอย่างจะเปลี่ยนแปลงอย่างสิ้นเชิง? ก่อนหรือหลังโปรเจกต์ Dota?
เกรก: วิธีการทำงานของ OpenAI คือชุดของช่วงเวลาที่ความฝันกลายเป็นจริง ทุกครั้งที่คุณคิดว่าคุณเข้าใจภาพรวมแล้ว คุณจะพบขอบเขตใหม่ๆ อย่างรวดเร็ว
ตอนเริ่มต้นจัดตั้งทีม เรารู้สึกตื่นเต้นมากที่จริงๆ แล้วสามารถรวบรวมทีมได้สำเร็จและเริ่มขับเคลื่อนภารกิจได้ แต่วันถัดไปเมื่อมาถึงสำนักงาน กลับพบว่าไม่มีกระดานขาวแม้แต่บอร์ดเดียว
โปรเจกต์ Dota เป็นผลงานชิ้นสำคัญชิ้นแรกของเรา ซึ่งทำให้เราเชื่อจริงๆ ว่า หากเราทุ่มเทเต็มที่ เราสามารถประสบความสำเร็จได้จริง มันพิสูจน์แล้วว่า การรวมพลังการประมวลผลเข้าด้วยกันและขยายพลังการประมวลผล จะช่วยเพิ่มผลลัพธ์
ในซีรีส์ GPT ก็มีช่วงเวลาเช่นนี้หลายครั้ง เช่น งานวิจัยเรื่องตัวประสาทความรู้สึกแบบไม่มีผู้ควบคุมในช่วงต้น ซึ่งเป็นครั้งแรกที่เราเห็นความหมายปรากฏขึ้นจากการฝึกอบรมด้วยเป้าหมายการสร้างแบบจำลองภาษา
คุณฝึกโมเดลเพื่อทำนายตัวอักษรถัดไป แล้วทันใดนั้น ก็ได้เครือข่ายประสาทเทียมที่สามารถเข้าใจอารมณ์และแยกแยะเชิงบวกกับเชิงลบ
ในขณะนั้นเราตระหนักว่าเรากำลังสร้างเครื่องจักรที่สามารถเรียนรู้ความหมาย ไม่ใช่แค่กฎไวยากรณ์
เมื่อ GPT-4 เปิดตัว บางคนจึงถามว่า ทำไมมันถึงยังไม่ใช่ AGI มันสามารถพูดคุยได้อย่างลื่นไหล และเกือบจะตรงกับนิยามทั้งหมดที่เราเคยมีต่อ AGI แต่ยังขาดอีกเพียงก้าวเดียว
โดยรวมแล้ว ตลอดเส้นทางนี้มีช่วงเวลาหลายช่วงที่ทำให้เรารู้สึกว่าความฝันกำลังเป็นจริง แต่ช่วงเวลาเหล่านี้ยังห่างไกลจากจุดสิ้นสุด เราจะมีช่วงเวลาที่ก้าวกระโดดอีกมาก และตระหนักว่าขั้นตอนถัดไปอาจเป็นไปได้
Q: คุณคิดว่า Dota มีความสำคัญอย่างไร?
เกรก: Dota เป็นช่วงเวลาที่น่าอัศจรรย์ เพราะมันไม่ได้มีกฎที่ชัดเจนเหมือนกับ Deep Blue ที่เล่นหมากรุกหรือ AlphaGo ที่เล่นโกะ มันเป็นการโต้ตอบแบบเรียลไทม์กับมนุษย์ในสภาพแวดล้อมที่ซับซ้อนและเปิดกว้าง ใกล้เคียงกับโลกจริงมากกว่า
ที่จริงแล้วเราเริ่มต้น只想ใช้มันเพื่อตรวจสอบอัลกอริธึมใหม่ เนื่องจากช่วงนั้นการเรียนรู้แบบเสริมแรงยังไม่สามารถขยายขนาดได้ แต่เมื่อเราเพิ่มกำลังการประมวลผลอย่างต่อเนื่อง ด้วยอัลกอริธึม PPO ที่เรียบง่ายที่สุด เราสามารถเอาชนะผู้เล่นมนุษย์ที่เก่งที่สุดได้ ซึ่งพิสูจน์ว่า:
พลังการคำนวณขนาดใหญ่บวกกับอัลกอริทึมที่เรียบง่าย สามารถใช้งานได้จริง
โดยเฉพาะในสภาพแวดล้อมที่วุ่นวายอย่างยิ่งนี้ ที่คุณไม่สามารถเขียนโปรแกรม ไม่สามารถคาดการณ์ และไม่สามารถค้นหาได้ สิ่งที่คุณต้องการแทบจะเป็นสัญชาตญาณของมนุษย์
ในขณะนั้น โครงข่ายประสาทเทียมที่ใช้มีขนาดเล็กมาก มีจำนวนซินแนปส์เท่ากับสมองของแมลง เราจะตระหนักได้ว่า หากขยายแนวคิดนี้ไปสู่ขนาดของสมองมนุษย์ จะเป็นอย่างไร? นี่เป็นคำถามที่น่าสนใจมาก
คำถาม: เมื่อพูดถึงการพยากรณ์ คุณคิดว่าการพยากรณ์และการให้เหตุผลมีความแตกต่างกันหรือไม่?
เกรก: ฉันคิดว่ามีความเชื่อมโยงเชิงลึกระหว่างทั้งสองอย่าง
การคาดการณ์คำถัดไปดูเหมือนจะง่าย แต่ถ้าคุณสามารถคาดการณ์คำถัดไปของไอน์สไตน์ได้อย่างแม่นยำ แสดงว่าคุณฉลาดไม่แพ้ไอน์สไตน์
แก่นของความคาดการณ์ไม่ใช่การคาดเดาข้อมูลที่รู้อยู่แล้ว แต่คือการอนุมานการพัฒนาต่อไปในสถานการณ์ใหม่ที่ไม่เคยเห็นมาก่อน ซึ่งเชื่อมโยงอย่างลึกซึ้งกับแก่นของสติปัญญา
โมเดลการให้เหตุผลในปัจจุบันแบ่งเป็นสองขั้นตอน:
1. การเรียนรู้แบบไม่มีผู้สอน: ฝึกโมเดลให้ทำนายสิ่งที่จะเกิดขึ้นถัดไป ข้อมูลมีลักษณะคงที่และเน้นการสังเกต 2. การเรียนรู้แบบเสริมแรง: ให้ AI เรียนรู้จากข้อมูลของตัวเอง มันดำเนินการด้วยตนเอง รับผลตอบกลับจากโลกภายนอก และเรียนรู้จากผลลัพธ์เหล่านั้น วิธีการฝึกยังคงเป็นการคาดการณ์ โดยคาดการณ์ผลลัพธ์หลังการกระทำ และเสริมแรงตามผลลัพธ์ที่ได้
แต่ในพื้นฐานแล้ว เทคโนโลยีที่ใช้ในสองขั้นตอนนี้เหมือนกันทั้งหมด คือการพยากรณ์ เพียงแต่โครงสร้างข้อมูลต่างกัน
เหตุการณ์การกดดันของ Ultraman
คำถาม: ความขัดแย้งภายในเริ่มรุนแรงขึ้นตั้งแต่เมื่อใด?
เกรก: จุดเด่นของ OpenAI คือเราเชื่อมั่นว่าสามารถสร้าง AI ที่มีความสามารถเทียบเท่ามนุษย์ ซึ่งหมายความว่ามีความเสี่ยงสูง
ใครเป็นผู้ตัดสินใจ? คุณค่าพื้นฐานที่อยู่เบื้องหลังการตัดสินใจเหล่านี้คืออะไร? สิ่งที่ไม่สำคัญในบริษัททั่วไป เช่น การเมืองในที่ทำงาน กลับถูกให้น้ำหนักว่าเกี่ยวข้องกับการมีอยู่ของมนุษยชาติ
ฉันคิดว่านี่ส่งผลกระทบต่อการพัฒนาภายใน OpenAI จำนวนมาก และนี่คือต้นเหตุของความขัดแย้งทั้งหมด
หนึ่งในแรงขับเคลื่อนหลักของวงการปัญญาประดิษฐ์คือความต้องการของผู้คนที่จะอยู่ตรงใจของการปฏิวัติทางเทคโนโลยีและเป็นคนที่ถูกจดจำ ดังนั้นนี่จึงไม่ใช่แค่ปัญหาของ OpenAI เพียงรายเดียว
ในขณะที่เทคโนโลยี AI มีลักษณะเป็นชิ้นส่วนย่อย ภายใต้แรงกดดันสูง อาจสร้างเพชรได้ หรืออาจเกิดรอยร้าว ดังนั้นคุณมักจะเห็นการก่อตัวของเพชรในกลุ่มเล็กๆ เพราะพวกเขาทำงานร่วมกันอย่างใกล้ชิดและไว้วางใจซึ่งกันและกันอย่างสูง แต่บางครั้งพวกเขาก็อาจแตกแยกและเดินตามทางของตัวเอง
ฉันคิดว่าในด้านปัญญาประดิษฐ์ การมีหลายแนวทางและการแข่งขันที่เป็นบวกเป็นเรื่องปกติ ซึ่งช่วยให้เราสามารถขับเคลื่อนเทคโนโลยีอย่างปลอดภัย และอภิปรายประเด็นที่ท้าทาย เช่น ความปลอดภัยและจริยธรรม
ดังนั้น การอภิปรายที่มีสุขภาพดีจึงมีอยู่เสมอภายใน OpenAI แต่ตอนนี้ สิ่งนี้กำลังเกิดขึ้นทั่วโลก
Q: แล้วมาลองย้อนกลับไปที่ช่วงเวลาที่คุณได้ยินข่าวว่าแซมถูกปลดออก คุณอยู่ที่ไหน?
เกรก: ตอนนั้นฉันอยู่บ้าน ฉันได้รับข้อความเชิญให้เข้าร่วมวิดีโอคอล และสังเกตว่าสมาชิกคณะกรรมการทั้งหมดยกเว้นแซมอยู่บนนั้น ฉันรู้สึกว่ามีบางอย่างไม่ดีแน่นอน
พวกเขาบอกฉันว่าคณะกรรมการได้ตัดสินใจถอดถอนแซมออกจากตำแหน่ง ข้อมูลที่ฉันได้รับตรงกับคำแถลงสาธารณะโดยพื้นฐาน ดังนั้นฉันจึงพยายามสอบถามรายละเอียดเพิ่มเติม แต่ถูกปฏิเสธ
จากนั้นพวกเขาก็กล่าวว่าฉันถูกถอดออกจากคณะกรรมการ แต่จะยังคงอยู่ในบริษัทต่อไป เพราะฉันมีความสำคัญอย่างยิ่งต่อบริษัทและภารกิจ
ฉันขอให้ระบุเหตุผลอีกครั้ง แต่ยังถูกปฏิเสธ ในที่สุดพวกเขาบอกฉันว่าภายใต้โครงสร้างใหม่ ฉันอาจได้รับข้อเสนอแนะ นี่คือเนื้อหาของการโทรครั้งนั้น
คุณคิดอะไรอยู่ตอนนั้น? รู้สึกโกรธไหม?
เกรก: ไม่ ฉันแค่รู้สึกว่านี่ไม่ถูกต้อง แต่ฉันคงเข้าใจได้ว่าเกิดอะไรขึ้น
คุณรู้ว่าอะไรเป็นสาเหตุที่แท้จริงของทั้งหมดนี้หลังจากผ่านไปกี่นาที?
เกรก: คำตอบมีสองส่วน หนึ่งคือฉันรู้สึกว่าฉันยังคงค้นพบข้อเท็จจริงใหม่ๆ บางอย่างเกี่ยวกับสิ่งที่ผู้อื่นคิดอยู่ ในระดับหนึ่ง นี่สามารถสรุปได้ว่าเป็นการสื่อสารที่ไม่ชัดเจน คุณจะตระหนักอย่างกะทันหันว่ามีสิ่งต่างๆ ที่เคยถูกมองข้ามไป
ในอีกด้านหนึ่ง ฉันเข้าใจคร่าวๆ ว่าทำไมแต่ละคนถึงต้องทำเช่นนั้น
แต่ในขณะนั้น การตามหาเหตุผลไม่สำคัญอีกต่อไป ฉันแค่รู้ว่ามันผิด ดังนั้นหลังจากวางสายโทรศัพท์ ฉันจึงบอกภรรยาทันทีว่าฉันจะลาออก และเธอก็เห็นด้วย
ดังนั้นในวันนั้นฉันจึงยื่นใบลาออก
หลังจากลาออก ฉันเริ่มได้รับข้อความจำนวนมาก เราได้รับการสนับสนุนและความกระตือรือร้นมากมาย หลายคนยินดีที่จะจากไปร่วมกับเราเพื่อเริ่มต้นธุรกิจใหม่ รวมถึง Jakob, Shimone และ Alexander
ต่อมาเราได้พบกับแซมและเริ่มวางแผนสร้างบริษัทใหม่
ในวันแรก เราคิดว่าความเป็นไปได้ที่แซมจะกลับมามีเพียง 10% ดังนั้นเราจึงจัดการประชุมที่บ้านของแซม โดยมีคนจากบริษัทจำนวนมากเข้าร่วม และเราได้แสดงภาพที่เรากำลังวาดขึ้นให้พวกเขาดู ภายในหนึ่งวัน เราก็มีภาพใหม่เกี่ยวกับวิธีการดำเนินโครงการ
ในช่วงสุดสัปดาห์นั้น เรายังใช้เวลาจำนวนมากในการเจรจากับคณะกรรมการและบริษัท เพื่อค้นหาทางกลับมาที่มีความหมาย
ผลคือในคืนวันอาทิตย์ คณะกรรมการได้แต่งตั้งซีอีโอคนใหม่แบบฉุกเฉินเพื่อแทนที่ตำแหน่งของฉัน ทำให้บริษัทเกิดการประท้วงอย่างรุนแรง ที่จริงแล้วตอนนั้นเราอยู่ในสำนักงาน และกำลังจะบรรลุข้อตกลงเพื่อกลับบ้าน แต่คณะกรรมการก็เปลี่ยนใจแบบฉุกเฉิน
ฝูงชนเริ่มไหลออกมาจากตึก สร้างความวุ่นวาย
เราเริ่มทำการโทรวิดีโอกับผู้ที่สนใจบริษัทใหม่ เพื่อปลอบใจพวกเขาให้รู้ว่าทุกอย่างจะโอเค และเรามีแผนอยู่แล้ว เราพยายามสร้างเรือชูชีพสำหรับกลุ่มเล็กๆ ที่อาจเข้าร่วม แต่ทันใดนั้น ดูเหมือนทุกคนจะเปลี่ยนใจและต้องการเข้าร่วมบริษัทใหม่ของเรา
แซมยังคุยกับซีอีโอของไมโครซอฟท์ ซาตยา ด้วย ก่อนหน้านี้เราได้พูดคุยกันเสมอเกี่ยวกับการขอให้เขาสนับสนุนธุรกิจใหม่ของเรา เราต้องการขยายขนาดเรือชูชีพให้ใหญ่ขึ้น เช่น นำพนักงานทั้งหมดของ OpenAI ไปด้วย
ในเวลานั้นกำลังใกล้วันขอบคุณพระเจ้า หลายคนควรบินกลับบ้านเพื่อใช้เวลาอยู่กับครอบครัว แต่พวกเขาต่างยกเลิกเที่ยวบินของตนเอง และสำนักงานก็เต็มไปด้วยคน
ทุกคนอยู่ที่นั่น แม้จะไม่ได้มีส่วนร่วมในการพูดคุย พวกเขาก็ต้องการเห็นประวัติศาสตร์นี้ด้วยตาของตนเอง
จากนั้น จดหมายร้องเรียนเริ่มแพร่กระจาย ผู้คนจำนวนมากพยายามลงชื่อพร้อมกัน ทำให้ Google Docs ล่มชั่วคราว จึงต้องระบุบุคคลบางรายให้เป็นผู้ลงทะเบียนชื่อ เพื่อป้องกันไม่ให้มีผู้แก้ไขจำนวนมากพร้อมกัน
ฉันจำได้ว่าฉันกลับถึงบ้านประมาณตีห้า นอนหลับไป 45 นาที แล้วตื่นขึ้นมาเปิด Twitter แล้วเห็น Ilya โพสต์ทวีตและลงชื่อในคำร้องว่าเขาต้องการให้บริษัทกลับมารวมกันอีกครั้ง
นั่นเป็นช่วงเวลาที่รู้สึกโล่งใจอย่างมาก ฉันรู้สึกขอบคุณอย่างยิ่ง และรู้สึกว่าเราสามารถรวบรวมทุกอย่างกลับมาใหม่ และกลับมาอยู่บนเส้นทางที่ถูกต้องอีกครั้ง
คุณรู้สึกอย่างไรเกี่ยวกับความสัมพันธ์ของคุณกับอิลยาหลังจากเหตุการณ์นั้น?
เกรก: มันยากมาก เราเคยมีความสัมพันธ์ที่ใกล้ชิดมาก เขาเคยเป็นพิธีกรในงานแต่งงานของฉัน และเราผ่านช่วงเวลาที่ยากลำบากมากมายด้วยกัน แต่ความสัมพันธ์ใดๆ ก็มีขึ้นมีลง
หลังจากนั้น เราใช้เวลาจำนวนมากในการพูดคุยกันอย่างแท้จริง เพื่อพยายามเข้าใจและพูดถึงสิ่งที่สะสมหรือยังไม่ได้พูดออกมาระหว่างเรา ผ่านกระบวนการนี้ ฉันคิดว่าเราได้ไปถึงสถานะที่ดีมาก
สำหรับฉัน ฉันรู้สึกว่าเราได้ปิดประเด็นทั้งหมดที่เกิดขึ้นแล้ว
คุณรู้สึกอย่างไรเกี่ยวกับความจงรักภักดีของพนักงานที่คุณปลุกเร้า?
เกรก: ฉันรู้สึกขอบคุณอย่างยิ่ง ฉันไม่เคยขอสิ่งเหล่านี้มาก่อน และไม่เคยคาดหวังมาก่อน
ฉันคิดว่าสไตล์การนำของฉันคือผู้นำที่ลงมือทำเอง พยายามเป็นผู้นำในทุกสถานการณ์ บางครั้งก็มีอารมณ์ร่วม ฉันไม่ได้มักจะหันกลับมาดูว่าทุกคนตามทันหรือไม่ ฉันแค่พุ่งไปข้างหน้าเรื่อยๆ
แต่เมื่อผู้คนมาช่วยสร้างจริงๆ ฉันรู้สึกขอบคุณอย่างยิ่ง และรู้สึกว่าพวกเขาเกินความคาดหมายของฉันในทุกด้าน
คำถาม: ดังนั้นสุดท้ายทุกคนก็กลับมาแล้วใช่ไหม?
เกรก: จริงๆ แล้วตลอดสุดสัปดาห์ คู่แข่งทั้งหมดต่างจับตาดูอย่างใกล้ชิด ผู้คนได้รับข้อเสนอต่างๆ แต่ในช่วงสุดสัปดาห์นั้น เราไม่ได้สูญเสียใครเลย ไม่มีใครรับข้อเสนอเลย นี่เป็นเรื่องที่น่าอัศจรรย์มาก
ในความเป็นจริง โค้ช Bill Belichick เคยบอกฉันว่า ทีมที่ดีที่สุดไม่ได้เล่นเพื่อเงิน แต่เล่นเพื่อคนรอบข้าง他们 เมื่อทุกคนมาสนับสนุนเราในเวลานั้น ฉันก็นึกถึงคำพูดนั้น
ไม่ต้องสงสัยเลย นี่คือช่วงเวลาที่มีค่าเหมือนเพชร
พักผ่อนชั่วคราวและทบทวนตนเอง
คำถาม: หลังจากทั้งหมดนี้เกิดขึ้น คุณพักผ่อนสักพัก ภายในใจคุณรู้สึกอย่างไร?
เกรก: นั่นเป็นประสบการณ์ที่รุนแรง ไม่ว่าจะผ่านมันไปหรือกลับมาเผชิญหน้า
แต่พูดตามตรง ช่วงเวลาที่ยากที่สุดช่วงหนึ่งในประวัติศาสตร์ของ OpenAI คือตอนที่ Ilya ลาออกไป นั่นอาจเป็นช่วงเวลาเดียวในประวัติศาสตร์ของ OpenAI ที่ฉันรู้สึกว่าฉันไม่อยากทำต่อแล้ว
ฉันคิดว่าฉันต้องใช้เวลาสักหน่อยเพื่อค้นพบตัวเองอีกครั้ง ค้นหาว่าทำไมฉันถึงเริ่มทำสิ่งนี้ ทำไมมันถึงสำคัญมาก และทำไมถึงคุ้มค่ากับความทุกข์ทรมานนี้
คุณทำอะไรบ้างระหว่างพัก?
เกรก: ฉันได้ฝึกโมเดลภาษาบนลำดับดีเอ็นเอ
ที่จริงแล้วฉันเคยทำสิ่งนี้มาแล้วระหว่างที่อยู่ที่ OpenAI เพื่อองค์กรไม่แสวงหากำไรด้านการวิจัยทางชีวการแพทย์ Arc ฉันได้นำทักษะของฉันไปใช้ในสาขาที่ต่างออกไปอย่างมาก ซึ่งมีความหมายอย่างยิ่งต่อตัวฉันและภรรยา
ภรรยาของฉันมีปัญหาสุขภาพหลายประการ เราจึงได้พิจารณาว่า AI สามารถช่วยเหลือสุขภาพของเธอ รวมถึงสุขภาพของสัตว์ได้อย่างไร ประสบการณ์นี้ทำให้ฉันตระหนักว่า เราอาจสามารถนำเทคโนโลยีไปใช้ในสาขาใหม่ๆ ที่เต็มไปด้วยความอบอุ่น
คำถาม: หากคุณต้องสรุปทั้งหมดนี้บนหนึ่งหน้ากระดาษ ตั้งแต่ซามถูกถอดออกจากตำแหน่ง จนถึงการที่คุณลาออก การร้องขอร่วมกันจากพนักงาน การหยุดพักแล้วกลับมาอีกครั้ง คุณจะเขียนอะไร?
เกรก: ฉันคิดว่าสิ่งที่ฉันเรียนรู้คือ ต้องยึดมั่นในสิ่งที่คุ้มค่า
หากคุณมีภารกิจที่สำคัญ ความจริงที่ว่าคุณยังคงยืนหยัดผ่านช่วงเวลาที่ขึ้นลงนั่นแหละคือสิ่งสำคัญ จะมีช่วงเวลาที่ว่า “ทุกอย่างจบแล้ว” และจะมีช่วงเวลาที่ว่า “เรากลับมาแล้ว”
คุณไม่สามารถปล่อยให้ช่วงเวลาเหล่านี้เบี่ยงเบนคุณไปได้ ในช่วงเวลานี้ คุณต้องพัฒนาความยืดหยุ่นส่วนตัวของคุณ เพราะถ้าคุณเป็นผู้นำ ผู้คนจะมองหาความมั่นคง การสนับสนุน และทิศทางในการก้าวไปข้างหน้าจากคุณ
สิ่งที่ฉันพยายามพัฒนาคือ ความสามารถในการเข้าใจรายละเอียดของสิ่งที่เราทำและผลกระทบของแต่ละการตัดสินใจ พร้อมทั้งสามารถตัดสินใจอย่างเด็ดขาด
บางครั้ง ผมมอง OpenAI ในมุมของความไม่แน่นอน รู้สึกว่าผมไม่รู้ว่าคำตอบที่ถูกต้องคืออะไร ไม่รู้วิธีการสร้างเทคโนโลยีนี้อย่างถูกต้อง หรือจะตอบคำถามที่ยากลำบากเหล่านี้อย่างไร
แต่ที่นี่มีคนจำนวนมากที่ฉลาดมากและมีความเห็นที่ชัดเจน ดังนั้นฉันจึงพยายามเข้าใจความเห็นทั้งหมดเหล่านี้และหาวิธีรวมเข้าด้วยกัน บางครั้งนี่คือวิธีที่ถูกต้อง แต่บางครั้งคุณจะพบว่าความเห็นเหล่านี้ขัดแย้งกันและไม่สามารถเป็นจริงได้พร้อมกัน
บางครั้งคุณต้องตัดสินใจเลือก คุณรู้ว่านั่นหมายความว่าจะมีบางคนไม่พอใจ บางคนจะลาออก และบางคนจะรู้สึกถูกมองข้าม
สิ่งที่ฉันพยายามทำคือการมีสติรู้ตัวมากขึ้น และมีความตระหนักว่าเมื่อแน่ใจในสิ่งใดแล้ว ต้องลงมือกระทำ
เมื่อฉันนึกย้อนกลับไปที่เส้นทางของ OpenAI ฉันรู้สึกว่าในบางเรื่อง ฉันอยากให้เราทำสิ่งต่างๆ แตกต่างออกไปในเวลานั้น
โดยทั่วไปแล้วสถานการณ์เช่นนี้เกิดขึ้นเมื่อเราลังเลและชะล่าเวลาในเรื่องบางอย่าง เราทราบดีอยู่แล้วว่าบุคคลบางคนไม่เหมาะกับบทบาทนั้น เรามองว่าทิศทางเทคโนโลยีบางอย่างไม่ถูกต้อง หรือเราคิดว่าวิธีการดำเนินโครงการบางอย่างไม่สามารถใช้งานได้ แต่เราก็รอไว้นานเกินไป
นี่คือบทเรียนที่ฉันพยายามเรียนรู้ และเป็นด้านหนึ่งที่ฉันพยายามเติบโตเมื่อสะท้อนคิดถึง OpenAI, Stripe หรือแม้แต่โครงการในช่วงมหาวิทยาลัยที่เก่ากว่านั้นทุกวัน
ฉันคิดว่าวิธีการทำงานของฉันคือ ฉันรักกิจกรรมประจำวันอย่างมาก รักการมีส่วนร่วมส่วนตัว รักซอฟต์แวร์ และรักการคิดแก้ปัญหา แต่ฉันก็ใส่ใจอย่างมากต่อสภาพแวดล้อมที่ทำสิ่งเหล่านี้
ในความเป็นจริง ฉันยินดีละทิ้งความสุขประเภทที่หนึ่ง ซึ่งคือความพึงพอใจอย่างรวดเร็ว เช่น สิ่งที่คุณสร้างขึ้นในขณะนี้ เพื่อตามหาความสุขประเภทที่สอง ซึ่งคือสิ่งที่เจ็บปวดในขณะนี้แต่มีคุณค่าในระยะยาว
คุณสร้างสภาพแวดล้อมเพื่อให้ผู้อื่นสามารถทำผลงานที่ยากลำบากและบรรลุความสำเร็จอันยิ่งใหญ่ ดังนั้นการพยายามสร้างสภาพแวดล้อมจึงเป็นแนวโน้มตามธรรมชาติของฉัน ซึ่งไม่ใช่เรื่องง่ายเสมอไป คุณต้องยินดีรับความทุกข์ทรมานส่วนตัวอย่างมาก
อิลยามักพูดว่า “คุณต้องทุกข์ทรมาน” หากคุณไม่ทุกข์ทรมาน คุณก็ไม่ได้สร้างคุณค่า ฉันคิดว่ามีความหมายลึกซึ้งอยู่ในนั้น
เกี่ยวกับมุมมองของอิลยา ฉันรู้สึกสนใจที่เขาพูดด้วยวิธีที่เป็นเอกลักษณ์ คำที่เขาเลือกใช้มักแฝงไว้ซึ่งแรงบันดาลใจลึกซึ้ง
ภาพแห่งความทุกข์ยากนี้เป็นสิ่งที่เราได้ครุ่นคิดมาตลอดเส้นทางของ OpenAI ตั้งแต่เริ่มต้น เราต่างมีความไม่แน่นอนมากมาย และทุกสิ่งล้วนยากลำบากและไม่แน่นอนอย่างยิ่ง
หลายคนมีนิสัยซ่อนปัญหาไว้ใต้พรมและพูดอย่างไร้สติว่า “เร่งไปเลย” ฉันคิดว่านี่เป็นส่วนลบของวัฒนธรรมซิลิคอนแวลลีย์ อย่างน้อยก็เป็นภาพลักษณ์ที่ยึดติดของซิลิคอนแวลลีย์ แต่ฉันเชื่อว่ามันใช้ไม่ได้ในโลกของ AI ไม่ได้ใน OpenAI และเราไม่เคยดำเนินงานแบบนี้มาก่อน
วิธีการดำเนินงานของเราเสมอคือการเผชิญหน้ากับความจริงอันโหดร้าย และเข้าใจธรรมชาติของความเป็นจริง ผมเชื่อว่านี่ช่วยให้เราคิดเกี่ยวกับปัญหาต่างๆ อย่างแตกต่างออกไป ไม่พอใจแค่กับการเขียนบทความในระยะเริ่มต้นที่สามารถอ้างอิงได้ ซึ่งเป็นเพียงพื้นฐาน แต่ยังห่างไกลจากสิ่งที่เพียงพอ
จากนั้นคุณเริ่มคิดถึงปัญหาที่ใหญ่กว่า ว่าการสร้าง AGI ต้องการอะไรบ้าง? มันไม่ใช่เรื่องที่น่าพอใจ เพราะคุณตระหนักว่าไม่มีเส้นทางที่เตรียมไว้
คุณต้องการทุน แต่คุณไม่มีกลไกในการระดมทุน คุณพยายามอย่างหนัก และเราพยายามอย่างสุดความสามารถ คุณอาจระดมทุนได้ 1 พันล้านดอลลาร์สหรัฐหรือ 5 พันล้านดอลลาร์สหรัฐ แต่ 10 พันล้านดอลลาร์สหรัฐนั้นยากมาก
แต่ด้วยทรัพยากรที่มีอยู่ในปัจจุบันนี้ เราได้บรรลุความสำเร็จที่ดี หากไม่กล้าเผชิญอุปสรรคและพยายามเข้าใจความจริงของสิ่งที่เราพยายามทำ ก็ไม่มีวิธีอื่นใดอีก
คำถาม: บทเรียนอะไรที่คุณต้องเรียนรู้ซ้ำแล้วซ้ำเล่า?
เกรก: ตัดสินใจที่ยากลำบาก และพูดคุยในเรื่องที่ยากลำบาก
คำถาม: คำแนะนำที่ดีที่สุดที่คุณเคยได้รับคืออะไร?
เกรก: ผมเรียนมาจากการเขียนสำหรับนักศึกษาใหม่ที่ฮาร์วาร์ด เพื่อความชัดเจนและการสื่อสาร ให้ตัดข้อความออกเรื่อยๆ
คุณกรองข้อมูลอย่างไร?
เกรก: อ่านจำนวนมาก และจัดประเภทอย่างกระตือรือร้น
Q: คุณมีแบบอย่างใคร และทำไม?
เกรก: กาส์และเดส์การ์ต พวกเขาเป็นบุคคลที่มีความคิดล้ำสมัย ล้ำหน้ากว่ายุคของตน และมีวิสัยทัศน์อันกว้างไกล พวกเขาได้นำการเปลี่ยนแปลงครั้งใหญ่มาสู่โลก ซึ่งเปลี่ยนแปลงวิธีคิดและวิถีชีวิตของเรา
คำถาม: โลกเข้าใจผิดเกี่ยวกับเกรก บร็อกแมนอะไรบ้าง?
เกรก: ฉันคิดว่าผู้คนไม่เข้าใจว่าฉันมุ่งมั่นกับภารกิจนี้มากเพียงใด ความมุ่งมั่นนี้ได้สร้างความทุกข์ทรมานอย่างมากให้กับฉันในหลายด้าน แต่ฉันเชื่ออย่างแน่นอนว่าเทคโนโลยีนี้สามารถช่วยเสริมพลังให้ผู้คนและทำให้ทุกคนได้รับประโยชน์ ฉันอยากช่วยให้สิ่งนี้เกิดขึ้นอย่างมาก
การวิเคราะห์หลักเกี่ยวกับอุตสาหกรรม AI
คุณต้องการให้ผู้ที่ไม่มีพื้นฐานด้านเทคนิคเข้าใจเรื่องใดเกี่ยวกับ AI?
เกรก: มันจะกลายเป็นแรงบวกในชีวิตส่วนตัวของพวกเขา พวกเขาจะได้รับประโยชน์จากมัน มันจะผลักดันวิทยาศาสตร์และการแพทย์ให้ก้าวหน้า และส่งผลกระทบต่อทุกคนอย่างเป็นรูปธรรม
คำถาม: ทำไม OpenAI ถึงตั้งชื่อโมเดลได้แย่ขนาดนั้น?
เกรก: ฉันไม่สามารถบอกคุณได้นะ (doge)
คำถาม: เราใกล้จุดที่ AI จะทำให้การพัฒนาของ AI เร่งขึ้นแบบเอ็กซ์โพเนนเชียลหรือยัง?
เกรก: ฉันคิดว่าเรากำลังอยู่ในขั้นตอนที่นำ AI ไปใช้กับกระบวนการพัฒนาของตัวเอง และมันจะเร็วขึ้นเรื่อยๆ
สิ่งนี้เกิดขึ้นมาตั้งแต่ ChatGPT แล้ว เราใช้ ChatGPT เพื่อเร่งกระบวนการพัฒนาให้เร็วขึ้น 10% หรือ 20% ตอนนี้เรามีเครื่องมือเขียนโค้ดที่น่าทึ่งเหล่านี้ ซึ่งเปลี่ยนแปลงวิธีการดำเนินงานด้านวิศวกรรมซอฟต์แวร์อย่างแท้จริง
ในขณะที่เราดำเนินการผลิตโมเดล ส่วนใหญ่ข้อจำกัดอยู่ที่ซอฟต์แวร์ เราจะเข้าสู่ขั้นตอนถัดไปอย่างรวดเร็ว โดย AI จะเสนอแนวคิดการวิจัยของตัวเอง และดำเนินการทดสอบ รวมถึงทดลองรัน การทดลองต่างๆ ดังนั้นฉันคิดว่าความเร็วในการวนซ้ำและการสร้างนวัตกรรมจะยังคงเร่งขึ้นจากสิ่งที่เรากำลังผลิต
คำถาม: ขณะนี้มีสัดส่วนของโค้ดกี่เปอร์เซ็นต์ที่ถูกเขียนโดย AI?
เกรก: ยากที่จะบอกว่ามีโค้ดกี่เปอร์เซ็นต์ที่ไม่ได้ถูกเขียนโดย AI อัตราส่วนนี้กำลังเข้าใกล้ศูนย์
ในปัจจุบัน เมื่อมีบริบทและโครงสร้างที่ถูกต้อง AI นั้นเก่งกว่ามนุษย์มากในการเขียนโค้ดจริงๆ ส่วนเรื่องโครงสร้างโค้ด ผู้เชี่ยวชาญมนุษย์ยังคงเก่งกว่ามาก แต่การเขียนโค้ดจริงๆ นั้นเป็นงานของ AI ล้วนๆ
คำถาม: AI เคยเสนอไอเดียใหม่ๆ ที่คุณไม่เคยคิดถึงไหม?
เกรก: เราใกล้ถึงเป้าหมายนี้แล้ว เช่น ในด้านการออกแบบชิป เมื่อปีที่แล้วในการออกแบบชิปของเราระบบเอง เราพยายามปรับเทคโนโลยีให้เหมาะสมยิ่งขึ้น เพื่อลดพื้นที่ที่วงจรใช้งาน
เราพบว่าแผนการปรับปรุงที่โมเดลสร้างขึ้นนั้นอยู่ในรายการของเราอยู่แล้ว ดังนั้นมันจึงไม่ได้เสนอสิ่งใหม่ที่มนุษย์ไม่เคยคิดมาก่อน แต่มันทำได้เร็วกว่า และในวิธีที่เราไม่มีเวลาทำเอง
ตัวอย่างอีกเช่นกัน ในฟิสิกส์ควอนตัมเมื่อเร็วๆ นี้ เราได้แก้ปัญหาทางฟิสิกส์เฉพาะอย่างหนึ่ง ซึ่งผลลัพธ์กลับตรงข้ามกับที่ชุมชนวิชาการคาดหวัง และได้รับสูตรที่สวยงามและเรียบง่าย
ดังนั้นจึงเป็นไปได้อย่างสมบูรณ์ที่จะได้ไอเดียใหม่จากโมเดลเหล่านี้ ต่อไปเราจะนำไปใช้ในสาขาที่ยากกว่า หรืออาจต้องการบริบทจากโลกจริงเพิ่มเติม นี่เพิ่งเริ่มเห็นสัญญาณแรกเท่านั้น แต่เรามีแผนการดำเนินการเพื่อให้สำเร็จ และยังมีงานอีกมากที่ต้องทำ
คำถาม: หากโมเดลอิงจากการเรียนรู้แบบเสริมแรง คุณคิดว่ามันจะพัฒนาเป็นแค่บอกสิ่งที่เราอยากได้ยินไหม?
เกรก: เราได้ผ่านกระบวนการพัฒนาโมเดลการฝึกอบรมเพื่อปรับให้เข้ากับความชอบของผู้ใช้
เราสังเกตเห็นว่าในบางช่วงของปีที่แล้ว โมเดลเริ่มมีแนวโน้มที่จะพูดสิ่งที่คุณอยากได้ยิน เราจึงได้ทำการปรับเปลี่ยนสิ่งนี้ เพราะเราต้องการให้โมเดลจัดให้สอดคล้องกับการช่วยคุณบรรลุเป้าหมายของคุณ เจตนาในระยะยาวของคุณ
อาจรู้สึกดีเมื่อได้ยินการสนับสนุนในตอนนี้ แต่นั่นไม่ใช่สิ่งที่คุณต้องการจริงๆ บางคนอาจชอบ แต่นี่ไม่ใช่สิ่งที่คนส่วนใหญ่ต้องการจริงๆ
ดังนั้น เราจึงได้ก้าวหน้าทางเทคโนโลยีอย่างมากเพื่อให้มั่นใจว่าการฝึกฝน AI ของเราจะไม่ก่อให้เกิดปัญหาที่เรียกว่าการแก้ไขรางวัล เราต้องการแน่ใจว่าจะมีสัญญาณที่ดีเกี่ยวกับเป้าหมาย ไม่ใช่แค่สิ่งที่ให้ผลลัพธ์ระยะสั้นและทำให้คุณพึงพอใจได้อย่างรวดเร็ว
สำหรับฉัน นี่อาจเป็นส่วนสำคัญที่สุดของวิสัยทัศน์ที่ AI ส่วนบุคคลและ AGI ส่วนบุคคลจะนำเราไปสู่ คือการรับประกันว่ามันไม่ได้เกี่ยวกับสิ่งที่ดูดีในปัจจุบันเท่านั้น แต่เกี่ยวกับการสอดคล้องกับความเป็นอยู่ที่ดีในระยะยาว เป้าหมายระยะยาว และสิ่งที่คุณต้องการจริงๆ
I believe this is what truly empowers people.
คำถาม: แนวโน้มปัจจุบันดูเหมือนเป็นการเปิดตัวรุ่นพรีวิว คุณคิดว่าเป็นเพราะเรามีข้อจำกัดด้านพลังการคำนวณหรือไม่?
เกรก: โดยรวมแล้ว เรากำลังก้าวเข้าสู่โลกที่ขับเคลื่อนด้วยพลังการคำนวณ
ไม่ได้แค่ตอบคำถามอย่างรวดเร็วอีกต่อไป มันเริ่มลึกลงไปอย่างแท้จริง โดยใช้โทเค็นจำนวนมากเพื่อรวมข้อมูลจากแหล่งต่างๆ และค้นหาฐานความรู้ขององค์กร เพื่อแก้ปัญหาที่ยากลำบากและเขียนซอฟต์แวร์ที่แข็งแกร่งกว่าความสามารถของมนุษย์
ทั้งหมดนี้ขับเคลื่อนโดยพลังการคำนวณ และพลังการคำนวณยังไม่เพียงพอ หากทุกคนในโลกมี GPU หนึ่งตัว จะมี GPU 8 พันล้านตัว แต่เราอยู่ห่างไกลจากระดับนั้นมากในเส้นทางปัจจุบัน ตอนนี้แม้แต่หลายพันหรือหลายล้าน GPU ก็ถือว่ามากแล้ว
ดังนั้นในด้านการฝึกอบรม เราจึงมีแนวโน้มที่จะสร้างกำลังการประมวลผลล่วงหน้าเพื่อรองรับความต้องการที่เราเห็น เราจะมุ่งเน้นอย่างมากในการนำโมเดลไปสู่ทุกคน เพื่อให้สามารถเข้าถึงได้อย่างกว้างขวาง
คำถาม: คุณเคยถูกเยาะเย้ยเพราะใช้แรงงานและเงินทุนจำนวนมากไปกับศูนย์ข้อมูล ตอนนี้คุณรู้สึกอย่างไรกับสถานการณ์นี้?
เกรก: ฉันคิดว่านี่จะให้ข้อได้เปรียบกับเรา ไม่เพียงแต่ช่วยธุรกิจเท่านั้น แต่ยังสามารถนำเทคโนโลยีไปสู่ทุกคนได้อย่างแท้จริง
พลังการคำนวณในอนาคตจะถูกจัดสรรให้กับภารกิจสำคัญก่อน เช่น การพิชิตโรคมะเร็ง ซึ่งอาจเกิดขึ้นได้ในปีนี้
ในความเป็นจริง การจัดสรรพลังการคำนวณเป็นประเด็นหลักของอนาคตของสังคม มีพลังการคำนวณจำกัดเพียงเท่านั้น จึงจำเป็นต้องจัดลำดับความสำคัญ แต่เรายังคงเชื่อมั่นว่า ทุกคนควรได้รับพลังการคำนวณ
นี่คือเหตุผลที่เรามีเวอร์ชันฟรีของ ChatGPT เราจึงพยายามอย่างเต็มที่เพื่อให้ผู้คนสามารถใช้เทคโนโลยีนี้ได้
คำถาม: ใน OpenAI คุณมองความสมดุลระหว่างธุรกิจระดับผู้บริโภคและธุรกิจระดับองค์กรอย่างไร?
เกรก: สิ่งที่ฉันคิดมากในช่วงนี้คือความมุ่งมั่น
เนื่องจากพื้นที่นี้คือตัวแทนของโอกาส คุณสามารถนำ AI ไปใช้กับปัญหาใดก็ได้ สิ่งใดก็ตามที่คุณต้องการสร้าง ทุกอย่างเป็นไปได้ แต่ปัญหาของเราในขณะนี้ยังคงเป็นขีดจำกัดของพลังการประมวลผล
ดังนั้นฉันคิดว่าในขั้นตอนถัดไปของ OpenAI ธุรกิจระดับองค์กรชัดเจนว่ามีความสำคัญมาก เพราะเศรษฐกิจกำลังเปลี่ยนเป็นเศรษฐกิจการประมวลผลข้อมูลตรงหน้าเรา วิศวกรรมซอฟต์แวร์ได้เป็นเช่นนี้แล้ว และทุกสาขาที่ใช้คอมพิวเตอร์จะเป็นเช่นนี้เช่นกัน
ดังนั้นเราจึงจำเป็นต้องช่วยผู้คนในการปรับใช้โมเดลเหล่านั้น ทำความเข้าใจวิธีการใช้งาน และรับผลประโยชน์สูงสุดจากมัน
ขอบเขตระหว่างธุรกิจและผู้บริโภคจะจางลง เพราะการเริ่มต้นธุรกิจจะง่ายกว่าที่เคยเป็นมา เราได้เห็นสิ่งนี้แล้ว
Q: คุณคิดว่าเราจะมีศูนย์ข้อมูลในอวกาศไหม?
เกรก: ฉันคิดว่าเราจะมีศูนย์ข้อมูลทั่วทุกที่ แต่ขณะนี้ยังมีปัญหาทางเทคนิคมากมายเกี่ยวกับศูนย์ข้อมูลในอวกาศ
คำถาม: การปรับใช้แบบวนซ้ำคืออะไร? ทำไมคุณถึงทำเช่นนี้?
เกรก: การปรับใช้แบบเป็นขั้นตอนเป็นหนึ่งในเสาหลักสำคัญของ OpenAI ในการจัดการวิธีการใช้เทคโนโลยีนี้เพื่อช่วยเหลือมนุษยชาติและบรรลุภารกิจ
การพัฒนาแบบลับและเปิดใช้งานเพียงครั้งเดียวมีความเสี่ยงสูงมาก เพราะคุณไม่สามารถคาดการณ์ปัญหาในโลกจริงได้ แต่การปรับใช้แบบค่อยเป็นค่อยไปช่วยให้เราค้นพบความเสี่ยงผ่านการปฏิบัติจริงและแก้ไขได้อย่างรวดเร็ว เช่น หลังจากเปิดตัว GPT-3 เราไม่เคยคาดคิดว่าการใช้งานในทางที่ผิดที่ใหญ่ที่สุดจะเป็นข้อความขยะทางการแพทย์ แต่正是การใช้งานจริงทำให้เราสามารถรับมือได้ทันเวลา
ดังนั้นแนวคิดของการปรับใช้แบบวนซ้ำคือ เราจะเปิดตัวเวอร์ชันกลางของเทคโนโลยีนี้
นี่ไม่ใช่ข้ออ้างในการใช้งานอย่างไม่พิจารณา คุณยังต้องคิดอย่างรอบคอบในแต่ละขั้นตอนเกี่ยวกับการตัดสินใจที่ดีที่สุดเกี่ยวกับวิธีที่อาจถูกใช้ในทางที่ผิด ข้อเสียคืออะไร ความเสี่ยงคืออะไร จากนั้นจึงดำเนินการลดความเสี่ยงเหล่านั้น แต่คุณยังสามารถมองเห็นสถานการณ์จริง เพื่อดูว่าการตัดสินใจของคุณถูกต้องหรือไม่ เรียนรู้จากความเป็นจริง และทำให้ดีขึ้นในครั้งต่อไป
ในประวัติศาสตร์ของ OpenAI เราเคยหวังว่า ผู้ที่เคยนำเทคโนโลยีที่เปลี่ยนแปลงมาใช้มาก่อน อาจสามารถให้คำตอบกับเราได้ แต่เรื่องราวนี้ไม่เคยง่ายขนาดนั้น
พวกเขาแน่นอนมีปัญญาและมุมมองที่ลึกซึ้ง และเราได้รับเอาสิ่งเหล่านั้นมาใช้ แต่เราตระหนักว่าเราคือผู้ที่ใกล้ชิดกับเทคโนโลยีนี้ที่สุด เพราะเราเป็นผู้สร้างมันขึ้นมา จึงสามารถเข้าใจวิธีการที่ถูกต้องในการพัฒนามันได้ดียิ่งขึ้น
คำถาม: คุณมองความแตกต่างนี้อย่างไร หากโมเดลขั้นสูงตัวหนึ่งให้ความสำคัญกับความปลอดภัยเป็นอันดับแรก ในขณะที่อีกตัวหนึ่งไม่ได้ทำเช่นนั้น?
เกรก: ฉันคิดว่าเราพบว่าความปลอดภัยเป็นคุณสมบัติหลักของผลิตภัณฑ์ ไม่มีใครต้องการโมเดลที่ไม่สอดคล้องกับตนเอง
ดังนั้นเราจึงได้ลงทุนด้านความปลอดภัยในระดับที่อาจสูงกว่าที่ผู้คนคิด หรือแม้แต่มากกว่าห้องปฏิบัติการอื่นๆ ใดๆ
ฉันเชื่อเสมอว่า การที่ผู้สร้างเทคโนโลยีนี้และมีผลิตภัณฑ์ที่ประสบความสำเร็จไม่ลงทุนอย่างมากด้านความปลอดภัยนั้นไม่ยั่งยืน คุณต้องคิดในระยะยาวสำหรับธุรกิจของคุณและสิ่งที่คุณกำลังสร้างขึ้น ซึ่งเกี่ยวข้องกับวิธีการฝึกโมเดลและวิธีรับวงจรป้อนกลับ
ฉัน只想บอกว่า เราทุ่มเทให้กับการรักษาความปลอดภัยเป็นส่วนหนึ่งของภารกิจของเรา ซึ่งสะท้อนอยู่ในผลิตภัณฑ์และโลกของเราแล้ว
คำถาม: เมื่อฉันบอกคนอื่นว่าฉันจะสัมภาษณ์ครั้งนี้ ปฏิกิริยาทั่วไปคือพวกเขากังวลเกี่ยวกับงานของตัวเองและรู้สึกไม่แน่ใจ คุณจะพูดกับพวกเขาอย่างไร?
เกรก: ฉันคิดว่าเทคโนโลยีนี้จะพัฒนาไปในทิศทางใดนั้นยังไม่แน่นอน วิธีที่มันพัฒนาทำให้ประหลาดใจ เพราะ AI และโลกปัจจุบันของเราไม่ได้เป็นอย่างที่นิยายวิทยาศาสตร์คาดการณ์ไว้ บางสิ่งที่ดูเหมือนเป็นข้อสรุปที่หลีกเลี่ยงไม่ได้ เมื่อเกิดขึ้นจริง กลับไม่ได้เป็นไปตามที่คาดไว้
ฉันเชื่อว่าผู้คนมักจะมองเห็นสิ่งที่ตัวเองจะสูญเสียได้ง่ายที่สุด การเปลี่ยนแปลงกำลังจะมาถึง ซึ่งเป็นสิ่งที่ปฏิเสธไม่ได้ แต่สิ่งที่ยากกว่าคือการคาดการณ์ว่าคุณจะได้รับอะไร
ตัวอย่างเช่น คิดถึงคนในปี 1950 จะเข้าใจ Uber ได้อย่างไร? ก่อนอื่นคุณต้องนึกถึงคอมพิวเตอร์ โทรศัพท์มือถือ และ GPS ที่จริงแล้วสิ่งนี้เกี่ยวข้องกับเทคโนโลยีจำนวนมาก แต่มันก็เกิดขึ้นจริง และตัวอย่างอื่นๆ อีกนับพัน นับล้านก็กำลังเกิดขึ้นพร้อมกัน
ดังนั้น มุมมองของฉันเกี่ยวกับ AI คือมันเกี่ยวกับการเสริมอำนาจ และเกี่ยวกับความเป็นผู้กระทำของมนุษย์ ซึ่งหมายความว่าสถาบันบางอย่าง งานบางอย่าง และสิ่งที่เราคิดว่าสามารถพึ่งพาได้ อาจไม่คงที่เหมือนที่เราคิดอีกต่อไป
ดังนั้นมันจึงส่งผลกระทบต่อผู้คน แต่คำถามที่น่าสนใจลึกซึ้งกว่านั้นคือ: คุณได้รับอะไรบ้าง? คุณจะได้รับประโยชน์จากมันอย่างไร?
ตอนนี้คุณสามารถเป็นผู้สร้างได้ คุณสามารถสร้างอะไรก็ได้ ทุกสิ่งที่คุณจินตนาการได้จะกลายเป็นความจริง
Q: วิธีการพัฒนาความสามารถในการสร้างสรรค์คืออะไร?
เกรก: ลงลึกไปที่เทคโนโลยีนี้จริงๆ
สิ่งที่ฉันสังเกตเห็นคือ คนที่ได้รับประโยชน์มากที่สุดจากเทคโนโลยีหลายรุ่นคือผู้ที่เข้าร่วมตั้งแต่รุ่นก่อนหน้า และตอนนี้อุปสรรคในการเริ่มต้นใช้งานต่ำกว่าที่เคยเป็นมา
ดังนั้นฉันคิดว่าจะมีโอกาสใหม่ๆ เกิดขึ้น
ฉันคิดว่าโลกจำเป็นต้องพิจารณาว่าจะสนับสนุนทุกคนอย่างไรในช่วงเวลาที่เต็มไปด้วยความไม่แน่นอนนี้ และในการเปลี่ยนผ่านใดๆ ที่กำลังจะเกิดขึ้น เพราะเศรษฐกิจจะกลายเป็นเศรษฐกิจที่ขับเคลื่อนด้วยพลังการคำนวณ แต่ทุกคนล้วนมีบทบาทที่จะสามารถมีส่วนร่วมได้
คำถาม: วันนี้เยาวชนควรลงทุนที่ไหน? หากคุณอยู่ในระดับมัธยมหรือมหาวิทยาลัย หรือเพิ่งเริ่มงาน คุณคิดว่าทักษะใดจะมีค่ามากขึ้นในอนาคต?
เกรก: ฉันเชื่อจริงๆ ว่าการเข้าใจลึกซึ้งถึงเทคโนโลยีนี้จะกลายเป็นทักษะที่สำคัญ ในการเข้าใจวิธีรับค่าสูงสุดจาก AI
เพราะเราทุกคนจะก้าวไปสู่โลกที่เราเป็นผู้จัดการตัวแทนอัจฉริยะ และอาจเป็นซีอีโอของบริษัทปัญญาประดิษฐ์อิสระในเร็วๆ นี้
ตราบใดที่คุณมีโทเค็นและพลังการประมวลผลที่ขับเคลื่อนมัน คุณสามารถระบุพลังการประมวลผลนี้ไปยังปัญหาใดก็ได้ และจำนวนปัญหาที่มนุษย์ต้องการแก้ไขนั้นไม่มีที่สิ้นสุด
ดังนั้นฉันคิดว่า ยิ่งผู้คนลึกซึ้งกับเทคโนโลยีนี้มากเท่าใด ยิ่งเข้าใจวิธีใช้สิ่งที่กำลังจะมา วิธีรวมเทคโนโลยีเหล่านี้ในรูปแบบใหม่ วิธีโต้ตอบกับตัวแทนของเรา จัดการพวกมันอย่างแท้จริง และคิดว่า “ฉันต้องการอะไร? ความรู้สึกตัวของฉันคืออะไร? จุดประสงค์ของฉันคืออะไร? ฉันต้องการเห็นอะไรในโลกนี้?” การบรรลุสิ่งเหล่านี้จะง่ายกว่าที่เคย
ฉันคิดว่า ในแง่ของสิ่งที่เราได้รับ พื้นที่การเติบโตขึ้นของโลกนั้นแทบจะจินตนาการไม่ถึง
คำถาม: นี่คือมุมมองในอนาคตที่เป็นบวกที่สุด แล้วอนาคตที่เป็นลบมากที่สุดที่คุณจินตนาการได้คืออะไร?
เกรก: จุดที่น่าสนใจมากเกี่ยวกับการพัฒนาของเทคโนโลยีจนถึงตอนนี้คือ มันแท้จริงแล้วทำให้เราต้องบิดเบี้ยวตัวเองเพื่อให้เข้ากับเครื่องจักร
คิดดูสิว่ามีกี่คนที่ต้องทำงานโดยเผชิญกับกล่องนี้ พิมพ์คีย์บอร์ด แล้วเป็นโรคข้อมือ ไหล่ค่อม แต่นี่ไม่ใช่สิ่งที่เราต้องการ โลกที่เราต้องการก้าวไปคือโลกที่ไม่ใช่แค่คุณใช้คอมพิวเตอร์ทำงาน แต่คอมพิวเตอร์ของคุณทำงานเพื่อคุณ
สิ่งนี้นำมาซึ่งโอกาสและเสี่ยง ดังนั้นเราจึงต้องหาวิธีลดความเสี่ยงเหล่านี้
ในที่สุด ปัญหาหลักคือ: หากคุณมีเครื่องจักรช่วยให้ผู้คนบรรลุเป้าหมายของพวกเขา โดยเครื่องจักรเหล่านั้นทำสิ่งที่คุณต้องการ แต่บางครั้งเป้าหมายของผู้คนขัดแย้งกัน คุณจะแก้ไขอย่างไร? คุณจะตัดสินใจว่า AI จะช่วยคุณในเรื่องอะไร และจะไม่ช่วยในเรื่องอะไรอย่างไร? คุณจะพยายามทำความเข้าใจว่าสิ่งนี้จะรวมเข้ากับสังคมได้อย่างไร? และจะรับประกันได้อย่างไรว่าผลประโยชน์จะไม่ไหลไปยังบริษัทเดียวหรือกลุ่มคนหนึ่งกลุ่มเดียว แต่จะยกระดับทุกคนอย่างแท้จริง?
เราต้องยอมรับว่ายังมีวิธีการผิดพลาดหรือความเสี่ยงอีกมากมายที่เราต้องแก้ไข
คำถามสุดท้าย: สำหรับคุณ ความสำเร็จคืออะไร?
เกรก: บรรลุภารกิจของ OpenAI เพื่อให้แน่ใจว่า AGI จะเป็นประโยชน์ต่อทุกคนบนโลก
ลิงก์อ้างอิง: [1] https://x.com/shaneparrish/status/2046900710055297072 [2] https://youtu.be/6JoUcQ1qmAc
บทความนี้มาจาก微信号 “Quantum Bit” โดยผู้เขียน: ติดตามเทคโนโลยีชั้นนำ