ผู้ก่อตั้ง DeepMind ทำนายว่า AGI จะเกิดขึ้นภายใน 5 ปี และเรียกผลกระทบของ AI ว่าใหญ่กว่าการปฏิวัติอุตสาหกรรม 10 เท่า

智东西 8 เมษายนรายงานว่า สัมภาษณ์ครึ่งชั่วโมงล่าสุดของเดมิส ฮัสซาบิส ผู้ก่อตั้ง DeepMind ได้เผยแพร่แล้ว

ในการสัมภาษณ์ ฮัสซาบิสระบุว่า ความเป็นไปได้ที่จะบรรลุ AGI ภายในห้าปีข้างหน้ามีสูงมาก เขายังเปิดเผยว่า ความก้าวหน้าเชิงปฏิวัติประมาณ 90% ที่ขับเคลื่อนอุตสาหกรรม AI สมัยใหม่ในช่วงสิบหรือแม้แต่สิบห้าปีที่ผ่านมา ล้วนเกิดขึ้นจากทีม Google Brain, Google Research หรือ DeepMind เขาแสดงความมั่นใจอย่างมากว่า: “หากยังมีการค้นพบสำคัญที่ขาดหายไปในอนาคต เราเองก็มีความสามารถในการสร้างมันขึ้นมา”

ในด้านการพาณิชย์ความสามารถของโมเดล เดมิส ฮัสซาบิส เชื่อว่าช่องว่างระหว่างห้องปฏิบัติการชั้นนำในปัจจุบันกำลังเริ่มขยายตัวขึ้น และการดึงผลประโยชน์จากความคิดเดียวกันจะยิ่งยากขึ้นเรื่อยๆ ดังนั้น ห้องปฏิบัติการที่มีความสามารถในการคิดค้นแนวคิดอัลกอริทึมใหม่ๆ จะได้รับข้อได้เปรียบที่ใหญ่ขึ้นในอีกไม่กี่ปีข้างหน้า เนื่องจากความคิดในยุคก่อนหน้าได้ถูก “บีบออกมาจนหมด” แล้ว

ในวิดีโอ เดมิส ฮัสซาบิส ได้พูดคุยอย่างลึกซึ้งกับพิธีกรแฮร์รี สตีบบิงส์ เกี่ยวกับหัวข้อหลักต่างๆ เช่น เวลาที่จะบรรลุ AGI และอุปสรรคทางเทคโนโลยี การแปรรูปโมเดล อนาคตแบบเปิดแหล่งที่มา ยุคหลังโมเดลภาษาขนาดใหญ่ และ AI สามารถแก้ปัญหาการวิจัยและพัฒนายาได้จริงหรือไม่ โดยแบ่งปันเหตุผลเบื้องหลังความก้าวหน้าของ DeepMind และแผนการในอนาคต รวมถึงความรู้สึกครั้งแรกที่ได้พบกับมัสก์

ประเด็นหลักที่เปิดเผยในการสัมภาษณ์มีดังนี้:

1. ความเป็นไปได้ที่จะบรรลุ AGI ภายในห้าปีข้างหน้าสูงมาก โดยพลังการประมวลผลเป็นข้อจำกัดหลัก

2. ในสถานการณ์ที่มีการปรับขนาด ผลตอบแทนจากการลงทุนด้านพลังงานการคำนวณลดลงแต่ยังคงน่าพึงพอใจ

3. ความสามารถในการเรียนรู้อย่างต่อเนื่องเป็นจุดอ่อนที่ใหญ่ที่สุดของ AI ในปัจจุบัน นอกจากนี้ AI แสดงประสิทธิภาพยอดเยี่ยมเมื่อถามคำถามเฉพาะในรูปแบบเฉพาะ แต่หากคุณเปลี่ยนวิธีตั้งคำถาม พวกมันอาจล้มเหลวแม้แต่ในเรื่องพื้นฐานๆ Demis Hassabis เรียกปรากฏการณ์นี้ว่า สติที่ไม่สม่ำเสมอ (Jagged Intelligence)

4. AGI จะกลายเป็นเครื่องมือที่ทรงพลังที่สุดในด้านวิทยาศาสตร์และแพทยศาสตร์ และประมาณห้าปีต่อมา เราจะก้าวเข้าสู่ยุคทองของการค้นพบทางวิทยาศาสตร์

5. การกำกับดูแล AI ในอนาคตควรกำหนดมาตรฐานขั้นต่ำหนึ่งชุดและเกณฑ์หลายข้อ เพื่อทดสอบคุณลักษณะที่ไม่พึงประสงค์ของระบบ

6. เมื่อปัญหาทางเทคนิคและเศรษฐกิจของ AI ได้รับการจัดการแล้ว สิ่งที่เหลืออยู่ก็คือปัญหาเชิงปรัชญา

นี่คือการสรุปเนื้อหาหลักของการสัมภาษณ์:

ผู้ดำเนินรายการ: คุณเข้าใจ AGI ว่าคืออะไรในวันนี้? นี่สามารถเป็นจุดเริ่มต้นของการอภิปรายของเรา

เดมิส ฮัสซาบิส: เราได้กำหนดนิยามนี้อย่างสอดคล้องกันมาโดยตลอด: AGI คือระบบที่มีความสามารถทางปัญญาทั้งหมดที่มนุษย์มี เหตุผลที่เราใช้มาตรฐานนี้คือเพราะสมองมนุษย์เป็นตัวอย่างเดียวที่เราทราบในจักรวาลจนถึงปัจจุบันว่าพิสูจน์การมีอยู่ของปัญญาทั่วไป ดังนั้นสำหรับผม นี่คือเกณฑ์ที่ AGI ต้องบรรลุ

ผู้ดำเนินรายการ: เราอยู่ห่างจาก AGI อีกเท่าใด? ผู้เชี่ยวชาญในอุตสาหกรรมมีความเห็นแตกต่างกันไป บางคนคาดการณ์ว่าอาจเกิดขึ้นได้เร็วที่สุดในปี 2026 หรือ 2027 คุณคิดอย่างไร?

เดมิส ฮัสซาบิส: ความเป็นไปได้ที่จะบรรลุ AGI ภายในห้าปีข้างหน้าสูงมาก

ผู้ดำเนินรายการ: ใกล้กว่าที่คุณคิดไว้เดิมหรือไม่? ความเห็นของคุณเปลี่ยนไปตามเวลาหรือไม่?

เดมิส ฮัสซาบิส: แท้จริงแล้วไม่ใช่เลย หุ้นส่วนร่วมก่อตั้งและนักวิทยาศาสตร์หัวหน้าของ DeepMind ชีน เล็ก ได้คาดการณ์มาตั้งแต่ปี 2010 ตั้งแต่เราเพิ่งก่อตั้งบริษัท โดยมักเขียนบล็อกเกี่ยวกับการคาดการณ์ว่า AGI จะมาถึงเมื่อใด ต้องเข้าใจว่าในปีนั้นแทบไม่มีใครให้ความสำคัญกับ AI ทุกคนคิดว่ามันเป็นทางตัน บล็อกเหล่านั้นก็ไม่มีใครอ่านมากนัก แต่ตอนนี้ยังคงอยู่บนอินเทอร์เน็ต และทุกคนสามารถเข้าถึงได้ เราได้พยากรณ์โดยอิงจากการพัฒนาของพลังการคำนวณและอัลกอริทึม โดยคาดการณ์ว่าจะใช้เวลาประมาณ 20 ปีนับตั้งแต่เริ่มต้น ตอนนี้ดูเหมือนว่าเราดำเนินไปตามแผนอย่างสมบูรณ์

ผู้ดำเนินรายการ: ดังนั้นจากจุดนี้ในวันนี้ อุปสรรคทางเทคนิคที่ใหญ่ที่สุดคืออะไร?

เดมิส ฮัสซาบิส: ฉันคิดว่าพลังการประมวลผลคืออุปสรรคที่ใหญ่ที่สุด ไม่ใช่แค่เพราะ “กฎการขยายขนาด”: คุณต้องสร้างสถาปัตยกรรมที่ใหญ่ขึ้นเรื่อยๆ และรองรับพารามิเตอร์จำนวนมากขึ้น เพื่อให้ได้ระบบอัจฉริยะมากขึ้น อีกจุดที่ต้องใช้พลังการประมวลผลอย่างมากคือการทดลอง คอมพิวเตอร์และคลาวด์คือโต๊ะทำงานของเรา หากคุณมีแนวคิดใหม่และต้องการทดสอบมัน คุณต้องตรวจสอบมันในขนาดที่เหมาะสม ดังนั้น หากคุณมีนักวิจัยจำนวนมากและแนวคิดใหม่ๆ มากมาย คุณจะต้องการพลังการประมวลผลที่มหาศาล

ผู้ดำเนินรายการ: คุณเพิ่งพูดถึง “กฎหมายการขยายขนาด” ตอนนี้หลายคนเชื่อว่าเรากำลังเข้าใกล้ขีดจำกัดของกฎหมายการขยายขนาด และการปรับปรุงประสิทธิภาพเริ่มแสดงผลแบบระนาบ คุณเห็นด้วยไหม?

เดมิส ฮัสซาบิส: ไม่ครับ ผมไม่คิดอย่างนั้น ผม认为ความเป็นจริงซับซ้อนกว่านั้นมาก แน่นอนว่าเมื่อบริษัทชั้นนำต่างๆ เริ่มสร้างโมเดลภาษาขนาดใหญ่ ระบบใหม่แต่ละรุ่นก็带来了巨大的性能跃升。这种指数级增长到了某个点必然会放缓。但这并不意味着进一步扩展现有系统就没有很好的回报。我们以及其他前沿实验室从算力扩展中仍然获得了非常可观的回报。虽然显然比早期规模化的时候要少一些，但依然可观。

ผู้ดำเนินรายการ: แล้วในด้านใดบ้างที่เราล้าหลังจากความคาดหวังเริ่มต้นของคุณ?

เดมิส ฮัสซาบิส: พูดตามความจริงแล้ว ในหลายด้าน เราอยู่หน้ากว่าที่ฉันคาดไว้ คุณสามารถดูตัวอย่างเช่น โมเดลการสร้างวิดีโอ หรือแม้แต่ระบบล่าสุดของเราอย่าง Genie ซึ่งเป็นโมเดลโลกแบบโต้ตอบ หากมีใครแสดงสิ่งเหล่านี้ให้ฉันดูเมื่อห้าหรือสิบปีก่อน ฉันจะรู้สึกประหลาดใจมาก ดังนั้น ในหลายด้าน เราอยู่หน้ากว่าที่คาดการณ์ไว้ในช่วงเริ่มต้นของสาขา này แต่ยังคงมีช่องว่างใหญ่อยู่บางประการ เช่น “การเรียนรู้อย่างต่อเนื่อง” ซึ่งหมายถึงระบบปัจจุบันหลังจากฝึกเสร็จและนำไปใช้งานในโลกแห่งความเป็นจริงแล้ว จะไม่เรียนรู้สิ่งใหม่ๆ อีก

ผู้ดำเนินรายการ: ตอนนี้เมื่อฉันวิจัยและเตรียมโปรแกรมใหม่ๆ DeepMind กลายเป็นตัวเลือกอันดับหนึ่งของฉัน แต่เมื่อสองหรือสามปีก่อน สถานการณ์ไม่ได้เป็นเช่นนั้น คุณคิดว่าอะไรเป็นแรงผลักดันให้ DeepMind เติบโตและก้าวหน้าอย่างรวดเร็วเช่นนี้?

เดมิส ฮัสซาบิส: เราได้ทำการปรับโครงสร้างองค์กรบางส่วน ที่จริงแล้ว Google และ DeepMind ตลอดมาได้ครอบครองทรัพยากรการวิจัยที่ลึกและกว้างที่สุดในอุตสาหกรรม หากย้อนกลับไปในช่วงสิบหรือสิบห้าปีที่ผ่านมา ประมาณ 90% ของความก้าวหน้าที่ขับเคลื่อนอุตสาหกรรม AI สมัยใหม่ ล้วนเกิดจาก Google Brain, Google Research หรือ DeepMind เช่น AlphaGo, การเรียนรู้แบบเสริมแรง และแน่นอนโครงสร้าง Transformer ล้วนเป็นจุดเปลี่ยนสำคัญ

ดังนั้น ฉันเชื่อว่าหากในอนาคตยังมีการพัฒนาที่สำคัญที่ยังขาดหายอยู่ เราก็มีศักยภาพในการสร้างมันขึ้นมา เราได้รวมเอาบุคลากรชั้นยอดทั้งหมดในบริษัทมาร่วมกันทำงานเพื่อเป้าหมายเดียวกัน นอกจากนี้ เรายังรวมทรัพยากรการคำนวณทั้งหมดเพื่อสร้างโมเดลที่ใหญ่ที่สุด แทนที่จะพัฒนาเวอร์ชันต่างๆ สองหรือสามเวอร์ชันแบบขนานกันภายในบริษัท ดังนั้น ฉันคิดว่าในระดับใหญ่ เราได้ประกอบส่วนประกอบทั้งหมดที่เรามีอยู่แล้วเข้าด้วยกัน โดยมีความมุ่งมั่นและความเร็วเหมือนบริษัทสตาร์ทอัพ เพื่อกลับมาอยู่บนจุดสูงสุดของเทคโนโลยีและรักษาความได้เปรียบในหลายด้าน

ผู้ดำเนินรายการ: คุณกล่าวว่าหากมีใครสักคนจะก้าวข้ามขีดจำกัดจริงๆ ก็ควรจะเป็น DeepMind แล้วในมุมมองของคุณ การเรียนรู้อย่างต่อเนื่องคือการก้าวข้ามขีดจำกัดที่คุณรอคอยที่สุดใช่ไหม?

เดมิส ฮัสซาบิส: ฉันคิดว่ายังมีสิ่งที่ขาดหายอยู่อีกมาก การเรียนรู้อย่างต่อเนื่องเป็นหนึ่งในนั้น นอกจากนี้ การศึกษาเกี่ยวกับระบบความจำที่แตกต่างกันยังมีศักยภาพอีกมาก ปัจจุบันเราพึ่งพาหน้าต่างบริบทยาวๆ เพื่อใส่ข้อมูลทั้งหมดเข้าไป ซึ่งดูเหมือนเป็นวิธีแบบ “ใช้กำลัง” ฉันคิดว่ายังมีสถาปัตยกรรมที่น่าสนใจอีกมากมายที่สามารถสร้างขึ้นได้ในด้านนี้ เช่น การวางแผนระยะยาว การวางแผนแบบชั้นวาง ระบบปัจจุบันไม่เก่งในการจัดการกับการวางแผนที่ครอบคลุมช่วงเวลาที่ยาวนาน เช่น เหตุการณ์ในอนาคตอีกหลายปีข้างหน้า แต่จิตใจของมนุษย์สามารถทำได้ ดังนั้นยังมีปัญหาอีกมากมายที่ต้องแก้ไข อาจเป็นปัญหาที่ใหญ่ที่สุดคือ ระบบเหล่านี้แสดงประสิทธิภาพยอดเยี่ยมเมื่อถูกถามคำถามเฉพาะในรูปแบบเฉพาะ แต่ถ้าคุณเปลี่ยนวิธีตั้งคำถาม พวกมันอาจล้มเหลวแม้แต่ในเรื่องพื้นฐานๆ ปัญญาทั่วไปไม่ควรเป็นเช่นนี้ ฉันเรียกสิ่งนี้ว่า “ปัญญาแบบฟันเลื่อย” (Jagged Intelligence)

ผู้ดำเนินรายการ: ขณะนี้มีหลายคนในอุตสาหกรรมกำลังอภิปรายเกี่ยวกับ “การพาณิชย์ hóa” ความสามารถของโมเดล คุณคิดว่าเราจะเห็นสถานการณ์เช่นนั้นหรือไม่? หรือว่าจะมีห้องปฏิบัติการเพียงไม่กี่แห่งที่เร่งความเร็วอย่างต่อเนื่องและทิ้งคู่แข่งคนอื่นๆ ไว้ข้างหลัง?

เดมิส ฮัสซาบิส: ฉันคิดว่าตอนนี้มีห้องปฏิบัติการชั้นนำสามถึงสี่แห่ง—เราเป็นหนึ่งในนั้น—และช่องว่างระหว่างแต่ละแห่งเริ่มขยายตัวขึ้น เนื่องจากเครื่องมือต่างๆ ที่มีอยู่แล้ว (เช่น เครื่องมือเขียนโค้ด เครื่องมือทางคณิตศาสตร์) จะช่วยสร้างระบบรุ่นถัดไป และฉันคิดว่าการดึงผลประโยชน์จากแนวคิดเดิมๆ แบบเดิมๆ จะยิ่งยากขึ้นเรื่อยๆ ดังนั้น ห้องปฏิบัติการที่สามารถคิดค้นแนวคิดอัลกอริทึมใหม่ๆ อย่างแท้จริง จะได้เปรียบอย่างมากในอีกไม่กี่ปีข้างหน้า เพราะแนวคิดในยุคก่อนหน้าถูก “บีบออก” จนหมดแล้ว

ผู้ดำเนินรายการ: คำถามถัดไปของฉันคือ ตลอดหลายปีที่ผ่านมา คุณได้เปิดเผยงานวิจัยจำนวนมากของ DeepMind และเรายังได้เห็นโมเดลโอเพนซอร์สคุณภาพสูงหลายตัว คุณมองอนาคตของการเปิดซอร์สอย่างไร?

เดมิส ฮัสซาบิส: ฉันคิดว่า มันน่าจะคล้ายกับสิ่งที่เราเห็นอยู่ในตอนนี้ เราเป็นผู้สนับสนุนที่มั่นคงต่อวิทยาศาสตร์แบบเปิดและการเปิดรหัสแหล่งที่มาของโมเดล ตั้งแต่ Transformer รุ่นแรกจนถึง AlphaFold เราได้ทำงานมากมายเพื่อแบ่งปันผลลัพธ์เหล่านี้ให้กับทั่วโลก เพื่อช่วยชุมชนการวิจัย เราวางแผนที่จะดำเนินการต่อไป โดยเฉพาะในด้านการประยุกต์ใช้งาน เช่น การนำ AI ไปใช้ในวิทยาศาสตร์ ซึ่งแน่นอนว่าเป็นสิ่งที่ฉันมีความหลงใหลส่วนตัว แต่ฉันก็เชื่อว่า คุณจะเห็นมากขึ้นเรื่อยๆ ว่า โมเดลแบบเปิดรหัสแหล่งที่มาอาจตามหลังโมเดลชั้นนำอยู่เล็กน้อย โดยทั่วไป ชุมชนแบบเปิดรหัสแหล่งที่มาต้องใช้เวลาประมาณหกเดือนในการนำแนวคิดใหม่ๆ เหล่านั้นมาสร้างใหม่และเข้าใจ อย่างไรก็ตาม เราได้ผลักดันอย่างแข็งขันชุดโมเดลแบบเปิดรหัสแหล่งที่มาที่ชื่อ Gemma โดยมีจุดมุ่งหมายให้พวกมันเป็นเลิศในระดับของตนเอง สำหรับนักพัฒนาขนาดเล็ก นักวิชาการ หรือสตาร์ทอัพที่เพิ่งเริ่มต้น พวกมันจึงเป็นทางเลือกที่เหมาะอย่างยิ่ง และยังเหมาะสำหรับการคำนวณแบบขอบ เราจึงมีความเชื่อมั่นอย่างมากต่อโมเดลแบบเปิดรหัสแหล่งที่มาในบางประเภทของการประยุกต์ใช้งาน

ผู้ดำเนินรายการ: ต่อไปนี้อยากขอความเห็นจากคุณเกี่ยวกับโลกหลังจากโมเดลภาษาขนาดใหญ่? นักวิชาการต่างมีมุมมองที่แตกต่างกันอย่างมาก เช่น ยัง ลิคุน มีมุมมองที่ต่างออกไปอย่างชัดเจน

เดมิส ฮัสซาบิส: พูดอย่างตรงไปตรงมา ฉันไม่เห็นด้วยกับยัง ลิ่งกวนในบางประเด็น ฉันคิดว่ายังมีโอกาสประมาณ 50% ที่ยังมีองค์ประกอบสำคัญบางอย่างที่ยังขาดหายไป และเรายังต้องก้าวหน้าในด้านต่างๆ เช่น โมเดลโลก แต่สิ่งหนึ่งที่ฉันเชื่อมั่นอย่างมากคือ โมเดลพื้นฐานได้พิสูจน์ความสำเร็จอันยิ่งใหญ่ของมันแล้ว พวกมันสามารถทำภารกิจที่น่าประทับใจอย่างมาก และฉันไม่เชื่อว่าความสามารถนี้จะหายไป เรายังคงได้รับผลตอบแทนอย่างต่อเนื่องจากกฎการขยายขนาด ดังนั้น คำถามที่แท้จริงคือ: เมื่อเราพิจารณาถึงระบบ AGI ในอนาคต โมเดล LLM (โมเดลภาษาขนาดใหญ่) เป็นองค์ประกอบหลักเพียงอย่างเดียว หรือเป็นเพียงส่วนหนึ่งของระบบโดยรวม? ความเห็นของฉันคือ มันจะไม่ถูกแทนที่ แต่จะกลายเป็นรากฐานสำหรับการสร้างชั้นบน เช่นเดียวกับที่เราทำกับโมเดลโลก

ผู้ดำเนินรายการ: ตามที่คุณกล่าวไว้ AGI อาจเกิดขึ้นในช่วงเวลานั้น ดังนั้นเมื่อเรามองไปข้างหน้าสู่อีกห้าปีข้างหน้า โลกในเวลานั้นจะเป็นอย่างไร? หลายคนแสดงความกังวลจากมุมมองต่างๆ ลองเริ่มจากด้านบวกกันก่อน ในมุมมองของคุณ โลกในเวลานั้นจะเป็นอย่างไร?

เดมิส ฮัสซาบิส: ผมคิดว่าด้านบวกคือแรงจูงใจหลักที่ทำให้ผมทุ่มเททั้งชีวิตอาชีพเพื่อสร้าง AGI มันจะกลายเป็นเครื่องมือที่ทรงพลังที่สุดสำหรับสาขาวิทยาศาสตร์และการแพทย์ เราจำเป็นต้องมีเทคโนโลยีเช่นนี้เพื่อผลักดันการค้นพบทางวิทยาศาสตร์และค้นหาวิธีรักษาโรค ดังนั้นผมจึงหวังว่าหลังจากอีกห้าปีข้างหน้า เราจะก้าวเข้าสู่ยุคทองของการค้นพบทางวิทยาศาสตร์

ฉันคิดว่าเราใกล้จะถึงเป้าหมายนั้นแล้ว ในขั้นแรก หลังจากเสร็จสิ้นโครงการ AlphaFold สำหรับการพับโปรตีน เราได้แยกตัวเป็นบริษัทใหม่ชื่อ Isomorphic Labs ซึ่งขณะนี้กำลังเติบโตอย่างดี แนวคิดหลักของมันคือ การมุ่งเน้นไปที่การแก้ไขขั้นตอนที่เหลือในกระบวนการค้นพบยา รวมถึงงานทางเคมีจำนวนมาก การออกแบบสารประกอบ การตรวจสอบพิษ และการประเมินคุณสมบัติต่างๆ ที่จำเป็นสำหรับความปลอดภัยของยา เราคาดว่าภายในห้าถึงสิบปีข้างหน้า เครื่องจักรการออกแบบยาทั้งหมดจะพร้อมใช้งาน

ขั้นตอนต่อไปที่เป็นอุปสรรคคือการทดลองทางคลินิก ซึ่งยังคงต้องใช้เวลาอีกหลายปี แต่ฉันเชื่อว่า AI สามารถช่วยได้ เช่น การจำลองบางส่วนของการเผาผลาญในร่างกายมนุษย์ และการจัดกลุ่มผู้ป่วยอย่างแม่นยำ เพื่อให้แน่ใจว่าผู้ป่วยเฉพาะรายจะได้รับยาที่เหมาะสมที่สุดกับโครงสร้างจีโนมของพวกเขา ดังนั้น AI จึงมีคุณค่าในด้านนี้เช่นกัน แต่ฉันคิดว่าการปฏิวัติที่แท้จริงจะเกิดขึ้นเมื่อยาที่ถูกออกแบบโดย AI จำนวนสิบกว่ายาประสบความสำเร็จผ่านกระบวนการทั้งหมด ณ จุดนั้น รัฐบาลและหน่วยงานกำกับดูแลจะเห็นผลลัพธ์เหล่านี้และมีข้อมูลเพียงพอในการตรวจสอบย้อนกลับการคาดการณ์ของโมเดล อาจอีกสิบปีข้างหน้า เราจะสามารถไว้วางใจการคาดการณ์ของโมเดลเหล่านี้ได้อย่างแท้จริง และข้ามขั้นตอนบางอย่างไปได้ เช่น ไม่จำเป็นต้องทดลองบนสัตว์ หรือเพิ่มปริมาณยาได้เร็วขึ้น เพราะความน่าเชื่อถือของโมเดลได้รับการยืนยันแล้ว ดังนั้น ฉันคิดว่าเราต้องดำเนินการเป็นสองขั้นตอน: ก่อนอื่นแก้ไขปัญหาการออกแบบยา จากนั้นจึงแก้ไขปัญหาเรื่องเวลาในกระบวนการกำกับดูแล

ผู้ดำเนินรายการ: เมื่อพูดถึงการกำกับดูแล AI ความปลอดภัยของ AI แน่นอนว่าเป็นหัวข้อใหญ่และก่อให้เกิดความกังวลอย่างกว้างขวาง ฉันจำได้ว่าสตีเฟน ฮอว์กิงเคยพูดไว้ว่า: “เราต้องทำสิ่งนี้ให้ถูกต้อง เพราะเราอาจไม่มีโอกาสที่สอง” คุณเห็นด้วยกับความเห็นของเขาไหม

เดมิส ฮัสซาบิส: ผมเห็นด้วยอย่างยิ่ง ผมคิดว่านี่คือความเสี่ยงที่เรากำลังเผชิญอยู่ ฉันกังวลหลักๆ สองเรื่อง: แรกคือ ผู้กระทำผิดอาจใช้ระบบเหล่านี้ในทางที่ผิด สองคือ ปัญหาด้านเทคนิค: อีกหนึ่งหรือสองปีข้างหน้า เมื่อระบบเหล่านี้มีร่างกายมากขึ้นและเป็นอิสระมากขึ้น หรือเมื่อเราค่อยๆ ก้าวสู่ AGI เราจะสามารถรักษาพวกมันให้อยู่บนเส้นทางความปลอดภัยที่คาดหวังได้อย่างไร ผมเชื่อว่าการกำกับดูแลที่เหมาะสมจะช่วยให้มั่นใจว่าผู้ให้บริการชั้นนำทุกรายจะต้องปฏิบัติตามมาตรฐานความปลอดภัยขั้นต่ำอย่างน้อยที่สุด แต่ในอุดมคติ นี่จำเป็นต้องมีมาตรฐานสากลที่เป็นเอกภาพ

ผู้ดำเนินรายการ: แล้วการกำกับดูแลแบบไหนจึงจะถือว่า “เหมาะสม”? โดยอ้างถึงคำพูดของคุณในสารคดี คุณกล่าวว่า “เราต้องการความร่วมมือระดับโลกที่มากขึ้น” ซึ่งทำให้ผมรู้สึกกังวล เพราะในความเป็นจริง เราทำได้แย่ลงเรื่อยๆ เกี่ยวกับความร่วมมือระดับโลก

เดมิส ฮัสซาบิส: ใช่แล้ว เราอยู่ในช่วงเวลาที่พิเศษมากจริงๆ เทคโนโลยีนี้อาจเป็นเทคโนโลยีที่มีอิทธิพลที่สุดเท่าที่มนุษย์เคยมีมา แต่ในขณะเดียวกัน ระบบระหว่างประเทศกลับแยกขาดอย่างรุนแรง ซึ่งแน่นอนว่าไม่ใช่สถานการณ์ที่สมบูรณ์แบบ แต่เรายังคงต้องพยายามอย่างเต็มที่ เพื่อสร้างมาตรฐานขั้นต่ำและเกณฑ์พื้นฐานบางประการสำหรับการทดสอบคุณสมบัติที่ไม่พึงประสงค์ของระบบ เช่น “การหลอกลวง” ไม่ควรมีใครสร้างระบบที่มีความสามารถในการหลอกลวง เพราะจะทำให้ระบบเหล่านั้นสามารถหลีกเลี่ยงมาตรการรักษาความปลอดภัยอื่นๆ ได้ หากทุกอย่างเป็นไปตามแผน เราสามารถสร้างกลไกการรับรองบางอย่างที่คล้ายกับ “ป้ายคุณภาพ” ซึ่งแสดงว่าโมเดลดังกล่าวมีการป้องกันความปลอดภัยและรับประกันประสิทธิภาพเฉพาะเจาะจง ทำให้ผู้บริโภคและบริษัทสามารถสร้างสิ่งต่างๆ บนพื้นฐานนี้ได้อย่างปลอดภัย ผมคิดว่านี่คือทิศทางที่สมบูรณ์แบบ และสิ่งเหล่านี้ต้องเป็นระดับนานาชาติ เพราะระบบเหล่านี้มีลักษณะข้ามพรมแดนและข้ามภูมิภาคโดยธรรมชาติ

ผู้ดำเนินรายการ: แล้วใครจะทำหน้าที่ผู้พิพากษา?

เดมิส ฮัสซาบิส: ฉันคิดว่าหน่วยงานสุดท้ายที่ต้องรับผิดชอบต้องเป็นรัฐบาล แต่หน่วยงานที่สามารถดำเนินงานทางเทคนิคเฉพาะทางได้ อาจเป็นองค์กรเช่นสถาบันความปลอดภัยของปัญญาประดิษฐ์ ประเทศอังกฤษมีสถาบันความปลอดภัยของปัญญาประดิษฐ์ที่ยอดเยี่ยม ซึ่งก่อตั้งขึ้นในสมัยอดีตนายกรัฐมนตรีซูนัค ฉันคิดว่ามันทำงานได้ดีมาก ประเทศสหรัฐอเมริกาก็มีองค์กรที่คล้ายกัน อาจเป็นการดีหากประเทศที่มีความสามารถในการวิจัยชั้นนำควรจัดตั้งองค์กรที่เทียบเท่ากัน โดยมีนักวิจัยคุณภาพสูง สามารถประเมินและตรวจสอบระบบเหล่านี้ตามเกณฑ์เฉพาะ และตรวจสอบอย่างอิสระว่าระบบเหล่านั้นสอดคล้องกับมาตรฐานที่เหมาะสมหรือไม่

ผู้ดำเนินรายการ: หากฉันสามารถให้คุณไม้กายสิทธิ์อันหนึ่งที่ใช้ได้เฉพาะในด้านความปลอดภัยของ AI คุณจะใช้มันเพื่อดำเนินความคิดหรือแผนการใด?

เดมิส ฮัสซาบิส: ฉันคิดว่า เราต้องการองค์กรระหว่างประเทศบางแห่ง ซึ่งอาจคล้ายกับหน่วยงานพลังงานปรมาณูระหว่างประเทศ สถาบันวิจัยด้านความปลอดภัยของปัญญาประดิษฐ์ของแต่ละประเทศสามารถให้ข้อมูลเข้าไป ขณะที่ชุมชนการวิจัยก็ต้องมีส่วนร่วมร่วมกันในการกำหนดว่ามาตรฐานใดที่เหมาะสม และต้องตรวจสอบคุณลักษณะและความสามารถใดบ้าง

นอกจากนี้ อาจมีมาตรการด้านความปลอดภัยอื่นๆ อีก เช่น ระบบ AI ไม่ควรได้รับอนุญาตให้ส่งออกสัญลักษณ์ที่มนุษย์อ่านไม่ได้ เช่น ภาษาเครื่องที่เราไม่สามารถเข้าใจได้ ฉันเชื่อว่านั่นจะสร้างช่องโหว่ด้านความปลอดภัยใหม่ จากนั้น องค์กรระหว่างประเทศเหล่านี้จะทำการทดสอบเรื่องดังกล่าว ฉันเชื่อว่า สิ่งนี้จะสร้างความมั่นใจให้แก่สาธารณชน และยังอนุญาตให้ชุมชนวิชาการและสังคมพลเมืองมีส่วนร่วม เพื่อให้มั่นใจว่าระบบที่จะกลายเป็นทรงพลังอย่างยิ่งจะได้รับการตรวจสอบอย่างเป็นอิสระ

ผู้ดำเนินรายการ: เมื่อคุณเห็นศักยภาพที่แท้จริงของระบบเหล่านี้ คุณคิดอย่างไรเกี่ยวกับปัญหาการแทนที่แรงงาน? นี่หมายความว่าอย่างไรต่อตลาดแรงงาน?

เดมิส ฮัสซาบิส: ไม่มีข้อสงสัยเลยว่า ทุกเทคโนโลยีใหม่ที่ก่อให้เกิดการปฏิวัติในประวัติศาสตร์ ล้วนก่อให้เกิดการเปลี่ยนแปลงอย่างมากต่อตำแหน่งงานต่างๆ นี่เป็นสิ่งที่แน่นอน และฉันคิดว่าครั้งนี้ก็ไม่แตกต่างกัน ตำแหน่งงานจำนวนมากจะหายไป หรือไม่สามารถดำเนินการได้ทางเศรษฐกิจอีกต่อไป แต่ประวัติศาสตร์ยังบอกเราอีกว่า ตามมาด้วยการเกิดขึ้นของอาชีพใหม่ๆ ทั้งชุด ซึ่งก่อนหน้านี้ไม่เคยจินตนาการได้ และมักเป็นอาชีพที่มีคุณภาพสูงและมีรายได้สูง นี่คือกระบวนการวิวัฒนาการตามปกติ แน่นอนว่าเราต้องพิจารณาอย่างรอบคอบว่า “ครั้งนี้แตกต่างจริงหรือไม่” คนอย่างมาร์ค แอนเดอร์สสันเชื่อว่า ครั้งนี้ไม่แตกต่างจากความก้าวหน้าครั้งใหญ่ในอดีต เช่น อินเทอร์เน็ตหรือการสื่อสารแบบมือถือ แต่ฉันเชื่อจริงๆ ว่าผลกระทบครั้งนี้จะใหญ่กว่าการปฏิวัติทางเทคโนโลยีใดๆ ที่ผ่านมา โดยมีขนาดเท่ากับการปฏิวัติอุตสาหกรรมสิบเท่า และมีความเร็วเร็วกว่าการปฏิวัติอุตสาหกรรมสิบเท่าเช่นกัน กล่าวคือ มันจะเกิดขึ้นภายในสิบปี ไม่ใช่หนึ่งศตวรรษ ฉันได้อ่านหนังสือหลายเล่มเกี่ยวกับการปฏิวัติอุตสาหกรรม ซึ่งนำมาซึ่งความวุ่นวายอย่างมาก แต่ก็สร้างความก้าวหน้าอย่างยิ่งใหญ่เช่นกัน แต่ในอุดมคติ เราควรจัดการลดผลกระทบเชิงลบเหล่านี้ให้ดีกว่าช่วงการปฏิวัติอุตสาหกรรม

ผู้ดำเนินรายการ: มีคนบอกฉันว่า เรามักจะประเมินสิ่งที่สามารถทำได้ในหนึ่งปีสูงเกินไป แต่ประเมินสิ่งที่สามารถทำได้ในสิบปีต่ำเกินไป การตัดสินนี้ยังคงใช้ได้ที่นี่หรือไม่? หรือว่าการพัฒนาเทคโนโลยีจริงๆ แล้วเร็วกว่าที่เราคิด?

เดมิส ฮัสซาบิส: ไม่ ฉันคิดว่าการตัดสินนี้ยังคงใช้ได้ ฉันหมายความว่า อาจเป็นไปได้ว่าช่วงเวลาสั้นและยาวกว่าเทคโนโลยีอื่นๆ อยู่ใกล้กว่า แต่ฉันเชื่อว่าในแง่ของวันนี้และอีกหนึ่งปีข้างหน้า สาขา AI ได้รับการ炒作เกินไปแล้ว และในบางมุม ไม่มีพื้นที่สำหรับการ炒作เพิ่มเติมแล้ว แต่น่าสนใจคือ ในอีกด้านหนึ่ง ฉันคิดว่าในช่วงเวลาประมาณสิบปี ความเป็นปฏิวัติของมันยังถูกประเมินต่ำเกินไป เราสามารถเรียกมันว่าระยะยาว แม้ในโลกของ AI วันนี้ การแบ่งแยกนี้ยังคงมีอยู่

ผู้ดำเนินรายการ: นอกจากความกังวลเกี่ยวกับตลาดแรงงานแล้ว ยังมีความกังวลเกี่ยวกับความไม่เท่าเทียมกันของรายได้และการรวมตัวของความมั่งคั่งไว้ในมือของผู้เข้าร่วมเพียงไม่กี่ราย ร่วมกับความเห็นของคุณเกี่ยวกับการปฏิวัติอุตสาหกรรม คุณคิดว่าสถานการณ์นี้จะพัฒนาไปในทิศทางใด?

เดมิส ฮัสซาบิส: ฉันคิดว่ามีเส้นทางที่เป็นไปได้หลายทาง เช่น กองทุนบำนาญควรซื้อหุ้นของบริษัท AI ขนาดใหญ่ทั้งหมด เพื่อให้ทุกคนสามารถแบ่งปันผลกำไรได้ บางทีแต่ละประเทศควรจัดตั้งกองทุนความมั่งคั่งของรัฐเพื่อทำสิ่งนี้ นี่คือแนวทางด้านการลงทุน

นอกจากนี้ ฉันคิดว่าเราจำเป็นต้องพิจารณาเพิ่มเติมว่า หากการเพิ่มประสิทธิภาพการผลิตครั้งใหญ่นี้เกิดขึ้นเฉพาะในพื้นที่แคบๆ เราจะจัดสรรใหม่และทำให้ทุกคนได้รับประโยชน์จากมันอย่างไร? ฉันสามารถนึกถึงวิธีต่างๆ เช่น ใช้ผลประโยชน์จากการเพิ่มประสิทธิภาพการผลิตเพิ่มเติมนี้เพื่อจัดหาโครงสร้างพื้นฐานและบริการสาธารณะอื่นๆ ในกรอบเวลาห้าถึงสิบปี เราอาจเห็นการก้าวกระโดดที่น่าอัศจรรย์ เช่น เราอาจแก้ปัญหาฟิวชันนิวเคลียร์ ซึ่งเรากำลังร่วมมือกับ Commonwealth Fusion เพื่อพัฒนาในด้านนี้ ฉันเชื่อว่า AI จะนำเราไปสู่ความเป็นไปได้ใหม่ๆ อย่างยอดเยี่ยม: ตัวนำยิ่งยวดที่ยอดเยี่ยม แบตเตอรี่ที่มีประสิทธิภาพสูงขึ้น และความก้าวหน้าในวิทยาศาสตร์วัสดุ ทั้งหมดนี้จะเปลี่ยนแปลงธรรมชาติของเศรษฐกิจอย่างสิ้นเชิง

ผู้ดำเนินรายการ: แล้วเราจะจัดการกับวิกฤตพลังงานที่เกิดจากปฏิวัติปัญญาประดิษฐ์ได้อย่างไร? ขนาดของความต้องการพลังงานนั้นไม่เคยมีมาก่อน

เดมิส ฮัสซาบิส: ผมคิดว่า ในระยะกลางถึงยาว ปัญญาประดิษฐ์จะสามารถชำระต้นทุนพลังงานของตัวเองได้ แม้แต่เกินกว่านั้นอีก เรากำลังดำเนินโครงการหลายอย่างเพื่อเพิ่มประสิทธิภาพโครงสร้างพื้นฐานที่มีอยู่ เช่น การปรับปรุงเครือข่ายไฟฟ้า ผมเชื่อว่า เราสามารถเพิ่มประสิทธิภาพของเครือข่ายไฟฟ้าแห่งชาติได้ประมาณ 30% ถึง 40% นอกจากนี้ยังมีการจำลองสภาพภูมิอากาศและสภาพอากาศ เราได้พัฒนาระบบจำลองสภาพอากาศที่ดีที่สุดในโลก ซึ่งช่วยระบุจุดที่เกิดผลกระทบอย่างแม่นยำ เพื่อให้สามารถดำเนินการบรรเทาได้ สุดท้าย อาจเป็นเทคโนโลยีก้าวกระโดดอย่างการฟิวชันนิวเคลียร์ แบตเตอรี่รุ่นใหม่ และตัวนำยิ่งยวด ซึ่งปัญญาประดิษฐ์มีความสำคัญอย่างยิ่งในการช่วยให้เราบรรลุเป้าหมายเหล่านี้ เมื่อนั้น มนุษยชาติจะก้าวเข้าสู่โครงสร้างพลังงานใหม่ที่ไม่เคยมีมาก่อน ซึ่งแน่นอนว่าจะช่วยแก้ไขปัญหาสภาพภูมิอากาศและสิ่งแวดล้อม และในที่สุดจะช่วยให้เราสามารถเดินทางสู่อวกาศด้วยต้นทุนที่ต่ำกว่า เพราะหากคุณมีพลังงานอันน่าอัศจรรย์อย่างการฟิวชันนิวเคลียร์ คุณก็จะมีเชื้อเพลิงจรวดไม่จำกัด เพียงแค่กลั่นและเร่งปฏิกิริยาจากน้ำทะเล

ผู้ดำเนินรายการ: ผมจะหยิบไม้กายสิทธิ์อันเวทมนตร์นั้นออกมาอีกครั้ง คุณจะทำอย่างไรเพื่อพัฒนาความคิดแบบเติบโต ความคิดที่สามารถสร้างบริษัทมูลค่าล้านล้านดอลลาร์สหรัฐที่เรายังไม่มีอยู่ในวันนี้?

เดมิส ฮัสซาบิส: เราเชี่ยวชาญในการสร้างไอเดียสตาร์ทอัพและผลักดันมันไปถึงระดับหนึ่ง เหมือนที่เราทำกับ DeepMind แต่ถ้าคุณต้องการข้ามช่องว่างนั้นจริงๆ และกลายเป็นผู้เล่นระดับโลกที่มีมูลค่าหลายล้านล้านดอลลาร์ แหล่งที่มาของการระดมทุนหลายพันล้านดอลลาร์จะมาจากไหน? เพื่อให้คุณสามารถท้าทายบริษัทเก่าแก่ที่มีอยู่แล้ว ผมคิดว่าสิ่งนี้ขาดหายไปเมื่อสิบปีก่อนตอนที่ผมระดมทุนให้กับ DeepMind และผมคิดว่าตอนนี้ยังคงขาดหายไปอยู่บ้าง: ระดับของความทะเยอทะยาน และจำนวนเงินที่ตลาดทุนสามารถสนับสนุนได้

ผู้ดำเนินรายการ: เรามาตอบคำถามเร็วๆ กัน รู้สึกยังไงตอนเจอเอลอน มัสก์ครั้งแรก?

เดมิส ฮัสซาบิส: รู้สึกยอดเยี่ยมมาก นั่นคืองานของ Founders Fund ในเวลานั้น SpaceX และ DeepMind อยู่ในพอร์ตการลงทุนเดียวกัน ผมคิดว่าเราทั้งคู่เป็นแขกที่ได้รับเชิญ และนั่นน่าจะเป็นครั้งแรกที่ผมเข้าร่วมการประชุมพอร์ตการลงทุน ซึ่งน่าจะอยู่ช่วงปี 2011 หรือ 2012 เมื่อเรายังเป็นผู้เล่นใหม่ที่ไม่ค่อยมีชื่อเสียง และได้รับเวลาพูดเพียงเล็กน้อย ส่วนมัสก์เป็นตัวหลักของพอร์ตการลงทุนนั้น เขาเป็นผู้กล่าวสุนทรพจน์หลัก ต่อมาเราได้พบกันหลังการประชุม เขาเล่นกับผมว่า เราเคยทักทายกันขณะผ่านกันในห้องน้ำ เราเข้ากันได้ทันที ราวกับเป็นคนที่มีความทะเยอทะยานสูงและหลงรักนิยายวิทยาศาสตร์เหมือนกัน ผมอยากไปเยี่ยมโรงงานจรวดของเขาอย่างมาก จึงพยายามขอคำเชิญไปเยือน SpaceX เมื่อการประชุมสิ้นสุดลง เขาก็ส่งคำเชิญมาจริงๆ การพบกันครั้งที่สองของเราเกิดขึ้นที่โรงงานของ SpaceX ในลอสแอนเจลิส

ผู้ดำเนินรายการ: แล้วการปฏิวัติด้านการแพทย์ที่คุณรอคอยที่สุดคืออะไร?

เดมิส ฮัสซาบิส: 说实话 ผมอยากรักษาโรคมะเร็งให้หายขาดจริงๆ ผมรู้ว่ามันฟังดูเหมือนคำพูดที่ใช้บ่อยเกินไป แต่สิ่งที่เราสร้างขึ้นที่ Isomorphic นั้นเป็นแบบสากล เราพยายามสร้างแพลตฟอร์มการออกแบบยาที่ใช้ได้กับทุกสาขาการรักษา ดังนั้นในอุดมคติ มันจะครอบคลุมทุกอย่างตั้งแต่โรคเสื่อมของระบบประสาท โรคหัวใจและหลอดเลือด ภูมิคุ้มกันไปจนถึงมะเร็ง เหล่านี้คือสิ่งที่เราให้ความสำคัญในขณะนี้ แต่ในที่สุด มันควรจะสามารถนำไปใช้กับทุกโรคได้

ผู้ดำเนินรายการ: มีอะไรบางอย่างที่คุณกำลังคิดอยู่ แต่ยังไม่มีใครอ่านหรือพูดถึงไหม?

เดมิส ฮัสซาบิส: หลายคนกังวลเกี่ยวกับปัญหาทางเศรษฐกิจที่เกิดจาก AGI ที่เราพูดถึงก่อนหน้านี้ แต่สิ่งที่ฉันกังวลอย่างยิ่งคือปัญหาเชิงปรัชญาที่อยู่เบื้องหลังมัน เช่น สมมติว่าเราทำเทคโนโลยีให้ถูกต้องและจัดการกับประเด็นทางเศรษฐกิจได้แล้ว สิ่งที่เหลืออยู่คือปัญหาเชิงปรัชญา: ความหมายคืออะไร? จุดประสงค์คืออะไร? เราจะศึกษาว่าสติคืออะไร และการเป็นมนุษย์หมายถึงอะไร ฉันคิดว่าคำถามเหล่านี้กำลังจะปรากฏขึ้นต่อหน้าเรา เราต้องการนักปรัชญาผู้ยิ่งใหญ่บางคนมาช่วยเราหาทิศทาง

ผู้ดำเนินรายการ: สุดท้ายนี้ มีคำถามที่ค่อนข้างท้าทายอยู่ข้อหนึ่ง มีหลายวิธีในการอธิบายสิ่งที่คุณกำลังทำอยู่ คุณอยากให้ผู้คนจดจำคุณเพราะอะไร? คุณต้องการทิ้งมรดกไว้ในรูปแบบใด?

เดมิส ฮัสซาบิส: ฉันหวังว่ามรดกของฉันจะเป็นการผลักดันความก้าวหน้าทางวิทยาศาสตร์ และสร้างเทคโนโลยีที่นำความสุขใหญ่หลวงมาสู่โลก เช่น การรักษาโรคที่น่ากลัวเหล่านั้น

บทความนี้มาจาก微信号 “Zhixidong” (ID: zhidxcom) ผู้เขียน: Jia Yang แก้ไขโดย: Yun Peng