สัปดาห์นี้ ฉันอ่านหนังสือเรื่อง “If Anyone Builds It, Everyone Dies” และเสร็จสิ้นหลักสูตร “AI Risk Fundamentals” จาก Lens Academy @So8res และ @ESYudkowsky ทำผลงานได้ยอดเยี่ยมกับหนังสือเล่มนี้ เรื่องราวและตัวอย่างต่างๆ ช่วยทำให้หัวข้อที่ยากมากนี้เข้าใจได้ง่ายขึ้นมาก แนวคิดหลักค่อนข้างตรงไปตรงมา: หากเราคงผลักดันไปสู่ AI ที่มีปัญญาเหนือมนุษย์โดยไม่เข้าใจว่าเรากำลังสร้างอะไร เราอาจไม่มีโอกาสที่สองในการแก้ไขมัน ผู้แต่งโต้แย้งว่า AI ที่ก้าวหน้าเพียงพออาจสามารถก่อให้เกิดการสูญพันธุ์ของมนุษยชาติ หมายความว่าเราอาจสุดท้ายสร้างสิ่งที่ทำลายมนุษยชาติเอง ผู้แต่งโต้แย้งว่า นี่ไม่ใช่แค่คลื่นเทคโนโลยีอีกคลื่นหนึ่ง แต่เป็นสิ่งที่ต่างอย่าง fundamentally และการผิดพลาดเล็กน้อยในการสร้างหรือควบคุมระบบเหล่านี้อาจมีผลลัพธ์ที่ไม่สามารถกลับคืนได้ ทางแก้ไขที่พวกเขาเสนอคือหยุดการพัฒนา AI อย่างสมบูรณ์ ฉันพบว่ายากที่จะยอมรับสิ่งนี้ โดยเฉพาะเมื่อพิจารณาถึงผลกระทบเชิงบวกที่ AI กำลังมีต่อชีวิตของเราในขณะนี้ มุมมองของฉัน: เลือกทางสายกลาง เราควรดำเนินการพัฒนา AI ต่อไป แต่จัดสรรทรัพยากรมากขึ้นอย่างมากให้กับความปลอดภัยและการจัดแนวของ AI ระหว่างการอภิปรายในกลุ่ม มีคนกล่าวว่า มีเพียงประมาณ 1 ใน 100 พนักงานในอุตสาหกรรม AI ที่ทำงานด้านความปลอดภัยของ AI หากข้อมูลนี้ใกล้เคียงกับความเป็นจริงแม้เพียงเล็กน้อย ฉันคิดว่าความไม่สมดุลนี้ควรได้รับการพิจารณาอย่างจริงจัง ห้องปฏิบัติการชั้นนำและรัฐบาลควรลงทุนอย่างมากในการทำความเข้าใจว่าระบบเหล่านี้ทำงานอย่างไรและด้านความปลอดภัยของ AI แทนที่จะมองว่าเป็นกล่องดำและแค่ปรับแต่งให้เหมาะสม เรากำลังสร้างระบบที่สามารถทำงานด้วยตนเองมากขึ้นเรื่อยๆ เหตุการณ์ล่าสุดที่เอเจนต์ AI มีปฏิสัมพันธ์กับระบบในโลกจริง เป็นการเตือนว่าปัญหานี้กำลังกลายเป็นเรื่องจริงจังมากขึ้น หลังจากอ่านหนังสือเล่มนี้ ฉันเชื่อมั่นมากขึ้นว่า ความปลอดภัยของ AI ควรได้รับความสนใจและทรัพยากรมากกว่าที่ได้รับในปัจจุบัน