สัมภาษณ์กับโรฮินเกี่ยวกับความปลอดภัยของ AI น่าสนใจมาก ฉันมองโลกในแง่ร้ายกว่าเกี่ยวกับความเสี่ยงและไม่เห็นด้วยกับทุกประเด็น แต่ชอบวิธีที่เขาตั้งคำถามและวางกรอบความคิด จุดที่ฉันไม่เห็นด้วยมากที่สุด: การไม่รวมงานวิจัยด้านการจัดแนวให้อยู่ในข้อมูลการฝึกโมเดลล่วงหน้า โดยอ้างว่าเราไม่ควรให้ระบบ AI เข้าถึงแผนทั้งหมดที่เราวางแผนจะใช้ควบคุมมัน ประวัติศาสตร์แสดงให้เห็นว่าแนวทางนี้ล้มเหลว เราเคยถกเถียงเรื่องเดียวกันนี้ในวงการเข้ารหัสลับ การรักษาความปลอดภัยด้วยการซ่อนข้อมูลไม่ได้ผล คุณต้องการแผนผังที่เปิดเผย มาตรฐานที่เปิดเผย และงานวิจัยที่เปิดเผย โดยพื้นฐานแล้วคือหลักการของเคอร์คฮอฟส์: ซ่อนกุญแจ ไม่ใช่อัลกอริธึม หลักการเดียวกันควรใช้กับการจัดแนวเช่นกัน ฝึกโมเดลด้วยงานวิจัยด้านความปลอดภัยที่ดีที่สุดของเรา อย่าปิดกั้นพวกมันจากข้อมูลเหล่านี้ คำถามตรงไปตรงมาสำหรับผู้ที่ทำงานด้านความปลอดภัย: มีการเปลี่ยนแปลงจริงๆ ในการเลิกใช้ข้อมูลเหล่านี้ในการฝึกโมเดลล่วงหน้าหรือไม่? แนวทางนี้กำลังกลายเป็นข้อตกลงร่วมหรือเปล่า? ฉันอยากรู้อย่างจริงใจ