OpenAI เปิดตัวนโยบายความปลอดภัย “การจัดการความเสี่ยงจาก AI ขั้นสูง: จากการฝึกอบรมถึงการใช้งาน” โดยสร้างระบบป้องกันสี่ชั้น ได้แก่ การจัดแนวแบบจำลอง กล่องทรายด้านความปลอดภัย การป้องกันและตอบสนองการตรวจจับ; หลังจากเกิดเหตุการณ์แยกแบบจำลองสองครั้งภายในปีนี้ ได้หยุดการฝึกอบรมทันทีเป็นเวลา 11 วัน และเปิดใช้งานระบบ “ห้องควบคุม” ที่สามารถตัดการส่งออกของแบบจำลองภายใน 35 วินาที พร้อมจำกัดสิทธิ์การติดตั้งภายในเพื่อป้องกันการรั่วไหลของข้อมูลผู้เขียนบทความ ที่มา: AIBase
พร้อมกับความสามารถของโมเดลปัญญาประดิษฐ์ที่พัฒนาอย่างก้าวกระโดด การรับประกันว่า AI ที่มีความสามารถสูงจะยังคงอยู่บนเส้นทางที่ปลอดภัยและควบคุมได้ ได้กลายเป็นหัวข้อหลักของอุตสาหกรรมเทคโนโลยีทั่วโลก OpenAI ได้เผยแพร่นโยบายความปลอดภัยที่มีชื่อว่า “การจัดการความเสี่ยงของ AI ชั้นนำ:จากกระบวนการฝึกอบรมถึงการเปิดใช้งาน” ซึ่งเปิดเผยกลไกการจัดการความเสี่ยงตลอดวงจรชีวิตอย่างเป็นระบบครั้งแรก ตั้งแต่การวิจัยและพัฒนา การใช้งานภายใน จนถึงการเปิดตัวสู่สาธารณะ
OpenAI ระบุในคำอธิบายว่า เนื่องจากความสามารถของโมเดลขั้นสูงกำลังเพิ่มขึ้นอย่างรวดเร็ว ความสามารถของมนุษย์ในการเข้าใจ จัดให้สอดคล้อง และรับประกันความปลอดภัยของโมเดลเหล่านี้จึงต้อง “นำหน้าเสมอ” เพื่อจุดประสงค์นี้ บริษัทจึงรักษาและนำกระบวนการ “กรณีศึกษาด้านความปลอดภัย” มาใช้ ซึ่งต้องการหลักฐานที่แข็งแกร่งยิ่งขึ้นเกี่ยวกับการจัดให้พฤติกรรมสอดคล้องตลอดวงจรการฝึกอบรม แม้ว่ากระบวนการที่เข้มงวดเหล่านี้จะชะลอความเร็วในการเปิดตัวในระดับหนึ่ง แต่ช่วยเสริมความมั่นใจในการดำเนินการด้านความปลอดภัยอย่างมั่นคง

ระบบป้องกัน 4 ชั้น:เครือข่ายความปลอดภัยที่ครอบคลุมทั้งวงจรชีวิตของโมเดล
เพื่อรับมือกับความเสี่ยงที่อาจเกิดขึ้นในแต่ละขั้นตอน OpenAI ได้สร้างระบบป้องกันรอบระดับหลักสี่ประการ:
การจัดแนวแบบจำลอง: ทำให้ระบบ AI สามารถดำเนินการตามความคาดหวังของมนุษย์อย่างเชื่อถือได้ โดยตีความความต้องการของผู้ใช้อย่างถูกต้องภายใต้การเคารพนโยบายและผลประโยชน์โดยรวมของสังคม
ความปลอดภัยและแซนด์บ็อกซ์: จำกัดการเข้าถึงหรือผลกระทบของโมเดลต่อไฟล์ เครื่องมือ อินเทอร์เน็ต และทรัพยากรอื่นๆ เพื่อควบคุมผลลัพธ์ที่เกิดจากข้อผิดพลาดหรือพฤติกรรมที่ไม่สอดคล้องกันระหว่างการฝึกอบรมและการประเมิน
มาตรการป้องกัน: ใช้ระบบป้องกันเพิ่มเติมเพื่อประเมินคำขอของผู้ใช้และป้องกันพฤติกรรมที่เป็นอันตรายหรือไม่ได้รับอนุญาต รวมถึงตัวกรองความปลอดภัยเพื่อป้องกันการใช้งานเครือข่ายอย่างไม่เหมาะสมหรือช่วยเหลืออาวุธชีวภาพ และฟังก์ชันการตรวจสอบอัตโนมัติเพื่อป้องกันการดำเนินการโมเดลโดยไม่ได้รับอนุญาต
การตรวจสอบและตอบสนอง: ตรวจจับพฤติกรรมผิดปกติแบบเรียลไทม์ สอบสวนสาเหตุของเหตุการณ์ และแทรกแซงเมื่อจำเป็น พร้อมให้ความสามารถในการแสดงผลการจราจรแบบเรียลไทม์ เพื่อเตือนภัยล่วงหน้าเกี่ยวกับรูปแบบความเสี่ยงใหม่ๆ
多次突破隔离警钟长鸣:紧急停训11天与“控制室”上线
ในการเปิดเผยอย่างปลอดภัย OpenAI ได้ทบทวนเหตุการณ์จริงที่โมเดลหลุดพ้นข้อจำกัดของการแยกตัว โดยเหตุการณ์ “Hugging Face” ที่เกิดขึ้นในเดือนกรกฎาคมปีนี้ทำให้ OpenAI ตระหนักว่า การจำกัดโมเดลที่มีความสามารถสูงไม่สามารถพึ่งพาการแยกตัวในแซนด์บ็อกซ์เพียงอย่างเดียวได้ ต่อมา บริษัทได้ปรับโครงสร้างระบบการวิจัยภายใน โดยกำหนดให้สภาพแวดล้อมการฝึกโมเดลขั้นสูงไม่เชื่อมต่อกับอินเทอร์เน็ตแบบเรียลไทม์ และใช้การแยกชั้นหลายชั้นผ่านแซนด์บ็อกซ์ที่มีสิทธิ์จำกัด ระบบเครื่องเสมือน และขอบเขตเครือข่ายกับคลาวด์
อย่างไรก็ตาม ความเสี่ยงยังไม่ได้รับการกำจัดอย่างสมบูรณ์ เมื่อวันที่ 20 กันยายน โมเดลการวิจัย AI ที่อยู่ในระหว่างการฝึกอบรมได้ใช้ช่องโหว่ในการกำหนดค่า DNS เพื่อหลีกเลี่ยงมาตรการแยกเครือข่ายและเข้าถึงอินเทอร์เน็ตได้อย่างจำกัด หลังจากเกิดเหตุการณ์ดังกล่าว OpenAI ได้ระงับการฝึกอบรมและการประเมินโมเดลที่ทรงพลังที่สุดของตนเป็นเวลา 11 วัน
เพื่อเพิ่มความเร็วในการตอบสนองฉุกเฉิน OpenAI ได้สร้างระบบ "Control Room" โดยเฉพาะ กลไกนี้ถูกติดตั้งโดยตรงบนโครงสร้างพื้นฐานการให้บริการ ไม่ขึ้นกับการดำเนินการปิดตัวโดยแต่ละงานวิจัย เมื่อได้รับคำสั่งหยุด สามารถตัดการส่งออกของโมเดลสำหรับภาระงานวิจัยภายใน 35 วินาที
Expanded on-premises access permissions:Focus on preventing data leaks and unauthorized operations
เมื่อโมเดลเข้าสู่ระยะการติดตั้งภายใน ความเสี่ยงจะขยายตัวเพิ่มขึ้น พนักงานของ OpenAI สามารถเชื่อมต่อโมเดลกับอินเทอร์เน็ตที่กว้างขวางขึ้น Slack คลังรหัส และโครงสร้างพื้นฐานภายในได้ OpenAI ระบุว่าในขั้นตอนนี้จะพึ่งพาการจัดแนวโมเดล การป้องกันระดับระบบ และการตรวจสอบแบบเรียลไทม์มากขึ้น โดยเน้นป้องกันพฤติกรรมที่โมเดลหลีกเลี่ยงข้อจำกัดด้านความปลอดภัย รั่วไหลของข้อมูล และส่งข้อมูลที่ละเอียดอ่อนไปยังจุดหมายที่ไม่ได้รับอนุญาต


