Anthropic ได้เปิดตัวชุดนโยบายสำหรับโมเดล AI ขั้นสูงสุด บริษัทระบุว่า กฎความโปร่งใสปัจจุบันไม่สามารถติดตามความเร็วในการพัฒนาความสามารถของโมเดลได้ทัน และรัฐบาลจำเป็นต้องได้รับอำนาจในการแทรกแซงที่ชัดเจนยิ่งขึ้น เพื่อสามารถดำเนินการก่อนระบบความเสี่ยงสูงเข้าสู่ตลาดสาธารณะ
ผู้ที่อยู่ภายใต้การกำกับดูแลจะถูกกำหนดตามกำลังการคำนวณและรายได้
แผนนี้แบ่งเป็นสองส่วน ส่วนหนึ่งมุ่งเน้นที่เทคโนโลยีและข้อกำหนดด้านการกำกับดูแลของโมเดลที่แข็งแกร่งที่สุด อีกส่วนหนึ่งพูดถึงปัญหาการจัดสรรทางเศรษฐกิจภายใต้ผลกระทบของการอัตโนมัติ ตามเนื้อหาที่เปิดเผยมา ดูเหมือนว่าส่วนแรกจะสมบูรณ์กว่าชัดเจน
Anthropic ลดขอบเขตการกำกับดูแลให้เหลือเฉพาะนักพัฒนาชั้นนำไม่กี่ราย แทนที่จะครอบคลุมทั้งอุตสาหกรรม บริษัทเสนอให้รวมโมเดลที่มีการฝึกอบรมเกิน 10²⁵ การดำเนินการจุดลอยตัวไว้ในกรอบนี้; บริษัทที่มีรายได้จาก AI มากกว่า 5 พันล้านดอลลาร์สหรัฐต่อปี หรือมีค่าใช้จ่ายในการวิจัยและพัฒนา AI เกิน 10 พันล้านดอลลาร์สหรัฐ ก็ควรได้รับการบังคับใช้ข้อกำหนดดังกล่าว
การออกแบบนี้มีจุดมุ่งหมายเพื่อเน้นที่โมเดลที่มีทรัพยากรและศักยภาพสูงสุด โดยหลีกเลี่ยงการบังคับใช้การกำกับดูแลในระดับเดียวกันกับนักพัฒนาและสถาบันวิจัยขนาดเล็กและกลาง
สนับสนุนให้รัฐบาลสามารถขัดขวางการขึ้นรายการที่มีความเสี่ยงสูง
บริษัทระบุว่าการเปลี่ยนแปลงที่สำคัญที่สุดคือการให้รัฐบาลมีอำนาจตามกฎหมายในการหยุดยั้งหรือควบคุมการนำโมเดลที่มีความเสี่ยงสูงไปใช้งาน ปัจจุบันสหรัฐอเมริกายังไม่มีกลไกที่สมบูรณ์เพื่อขัดขวางโมเดลก่อนที่จะเปิดตัวสู่สาธารณะ
ในรายละเอียดเฉพาะ นักพัฒนาโมเดลขั้นสูงต้องดำเนินการทดสอบให้เสร็จสิ้นก่อนเปิดตัว และเปิดเผยสรุปผลการทดสอบ กรอบความปลอดภัย และระบบการ์ด เพื่ออธิบายพฤติกรรมของโมเดลและวิธีการควบคุมความเสี่ยง บริษัทต้องส่งรายงานความเสี่ยงเป็นระยะๆ เพื่อเปิดเผยสถานการณ์ความเสี่ยงโดยรวมและความคืบหน้าของงานด้านความปลอดภัย
Anthropic ยังเสนอให้ใช้หน่วยงานประเมินอิสระในการทบทวนการทดสอบที่บริษัทดำเนินการเอง และเผยแพร่ข้อสรุปความเสี่ยงของโมเดลแยกต่างหาก วิธีนี้จะทำให้หน่วยงานกำกับดูแลและสาธารณชนไม่ต้องพึ่งพาข้อมูลจากคำอธิบายของบริษัทเพียงอย่างเดียว
การลงโทษและข้อกำหนดด้านความปลอดภัยถูกเพิ่มขึ้นพร้อมกัน
ในด้านการออกแบบการบังคับใช้ Anthropic แนะนำให้ผูกการลงโทษทางแพ่งกับรายได้ต่อปีทั่วโลกของบริษัท แทนที่จะใช้ค่าปรับคงที่ บริษัทเชื่อว่า唯有如此，处罚才会对大型 AI 企业形成实际约束。对重复违规者，罚款力度还应进一步提高。
นอกจากการทดสอบและการเปิดเผยแล้ว แผนนี้ยังกำหนดให้องค์กรสร้างระบบความปลอดภัยที่เข้มแข็งขึ้น เพื่อปกป้องน้ำหนักของโมเดลและระบบการฝึกอบรม จากการโจมตีจากภายนอกและการใช้ในทางที่ผิดภายในองค์กร องค์กรสามารถเปิดเผยโครงสร้างโดยรวมของแผนความปลอดภัยได้ ส่วนรายละเอียดที่ละเอียดกว่านั้นจะจัดส่งเมื่อหน่วยงานรัฐขอ
Anthropic ยังเสนอว่า รัฐบาลและอุตสาหกรรมควรร่วมกันกำหนดมาตรฐานสำหรับผู้ประเมินอิสระ และรับประกันว่าผู้ประเมินเหล่านี้ได้รับทุนเพียงพอและสิทธิ์การเข้าถึงที่จำเป็น เนื่องจากโมเดลขั้นสูงมักเป็นทรัพย์สินที่ละเอียดอ่อนที่สุดของบริษัท จึงเป็นหนึ่งในอุปสรรคสำคัญในการดำเนินการว่าใครจะเป็นผู้ประเมิน และจะได้รับสิทธิ์การเข้าถึงได้อย่างไร
ระบุความเสี่ยงหลัก 4 ประเภท
Anthropic ระบุในเอกสารถึงความเสี่ยงหลักสี่ประเภท: ความเสี่ยงทางชีวภาพ ความเสี่ยงด้านความปลอดภัยทางไซเบอร์ ความเสี่ยงจากการสูญการควบคุม และความเสี่ยงที่ AI จะเร่งการพัฒนาตนเองโดยอัตโนมัติ บริษัทเชื่อว่าความเสี่ยงเหล่านี้ไม่ได้แยกจากกัน แต่อาจเสริมแรงซึ่งกันและกัน
ตัวอย่างเช่น โมเดลที่มีความสามารถในการค้นพบช่องโหว่ของซอฟต์แวร์ในระดับใหญ่ อาจส่งผลกระทบโดยตรงต่อโครงสร้างพื้นฐานสำคัญ เช่น โรงพยาบาลและเครือข่ายพลังงาน; และในกรณีที่มีข้อจำกัดไม่เพียงพอ ความสามารถดังกล่าวอาจรวมกับความเสี่ยงทางชีวภาพ
ในด้านมาตรการรองรับ Anthropic แนะนำให้เสริมการป้องกันอินเทอร์เน็ตและโครงสร้างพื้นฐานสำคัญ ส่งเสริมการแทนที่ระบบเก่าในบริการสำคัญ และจัดตั้งหน่วยงานรัฐบาลเฉพาะทางเพื่อติดตามการเปลี่ยนแปลงของความสามารถทางไซเบอร์ของ AI ขั้นสูงอย่างต่อเนื่อง ส่วนความเสี่ยงจากการสูญการควบคุมและการวิจัยและพัฒนาแบบอัตโนมัติ บริษัทยอมรับว่าเครื่องมือการกำกับดูแลที่เกี่ยวข้องยังไม่สมบูรณ์ และยังจำเป็นต้องพัฒนาความสามารถในการตรวจจับ แยกแยะ และปิดระบบที่ไม่ปลอดภัยต่อไป
ข้อมูลเพิ่มเติม: Anthropic ระบุในเอกสารว่า กฎความโปร่งใสในแคลิฟอร์เนียและนิวยอร์ก等地ปัจจุบันมีประสิทธิภาพบางประการ แต่การเปิดเผยข้อมูลเพียงอย่างเดียวไม่เพียงพอที่จะครอบคลุมความเสี่ยงที่เกิดจากการพัฒนาอย่างรวดเร็วของโมเดลขั้นสูง