บทความนี้จะเน้นไปที่การเปลี่ยนแปลงด้านการกำกับดูแลหลัก รวมถึงขั้นตอนปฏิบัติที่สถาบันการเงินควรดำเนินการในสภาพแวดล้อมที่เปลี่ยนแปลงอย่างรวดเร็วนี้

ผู้เขียนบทความ แหล่งที่มา: เซี่ยวไนยิง, ฟีซือ, หวังเหลิน, การวิจัยของจินดู

การใช้งาน AI แบบสร้างเนื้อหาเพิ่มขึ้นอย่างรวดเร็ว—หน่วยงานกำกับดูแลให้ความสำคัญกับการปฏิบัติจริง

ขณะที่สถาบันการเงินยังคงนำปัญญาประดิษฐ์แบบสร้างสรรค์ (“Generative AI”) มาใช้อย่างต่อเนื่อง ความสนใจของหน่วยงานกำกับดูแลกำลังเปลี่ยนจากคำแถลงเชิงหลักการไปสู่การนำไปใช้งานจริง รายงานแนวทางสำหรับสถาบันการเงินเกี่ยวกับ Generative AI ที่เราเผยแพร่ในเดือนมกราคม 2025 [1] ได้ชี้ให้เห็นว่า โครงสร้างการกำกับดูแล Generative AI กำลังก่อตัวขึ้น แม้ว่าในเวลานั้น กรอบการกำกับดูแลยังคงเน้นหลักการเป็นหลัก [2]

ต่อมา จุดเน้นของการกำกับดูแลได้เปลี่ยนจากหลักการเชิงมหภาคไปสู่การจัดการด้านการดำเนินงาน ฮ่องกงกำลังก้าวจากขั้นตอนการทดลองไปสู่การใช้งานอย่างรับผิดชอบ ในขณะที่การกำกับดูแลในแผ่นดินใหญ่กลับมีความละเอียดมากขึ้น โดยเฉพาะอย่างยิ่งในด้านการจัดการเนื้อหา การประมวลผลข้อมูล หน้าที่การแจ้งข้อมูล และการกำกับดูแลโมเดล บทความนี้จะเน้นนำเสนอการเปลี่ยนแปลงด้านการกำกับดูแลหลักๆ รวมถึงขั้นตอนปฏิบัติที่สถาบันการเงินควรดำเนินการในสภาพแวดล้อมที่เปลี่ยนแปลงอย่างรวดเร็วนี้

ฮ่องกง: จากการทดลองสู่การใช้งานเชิงโครงสร้าง

การพัฒนาล่าสุดในฮ่องกงแสดงให้เห็นว่าอุตสาหกรรมบริการทางการเงินกำลังขับเคลื่อนการประยุกต์ใช้ AI แบบสร้างสรรค์ด้วยวิธีที่สุกงอมและเป็นรูปธรรมมากขึ้น จุดเน้นของการกำกับดูแลอยู่ที่ความสามารถของสถาบันการเงินในการนำเทคโนโลยีที่เกี่ยวข้องไปใช้งานอย่างรับผิดชอบ ควบคุมได้ มุ่งเน้นการปกป้องผู้ลงทุน และสามารถผ่านการตรวจสอบจากหน่วยงานกำกับดูแล

รายงานเรื่อง “ยุคใหม่ของ GenA.I.: การส่งเสริมการประยุกต์ใช้ปัญญาประดิษฐ์อย่างรับผิดชอบในบริการทางการเงิน” ที่ประกาศโดยสำนักงานคณะกรรมการกำกับดูแลการเงินของฮ่องกง (“金管局”) ในเดือนเมษายน 2025 [3] ชี้ให้เห็นว่า ความเข้าใจของฮ่องกงเกี่ยวกับปัญญาประดิษฐ์แบบสร้างเนื้อหา (Generative AI) กำลังเปลี่ยนแปลง—75% ของสถาบันการเงินที่ตอบแบบสอบถามได้ดำเนินการหรือกำลังพัฒนาการประยุกต์ใช้ปัญญาประดิษฐ์ และคาดว่าภายในสามถึงห้าปีข้างหน้าจะเพิ่มขึ้นเป็น 87%

ในขณะเดียวกัน คู่มือการปฏิบัติงานได้รับการกำหนดรายละเอียดอย่างชัดเจนยิ่งขึ้น ตัวอย่างเช่น สำนักงานผู้ตรวจการข้อมูลส่วนบุคคลของฮ่องกงได้เผยแพร่รายการคู่มือการใช้งาน AI แบบสร้างเนื้อหาสำหรับพนักงานในเดือนมีนาคม 2025 [4] ซึ่งแปลงประเด็นที่เกี่ยวข้องกับความเป็นส่วนตัวและการกำกับดูแลให้เป็นมาตรการควบคุมการปฏิบัติที่ชัดเจน รายการดังกล่าวแนะนำให้จัดทำนโยบายที่ชัดเจนเกี่ยวกับการใช้งานเครื่องมือ การป้อนข้อมูล การจัดเก็บและเก็บรักษาผลลัพธ์ การตรวจสอบ การแก้ไขอคติและการรายงาน การใส่ลายน้ำและป้ายกำกับ การเข้าถึงอุปกรณ์ และการรายงานเหตุการณ์

สำนักงานนโยบายดิจิทัลของฮ่องกงได้เผยแพร่คู่มือแนวทางเทคโนโลยีและการประยุกต์ใช้ปัญญาประดิษฐ์แบบสร้างเนื้อหาของฮ่องกง [5] เป็นครั้งแรกในเดือนเมษายน 2025 และอัปเดตในเดือนธันวาคมของปีเดียวกัน ซึ่งให้คำแนะนำแนวทางปฏิบัติที่ดีที่สุด โดยเน้นหลักการเกี่ยวกับความเป็นธรรม ความโปร่งใส สิทธิของผู้ใช้ในการเลือก และการแก้ไขอคติ สถาบันการเงินที่ใช้ปัญญาประดิษฐ์แบบสร้างเนื้อหาในการมีปฏิสัมพันธ์กับลูกค้า เครื่องมือแนะนำ การสนับสนุนความเหมาะสม การจัดหมวดหมู่ภายใน หรือการกรองความเสี่ยง ควรพิจารณาคู่มือนี้เป็นส่วนสำคัญของกรอบการปฏิบัติตามกฎหมายโดยรวม

ความก้าวหน้าที่สำคัญอย่างยิ่งคือการขยายกรอบการกำกับดูแล AI แบบสร้างเนื้อหาของฮ่องกงอย่างต่อเนื่อง ดังที่เราได้กล่าวไว้ในบทความเดือนมกราคม 2025 ธนาคารแห่งฮ่องกงได้ร่วมมือกับ数码港ในการเปิดตัว GenA.I. Sandbox ปี 2024 เพื่อจัดเตรียมสภาพแวดล้อมที่ควบคุมได้สำหรับสถาบันที่ได้รับการรับรอง เพื่อพัฒนาและทดสอบกรณีการใช้งาน AI แบบสร้างเนื้อหาในภาคธนาคาร

ในเดือนตุลาคม 2025 หน่วยงานกำกับดูแลได้เผยแพร่รายงาน “GenA.I. Sandbox Phase 1” [6] ซึ่งระบุว่าการจัดการความเสี่ยง มาตรการป้องกันการฉ้อโกง และประสบการณ์ของลูกค้าเป็นสามด้านหลักในการทดสอบ พร้อมทั้งชี้ให้เห็นถึงความท้าทายด้านเทคโนโลยีและการกำกับดูแล เช่น ภาพลวงตาของเนื้อหาและความผิดพลาดของข้อมูล ซึ่งเป็นสัญญาณว่าจุดเน้นของการกำกับดูแลได้เปลี่ยนจากส่งเสริมการสร้างนวัตกรรมไปสู่การเข้าใจวิธีการผสานรวม AI แบบสร้างเนื้อหาอย่างปลอดภัยเข้ากับการดำเนินงานของธนาคาร

นอกจากนี้ โครงการ GenA.I. Sandbox รุ่นที่สองที่เปิดตัวในเดือนตุลาคมของปีเดียวกัน สะท้อนถึงการเปลี่ยนแปลงครั้งสำคัญจากทดลองความสามารถของ AI ไปสู่การนำไปใช้งานอย่างปลอดภัยและเชื่อถือได้ ธนาคารแห่งประเทศไทยได้คัดเลือกใช้งาน 27 กรณีศึกษา ซึ่งเกี่ยวข้องกับธนาคาร 20 แห่งและพันธมิตรเทคโนโลยี 14 ราย โดยเน้นย้ำการจัดการ AI อย่าง proactive การตรวจสอบคุณภาพอัตโนมัติ และการจำลองการโจมตีแบบต่อต้าน เพื่อเพิ่มความสามารถในการป้องกันการฉ้อโกงด้วย deepfake นี่เป็นสัญญาณชัดเจนของการเปลี่ยนผ่านสู่การเตรียมพร้อมสำหรับการนำใช้งาน การควบคุมประสิทธิภาพ และการลดความเสี่ยงที่ขับเคลื่อนด้วย AI

ในเดือนมีนาคม 2026 หน่วยงานกำกับดูแลการเงินร่วมกับคณะกรรมการกำกับดูแลหลักทรัพย์และตลาดอนุพันธ์ สำนักงานกำกับดูแลประกันภัย และสำนักงานคณะกรรมการกองทุนการออมเพื่อการเลี้ยงชีพ เปิดตัว GenA.I. Sandbox++ โดยขยายกรอบการทำงานไปยังสาขาหลักทรัพย์ การจัดการสินทรัพย์และทรัพย์สิน การประกันภัย กองทุนบำเหน็จบำนาญ และเครื่องมือการชำระเงินแบบเติมเงิน ซึ่งยังคงรักษาสามด้านหลักไว้คือ การจัดการความเสี่ยง การป้องกันการฉ้อโกง และประสบการณ์ของลูกค้า พร้อมทั้งชี้ชัดว่าจะดำเนินการต่อไปซึ่งกลยุทธ์การกำกับดูแล “ใช้ AI ต่อต้าน AI” คือการใช้ AI เพื่อจัดการความเสี่ยงที่เกี่ยวข้องกับ AI

ในเดือนพฤศจิกายน 2025 หน่วยงานกำกับดูแลการเงินได้เปิดตัวกลยุทธ์ “FinTech 2030” ซึ่งรวมถึงกลยุทธ์ “ปัญญาประดิษฐ์ x สถาบันที่ได้รับการรับรอง” เพื่อส่งเสริมการใช้งานปัญญาประดิษฐ์อย่างครอบคลุมและรับผิดชอบในภาคการเงิน และส่งเสริมการพัฒนาโครงสร้างพื้นฐานและการโมเดลภาคอุตสาหกรรมที่สามารถแชร์และขยายขนาดได้ จากมุมมองทางกฎหมายและการกำกับดูแล กลยุทธ์นี้ยืนยันข้อความสำคัญว่า การจัดการปัญญาประดิษฐ์ไม่ใช่เพียงประเด็นนวัตกรรมที่แยกจากกัน แต่ควรรวมเข้ากับโครงสร้างองค์กร ความยืดหยุ่นทางธุรกิจ การปกป้องลูกค้า และการเตรียมความพร้อมด้านการกำกับดูแล

ในเดือนมีนาคม 2026 หน่วยงานกำกับดูแลการเงินได้ออกจดหมายแจ้งถึงสถาบันที่ได้รับการรับรองเกี่ยวกับรูปแบบธุรกิจภายใต้การเปลี่ยนผ่านดิจิทัล [7] โดยชี้ให้เห็นว่าเทคโนโลยีใหม่ๆ รวมถึงปัญญาประดิษฐ์แบบตัวแทนกำลังเร่งกระบวนการเปลี่ยนผ่านดิจิทัล จดหมายดังกล่าวระบุความคาดหวังของหน่วยงานกำกับดูแลการเงินต่อสถาบันที่ได้รับการรับรองทั้งหมด—ให้ประเมินและปรับรูปแบบธุรกิจในระยะยาวอย่างแข็งขันเพื่อรับมือกับการเปลี่ยนแปลงทางเทคโนโลยี นอกจากนี้ จดหมายยังกำหนดให้คณะกรรมการของสถาบันที่ได้รับการรับรองแต่ละแห่งต้องกำกับดูแลและอนุมัติแผนกลยุทธ์อย่างเป็นทางการเกี่ยวกับการเปลี่ยนผ่านดิจิทัลและการเงินดิจิทัล ก่อนวันที่ 9 กันยายน 2026 แผนกลยุทธ์นี้ควรระบุโอกาสในการปรับเปลี่ยนหรือเปลี่ยนผ่านในด้านการจัดจำหน่ายผลิตภัณฑ์ รูปแบบรายได้ การมีส่วนร่วมกับลูกค้า การจัดการความเสี่ยง และการดำเนินงาน สำหรับข้อมูลเพิ่มเติมเกี่ยวกับจดหมายแจ้งการเปลี่ยนผ่านดิจิทัลของหน่วยงานกำกับดูแลการเงิน โปรดดูอินโฟกราฟิกของเรา [8]

แนวโน้มการกำกับดูแลในฮ่องกงในช่วงไม่กี่เดือนที่ผ่านมาแสดงให้เห็นว่าสถาบันการเงินควรสร้างกรอบการทำงานแบบองค์รวมที่ครอบคลุมข้อมูล ความยืดหยุ่นทางเทคโนโลยี การกำกับดูแล และความรับผิดชอบ และจัดการการใช้งาน AI แบบสร้างสรรค์ตลอดวงจรชีวิตของมันด้วยวิธีการที่เข้มงวดและสามารถตรวจสอบได้

ในทางปฏิบัติ นี่รวมถึงประเด็นต่อไปนี้:

(แยกแยะบริบทการใช้งาน) ควรแยกแยะอย่างละเอียดระหว่างสถานการณ์การใช้งานที่แตกต่างกัน เครื่องมือภายใน แอปพลิเคชันของลูกค้า เครื่องมือติดตามและตรวจสอบ กรณีการสนับสนุนการตัดสินใจ และแบบจำลองภายนอกอาจก่อให้เกิดพิจารณาทางกฎหมายและความเสี่ยงที่ต่างกัน การจัดกลุ่มอย่างทั่วไปเป็นหมวดหมู่เดียวว่า “การใช้งาน AI” อาจไม่เพียงพอต่อความต้องการ;

(จุดเน้นการกำกับดูแล) องค์กรควรรวมประเด็นที่มักถูกอธิบายว่าเป็นปัญหาเชิงเทคนิคบริสุทธิ์ เช่น การออกแบบพรอมต์ กลไกการค้นหา การจัดการเอาต์พุต การตรวจสอบโมเดล ขีดจำกัดการรายงาน และการตรวจสอบด้วยมนุษย์ ไว้ในขอบเขตการกำกับดูแล;

(การปรับนโยบายให้สอดคล้อง) องค์กรควรปรับนโยบายภายในให้สอดคล้องกับศัพท์เทคนิคและประเด็นที่ปรากฏในแนวทางของฮ่องกง รวมถึงการใช้งานอย่างรับผิดชอบ ความเป็นธรรม ความถูกต้อง ความโปร่งใส ความเป็นส่วนตัว ความรับผิดชอบ และการรับมือเหตุการณ์ฉุกเฉิน;

(การสมดุลด้านการกำกับดูแล) องค์กรควรเตรียมตัวสำหรับพื้นที่ระหว่างการสนับสนุนนวัตกรรมและการทบทวนด้านการกำกับดูแลที่แคบลง แม้ว่าการเข้าร่วมในแซนด์บ็อกซ์และการมีปฏิสัมพันธ์กับหน่วยงานกำกับดูแลอาจเร่งการนำใช้งาน แต่ก็หมายถึงความต้องการด้านการกำกับดูแลที่สูงขึ้น; และ

(การสื่อสารกับหน่วยงานกำกับดูแล) การเข้าร่วมโครงการ Sandbox และโครงการทดลองควรได้รับการพิจารณาว่าเป็นกิจกรรมเตรียมความพร้อมด้านการกำกับดูแล ไม่ใช่เพียงโอกาสในการสร้างนวัตกรรมเท่านั้น ก่อนการสื่อสารกับหน่วยงานกำกับดูแล องค์กรควรรับประกันว่ามีการกำหนดอำนาจหน้าที่และการอนุมัติที่ชัดเจน การทดสอบและการยืนยันที่สามารถตรวจสอบได้ (รวมถึงการควบคุมความเบี่ยงเบนและภาพหลอน) เงื่อนไขการตรวจสอบด้วยมนุษย์และการแจ้งเตือนที่ชัดเจน รวมถึงเอกสารหลักฐานที่สมบูรณ์สำหรับการตรวจสอบ

จีนแผ่นดินใหญ่: ก้าวสู่เส้นทางการกำกับดูแลที่เน้นการดำเนินการและกฎเกณฑ์

กรอบการกำกับดูแล AI แบบสร้างเนื้อหาในแผ่นดินใหญ่ของจีนยังคงพัฒนาไปในทิศทางที่มีความเป็นรูปธรรม กฎเกณฑ์ชัดเจน และเน้นการกำกับดูแลมากขึ้น สำหรับสถาบันการเงิน ปัญหาเชิงปฏิบัติไม่ได้จำกัดอยู่ที่ว่าเครื่องมือ AI ใดๆ สามารถใช้งานได้หรือไม่ แต่คือสถาบันการเงินสามารถพิสูจน์ได้ว่ากรณีการใช้งานที่เกี่ยวข้องได้รับการจัดหมวดหมู่อย่างเหมาะสม ได้ดำเนินการแจ้งรายละเอียดเมื่อจำเป็น ได้เสริมด้วยการควบคุมข้อมูลที่เหมาะสม และได้รับการตรวจสอบตลอดวงจรชีวิตของมัน

สิ่งนี้มีความสำคัญอย่างยิ่ง เนื่องจากขอบเขตการกำกับดูแลกำลัง变得ละเอียดยิ่งขึ้น การพัฒนาล่าสุดในด้านการระบุเนื้อหาที่สร้างโดย AI การลงทะเบียนอัลกอริทึมและโมเดล การประเมินความปลอดภัย มาตรฐานแห่งชาติ และการจัดการข้อมูลในอุตสาหกรรมการเงิน ล้วนชี้ไปในทิศทางเดียวกัน: การปฏิบัติตามกฎหมายด้าน AI ในแผ่นดินใหญ่กำลังเน้นการดำเนินการตามหลักฐาน

วิธีการระบุเนื้อหาที่สร้างและรวมโดยปัญญาประดิษฐ์ ซึ่งออกโดยสำนักงานข้อมูลอินเทอร์เน็ตแห่งชาติ กระทรวงอุตสาหกรรมและสารสนเทศ กระทรวงความมั่นคงสาธารณะ และสำนักงานกระจายเสียงและโทรทัศน์แห่งชาติ ได้แปลงความใส่ใจด้านความโปร่งใสและการกำกับดูแลระดับสูงให้เป็นข้อกำหนดเฉพาะเจาะจงและสามารถดำเนินการได้เกี่ยวกับการระบุเนื้อหาและข้อมูลเมตา

แก่นของวิธีการนี้คือระบบการติดป้ายสองชั้น ซึ่งต้องดำเนินการพร้อมกัน:

a) ป้ายกำกับที่ผู้ใช้สามารถมองเห็นได้อย่างชัดเจน; และ

b) การทำเครื่องหมายแบบแฝงโดยฝังข้อมูลเมตาของไฟล์เพื่อให้สามารถติดตามได้

วิธีการติดป้ายกำกับแบบสองชั้นนี้สะท้อนถึงความคาดหวังด้านการกำกับดูแลที่ชัดเจน ซึ่งความโปร่งใสต่อผู้ใช้และการติดตามย้อนกลับทางด้านหลังสำหรับการกำกับดูแล การบังคับใช้กฎหมาย และความรับผิดชอบต้องทำงานคู่ขนานกัน ที่สำคัญ วิธีการนี้ยังขยายความรับผิดไปยัง价值链ของเนื้อหา AI ทั้งหมด โดยสรุป:

ผู้ให้บริการสร้างเนื้อหาควรดำเนินการติดป้ายกำกับเนื้อหา (รวมถึงการติดป้ายกำกับอย่างชัดเจนและไม่ชัดเจน) ในขั้นตอนการสร้างเนื้อหา เพื่อให้มั่นใจในความถูกต้องและความคงทนของการติดป้ายกำกับ และสนับสนุนความสามารถในการติดตามแหล่งที่มาและความรับผิดเมื่อเนื้อหาที่สร้างโดย AI ได้รับการตรวจสอบหรือสอบสวนโดยหน่วยงานกำกับดูแล

แพลตฟอร์มการเผยแพร่เนื้อหาควรระบุ จัดเก็บ และแสดงป้ายกำกับที่มีอยู่บนเนื้อหาที่สร้างโดย AI ป้องกันและจัดการกับการลบ ปลอมแปลง หรือใช้ป้ายกำกับอย่างไม่เหมาะสมอย่างตั้งใจ และร่วมมือกับหน่วยงานกำกับดูแลในการกำกับดูแล รวมถึงการกำกับดูแลด้านการติดตามแหล่งที่มาและความสามารถในการติดตามแหล่งที่มาของเนื้อหา; และ

ผู้ใช้ห้ามลบ แก้ไข ซ่อน หรือปลอมแปลงป้ายกำกับที่ระบุอย่างชัดเจน ห้ามแก้ไขป้ายกำกับแบบแฝงหรือตัวระบุทางเทคนิคโดยเจตนา ห้ามนำเสนอเนื้อหาที่สร้างโดย AI อย่างผิดๆ ว่าเป็นผลงานของมนุษย์ในลักษณะที่ทำให้ผู้อื่นเข้าใจผิด และห้ามใช้เนื้อหาที่สร้างขึ้นเพื่อหลีกเลี่ยงการติดตามแหล่งที่มาหรือการกำกับดูแล

วิธีการนี้ยังแยกแยะเนื้อหาที่ยืนยันแล้ว อาจเป็น และสงสัยว่าสร้างโดย AI เพื่อสนับสนุนการกำกับดูแลและการควบคุมที่เหมาะสม หมวดหมู่เหล่านี้ไม่ได้บังคับให้แพลตฟอร์มหรือผู้ใช้ต้องมีหน้าที่ตรวจจับ AI โดยทั่วไป แต่รับทราบถึงระดับความแน่นอนที่แตกต่างกันในการระบุแหล่งที่มาของเนื้อหา โดยหน้าที่ในการระบุแหล่งที่มาอย่างบังคับจะใช้เฉพาะกับเนื้อหาที่ยืนยันแล้วว่าสร้างโดยผู้ให้บริการสร้างเนื้อหา AI ที่อยู่ภายใต้การกำกับดูแล

โดยรวมแล้ว วิธีการนี้ถือเป็นการเปลี่ยนผ่านสู่รูปแบบการกำกับดูแลที่แบ่งปันความรับผิดชอบและอิงตามวงจรชีวิต โดยการติดป้ายกำกับเนื้อหาและความสามารถในการติดตามแหล่งที่มาถูกกำหนดให้เป็นการควบคุมการปฏิบัติตามขั้นพื้นฐานสำหรับการจัดการความเสี่ยงของเนื้อหาที่สร้างขึ้นภายใต้กรอบการกำกับดูแลที่กำลังพัฒนาอย่างต่อเนื่องในแผ่นดินใหญ่ของจีน

แม้จะมีความสนใจเพิ่มขึ้นในระดับการดำเนินงานเกี่ยวกับการติดป้ายข้อมูลและการติดตามย้อนกลับ แต่การลงทะเบียนอัลกอริทึมและโมเดลยังคงเป็นเสาหลักสำคัญของโครงสร้างการกำกับดูแล AI ในแผ่นดินใหญ่ของจีน แม้ว่ากฎหมายและระเบียบข้อบังคับที่เกี่ยวข้องจะไม่มีการแก้ไขครั้งใหญ่ในช่วงไม่กี่เดือนที่ผ่านมา แต่การปฏิบัติและการบังคับใช้การกำกับดูแลยังคงพัฒนาต่อไป

การสังเกตต่อไปนี้ควรได้รับความสนใจเป็นพิเศษจากสถาบันการเงิน:

1. การลงทะเบียนอัลกอริทึมและการลงทะเบียนโมเดลเป็นขั้นตอนการกำกับดูแลที่แยกจากกันและอาจทับซ้อนกัน ในกรณีที่ตอบสนองเงื่อนไขที่เกี่ยวข้อง ผู้ให้บริการ AI แบบสร้างสรรค์บางรายอาจต้องรับผิดชอบภาระหน้าที่ “การลงทะเบียนสองชั้น” ที่ครอบคลุมทั้งระดับอัลกอริทึมและระดับโมเดล
2. แอปพลิเคชันบริการทางการเงินบางประเภทเผชิญกับความไม่แน่นอนทางการกำกับดูแลที่สูงขึ้น วิธีการกำกับดูแลการลงทะเบียนโมเดลที่เกี่ยวข้องกับกรณีการใช้งานบริการทางการเงินเฉพาะเจาะจงยังอยู่ในระหว่างการพัฒนา ตามบันทึกการลงทะเบียนที่สามารถเข้าถึงได้สาธารณะ มีกรณีที่ประสบความสำเร็จในการได้รับการอนุมัติสำหรับอัลกอริทึมหรือโมเดลที่ใช้โดยตรงในการประเมินความเสี่ยงทางการเงิน การตัดสินใจให้สินเชื่อหรือกู้ยืม หรือกิจกรรมการซื้อขายขับเคลื่อนด้วย AI อย่างจำกัด เนื่องจากผลกระทบเชิงศักยภาพต่อความมั่นคงของตลาดและการคุ้มครองผู้บริโภค กรณีการใช้งานเหล่านี้ดูเหมือนจะเผชิญกับการตรวจสอบอย่างเข้มงวดยิ่งขึ้น
3. กรณีการใช้งานที่เกี่ยวข้องกับลูกค้าบางประเภทมีแนวโน้มการจดทะเบียนที่สุกงอมกว่า ข้อมูลการจดทะเบียนที่สามารถเข้าถึงได้สาธารณะแสดงให้เห็นว่ามีการอนุมัติการจดทะเบียนอัลกอริทึมและแบบจำลองบางอย่างที่เกี่ยวข้องกับแอปพลิเคชันเพื่อผู้ใช้ปลายทาง เช่น แชทบอท AI อัจฉริยะและผู้ช่วย รวมถึงเครื่องมือวิเคราะห์การลงทุนหรือหลักทรัพย์บางประเภทที่ได้รับการสนับสนุนด้วย AI สังเกตว่ากรณีการใช้งานเหล่านี้มักมีลักษณะเป็นฟังก์ชันการสร้างเนื้อหาหรือการสนับสนุนข้อมูล มากกว่ากิจกรรมการตัดสินใจโดยตรงหรือรับความเสี่ยง

กิจกรรมการบังคับใช้กฎหมายล่าสุดแสดงให้เห็นว่า การได้รับการอนุมัติหรือการแจ้งข้อมูลจากหน่วยงานกำกับดูแลไม่ถือเป็นผลลัพธ์สุดท้ายหรือคงที่ สำหรับองค์กรที่ให้บริการแนะนำอัลกอริทึมหรือบริการ AI แบบสร้างเนื้อหา ความคาดหวังจะขยายไปถึงวงจรชีวิตทั้งหมดของระบบ เมื่อเกิดเงื่อนไขที่กำหนดโดยกฎหมายหรือหน่วยงานกำกับดูแล (เช่น การเปลี่ยนแปลงการใช้งาน การเปลี่ยนแปลงฟังก์ชันของโมเดล การเปลี่ยนแปลงแหล่งข้อมูล ขอบเขตผู้ใช้ หรือช่องทางการเผยแพร่) องค์กรอาจจำเป็นต้องดำเนินการประเมินความปลอดภัยเพิ่มเติมตามดุลยพินิจ อัปเดตการแจ้งข้อมูลที่มีอยู่ หรือสื่อสารอย่างกระตือรือร้นกับหน่วยงานกำกับดูแล

แนวโน้มนี้ได้รับการเสริมแรงจากความพยายามด้านการบังคับใช้กฎหมายในวงกว้าง ในเดือนเมษายน 2025 สำนักงานข้อมูลอินเทอร์เน็ตแห่งชาติได้เริ่มโครงการดำเนินการเป็นระยะเวลาสามเดือนในระดับประเทศ “ชัดเจน·ปราบปรามการใช้เทคโนโลยี AI อย่างไม่เหมาะสม” โดยหน่วยงานกำกับดูแลได้ดำเนินการกับผลิตภัณฑ์ AI และเนื้อหาที่ไม่สอดคล้องจำนวนมาก ซึ่งแสดงให้เห็นอย่างชัดเจนว่า การปฏิบัติตามกฎระเบียบด้าน AI ได้ถูกผนวกเข้าไว้ในกิจกรรมการบังคับใช้กฎระเบียบอย่างสม่ำเสมอ แทนที่จะถูกมองว่าเป็นปัญหาพิเศษหรือชั่วคราว การไม่รักษาความสอดคล้องอย่างต่อเนื่องอาจเพิ่มความเสี่ยงในการเผชิญกับการเรียกตัวมาสอบถามจากหน่วยงานกำกับดูแล การลงโทษอย่างเป็นทางการ การสั่งให้แก้ไข หรือการลงโทษทางปกครอง รวมถึงความเสี่ยงทางชื่อเสียงที่เกี่ยวข้อง

นอกเหนือจากการกำกับดูแลเนื้อหา การลงทะเบียน และการประเมินความปลอดภัย ขอบเขตการกำกับดูแลที่กว้างขึ้นสำหรับ AI แบบสร้างเนื้อหาในแผ่นดินใหญ่จีนยังคงขยายตัวทั้งในด้านขอบเขตและความละเอียดอ่อน เครื่องมือและข้อเสนอเชิงนโยบายล่าสุดแสดงให้เห็นว่าหน่วยงานกำกับดูแลกำลังค่อยๆ เปลี่ยนจุดสนใจจากความปลอดภัยของเนื้อหาและการปฏิบัติตามเทคโนโลยีไปสู่ผลกระทบทางพฤติกรรม การจัดการด้านจริยธรรม และการจัดการความเสี่ยงตามบริบท โดยเฉพาะในสถานการณ์ที่มีความเสี่ยงสูง

หนึ่งในมิติสำคัญของการพัฒนานี้คือความสัมพันธ์ที่เพิ่มขึ้นระหว่างการกำกับดูแล AI แบบสร้างสรรค์ กรอบการทบทวนจริยธรรมทางเทคโนโลยี และข้อกำหนดการคุ้มครองข้อมูลส่วนบุคคลภายใต้กฎหมายการคุ้มครองข้อมูลส่วนบุคคล แม้ว่าระบบเหล่านี้จะไม่ใช่สิ่งใหม่ แต่การประยุกต์ใช้ในกรณีการใช้งาน AI กำลังกลายเป็นที่ชัดเจนและสามารถดำเนินการได้มากขึ้น โดยเฉพาะเมื่อระบบ AI เกี่ยวข้องกับการประมวลผลข้อมูลส่วนบุคคล การตัดสินใจอัตโนมัติ หรือฟังก์ชันที่อาจส่งผลกระทบอย่างร้ายแรงต่อสิทธิประโยชน์ของบุคคล หน่วยงานกำกับดูแลจึงมีความคาดหวังสูงขึ้นว่าองค์กรไม่เพียงแต่ต้องประเมินความถูกต้องตามกฎหมายและความปลอดภัย แต่ยังต้องประเมินความเป็นธรรม ความสามารถอธิบายได้ และความเสี่ยงทางจริยธรรม

เอกสาร “วิธีการตรวจสอบและบริการด้านจริยธรรมทางเทคโนโลยีปัญญาประดิษฐ์ (ฉบับทดลอง)” ที่ออกโดยหลายหน่วยงานในเดือนเมษายน 2026 แสดงให้เห็นว่า การวิจัยและแอปพลิเคชัน AI บางประเภทที่มีความเสี่ยงสูง — โดยเฉพาะอย่างยิ่งกรณีที่เกี่ยวข้องกับข้อมูลส่วนบุคคลที่ละเอียดอ่อน การแทรกแซงพฤติกรรม หรือผลกระทบต่อสังคมในระดับใหญ่ — อาจต้องผ่านการตรวจสอบจริยธรรมแบบมีโครงสร้างหรือการประเมินโดยผู้เชี่ยวชาญภายใต้กรอบการปฏิบัติตามกฎหมายที่กว้างขวางยิ่งขึ้น ความจำเป็นในการดำเนินการตรวจสอบดังกล่าวจะขึ้นอยู่กับกรณีการใช้งานเฉพาะ การใช้ข้อมูล และสภาพแวดล้อมการปรับใช้ ซึ่งควรประเมินเป็นรายกรณี

สำหรับสถาบันการเงิน ผลกระทบด้านการปฏิบัติตามกฎหมายโดยตรงของมาตรการเหล่านี้อาจจำกัด อย่างไรก็ตาม การพัฒนาเหล่านี้มีความสำคัญในฐานะสัญญาณของทิศทางการกำกับดูแล ซึ่งแสดงให้เห็นว่าการกำกับดูแล AI ในแผ่นดินใหญ่กำลังเปลี่ยนจากภาระผูกพันทั่วไปไปสู่ข้อกำหนดที่อิงตามบริบท ตามฟังก์ชัน และมุ่งเน้นที่ผลกระทบต่อผู้ใช้ โดยการจัดการ AI แบบสร้างสรรค์กำลังถูกคาดหวังให้ก้าวพ้นความมั่นคงทางเทคนิค และขยายไปสู่การออกแบบการโต้ตอบระหว่างมนุษย์กับเครื่องจักร มาตรการป้องกัน และกลไกการอัปเกรด

นอกเหนือจากมาตรการทางกฎหมายและทางการบริหารอย่างเป็นทางการ มาตรฐานแห่งชาติมีบทบาทเพิ่มขึ้นในการกำหนดความคาดหวังด้านการปฏิบัติตามกฎหมายในด้านปัญญาประดิษฐ์ ในสาขาปัญญาประดิษฐ์แบบสร้างเนื้อหา หน่วยงานกำกับดูแลได้ออกมาตรฐานแห่งชาติหลายฉบับ เพื่อให้คำแนะนำเกี่ยวกับการประเมินความปลอดภัยของเครื่องเรียนรู้ การระบุเนื้อหาที่สร้างขึ้น ความปลอดภัยของข้อมูลการฝึกอบรม และข้อกำหนดพื้นฐานของบริการ มาตรฐานแห่งชาติเพิ่มเติมที่เกี่ยวข้องกับความปลอดภัยของโมเดลปัญญาประดิษฐ์ในฐานะบริการ การประเมินความสามารถในการดำเนินงานอย่างปลอดภัยตลอดวงจรชีวิต และการประยุกต์ใช้ปัญญาประดิษฐ์แบบตัวแทน กำลังอยู่ในระหว่างการจัดทำ

มาตรฐานแห่งชาติเหล่านี้ทำหน้าที่เป็นเครื่องมือวัดทางการกำกับดูแล ให้คำแนะนำแก่หน่วยงานกำกับดูแลเกี่ยวกับวิธีการประเมินความเพียงพอของมาตรการด้านความปลอดภัย การจัดการด้านการกำกับดูแล และการควบคุมการดำเนินงานในทางปฏิบัติ ตามเวลาที่ผ่านไป พวกเขาอาจมีอิทธิพลเพิ่มขึ้นในด้านการกำกับดูแลและการบังคับใช้กฎหมาย โดยกำหนดความคาดหวังเกี่ยวกับสิ่งที่ถือว่าเป็น "มาตรการที่เหมาะสม" สำหรับระบบปัญญาประดิษฐ์

ควบคู่ไปกับมาตรการเฉพาะด้าน AI หน่วยงานกำกับดูแลอุตสาหกรรมการเงินในแผ่นดินใหญ่ของจีนกำลังเพิ่มความคาดหวังเกี่ยวกับการจัดการข้อมูลและโมเดล ซึ่งส่งผลกระทบโดยตรงต่อการนำ AI แบบสร้างเนื้อหาไปใช้งาน โดยเฉพาะอย่างยิ่ง:

a) ข้อกำหนดด้านความปลอดภัยของข้อมูลและการจัดการวงจรชีวิตของข้อมูลกำลังเข้มงวดขึ้น ธนาคารประชาชนจีนได้ออก《วิธีการจัดการความปลอดภัยของข้อมูลในสาขาธุรกิจของธนาคารประชาชนจีน》เมื่อวันที่ 1 พฤษภาคม 2025 ซึ่งกำหนดให้สถาบันการเงินดำเนินการจัดหมวดหมู่และจัดระดับข้อมูล สร้างและอัปเดตรายการข้อมูลเป็นระยะ ระบุข้อมูลส่วนบุคคล ข้อมูลที่ละเอียดอ่อน และข้อมูลสำคัญ กำหนดหน้าที่ภายในองค์กร และดำเนินมาตรการจัดการความปลอดภัยของข้อมูลตลอดวงจรชีวิตของข้อมูล; และ

b) การจัดการแบบจำลองและการกำกับดูแลแบบรวมศูนย์กำลังกลายเป็นประเด็นสำคัญทางการกำกับดูแล สำนักงานกำกับดูแลการเงินแห่งชาติได้ออกแผนการดำเนินการเพื่อพัฒนาดิจิทัลฟินเทคอย่างมีคุณภาพสูงสำหรับธนาคารและอุตสาหกรรมประกันภัยในเดือนธันวาคม 2025 โดยส่งเสริมให้สถาบันสร้างแพลตฟอร์มการจัดการ AI และแบบจำลองระดับองค์กร เพื่อสนับสนุนการพัฒนา การปรับใช้ และการติดตามแบบจำลองแบบรวมศูนย์

โดยรวมแล้ว แนวโน้มการกำกับดูแลเหล่านี้แสดงให้เห็นว่า การใช้ปัญญาประดิษฐ์ในอุตสาหกรรมการเงินได้รับความคาดหวังให้มีการจัดการผ่านโมเดลวงจรชีวิตที่มีโครงสร้าง จุดแทรกการควบคุมโดยมนุษย์ที่ชัดเจน และการกำกับดูแลที่เข้มงวดมากขึ้นต่อผู้ให้บริการและผู้ให้บริการเทคโนโลยีภายนอก ดังนั้น การปฏิบัติตามกฎระเบียบด้านปัญญาประดิษฐ์ในจีนแผ่นดินใหญ่จึงกำลังเข้าใกล้มาตรฐานการควบคุมที่มีอยู่แล้วในอุตสาหกรรมการเงิน โดยเน้นย้ำมากขึ้นถึงระดับความสุกงอมของการจัดการ คุณภาพของเอกสาร และความพร้อมในการกำกับดูแล

การพัฒนาล่าสุดแสดงให้เห็นว่าจีนแผ่นดินใหญ่กำลังเร่งการดำเนินการด้านการกำกับดูแล AI แนวคิดเชิงกลยุทธ์ เช่น ความปลอดภัย ความโปร่งใส และการใช้ข้อมูลอย่างรับผิดชอบ ยังคงมีความสำคัญ แต่แรงกดดันจากการกำกับดูแลกำลังมุ่งเน้นไปที่วิธีที่องค์กรบันทึก พิสูจน์ และนำไปใช้งานแนวคิดเหล่านี้ในทางปฏิบัติ

สำหรับสถาบันการเงิน การใช้ AI ในจีนแผ่นดินใหญ่ควรได้รับการสนับสนุนด้วยการกำกับดูแลแบบมีโครงสร้าง การควบคุมวงจรชีวิต และการบันทึกที่สามารถอธิบายได้ สถาบันการเงินที่รวมการวิเคราะห์การแจ้งเตือน การจัดการข้อมูล การประเมินความปลอดภัย การจัดการความเสี่ยงของโมเดล และการกำกับดูแลผู้ให้บริการไว้ในการออกแบบและดำเนินงานระบบ AI ตั้งแต่เริ่มต้น จะมีความสามารถมากกว่าในการขยายการใช้งาน AI อย่างรับผิดชอบ

มุมมองทั่วโลก: การติดตามตรวจสอบ ความเข้มข้น และความพึ่งพา

นอกเหนือจากฮ่องกงและประเทศจีนแผ่นดินใหญ่ รายงานเรื่อง “การติดตามการใช้ปัญญาประดิษฐ์ในภาคการเงินและความเปราะบางที่เกี่ยวข้อง” ที่คณะกรรมการความมั่นคงทางการเงินเผยแพร่ในเดือนตุลาคม 2025 [9] ชี้ให้เห็นว่า ปัญญาประดิษฐ์ในภาคการเงินไม่ใช่เพียงปัญหาด้านพฤติกรรมหรือเทคโนโลยี แต่ยังเป็นปัญหาด้านความมั่นคงทางการเงินด้วย รายงานเน้นย้ำถึงความเร็วในการพัฒนาโมเดลปัญญาประดิษฐ์ ความพึ่งพาที่เพิ่มขึ้นต่อผู้ให้บริการภายนอก และห่วงโซ่อุปทานที่เปลี่ยนแปลงอย่างต่อเนื่อง รวมถึงความจำเป็นในการติดตามการใช้งาน ปิดช่องว่างข้อมูล และทำความเข้าใจความเปราะบางที่เกี่ยวข้องกับการพึ่งพาผู้ให้บริการภายนอกและความเสี่ยงจากการรวมศูนย์ ข้อควรระวังสำหรับองค์กรคือ การกำกับดูแลปัญญาประดิษฐ์ต้องขยายเกินกว่านโยบายด้านจริยธรรมและเอกสารโมเดล แต่ต้องครอบคลุมการจ้างภายนอก ความยืดหยุ่นในการดำเนินงาน และความเสี่ยงจากระบบนิเวศ เช่น: การพึ่งพาผู้ให้บริการโมเดลพื้นฐานเพียงไม่กี่ราย แพลตฟอร์มคลาวด์ ผู้จัดหาข้อมูล และชั้นการรวมรวมปัญญาประดิษฐ์; การมองเห็นข้อมูลที่จำกัดเกี่ยวกับแหล่งที่มาของข้อมูลการฝึกอบรมและรอบการอัปเดตโมเดล; และความเสี่ยงที่การหยุดชะงักของผู้ให้บริการรายเดียว การเปลี่ยนแปลงโมเดล หรือเหตุการณ์ด้านความปลอดภัยจะส่งผลกระทบต่อองค์กรหลายแห่งพร้อมกัน

การกำกับดูแลอาจขยายจากผลลัพธ์ของแบบจำลองเดียวไปสู่สภาพแวดล้อมการควบคุมที่กว้างขวางยิ่งขึ้น รวมถึงสัญญาและสิทธิ์การตรวจสอบ การจัดการการเปลี่ยนแปลงและการควบคุมการเผยแพร่ ความต่อเนื่องทางธุรกิจและการวางแผนสำรอง ความสามารถในการถ่ายโอนข้อมูล การรายงานเหตุการณ์ และการติดตามผลอย่างต่อเนื่องเกี่ยวกับประสิทธิภาพของบุคคลที่สามและการเปิดรับความเสี่ยงจากการรวมศูนย์

ผลกระทบทางปฏิบัติต่อสถาบันการเงิน

กรอบการกำกับดูแลในปัจจุบันยังไม่ได้สร้างรายการทั่วไปเดียว ความคาดหวังทางกฎหมายและการกำกับดูแลจะแตกต่างกันไปตามอุตสาหกรรม รูปแบบธุรกิจ กรณีการใช้งาน ขอบเขตการดำเนินงาน และการออกแบบการปรับใช้ อย่างไรก็ตาม การพัฒนาล่าสุดชี้ให้เห็นถึงวาระการปฏิบัติที่สถาบันการเงินหลายแห่งควรพิจารณาในขณะนี้

1. (การกำกับดูแลและการตรวจสอบ) คณะกรรมการและผู้บริหารระดับสูงควรรับรองว่ามีการกำหนดความรับผิดชอบที่ชัดเจน เส้นทางการรายงาน และกรอบการอนุมัติสำหรับกรณีการใช้งาน AI ที่สำคัญ;
2. (การประเมินตัวอย่างการใช้งาน) องค์กรควรรับรองว่าตัวอย่างการใช้งานที่มีผลกระทบมากได้รับการทบทวนอย่างเข้มงวดด้านกฎหมาย การปฏิบัติตามกฎระเบียบ ความเสี่ยงของแบบจำลอง และเทคโนโลยี;
3. (ข้อมูลและความเป็นส่วนตัว) คำชี้แนะ การค้นหา และขั้นตอนการฝึกอบรมควรได้รับการทบทวนร่วมกับการจัดการข้อมูลและการปฏิบัติตามหน้าที่ด้านความลับที่กว้างขึ้น;
4. (ความโปร่งใสและการจัดการผลลัพธ์) องค์กรควรทบทวนการเปิดเผยข้อมูลแก่ลูกค้า คู่มือพนักงาน การระบุผลลัพธ์ และกระบวนการควบคุมคุณภาพว่าเหมาะสมหรือไม่;
5. (ความเสี่ยงจากบุคคลที่สามและการจ้างภายนอก) ควรเสริมสร้างการตรวจสอบความรอบคอบของผู้จัดหา การควบคุมสัญญา การวางแผนสำรอง และการติดตามอย่างต่อเนื่อง; และ
6. (การทดสอบ การตรวจสอบ และการรายงานเหตุการณ์) การจัดเตรียมการทดสอบ การบันทึก การตรวจสอบโมเดล และการรายงานเหตุการณ์ควรสอดคล้องกับสัดส่วนของกรณีการใช้งาน

การปรับใช้ AI แบบสร้างแบบเดียวอาจเกี่ยวข้องกับหลายด้าน เช่น ข้อมูลส่วนบุคคล ความลับทางธนาคาร สิทธิ์ในทรัพย์สินทางปัญญา การสื่อสารกับลูกค้า การตรวจสอบโมเดล ความยืดหยุ่นในการดำเนินงาน การจ้างภายนอก และการเก็บรักษาเอกสาร ดังนั้น การมอบปัญหาเหล่านี้ให้ทีมนวัตกรรมหรือเทคโนโลยีเพียงทีมเดียวมักไม่เพียงพอ

การควบคุมโดยมนุษย์ก็มีความสำคัญเช่นกัน สำหรับกรณีการใช้งานที่มีความเสี่ยงสูง การกล่าวถึงอย่างทั่วไปว่า “มีการมีส่วนร่วมของมนุษย์ในวงจร” อาจไม่น่าเชื่อถือ หากองค์กรไม่สามารถอธิบายได้ว่าเมื่อใดควรตรวจสอบ ใครรับผิดชอบในการตรวจสอบ ผู้ตรวจสอบควรตรวจสอบอะไร การตรวจสอบจะถูกบันทึกอย่างไร และเมื่อใดจะเริ่มต้นหรือระงับการดำเนินการ

การสังเกตการณ์การจัดการ AI ของสถาบันการเงินทั่วโลก

จากการทบทวนแบบเลือกสรรและไม่ครอบคลุมทั้งหมดเกี่ยวกับการจัดการ AI ของสถาบันการเงินระดับโลกบางแห่ง เราสรุปข้อสังเกตทั่วไปดังต่อไปนี้ โปรดทราบว่าข้อสังเกตเหล่านี้อยู่ในระดับสูงและมีลักษณะเป็นตัวอย่าง การจัดการ AI ไม่มีวิธีการเดียวที่ใช้ได้กับทุกที่ โครงสร้างของแต่ละสถาบันการเงินมักสะท้อนการพิจารณาหลายปัจจัยร่วมกัน ได้แก่ กฎระเบียบและข้อคาดหวังด้านการกำกับดูแลที่ใช้บังคับในเขตอำนาจศาลที่เกี่ยวข้อง โครงสร้างองค์กร ความชอบด้านความเสี่ยง ระดับความสุกงอมทางเทคโนโลยี และลักษณะของการใช้งาน AI

โครงสร้างการกำกับดูแลสามชั้นทั่วไปกำลังเกิดขึ้น: องค์กรหลายแห่งใช้แบบจำลองการกำกับดูแล “สามชั้น/สามแนวป้องกัน” ที่ออกแบบมาเฉพาะสำหรับ AI ในระดับการดำเนินงาน กรณีการใช้งาน AI มักถูกเสนอและพัฒนาโดยแผนกธุรกิจต่างๆ แบบกระจายอำนาจ ในระดับกลาง องค์กรมักจัดตั้งคณะกรรมการข้ามหน่วยงาน (เช่น คณะกรรมการกำกับดูแล AI หรือคณะกรรมาธิการ AI อย่างรับผิดชอบ) ซึ่งประกอบด้วยตัวแทนระดับสูงจากทีมความเสี่ยง การปฏิบัติตามกฎระเบียบ ข้อมูล เทคโนโลยี และธุรกิจ เพื่อทบทวน อนุมัติ และติดตามกรณีการใช้งาน AI ในระดับสูงสุด คณะกรรมการหรือคณะกรรมการระดับคณะกรรมการ (มักเป็นคณะกรรมการความเสี่ยงหรือเทคโนโลยีที่มีอยู่แล้ว ไม่ใช่คณะกรรมการระดับคณะกรรมการ AI ใหม่ที่จัดตั้งขึ้นโดยเฉพาะ) ยังคงรับผิดชอบในการกำกับดูแลสุดท้ายเกี่ยวกับกลยุทธ์ ความเสี่ยง และการกำกับดูแล AI

องค์กรส่วนใหญ่ไม่ได้จัดการการกำกับดูแล AI เป็นกรอบงานอิสระ: โดยทั่วไป AI จะถูกรวมเข้ากับโครงสร้างการกำกับดูแลที่มีอยู่แล้ว โดยเฉพาะอย่างยิ่งกรอบงานการจัดการความเสี่ยงของโมเดล ความเสี่ยงด้านการดำเนินงาน การกำกับดูแลทางเทคนิค และกรอบงานการจัดการข้อมูล องค์กรหลายแห่งมองว่าโมเดล AI เป็นส่วนขยายของกรอบงานการจัดการความเสี่ยงของโมเดล ทำให้ได้รับกระบวนการตรวจสอบ การติดตามผล และการทบทวนเป็นระยะเดียวกับโมเดลแบบดั้งเดิม พร้อมปรับกระบวนการเหล่านี้เพื่อรับมือกับความเสี่ยงเฉพาะของ AI เช่น ความสามารถในการอธิบาย ความลำเอียง และการเลื่อนตัวของโมเดล

การให้ความสำคัญอย่างมากต่อหลักการ “AI อย่างรับผิดชอบ” ภายใน: องค์กรหลายแห่งได้กำหนดหลักเกณฑ์หรือมาตรฐานการกำกับดูแล AI ภายใน เพื่อใช้เป็นข้อกำหนดพื้นฐานสำหรับการใช้งาน AI ทั้งหมด แม้ว่าคำศัพท์จะแตกต่างกัน แต่หลักการเหล่านี้มักจะมุ่งเน้นไปที่หัวข้อร่วมต่อไปนี้:

• ความเป็นธรรมและการหลีกเลี่ยงผลลัพธ์ที่เอนเอียงหรือมีการเลือกปฏิบัติ;
• ความโปร่งใสและการอธิบายได้ของผลลัพธ์โมเดลและข้อจำกัด
• การจัดการข้อมูล ความลับ และการปกป้องความเป็นส่วนตัว; และ
• การทดสอบ การตรวจสอบ และการยืนยันประสิทธิภาพของโมเดลอย่างต่อเนื่อง

หลักการเหล่านี้ได้รับการนำไปใช้งานผ่านนโยบายภายใน โครงสร้างการควบคุม และขั้นตอนการอนุมัติ แทนที่จะอยู่แค่ในระดับคำประกาศเชิงสัญญา

การกำกับดูแลข้ามหน่วยงานเป็นคุณลักษณะหลัก: การกำกับดูแล AI ไม่ได้จำกัดอยู่เพียงหน่วยงานเดียว มักมีผู้มีส่วนได้ส่วนเสียจากหลายทีม เช่น ข้อมูล เทคโนโลยี กฎหมาย การปฏิบัติตามกฎระเบียบ ความเสี่ยง และทีมธุรกิจ เข้าร่วม โดยทั่วไปจะมีคณะกรรมการกำกับดูแล AI หรือศูนย์ความเป็นเลิศเฉพาะทางเพื่อประสานงานหน่วยงานต่างๆ กำหนดมาตรฐานร่วมกัน และรับประกันความสอดคล้องระหว่างกรณีการใช้งานต่างๆ ในบางองค์กร หน่วยงาน AI แบบรวมศูนย์จะกำหนดนโยบายและเครื่องมือสำหรับทั้งองค์กร ในขณะที่หน่วยงานธุรกิจยังคงรับผิดชอบในการดำเนินการ

คณะกรรมการพิจารณาแต่ละกรณีการใช้งานไม่มีวิธีปฏิบัติที่เป็นมาตรฐานเดียวกัน: แม้ว่าบางองค์กรจะตั้งคณะกรรมการอย่างเป็นทางการเพื่อพิจารณากรณีการใช้งาน AI แต่องค์กรอื่นๆ กลับพึ่งพากระบวนการอนุมัติที่มีอยู่แล้ว (เช่น คณะกรรมการความเสี่ยงของโมเดลหรือเวทีการเปลี่ยนแปลงเทคโนโลยี) ในองค์กรระดับโลกขนาดใหญ่ มักมีแนวโน้มที่จะรวม AI เข้ากับโครงสร้างการกำกับดูแลที่มีอยู่แล้ว แทนที่จะสร้างองค์กรอนุมัติใหม่ ซึ่งสะท้อนให้เห็นว่าความเสี่ยงของ AI ควรได้รับการจัดการในฐานะส่วนหนึ่งของกรอบความเสี่ยงขององค์กรโดยรวม

การจัดการวงจรชีวิตได้รับความสนใจเพิ่มขึ้น: การจัดการ AI ไม่ได้จำกัดอยู่แค่การอนุมัติเริ่มต้น องค์กรกำลังให้ความสำคัญกับการควบคุมแบบครบวงจร รวมถึง:

• การจัดหมวดหมู่ตัวอย่างและการจัดระดับความเสี่ยง;
• การทดสอบและยืนยันก่อนการปรับใช้;
• การตรวจสอบประสิทธิภาพอย่างต่อเนื่องและการตรวจจับการเบี่ยงเบน;
• เกณฑ์การแทรกแซงด้วยมนุษย์และการรายงานอย่างชัดเจน; และ
• กระบวนการทบทวน ฝึกอบรมใหม่ และเลิกใช้งานอย่างสม่ำเสมอ

สิ่งนี้สะท้อนถึงการเปลี่ยนแปลงโดยรวมจากการควบคุมแบบคงที่ไปสู่การตรวจสอบอย่างต่อเนื่อง

การควบคุมด้วยการตรวจสอบของมนุษย์ยังคงเป็นกลไกควบคุมหลัก: องค์กรต่างๆ ต่างรับรู้ว่าการตรวจสอบของมนุษย์มีความสำคัญอย่างยิ่ง โดยเฉพาะสำหรับการใช้งานที่มีความเสี่ยงสูง อย่างไรก็ตาม กรอบการทำงานที่สุกงอมกว่าได้ก้าวพ้นแนวคิดทั่วไปเกี่ยวกับ “วงจรการมีส่วนร่วมของมนุษย์” เพื่อมุ่งเน้นการกำหนดอย่างแม่นยำว่าเมื่อใดควรตรวจสอบ ใครควรรับผิดชอบในการตรวจสอบ มาตรฐานใดควรใช้ และควรบันทึกและเก็บหลักฐานอย่างไร

การจัดการข้อมูลและการอธิบายแบบจำลองเป็นพื้นที่ที่ได้รับความสนใจเป็นอันดับแรก: องค์กรต่างๆ ต่างเน้นย้ำถึงความท้าทายที่เกี่ยวข้องกับคุณภาพข้อมูล แหล่งที่มา และการควบคุมการเข้าถึง รวมถึงความสามารถในการอธิบายแบบจำลองที่ซับซ้อน ซึ่งมักถูกมองว่าเป็นปัญหาการกำกับดูแลหลัก ไม่ใช่เพียงประเด็นทางเทคนิค โดยเฉพาะในสภาพแวดล้อมบริการทางการเงินที่มีการกำกับดูแล ที่ความสามารถในการอธิบายและการตรวจสอบได้เกี่ยวข้องอย่างใกล้ชิดกับความคาดหวังของหน่วยงานกำกับดูแล

กรอบการกำกับดูแลมีการพัฒนาอย่างต่อเนื่องตามกรณีการใช้งานและข้อกำหนดด้านการกำกับดูแล: องค์กรส่วนใหญ่ยังคงปรับปรุงกรอบการกำกับดูแล AI ของตน ขณะที่กรณีการใช้งาน AI ขยายตัว—โดยเฉพาะในด้านการมีปฏิสัมพันธ์กับลูกค้า การสนับสนุนการตัดสินใจ และการจัดการความเสี่ยง—กรอบการกำกับดูแลจึงได้รับการปรับปรุงเพื่อรับมือกับความเสี่ยงใหม่ การพัฒนาด้านการกำกับดูแล และบทเรียนจากการดำเนินงาน ดังนั้น การกำกับดูแล AI ควรได้รับการพิจารณาว่าเป็นวิชาที่มีความพลวัตและพัฒนาอย่างต่อเนื่อง ไม่ใช่กรอบที่คงที่

โดยรวมแล้ว การสังเกตเหล่านี้แสดงให้เห็นว่าทั่วโลกกำลังเคลื่อนตัวไปสู่กรอบการกำกับดูแล AI ที่บูรณาการ มีพื้นฐานจากหลักการ และเน้นที่วงจรชีวิต ซึ่งยึดถือโครงสร้างพื้นฐานด้านความเสี่ยงและการควบคุมที่มีอยู่ แต่กำลังปรับตัวมากขึ้นเพื่อรับมือกับลักษณะและความเสี่ยงเฉพาะของระบบ AI

ในบทความนี้ “ฮ่องกง” หมายถึงเขตปกครองพิเศษฮ่องกงของสาธารณรัฐประชาชนจีน