หาก AI บอกอย่างฉับพลันว่าคุณมีความผิด และทุกคนเชื่อการตัดสินของมันโดยไม่ไตร่ตรอง คุณควรพิสูจน์ความบริสุทธิ์ของตัวเองอย่างไร
ฟังดูเหมือนฉากในภาพยนตร์เรื่อง Minority Report ที่ทำนายอาชญากรรมแล้วถูกกล่าวหาว่าเป็นผู้กระทำผิด แต่ในทางปฏิบัติ สถานการณ์ที่เรียบง่ายกว่านั้นได้เกิดขึ้นแล้วในโลกความเป็นจริง:
AI ระบุตัวผู้ต้องหาผิด ทำให้ผู้หญิงคนหนึ่งที่บริสุทธิ์ต้องติดคุกเป็นเวลาหกเดือน ชีวิตเกือบจะหยุดนิ่ง
หนึ่ง, การที่ตำรวจจับกุม “แบลซิงสปีด” หมายถึงอะไร?
แองเจลา ลิปส์ จากรัฐเทนเนสซีของสหรัฐอเมริกาคือผู้หญิงผู้โชคร้ายคนนี้ ในเดือนกรกฎาคม 2025 ทีมตำรวจที่มีอาวุธเต็มตัวได้บุกเข้ามาในชีวิตอันเรียบง่ายของเธออย่างกะทันหัน และชี้ปืนใส่เธอ แจ้งว่าเธอถูกจับกุม
ตอนนั้นเธอรู้สึกสับสนเล็กน้อย เพราะแทบไม่รู้ว่าตัวเองทำผิดอะไรไป ตำรวจระบุว่าเธอสงสัยมีส่วนเกี่ยวข้องกับคดีฉ้อโกงธนาคารในรัฐนอร์ทดาโคตา ดูเหมือนจะมีหลักฐานชัดเจน และทางฝั่งตรงข้ามได้ออกหมายจับระดับ 5 ดาว แต่เมื่อเธอได้ยินเหตุผลนี้ ก็ยืนนิ่งอยู่กับที่:
But I’ve never been to that state in my life.
จากแผนที่ รัฐเทนเนสซีของสหรัฐอเมริกากับรัฐนอร์ทดาโคตาอยู่ห่างกันมาก และสิ่งที่เชื่อมเธอเข้ากับผู้ต้องสงสัยคือ AI
ตอนตำรวจจับเธอ พวกเขาปิดกั้นคำอธิบายของเธอโดยอัตโนมัติ รายละเอียดของคดีนั้นยังไม่ทราบจนกระทั่งเธอเข้าคุก ตำรวจเมืองฟอร์ตวอร์ธ รัฐนอร์ทดาโคตา กำลังสืบสวนคดีฉ้อโกง ซึ่งผู้ต้องสงสัยใช้ตัวตนทหารปลอมเพื่อหลอกลวงธนาคารให้โอนเงินหลายหมื่นดอลลาร์ โดยวิธีการสืบสวนของตำรวจคือตรวจสอบกล้องวงจรปิดก่อน ตามด้วยการสอบถาม AI และสุดท้ายจึงจับกุม
คุณอาจคิดว่าพวกเขาใช้ AI สร้างโฮล์มส์ขึ้นมา แล้วแปลงร่างเป็นนักสืบชั้นยอดที่แก้คดีด้วยเหตุผลอันเข้มงวด แต่ความจริงแล้วไม่ได้ซับซ้อนอย่างนั้น ตำรวจใช้ระบบ AI ในการระบุใบหน้าจากภาพถ่ายจากกล้องวงจรปิด แล้วกรองผู้ต้องสงสัยจากฐานข้อมูลภาพ
ผลคือ AI ครั้งนี้จับผิดภาพของ Angela Lipps ไป ข้อมูลนี้ถูกส่งต่อไปยังสถานีตำรวจที่กำลังสืบสวน ผู้ปฏิบัติงานจึงจับผิดใหญ่กว่าเดิม โดยตรวจสอบใบขับขี่และโซเชียลมีเดียของเธอแบบแมนนวล แล้วตัดสินว่าลักษณะใบหน้า รูปร่าง และทรงผมคล้ายกัน จึงสรุปว่าเธอคือผู้ต้องสงสัย
รูปภาพจาก GoFundMe
พี่สาวได้ยินแล้วรู้สึกช็อกมาก ไม่ได้ตรวจสอบข้อมูลอื่นเพิ่มเติม ถ้าเกิดว่าหน้าเหมือนกันล่ะ? แต่สิ่งที่ทำให้ช็อกมากกว่านั้นคือ หลังจากถูกโจมตีด้วยชุดทักษะต่อเนื่อง เธอไม่มีโอกาสพิสูจน์ความบริสุทธิ์ของตัวเอง
ตามขั้นตอนท้องถิ่น เธอไม่ได้ถูกจับส่งไปยังรัฐนอร์ทดาโคตาเพื่อการสอบสวนเพิ่มเติม แต่ถูกคุมขังอยู่ในเรือนจำท้องถิ่นของรัฐเทนเนสซี เนื่องจากถูกจัดว่าเป็น “ผู้ต้องหาหลบหนีข้ามรัฐ” เธอจึงไม่ได้รับการประกันตัวและไม่มีโอกาสถูกสอบสวนโดยเจ้าหน้าที่ตำรวจ ถูกคุมขังโดยไม่มีเหตุผลเป็นเวลา 108 วัน ตั้งแต่เดือนกรกฎาคมจนถึงปลายเดือนตุลาคม ยากที่จะจินตนาการว่าเธอรู้สึกสิ้นหวังเพียงใดในช่วงเวลานั้น
แองเจลา ลิปส์ ต้องรอจนถึงวันที่ 30 ตุลาคม จึงถูกเจ้าหน้าที่ตำรวจนำตัวออกจากเรือนจำเพื่อส่งตัวไปยังรัฐนอร์ทดาโคตา โดยในระหว่างการเดินทาง เธอต้องสวมกุญแจมือและมีโซ่รัดรอบเอว ซึ่งเธอรู้สึกว่าการผ่านสนามบินเหมือนถูกนำตัวเดินโชว์ในที่สาธารณะ
และนี่คือครั้งแรกในชีวิตของเธอที่นั่งเครื่องบิน
สิ่งที่เธอไม่คาดคิดคือ เมื่อไปถึงรัฐนอร์ทดาโคตา เธอก็ยังต้องรอต่อไป จนกระทั่งเดือนธันวาคม เธอจึงมีโอกาสอย่างเป็นทางการในการอธิบายเรื่องนี้ ทนายของเธอได้เรียกดูบันทึกธนาคารของเธอเพื่อเปรียบเทียบเวลา ซึ่งแสดงว่าในช่วงเวลาเกิดเหตุ เธอกำลังอยู่ที่รัฐเทนเนสซี ซึ่งห่างออกไป 1,900 กิโลเมตร และกำลังซื้อพิซซ่า หมายความว่า เว้นแต่เธอจะเป็น “สปีดีสตาร์” เธอก็ไม่สามารถก่อเหตุข้ามเวลาและพื้นที่ได้
ใช้เวลาเพียง 5 นาที ทนายความก็ช่วยอธิบายเรื่องนี้ให้เธอชัดเจน
ถึงวันที่ 24 ธันวาคม ข้อกล่าวหาของเธอจึงถูกยกเลิกในที่สุด แต่เธอไม่มีอะไรให้ยิ้มได้ เพราะจุด “斩杀线” ตอนนี้อยู่ระดับข้อเท้าแล้ว
แองเจลา ลิปส์ ใช้เวลาครบรอบวันเกิดอายุ 50 ปีทั้งหมดในเรือนจำ ระหว่างต้องจำคุกไม่ได้รับอนุญาตให้ใส่ฟันปลอม จึงต้องกินอาหารขยะ และมีความเครียดทางจิตใจสูง น้ำหนักจึงเพิ่มขึ้นอย่างรวดเร็ว ก่อนเข้าเรือนจำเธอสวมชุดฤดูร้อน แต่เมื่อออกมาเป็นฤดูหนาว ไม่มีเสื้อโค้ทหนาแม้แต่ตัวเดียว แม้แต่การรักษาความอบอุ่นยังเป็นปัญหา ยิ่งไปกว่านั้นการกลับบ้านก็เป็นไปไม่ได้ ในเวลานั้นเจ้าหน้าที่ตำรวจยังไม่ได้ให้ค่าเดินทางใดๆ เธอจึงเหมือนติดอยู่ในรัฐนอร์ทดาโคตาหลังพ้นโทษ และติดอยู่กับวันที่ถูก AI กล่าวหาผิด
แต่โชคดีที่ยังมีผู้ใจดีช่วยเธอไว้
ทนายของเธอช่วยจัดที่พักโรงแรมให้เธอ และจัดอาหารให้เธอผ่านช่วงเวลาที่ยากลำบากที่สุด องค์กรไม่แสวงหากำไรท้องถิ่นช่วยเหลือเธอและส่งเธอกลับบ้านในรัฐเทนเนสซี
แต่เมื่อกลับบ้าน ความยากลำบากในการเริ่มต้นชีวิตใหม่ก็หนักหน่วงเหมือนนรก ในช่วงเวลาที่เธอถูกคุมขัง เศรษฐกิจของเธอพังยับ บ้านเช่าถูกยึด หมาที่บ้านก็หายไป แม้แต่รถของเธอและสิ่งของที่เก็บไว้ในรถก็ไม่เหลือเลย สิ่งของส่วนตัวของเธอถูกเก็บไว้ชั่วคราวในคลังสินค้า แต่ต่อมาเนื่องจากเธอจ่ายค่าเช่าไม่ได้ สิ่งของใช้ส่วนตัวทั้งหมดจึงถูกกำจัดทิ้งหมด สัมพันธภาพกับผู้อื่นก็อยู่ในภาวะเสี่ยง เพราะเพื่อนบ้านเห็นเธอถูกจับตัวและ “หายตัวไป” เป็นเวลาหกเดือน จึงคิดว่าเธอคงได้กระทำผิดจริง
ในขณะเดียวกัน ประสบการณ์ที่แปลกประหลาดของเธอได้แพร่กระจายอย่างรวดเร็วบนอินเทอร์เน็ต และกระตุ้นให้ผู้คนจำนวนมากแสดงความคิดเห็นอย่างดุเดือด ตัวอย่างเช่น หลายคนรู้สึกไม่รู้จะพูดอะไร เพราะในสหรัฐอเมริกา บางคนสามารถ “รับของฟรี” ได้ แต่ถ้าคุณแตะต้องธนาคารของชนชั้นทุนนิยม คุณจะถูกจับทันที แม้ว่าคุณจะไม่ได้เป็นคนทำก็ตาม
เนื่องจากเรื่องนี้ขยายตัวใหญ่โต สถานการณ์สุดขั้วของเธอจึงกลับมีโอกาสอีกครั้ง และได้รับความช่วยเหลือเพิ่มเติม ปัจจุบันเธอได้ระดมทุนบริจาคได้ 80,000 ดอลลาร์สหรัฐ ซึ่งเพียงพอสำหรับการเริ่มต้นชีวิตใหม่
แต่ตอนนี้ผู้ใช้อินเทอร์เน็ตคาดหวังอย่างมากว่าเธอจะจ้างทีมทนายความชั้นนำ เพื่อฟ้องร้องพวกเขาอย่างยิ่งใหญ่ ซึ่งอาจชนะคดีและได้รับค่าชดเชยอีกครั้ง
เนื่องจากนี่ไม่ใช่ข้อผิดพลาดแบบสุ่มของตำรวจ ก่อนหน้านี้ได้เกิดคดีผิดพลาดเป็นจำนวนมาก บางคนมีประสบการณ์ที่เลวร้ายยิ่งกว่าเธอ
สอง: ช่วงวิทยาศาสตร์แฟนตาซีที่น่าขนลุกจากข้อผิดพลาดของ AI
ประสบการณ์ของ Angela Lipps ได้เกิดขึ้นแล้วมากกว่าสิบครั้งในหลายภูมิภาค รวมถึงประเทศอื่นๆ ด้วย
ตัวอย่างเช่น โรเบิร์ต วิลเลียมส์ เป็นหนึ่งในเหยื่อรายแรกของเหตุการณ์เช่นนี้ ในปี 2020 ตำรวจจับกุมเขาต่อหน้าภรรยาและลูกสาวของเขา และกักตัวเขาเป็นเวลา 30 ชั่วโมง แม้ว่าเขาจะสูงกว่าผู้กระทำผิดตัวจริงถึง 20 เซนติเมตร
คริส แกตลิน อีกคนหนึ่งก็เป็นผู้โชคไม่ดีรายหนึ่ง โดย AI ได้จับคู่เขาเป็นผู้ต้องสงสัยในคดีโจมตีบนรถไฟใต้ดินจากภาพบันทึกความปลอดภัยที่ไม่ชัดเจน แล้วเขาก็ถูกคุมขังต่อเนื่องเป็นเวลา 17 เดือน กลายเป็นบุคคลที่บริสุทธิ์ที่ถูกคุมขังนานที่สุดเท่าที่เคยมีมา ที่น่าประหลาดคือ จนกระทั่งสุดท้ายเจ้าหน้าที่สอบสวนจึงค้นพบว่ามีกล้องบันทึกการปฏิบัติหน้าที่อีกตัวหนึ่งซึ่งสามารถเป็นหลักฐานสำคัญได้ แต่ในวิดีโอนั้น ผู้ต้องสงสัยกลับไม่เหมือนเขาเลย
ปี 2023 พอร์ชา วูดรัฟฟ์ ก็เผชิญกับสถานการณ์เดียวกัน ตำรวจกล่าวหาเธอในข้อหาขโมยรถ เธอได้ยินแล้วหัวเราะออกมาด้วยความโกรธ คิดว่าตำรวจกำลังเล่นตลก เพราะตอนนั้นเธอตั้งครรภ์แปดเดือน ดูไม่มีทางที่จะสามารถลงมือได้ แต่เธอถูกนำตัวไปกักตัวเป็นเวลาสิบกว่าชั่วโมง ต่อมาเธอฟ้องร้องแต่กลับแพ้คดี
ปีนี้ หนุ่มชาวอังกฤษชื่อ Alvi Choudhury ก็ถูกจับในสถานการณ์คล้ายกัน โดยถูกกล่าวหาว่า “ลักเข้าบ้าน” แต่จากหลักฐานปรากฏว่าการกระทำเกิดขึ้น “จากไกล” ซึ่งเหตุการณ์นี้เคยปรากฏในภาพยนตร์ด้วย ระบบ AI ระบุว่าเป็นภาพของเขาเมื่อถูกกักตัวในปี 2021 เมื่อเจ้าหน้าที่เห็นตัวจริงก็หัวเราะออกมา เพราะเขาดูแก่กว่าผู้ต้องสงสัยอย่างน้อย 10 ปี
รูปภาพจาก《Mind Transfer》
ในปี 2022 นักธุรกิจอินเดียชื่อ Praveen Kumar ถูกจับขณะเดินทางไปสวิตเซอร์แลนด์ โดยเขาเปลี่ยนเครื่องที่อาบูดาบี ซึ่งระบบ AI ได้จับคู่เขากับผู้ต้องหาที่ถูกออกหมายจับ ทางท้องถิ่นจึงสอบสวนเขาอย่างละเอียด แต่สุดท้ายก็พบว่าเขาไม่ใช่ผู้ต้องสงสัย จึงส่งตัวเขากลับอินเดีย อย่างไรก็ตาม เขาถูกกักตัวอีกสองครั้งที่สนามบินอินเดีย
ในเหตุการณ์ประเภทนี้ กรณีที่รุนแรงที่สุดน่าจะเป็นประสบการณ์ของนักวิทยาศาสตร์รัสเซีย Alexander Tsvetkov ซึ่ง AI บอกว่าเขาดูเหมือนฆาตกร ทำให้เขาถูกคุมขังเป็นเวลา 10 เดือน
นักวิทยาศาสตร์คนนี้สามารถพูดได้ว่าตกเป็นเหยื่อของการกล่าวหาทั้งจาก AI และมนุษย์ ในเดือนกุมภาพันธ์ 2023 เขาเดินทางกลับรัสเซียหลังจากการสำรวจวิจัยเสร็จสิ้น แต่เพิ่งลงจากเครื่องบินก็ถูกจับทันที เหตุผลคือ AI แสดงผลว่าเขาคล้ายกับภาพลักษณ์ของผู้ต้องสงสัยในคดีฆาตกรรมต่อเนื่องเมื่อสองทศวรรษก่อนถึง 55% พร้อมกันนั้น มีพยานผู้ให้การเปลี่ยนใจในคดีนี้ ซึ่งได้ให้การเท็จเพื่อขอลดโทษโดยระบุตัวเขาเป็นผู้กระทำผิด ที่แย่กว่านั้น ตำรวจไม่ได้สืบสวนอย่างละเอียด และจับตัวเขาไปโดยไม่มีการตรวจสอบเพิ่มเติม
หลังถูกกักตัว เขาคิดว่าเป็นความเข้าใจผิดเล็กน้อย แต่การสืบสวนกลับล่าช้าไม่จบสิ้น ภายใต้แรงกดดันทางจิตใจและปัญหาสุขภาพ เขาถูกบังคับให้รับสารภาพ ต่อมาจึงถอนคำรับสารภาพ โชคดีที่ภรรยาและเพื่อนร่วมงานในสถาบันยังคงต่อสู้เพื่อเขาอย่างไม่ย่อท้อ โดยรวบรวมเอกสารจำนวนมากเพื่อพิสูจน์ว่าในปีที่เกิดเหตุ เขากำลังเดินทางไปสำรวจต่างถิ่น พร้อมกับการรายงานข่าวของสื่อ คดีนี้จึงได้รับการพูดถึงอย่างกว้างขวางในหมู่ประชาชน จนกระทั่งเดือนธันวาคมจึงมีความคืบหน้า และข้อกล่าวหาถูกยกเลิกอย่างเป็นทางการในเดือนกุมภาพันธ์ 2024
ในขณะเดียวกัน คดีประเภทนี้เกิดขึ้นบ่อยขึ้นเรื่อยๆ ตามการพัฒนาของ AI ดูเหมือนว่า AI กำลัง “สั่งการ” ในขณะที่มนุษย์บางส่วนกลับกลายเป็นเครื่องจักรที่ปฏิบัติตาม
สาม โรคจากการทำงานที่ “ปัญญาประดิษฐ์เป็นผู้ตัดสิน”
ความรู้สึกนามธรรมที่ว่า “สลับบทบาทกัน” เกิดขึ้นเพราะทั้ง AI และมนุษย์ต่างก็สามารถล้มเหลวได้ แม้แต่ AI ที่แข็งแกร่งที่สุดก็ยังสามารถทำผิดพลาดได้ ส่วนมนุษย์นั้นยิ่งมักจะ “ขี้เกียจ” ได้ทุกเมื่อ
ตัวอย่างเช่น ระบบ Clearview AI ของสหรัฐอเมริกา ซึ่งเป็นระบบที่ส่งผู้หญิงคนแรกในบทความไปจำคุก แต่มันไม่ใช่ซอฟต์แวร์ระดับสอง Clearview AI อ้างว่ามีฐานข้อมูลรูปภาพที่ใหญ่ที่สุดในโลก และได้รวบรวมรูปภาพหลายพันล้านภาพอย่างไม่ยั้งแม้จะถูกปรับจากหลายประเทศ โดยมีหน่วยงานบังคับใช้กฎหมายมากกว่า 3,000 แห่งในสหรัฐอเมริกาใช้งาน และเมื่อปีที่แล้วยังได้ลงนามสัญญา trịมูลค่า 9.2 ล้านดอลลาร์สหรัฐกับ ICE
แต่พูดแบบง่ายๆ แล้ว Clearview AI เป็นเหมือน “เครื่องมือค้นหาใบหน้า” ซึ่งเมื่อคุณใช้งาน คุณแค่อัปโหลดรูปภาพหนึ่งภาพ จากนั้นระบบจะจับคู่กับฐานข้อมูลของมันและแสดงรูปภาพที่คล้ายกันจำนวนมาก สุดท้ายแล้วว่ารูปภาพไหนคือคนที่คุณกำลังตามหา คุณต้องเป็นผู้ตัดสินเอง
แม้ว่าความก้าวหน้าของ AI ในช่วงหลายปีที่ผ่านมาจะรวดเร็วมาก แต่ “ความแม่นยำ” ยังคงเป็นที่ถกเถียงอยู่ เนื่องจากข้อมูลที่ใช้ในการทดสอบการทดลองมักมีความแตกต่างจากสถานการณ์จริงเมื่อใช้การค้นหาภาพ
ตัวอย่างเช่น ในหลายครั้ง ภาพจากกล้องวงจรปิดที่ตำรวจพบมีคุณภาพต่ำเหมือนถ่ายด้วยโทรศัพท์รุ่นเก่า บวกกับปัจจัยต่างๆ เช่น แสงที่ผิดปกติ มุมกล้องที่ไม่เหมาะสม และใบหน้าถูกบัง ทำให้การระบุตัวตนยากมาก และภาพในฐานข้อมูลอาจเป็นภาพเก่า ผลการจับคู่จึงอาจเกิดขึ้นเพียงเพราะคนสองคนหน้าเหมือนกัน
แต่เมื่อข้อผิดพลาดเหล่านี้ถูกนำไปใช้กับบุคคลจริง ก็ย่อมทำให้ต้องเดือดร้อน
นี่คือนกกาหรือแมว?
ในทางทฤษฎี หาก AI เพียงแค่ผิดพลาดเป็นครั้งคราว ก็ยังมีหวัง เพราะสิ่งเหล่านี้เป็นเพียง “ข้อมูลชี้นำ” ข้อสรุปที่ตามมาจำเป็นต้องได้รับการตรวจสอบโดยมนุษย์ แต่ในหลายครั้ง มนุษย์กลับทำอะไรที่ “บ้าบอ” มากกว่า AI
จริงๆ แล้วเมื่อหลายปีก่อน ก็มีคนบ่นว่าตำรวจสหรัฐฯ ถูก AI ควบคุม ตกอยู่ในภาวะอคติทางอัตโนมัติ คือพึ่งพาหรือไว้วางใจผลลัพธ์ที่ AI ให้มาเกินไป แค่ AI บอกว่าสองคนนี้ตรงกัน คนก็เชื่อทันที ความสูงไม่ตรงก็ไม่ใช่ปัญหาของฉัน แม้จะมีหลักฐานไม่อยู่ที่เกิดเหตุ แต่หน้าที่ของฉันแค่จับคนเท่านั้น หลักฐานอื่นๆ ทั้งหมดให้ไปพูดกับเรือนจำเถอะ ข้ามขั้นตอนการสืบสวนพื้นฐานไปพร้อมกับทำให้ผู้อื่น “ข้ามชีวิต”
ที่จริงแล้วมนุษย์เข้าใจข้อบกพร่องของ AI ดีอยู่แล้ว หลังจากตำรวจสหรัฐฯ เสียเงินไปจำนวนมาก หลายพื้นที่จึงได้ตั้ง “เส้นแบ่งความปลอดภัย” เช่น ในการแก้คดีต้องมีหลักฐานอิสระร่วมกับข้อมูลจาก AI หรือบางพื้นที่ห้ามใช้เทคโนโลยี AI ในการแก้คดีโดยตรง
แต่ข้อจำกัดเหล่านี้ไม่สามารถหยุดยั้งความสะดวกสบายของ AI ได้ แม้ว่าจะมีโอกาสล้มเหลว แต่จำนวนความสำเร็จยังมากกว่า บางครั้งเบาะแสที่ตำรวจใช้ความพยายามค้นหา กลับเป็นเพียงภาพถ่ายจากกล้องวงจรปิดระดับ “ล็อกประตู” ซึ่งมักจะลองใช้ AI ดูเพื่อเสี่ยงโชค ตั้งแต่ปี 2023 มีรายงานว่าตำรวจสหรัฐฯ ใช้ Clearview AI ค้นหาไปแล้วกว่าหนึ่งล้านครั้ง แม้ต่อมาจะถูกห้ามอย่างเป็นทางการ แต่พวกเขาก็ยังใช้งานอย่างลับๆ เพราะแม้จะใช้ก็สามารถอ้างว่าไม่ได้ใช้ ถ้าซอฟต์แวร์นี้ห้ามใช้ก็เปลี่ยนเป็นอีกตัว ถ้าถูกห้ามในท้องถิ่นก็ให้หน่วยงานอื่นช่วยใช้งานแทน แทบจะติดใจไปแล้ว
ดังนั้น เมื่อ AI ให้เบาะแสที่ไม่น่าเชื่อถือก่อน ตามด้วยมนุษย์ขี้เกียจข้ามการสืบสวน วูลงและเฟิงฉูร่วมกันใช้เทคนิคพิเศษ คดีผิดพลาดจึงเกิดขึ้นโดยธรรมชาติ
ในช่วงสองปีที่ผ่านมา ระบบ Smart Sampa ของบราซิลก็กำลังเผชิญกับปัญหาที่คล้ายกัน ในปี 2024 เมืองเซาเปาโลของบราซิลได้เปิดใช้งานระบบตำรวจ AI รู้จำใบหน้าที่ใหญ่ที่สุดในอเมริกาใต้ ซึ่งมีการเชื่อมต่อกับกล้องวงจรปิดกว่า 40,000 ตัว
ข่าวดีคือผลลัพธ์นั้นยอดเยี่ยม โดยในหลายปีที่ผ่านมา มีอาชญากรใกล้พันคนถูกจับกุมที่เกิดเหตุ และจับกุมผู้ต้องหาหลบหนีอีกกว่าสามพันคน คดีปล้นโจรกรรมลดลงใกล้เคียง 15% ในปี 2025 ถือเป็น “สายการผลิตจับโจร”
ข่าวร้ายคือ มีผู้ถูกจับผิดอย่างน้อย 59 คน
มีกรณีที่เป็นนามธรรมหลายกรณี เช่น ผู้ป่วยทางจิตเวชถูกนำตัวไปเหมือนอาชญากรในโรงพยาบาล ต่อมาพบว่าหมายจับของเขาหมดอายุจึงปล่อยตัวไป อีกกรณีหนึ่งคือผู้ชายคนหนึ่งถูกจับถึง 4 ครั้งภายในเวลา 7 เดือน เพราะ AI สับสนระหว่างเขา vớiผู้ต้องสงสัยฆาตกรรมที่หลบหนี ทุกครั้งที่ถูกนำตัวกลับไปยังสถานีตำรวจ เขาก็ถูกปล่อยตัวทันที แต่หลังจากผ่านไปไม่กี่วันก็ถูกจับอีกครั้ง เขาถึงกับตกใจจนชินแล้ว
ก่อนหน้านี้ เมื่อพูดถึงงานใดที่ AI ไม่สามารถแทนที่มนุษย์ได้ เรามักพูดว่า AI ไม่สามารถนั่งคุกแทนคนได้ แต่เราไม่เคยคิดถึงมุมกลับของปัญหานี้มาก่อน ว่าตอนนี้มันสามารถทำให้คน “นั่งคุก” ได้
ข้อความนี้ในอดีตเป็นเรื่องตลก แต่ตอนนี้ดูเหมือนจะไม่ใช่ข่าวใหม่แล้ว ที่จริงไม่ใช่แค่การรู้จำใบหน้าเท่านั้น แต่ AI ในด้านการรู้จำวัตถุบางครั้งก็สามารถทำสิ่งที่น่าประทับใจได้เช่นกัน
เมื่อปีที่แล้ว ระบบความปลอดภัยด้วยปัญญาประดิษฐ์ของโรงเรียนมัธยมในสหรัฐอเมริกา ได้ระบุถุงขนมขบเคี้ยวที่เด็กหนุ่มถือว่าเป็น “ปืนที่อาจเป็นอันตราย” และกระตุ้นสัญญาณเตือนทันที รถตำรวจ 8 คันรีบมาถึงและควบคุมตัวเด็กหนุ่มทันที จนกระทั่งเจ้าหน้าที่ค้นตัวเขาแล้วจึงพบถุงขนมในถังขยะ สถานการณ์กลายเป็นเรื่องอับอายอย่างมาก เด็กหนุ่มคิดว่าตัวเองอาจไม่รอด
อย่าพูดเลย อย่าพูดเลย
ใครจะคิดว่า AI จะยิ่งแข็งแกร่งเท่าไร คนบางคนก็ยิ่งใช้มันสร้างปัญหาใหญ่ขึ้นเท่านั้น สมัยก่อน AI ยังโง่ มองภาพแล้วระบุผิด ทำให้ทั้งเน็ตหัวเราะเยาะนานนับเดือน แต่ตอนนี้ AI แข็งแรงขึ้น ระบุคนผิดเพียงคนเดียว ก็ทำให้มนุษย์ต้องติดคุกเป็นเวลาหกเดือน อย่าสร้างสิ่งที่นามธรรมเช่น การพิพากษาด้วย AI ทนายความ AI หรือศาลพลังงานใหม่ในอนาคตอีกเลย สุดท้ายแล้ว AI 本身 ก็แค่เครื่องมือหนึ่ง ประเด็นสำคัญคือความสามารถและจุดประสงค์ของผู้ใช้งาน หรือพูดอีกแบบคือ AI ยิ่งแข็งแรง คนเราก็ยิ่งไม่ควรขี้เกียจ
ในที่สุด ก็เริ่มคิดถึง AI ที่โง่ๆ นั้นบ้าง
บทความนี้มาจาก微信号 “CoolPlay Lab” โดยผู้เขียน: CoolPlay Lab