Pengenalan Salah AI Menyebabkan Penahanan Salah Selama 160 Hari di AS

Jika AI tiba-tiba mengatakan anda bersalah dan semua orang percaya tanpa berfikir terhadap penilaian ia, bagaimana anda ingin membuktikan ketidakbersalahan anda?

Ini kedengaran seperti adegan dalam filem Minority Report di mana kejahatan diramalkan sebelum berlaku dan kemudian seseorang disalahkan, tetapi secara abstrak, versi yang lebih kasar telah berlaku dalam kenyataan:

AI salah mengenal pasti pesalah, menyebabkan seorang kakak yang tidak bersalah dipenjara selama enam bulan, hidupnya hampir terhenti.

Angela Lipps dari Tennessee, Amerika Syarikat, adalah wanita malang ini. Pada Julai 2025, sekumpulan polisi bersenjata penuh tiba-tiba menerobos ke dalam kehidupan biasanya nya, mengarahkan senapang ke arahnya, dan memberitahunya bahawa beliau ditangkap.

Pada masa itu, dia agak bingung, kerana sama sekali tidak tahu apa kesalahan yang telah dilakukannya. Polis mengatakan bahawa dia didakwa terlibat dalam kes penipuan bank di North Dakota, dan dari sikap mereka, nampaknya bukti-bukti adalah jelas, dan pihak berkuasa telah mengeluarkan penghormatan penting tingkat lima, tetapi setelah mendengar alasan itu, dia terpaku di tempat:

Tetapi saya, seumur hidup saya tidak pernah pergi ke negeri itu.

Dari peta, negara bagian Tennessee dan North Dakota di Amerika Syarikat memang berjauhan, dan AI lah yang menghubungkannya dengan tersangka.

Semasa polis menangkapnya, pengakuan beliau secara automatik dihalang, dan butiran kes yang sebenar baru diketahui selepas beliau dimasukkan ke penjara. Polis bandar Fargo, North Dakota, sedang menyiasat kes penipuan, di mana tersangka menggunakan identiti askar palsu untuk menipu bank sebanyak beribu-ribu dolar, dan kaedah penyiasatan polis ialah memeriksa rakaman kamera pengawasan terlebih dahulu, kemudian bertanya kepada AI, dan akhirnya menangkap tersangka.

Anda mungkin menganggap bahawa AI telah "mengolah" Sherlock Holmes, lalu berubah menjadi detektif hebat yang menyelesaikan kes melalui penalaran logik yang ketat, tetapi sebenarnya ia tidak sekompleks itu. Polis menggunakan sistem AI untuk mengenali muka dari tangkapan layar rakaman pengawasan, kemudian menyaring tersangka dari perpustakaan gambar.

Hasilnya, AI kali ini membuat kesalahan besar dengan mencocokkan secara salah gambar Angela Lipps. Maklumat ini kemudian disampaikan ke polis yang sedang menyiasat kes, dan petugasnya membuat kesalahan yang lebih besar lagi—setelah memeriksa secara manual lesen memandu dan media sosialnya, mereka menganggap ciri-ciri muka, postur, dan gaya rambutnya serupa, lalu menyimpulkan bahawa dia adalah tersangka.

Gambar dari GoFundMe

Saudari besar mendengar perkataan itu dan sangat hancur, tidak menyelidiki petunjuk lain lagi—bagaimana jika ada kesamaan wajah? Tetapi yang lebih hancur lagi datang selepas itu, iaitu setelah serangan berturut-turut, dia tidak mendapat peluang untuk membuktikan ketidakbersalahannya.

Menurut prosedur tempatan, dia tidak ditangkap secara langsung dan dibawa ke North Dakota untuk penyiasatan lanjut, tetapi menunggu di penjara tempatan di Tennessee. Disebabkan dianggap sebagai "pelarian antarabangsa", dia tidak dibenarkan mendapat jaminan atau peluang untuk diperiksa oleh polis, dan dipenjara selama 108 hari tanpa sebab—dari bulan Julai hingga akhir Oktober—sukar untuk membayangkan betapa putus asanya dia semasa tempoh ini.

Angela Lipps terus menunggu sehingga 30 Oktober, akhirnya dibawa keluar dari penjara oleh polis untuk dipindahkan ke North Dakota, ketika itu dia menghadapi beberapa tuduhan; semasa perjalanan, dia tidak hanya memakai belenggu tangan, tetapi juga rantai di pinggang, dan menurutnya, melalui lapangan terbang seolah-olah seperti diarak di depan umum.

Dan ini sebenarnya merupakan pengalaman pertama dalam hidupnya untuk naik pesawat.

Yang tidak disangkanya, setelah sampai di North Dakota, dia masih perlu menunggu lagi. Baru pada bulan Disember dia mendapat peluang rasmi untuk menjelaskan perkara ini, di mana pengacaranya secara langsung membandingkan rekod perbankannya dengan masa kejadian, dan menunjukkan bahawa pada masa kejadian, dia sedang membeli pizza di Tennessee, sejauh 1,900 kilometer jauhnya, bermakna kecuali jika dia adalah "The Flash", dia tidak mungkin melakukan kejahatan melintasi ruang dan masa.

Hanya mengambil 5 minit, pengacara membantu dia menjelaskan perkara ini.

Pada 24 Disember, tuduhan terhadapnya akhirnya ditarik balik, tetapi dia tidak dapat berseronok sama sekali, kerana "garis pemotongan" kini telah sampai ke pergelangan kaki.

Angela Lipps merayakan ulang tahunnya yang ke-50 di dalam penjara. Semasa di penjara, dia tidak dibenarkan memakai gigi palsu, makanannya hanya makanan sampah, dan tekanan mentalnya tinggi, menyebabkan berat badannya melonjak. Sebelum masuk penjara, dia memakai pakaian musim panas, tetapi ketika keluar, sudah masuk musim sejuk, dan dia tidak memiliki jaket tebal sama sekali—bahkan untuk mengekalkan kehangatan pun menjadi masalah, apalagi untuk pulang ke rumah. Pihak polis pada masa itu tidak memberikan sebarang dana perjalanan. Selepas keluar dari penjara, dia terperangkap di North Dakota, terperangkap pada hari yang sama ketika dia disalahkan oleh AI.

Namun, untunglah ada orang baik yang membantunya.

Pengacaranya membantu mengatur penginapan sementara dan mendapatkan makanan untuknya untuk melewati masa paling sulit, organisasi nirlaba setempat memberikan bantuan kepadanya dan mengirimnya kembali ke rumah di Tennessee.

Namun, setelah pulang ke rumah, kesukaran untuk memulakan semula kehidupan adalah sehebat neraka. Semasa dia di penjara, keadaan ekonominya runtuh, sewa rumahnya tercicil, anjing di rumahnya hilang, bahkan kereta dan semua barang yang disimpan di dalamnya juga tiada lagi. Barang-barang peribadinya disimpan sementara di gudang, tetapi kemudian semuanya dibuang kerana dia tidak mampu membayar sewa. Hubungan sosialnya juga terancam, kerana jiran-jiran melihatnya ditangkap dan “lenyap” selama enam bulan, sehingga mereka menganggap dia benar-benar bersalah.

Sementara itu, pengalaman anehnya dengan cepat menyebar di internet dan menarik banyak kritikan sengit. Contohnya, banyak orang menyatakan tidak percaya bahawa di Amerika, beberapa orang boleh “mengambil secara percuma”, tetapi sekiranya anda menyentuh bank kapitalis, anda akan ditangkap segera, walaupun anda tidak melakukannya.

Kerana perkara ini menjadi terlalu besar, keadaan terdesaknya sekali lagi mendapat peluang baru dan menerima lebih banyak bantuan. Kini, dia telah mengumpulkan dana sumbangan sebanyak USD80,000, yang cukup untuk memulakan semula kehidupan dan perniagaannya.

Namun, harapan terbesar netizen sekarang ialah dia boleh mencari sekelompok peguam terkemuka, lalu menuntut mereka dengan hebat, mungkin boleh menang kes dan mendapat ganti rugi lain.

Kerana ini bukan kesilapan kebetulan pihak polis, sebelum ini telah berlaku kes-kes salah tangkap secara beramai-ramai, dan ada yang mengalami nasib lebih buruk daripadanya.

Pengalaman Angela Lipps sebenarnya telah berlaku lebih dari sepuluh kali di pelbagai wilayah, bahkan di negara-negara lain juga telah berlaku.

Sebagai contoh, Robert Williams adalah salah satu mangsa awal dalam peristiwa semacam ini; pada tahun 2020, polis menangkapnya di hadapan isteri dan anak perempuannya, dan menahan selama 30 jam, walaupun dia lebih tinggi 20 cm berbanding pesalah sebenar.

Chris Gatlin yang lain juga merupakan individu yang sangat malang; AI mengaitkannya sebagai tersangka potensial dalam kes pemukulan di kereta bawah tanah berdasarkan gambar pengawasan yang kabur, dan akibatnya, beliau dipenjara selama 17 bulan berturut-turut, menjadikannya individu tidak bersalah yang ditahan paling lama sehingga kini. Yang lebih tidak masuk akal ialah, sehingga akhirnya pihak berkuasa baru menyedari bahawa terdapat satu rekod kamera badan yang boleh menjadi bukti utama, tetapi tersangka dalam rakaman itu tidak serupa sedikit pun dengannya.

Porcha Woodruff pada tahun 2023 juga mengalami situasi yang sama, dengan polis menuduhnya terlibat dalam jenayah pencurian kereta. Dia tertawa terbahak-bahak setelah mendengarnya, menyangka polis sedang bercanda, kerana pada masa itu dia hamil delapan bulan dan penampilannya sama sekali tidak menunjukkan keupayaan untuk melakukan tindakan fizikal. Namun, dia masih dibawa pergi dan ditahan selama lebih sepuluh jam, dan kemudian dia kalah dalam kes mahkamah.

Pada tahun ini, seorang pemuda bernama Alvi Choudhury di Britain juga ditangkap kerana keadaan serupa, dituduh “mencuri masuk”, tetapi dari bukti yang ada, tindakan itu dilakukan “dari jauh”, adegan serupa juga pernah direkodkan dalam filem. Gambar yang dikenal pasti oleh AI adalah gambar beliau ketika ditahan pada tahun 2021, dan polis tertawa apabila melihat orang aslinya, kerana beliau kelihatan sekurang-kurangnya 10 tahun lebih tua daripada tersangka.

Gambar dari The Mind Transmitter

Pada tahun 2022, seorang pengusaha India, Praveen Kumar, ditangkap semasa dalam perjalanan ke Switzerland apabila berhenti transit di Abu Dhabi, di mana AI mengenali beliau sebagai seorang yang dikejar polis. Beliau diperiksa secara mendalam oleh pihak setempat, dan akhirnya disahkan bahawa beliau bukanlah tersangka, lalu dipulangkan ke India. Namun, beliau ditahan dua kali berturut-turut di lapangan terbang India.

Dalam kes-kes semacam ini, yang paling tidak masuk akal ialah pengalaman saintis Rusia, Alexander Tsvetkov, di mana AI mengatakan dia menyerupai seorang pembunuh, dan seterusnya dia ditahan selama 10 bulan.

Ilmuwan ini boleh dikatakan menjadi mangsa penipuan ganda dari AI dan manusia. Pada Februari 2023, beliau kembali ke Rusia selepas menyelesaikan penyelidikan ilmiah, tetapi segera ditangkap setelah turun dari pesawat. Sebabnya, AI menunjukkan bahawa beliau mempunyai kesamaan 55% dengan gambaran pelaku kes pembunuhan berantai yang berlaku dua puluh tahun lalu, sambil itu, terdapat seorang saksi bersalah dalam kes ini yang memberi kesaksian palsu secara sengaja untuk mendapatkan pengurangan hukuman. Yang lebih buruk lagi, pihak polis tidak menyiasat dengan teliti dan terus menangkap beliau.

Selepas ditahan, dia awalnya menganggap ia adalah kesalahfahaman kecil, tetapi penyiasatan tidak pernah selesai, dan di bawah tekanan psikologi yang besar serta masalah kesihatan, dia terpaksa mengaku bersalah, kemudian menarik semula pengakuan itu. Untunglah isteri dan rakan sekerja di institut terus berusaha membantunya, mengumpulkan banyak dokumen untuk membuktikan bahawa pada tahun kejadian, dia sedang menjalankan kajian di luar bandar. Seiring dengan liputan media, kes ini menjadi perbincangan awam yang luas, dan baru pada bulan Disember muncul tanda perubahan, dengan dakwaan secara rasmi dicabut pada Februari 2024.

Sementara itu, kes-kes seperti ini berlaku semakin kerap seiring perkembangan AI, seolah-olah AI yang “mengarahkan”, sementara sebahagian manusia berubah menjadi mesin pelaksana.

Rasa abstrak "pertukaran peranan" berlaku kerana baik AI mahupun manusia boleh gagal; AI yang paling canggih sekalipun boleh membuat kesilapan, manakala manusia pula sentiasa boleh "malas".

Ambil sistem Clearview AI di Amerika Syarikat sebagai contoh, sistem inilah yang menghantar wanita tua di awal artikel ke penjara, tetapi ia bukan perisian sembarangan. Clearview AI mengklaim memiliki pangkalan data gambar terbesar di dunia, dengan mengumpulkan puluhan miliar gambar secara agresif walaupun menghadapi denda dari pelbagai negara. Lebih daripada 3,000 agensi penegak undang-undang di Amerika Syarikat menggunakan sistem ini, dan pada tahun lepas, ia menandatangani kontrak bernilai $9.2 juta dengan ICE.

Tetapi, dengan ringkasnya, Clearview AI adalah sejenis “mesin carian muka”, di mana anda hanya perlu muat naik satu gambar, ia akan sepadankan dengan pangkalan datanya, kemudian mengeluarkan sekumpulan gambar yang serupa, dan akhirnya, sama ada orang yang anda cari itu benar-benar orang yang anda cari, anda perlu menilainya sendiri.

Walaupun kemajuan AI dalam beberapa tahun terakhir sangat pesat, "ketepatan" masih menjadi perdebatan, kerana data ujian eksperimen sentiasa berbeza dengan situasi sebenar semasa menggunakan carian gambar.

Sebagai contoh, kebanyakannya gambar pengawasan yang ditemui oleh polis mempunyai kualiti seperti yang diambil oleh telefon tetap, ditambah dengan faktor-faktor seperti cahaya aneh, sudut yang sukar, dan penghalang di muka, menjadikan pengenalan benar-benar sukar; gambar dalam perpustakaan mungkin juga gambar lama, dan keputusan pencocokan mungkin hanya kebetulan dua orang itu serupa.

Dan apabila kesilapan-kesilapan ini dikenakan kepada individu-individu tertentu, sudah tentulah mereka akan menderita.

Adakah ini burung gagak atau kucing?

Secara logik, jika hanya AI yang terkadang mengalami gangguan, masih ada harapan kerana ini hanyalah “petunjuk”, dan kesimpulan seterusnya masih perlu dikawal oleh manusia, tetapi seringkali manusia lebih “aneh” daripada AI.

Sebenarnya, beberapa tahun yang lalu, orang sudah mengeluh bahawa polis Amerika dipandu oleh AI dan terperangkap dalam "bias automatik", iaitu terlalu bergantung atau terlalu mempercayai hasil yang diberikan oleh AI. Selama AI mengatakan dua orang ini sepadan, manusia akan mempercayainya. Jika tinggi badan tidak sepadan, bukan masalah saya. Walaupun ada alibi, saya hanya bertanggungjawab untuk menangkap. Bukti-bukti lain sila beritahu penjara. Sambil melangkau langkah penyiasatan asas, ia juga membuat orang lain "melangkau hidup".

Sebenarnya manusia sendiri sangat memahami kelemahan AI; selepas polis Amerika Syarikat membayar sejumlah besar wang ganti rugi, banyak kawasan telah menetapkan “garis pertahanan”, seperti memerlukan bukti independen selain petunjuk AI semasa menyiasat kes, dan ada beberapa tempat yang secara langsung melarang penggunaan teknologi AI dalam penyiasatan kes.

Namun, batasan-batasan ini tidak mampu menahan kegunaan AI yang terlalu hebat. Walaupun ada kemungkinan gagal, jelas jumlah kejayaan lebih banyak. Kadang-kadang, petunjuk yang ditemui oleh polis dengan susah payah sering kali hanyalah gambar pengawasan setaraf "kunci pintu", dan kemungkinan besar mereka akan mencuba keberuntungan dengan AI. Sudah sejak tahun 2023 dilaporkan bahawa polis Amerika Syarikat telah mencuba lebih daripada satu juta carian menggunakan Clearview AI, bahkan selepas dilarang secara terbuka, mereka masih menggunakannya secara sembunyi-sembunyi—kerana walaupun telah menggunakannya, mereka boleh berkata bahawa mereka tidak pernah melakukannya. Jika perisian ini dilarang, gantikan dengan yang lain; jika dilarang secara tempatan, minta pihak lain membantu menggunakannya—mereka benar-benar ketagihan.

Jadi, sekali AI memberikan petunjuk yang tidak boleh dipercaya, kemudian manusia malas melewati penyelidikan, gabungan kecerdikan keduanya akan menghasilkan kesalahan kehakiman.

Sistem Smart Sampa di Brazil juga menghadapi masalah serupa dalam dua tahun terakhir. Pada 2024, São Paulo di Brazil melancarkan sistem polis pengenalan wajah AI terbesar di Amerika Latin, yang dikatakan terhubung kepada 40,000 kamera.

Berita baiknya adalah kesannya benar-benar ketara, dengan hampir empat ribu penjenayah ditangkap di tempat kejadian dalam beberapa tahun terakhir, serta lebih daripada tiga ribu orang lari ditangkap semula, kes jenayah rampasan turun hampir 15% pada tahun 2025, layak disebut sebagai "talian penghasilan penangkapan pencuri".

Kabar buruknya, sekurang-kurangnya 59 orang disalahkenal.

Di antaranya terdapat kes-kes abstrak, seperti seorang pesakit mental yang diambil sebagai seorang jenayah dari hospital, dan kemudian dilepaskan apabila ditemui bahawa arahan tangkapnya telah luput. Ada seorang lelaki yang ditangkap empat kali dalam tempoh tujuh bulan, kerana AI mengkelirukannya dengan seorang pembunuh yang sedang melarikan diri. Setiap kali, beliau dibawa balik ke balai polis dan segera dilepaskan, tetapi beberapa hari kemudian berlaku sekali lagi, sehingga beliau sudah terkejut hingga ke titik kehabisan tenaga.

Dahulu, apabila kita bercakap tentang pekerjaan yang tidak boleh digantikan oleh AI, kita selalu berkata AI tidak boleh menggantikan manusia dalam tahanan, tetapi kita tidak pernah terfikirkan sisi lain masalah ini—ia kini boleh membuat seseorang “berada dalam tahanan”.

Kalimat ini dulu dianggap sebagai lelucon, tetapi sekarang hampir bukan lagi berita. Sebenarnya, bukan hanya pengenalan wajah, AI juga terkadang mampu melakukan hal-hal mengejutkan dalam pengenalan objek.

Tahun lalu, sistem keselamatan AI di sebuah sekolah menengah di Amerika Syarikat mengenali bungkusan keripik yang dipegang oleh seorang remaja sebagai "senjata berpotensi", dan secara langsung memicu amaran. Delapan buah kereta polis tiba, dan remaja itu segera dikuasai. Selepas pemeriksaan badan, polis akhirnya menemui beg makanan ringan di tong sampah, dan situasi menjadi sangat malu. Remaja itu menyangka dia tidak akan selamat.

Jangan katakan, jangan katakan

Siapa sangka semakin kuat AI, semakin besar pula masalah yang diciptakan oleh sebahagian orang. Dulu, AI lemah, salah kenal gambar, dan menjadi bahan tertawaan seluruh internet. Sekarang, AI sudah kuat, salah kenal seseorang, dan membuat manusia dipenjara selama enam bulan. Jangan lagi ciptakan operasi abstrak seperti pengadilan AI, peguam AI, atau mahkamah tenaga baru di masa depan. Pada akhirnya, AI hanyalah alat, yang penting adalah kemampuan dan niat penggunanya, atau dengan kata lain, semakin kuat AI, semakin tidak boleh manusia menjadi malas.

Secara keseluruhan, mulanya agak rindu pada AI yang bodoh itu.

Artikel ini berasal daripada akaun微信公众号 "CoolPlay Lab", penulis: CoolPlay Lab