Kesalahan identifikasi AI menyebabkan penahanan salah selama 160 hari di AS

Jika AI tiba-tiba mengatakan Anda bersalah dan semua orang percaya tanpa berpikir kritis terhadap penilaian itu, bagaimana cara Anda membuktikan ketidakbersalahan Anda?

Ini terdengar seperti adegan dari film Minority Report di mana kejahatan diprediksi sebelum terjadi lalu seseorang disalahkan, tetapi secara abstrak, versi yang lebih berantakan sudah terjadi di dunia nyata:

AI salah mengidentifikasi tersangka, menyebabkan seorang wanita tak bersalah dipenjara selama enam bulan, hidupnya hampir hancur.

Angela Lipps dari Tennessee, Amerika Serikat, adalah wanita malang ini. Pada Juli 2025, sekelompok polisi bersenjata lengkap tiba-tiba menerobos ke dalam kehidupan biasa-nya, mengarahkan senjata ke arahnya, dan memberitahunya bahwa ia ditangkap.

Pada saat itu dia agak bingung, mengingat sama sekali tidak tahu apa kesalahan yang telah dilakukannya. Polisi mengatakan dia diduga terlibat dalam kasus penipuan bank di North Dakota, dan dari sikap mereka tampaknya bukti-bukti sangat kuat, bahkan telah dikeluarkan peringatan pencarian tingkat lima. Namun, setelah mendengar alasan itu, dia terdiam di tempat:

Tapi saya, seumur hidup saya belum pernah ke negara bagian itu.

Dari peta, negara bagian Tennessee dan North Dakota di Amerika Serikat memang berjauhan, dan AI lah yang menghubungkannya dengan tersangka.

Saat polisi menangkapnya, penjelasannya secara otomatis diblokir, dan rincian kasusnya baru diketahui setelah ia masuk penjara. Polisi kota Fargo, North Dakota, sedang menyelidiki kasus penipuan, di mana tersangka menggunakan identitas militer palsu untuk menipu bank dan mencuri puluhan ribu dolar, dan cara penyelidikan polisi adalah dengan terlebih dahulu memeriksa rekaman kamera pengawas, kemudian bertanya kepada AI, dan terakhir menangkap tersangka.

Anda mungkin mengira bahwa AI digunakan untuk "mengolah" Sherlock Holmes, lalu berubah menjadi detektif jenius yang memecahkan kasus melalui penalaran logis yang ketat, tetapi sebenarnya tidak sekompleks itu. Pihak berwenang menggunakan sistem AI untuk mengenali wajah dari tangkapan layar rekaman pengawasan, lalu memfilter tersangka di dalam database gambar.

Hasilnya, AI kali ini membuat kesalahan besar dengan salah mencocokkan foto Angela Lipps. Informasi ini kemudian diteruskan ke kantor polisi yang sedang menangani kasus tersebut, dan petugasnya membuat kesalahan yang lebih besar setelah memeriksa secara manual SIM dan media sosialnya, lalu menyimpulkan bahwa ciri wajah, tubuh, dan gaya rambutnya mirip, sehingga menetapkannya sebagai tersangka.

Gambar dari GoFundMe

Saudari perempuan itu sangat hancur setelah mendengarnya, tidak mencari petunjuk lain lebih lanjut, siapa tahu ada kesamaan wajah? Tapi yang lebih membuatnya hancur masih datang setelahnya, yaitu serangkaian serangan berturut-turut membuatnya tidak punya kesempatan untuk membuktikan ketidakbersalahannya.

Menurut prosedur setempat, dia tidak langsung ditangkap dan dibawa ke North Dakota untuk investigasi lebih lanjut, tetapi menunggu di penjara setempat di Tennessee. Karena dianggap sebagai "pelarian antar negara bagian", dia tidak diberi jaminan dan tidak memiliki kesempatan untuk diinterogasi oleh polisi, sehingga dipenjara selama 108 hari secara tak terduga, dari Juli hingga akhir Oktober, sulit membayangkan betapa putus asanya dia selama periode ini.

Angela Lipps terus menunggu hingga 30 Oktober, akhirnya dibawa keluar dari penjara oleh polisi untuk dipindahkan ke North Dakota, saat itu ia menghadapi beberapa tuduhan; selama perjalanan, ia tidak hanya memakai belenggu tangan, tetapi juga rantai di pinggangnya, yang menurutnya merasa seperti diarak keliling bandara.

Dan ini sebenarnya adalah pertama kalinya dalam hidupnya naik pesawat.

Yang tak disangka, setelah tiba di North Dakota, dia masih harus menunggu. Baru pada Desember dia mendapat kesempatan resmi untuk menjelaskan hal ini, di mana pengacaranya langsung membandingkan catatan banknya dengan waktu kejadian, menunjukkan bahwa pada saat kejadian, dia sedang membeli pizza di Tennessee, sejauh 1.900 kilometer jauhnya, yang berarti kecuali dia adalah "The Flash", dia tidak mungkin melakukan kejahatan melintasi ruang dan waktu.

Hanya memakan waktu 5 menit, pengacara membantunya menjelaskan hal ini dengan jelas.

Pada 24 Desember, tuduhan terhadapnya akhirnya dicabut, tetapi dia sama sekali tidak bisa bersenang-senang, karena pada saat itu "garis pemotongan" sudah sampai di pergelangan kaki.

Ulang tahun Angela Lipps yang ke-50 semua dihabiskan di penjara. Selama masa hukuman, ia dilarang memakai gigi palsu, makanannya hanya makanan sampah, dan tekanan psikologisnya tinggi, sehingga berat badannya melonjak. Saat masuk penjara, ia mengenakan pakaian musim panas, tetapi saat keluar sudah musim dingin, bahkan tidak memiliki jaket tebal, sehingga menjaga kehangatan pun menjadi masalah, apalagi pulang ke rumah. Pihak kepolisian saat itu tidak memberinya uang perjalanan sama sekali; setelah keluar penjara, ia seolah terjebak di North Dakota, dan terjebak di hari yang sama ketika ia salah didakwa oleh AI.

Namun untungnya, ada orang baik yang membantunya.

Pengacaranya membantunya mengatur akomodasi sementara di hotel dan menyediakan makanan untuk melewati masa-masa paling sulit, organisasi nirlaba setempat memberikan bantuan kepadanya dan mengirimnya kembali ke rumah di Tennessee.

Namun, setelah pulang ke rumah, kesulitan memulai hidup kembali setara dengan neraka. Selama masa hukuman, keuangannya hancur, rumah sewaannya hilang, anjing peliharaannya juga hilang, bahkan mobilnya dan semua barang yang disimpan di dalam mobil pun hilang. Barang-barang pribadinya sempat disimpan di gudang, tetapi kemudian semuanya dibersihkan karena ia tidak mampu membayar sewa. Bahkan hubungan sosialnya pun terancam, karena tetangga-tetangganya melihatnya ditangkap dan "hilang" selama enam bulan, sehingga menganggap ia benar-benar bersalah.

Sementara itu, pengalaman anehnya segera menyebar di internet dan memicu berbagai komentar keras. Banyak orang menyatakan tak berkata-kata, di Amerika beberapa orang bisa melakukan "pembelian gratis", tetapi jika Anda menyentuh bank kapitalis, Anda akan segera ditangkap, bahkan jika Anda tidak melakukannya.

Karena masalahnya menjadi terlalu besar, situasi terdesaknya kembali mendapat peluang, menerima lebih banyak bantuan; saat ini, ia telah mengumpulkan dana crowdfunding sebesar $80.000, yang sepenuhnya cukup untuk memulai kembali kehidupan dan usahanya.

Namun, harapan terbesar warganet sekarang adalah dia bisa mencari tim pengacara hebat, lalu menggugat mereka sampai berbalik-balik, siapa tahu bisa menang gugatan dan mendapatkan ganti rugi lainnya.

Karena ini bukan kesalahan kebetulan oleh polisi, sebelumnya sudah terjadi banyak kasus salah tangkap, dan beberapa orang mengalami nasib yang lebih buruk darinya.

Pengalaman Angela Lipps sebenarnya telah terjadi lebih dari sepuluh kali di berbagai wilayah, bahkan di negara-negara lain juga pernah terjadi.

Sebagai contoh, Robert Williams adalah salah satu korban pertama dalam peristiwa semacam ini; pada tahun 2020, polisi menangkapnya di depan istri dan putrinya, menahan selama 30 jam, padahal ia lebih tinggi 20 sentimeter dari pelaku sebenarnya.

Chris Gatlin lainnya juga merupakan korban sial terbesar; AI berdasarkan rekaman pengawasan yang kabur, mengaitkannya sebagai tersangka potensial dalam kasus pemukulan di kereta bawah tanah, dan tanpa alasan apa pun ia ditahan selama 17 bulan, menjadikannya orang tak bersalah yang ditahan paling lama hingga saat ini. Yang lebih tidak masuk akal adalah, hingga akhirnya petugas penyidik baru menyadari bahwa ada rekaman kamera tubuh yang bisa menjadi bukti kunci, tetapi tersangka dalam rekaman itu sama sekali tidak mirip dengannya.

Porcha Woodruff pada tahun 2023 juga mengalami situasi yang sama, polisi menuduhnya terlibat dalam pencurian mobil. Dia langsung tertawa terbahak-bahak mendengar tuduhan itu, mengira polisi sedang bercanda, karena pada saat itu ia hamil delapan bulan dan tampak sama sekali tidak mungkin melakukan tindakan fisik. Namun, ia tetap dibawa dan ditahan selama lebih dari sepuluh jam, dan kemudian ia kalah dalam gugatan hukumnya.

Tahun ini, seorang pemuda bernama Alvi Choudhury di Inggris juga ditangkap karena kejadian serupa, dituduh melakukan "pencurian rumah", namun dari bukti yang ada, tindakan tersebut dilakukan "dari jarak jauh". Adegan ini juga pernah tercatat dalam film. Foto yang diidentifikasi oleh AI adalah foto saat ia ditahan pada tahun 2021, dan polisi tertawa saat melihat orang aslinya, karena penampilannya terlihat setidaknya 10 tahun lebih tua daripada tersangka.

Gambar dari The Mind Transmitter

Pada tahun 2022, seorang pengusaha India, Praveen Kumar, ditangkap saat dalam perjalanan ke Swiss, ketika ia transit di Abu Dhabi, dan secara salah diidentifikasi oleh AI sebagai tersangka yang dicari. Ia menjalani pemeriksaan intensif di lokasi, namun akhirnya terbukti bukan tersangka dan dikembalikan ke India, di mana ia kemudian ditahan dua kali berturut-turut di bandara India.

Dalam kejadian semacam ini, yang paling tidak masuk akal adalah pengalaman ilmuwan Rusia Alexander Tsvetkov, di mana AI mengatakan ia tampak seperti seorang pembunuh, dan ia kemudian ditahan selama 10 bulan.

Ilmuwan ini bisa dikatakan mengalami fitnah ganda dari AI dan manusia. Pada Februari 2023, setelah menyelesaikan penelitian ilmiah dan kembali ke Rusia, ia langsung ditangkap begitu turun dari pesawat. Alasannya, AI menunjukkan bahwa wajahnya memiliki kesamaan 55% dengan gambar pelaku dalam kasus pembunuhan berantai yang terjadi lebih dari dua puluh tahun lalu, sementara itu, dalam kasus tersebut juga ada seorang saksi berubah saksi yang memberikan kesaksian palsu demi mendapatkan pengurangan hukuman. Yang lebih parah lagi, polisi tidak melakukan penyelidikan mendalam dan langsung menangkapnya.

Setelah ditahan, ia awalnya mengira ini hanya kesalahpahaman kecil, tetapi penyelidikan terus tertunda. Di bawah tekanan psikologis yang besar dan masalah kesehatan, ia sempat terpaksa mengaku bersalah, lalu kemudian menarik pengakuan tersebut. Untungnya, istri dan rekan-rekan di institutnya terus berjuang untuknya, mengumpulkan banyak dokumen yang membuktikan bahwa pada tahun kejadian, ia sedang melakukan penelitian di luar kota. Seiring pemberitaan media, kasus ini menjadi perbincangan luas di kalangan publik. Baru pada Desember muncul titik terang, dan dakwaan secara resmi dicabut pada Februari 2024.

Sementara kasus-kasus semacam ini semakin sering terjadi seiring perkembangan AI, tampaknya AI lebih seperti "mengendalikan", sementara sebagian orang berubah menjadi mesin pelaksana.

Rasa abstrak "peran saling bertukar" muncul karena baik AI maupun manusia bisa gagal; AI sekuat apa pun tetap bisa membuat kesalahan, sementara manusia sering kali "malas" kapan saja.

Ambil contoh sistem Clearview AI di Amerika Serikat, sistem inilah yang mengirim wanita tua di awal artikel ke penjara, tetapi bukan perangkat lunak sembarangan. Clearview AI mengklaim memiliki database gambar terbesar di dunia, dengan secara agresif mengumpulkan puluhan miliar gambar meski menghadapi denda dari berbagai negara. Lebih dari 3.000 lembaga penegak hukum di Amerika Serikat menggunakannya, dan tahun lalu mereka juga menandatangani kontrak senilai $9,2 juta dengan ICE.

Tapi secara sederhana, Clearview AI adalah mesin pencari wajah—saat menggunakannya, Anda mengunggah satu gambar, lalu sistem mencocokkannya dengan database-nya dan menghasilkan sejumlah gambar serupa, dan akhirnya, apakah itu orang yang Anda cari, tetap harus Anda tentukan sendiri.

Meskipun kemajuan AI dalam beberapa tahun terakhir sangat pesat, "akurasi" tetap menjadi kontroversial, mengingat data uji coba selalu berbeda dari situasi nyata saat menggunakan pencarian gambar.

Misalnya, sebagian besar waktu, gambar pengawasan yang ditemukan polisi memiliki kualitas seperti yang diambil dengan telepon rumah, ditambah dengan faktor-faktor seperti pencahayaan aneh, sudut yang sulit, dan wajah yang terhalang, sehingga tingkat kesulitan pengenalan memang cukup tinggi, dan gambar di database mungkin sudah lama, sehingga hasil pencocokan mungkin hanya kebetulan dua orang tampak mirip.

Dan ketika kesalahan-kesalahan ini diterapkan pada individu, tentu saja mereka akan menderita.

Apakah ini gagak atau kucing?

Secara teori, jika AI hanya terkadang mengalami gangguan, masih ada harapan, karena ini hanya “petunjuk”, dan “kesimpulan” selanjutnya masih perlu diverifikasi oleh manusia, tetapi seringkali manusia jauh lebih “aneh” daripada AI.

Beberapa tahun lalu, orang sudah mengeluh bahwa polisi AS dipandu oleh AI, terjebak dalam "bias otomatisasi", yaitu terlalu bergantung atau bahkan terlalu percaya pada hasil yang diberikan AI. Selama AI mengatakan dua orang ini cocok, manusia langsung percaya. Tinggi badan tidak cocok? Bukan masalah saya. Bukti alibi memang ada, tapi tugas saya hanya menangkap. Bukti lainnya silakan sampaikan ke penjara. Dengan melewati langkah-langkah investigasi dasar, Anda juga membuat orang lain "melewati hidup mereka".

Sebenarnya manusia sendiri sangat paham akan kelemahan AI, setelah membayar sejumlah besar uang ganti rugi, banyak wilayah di Amerika Serikat telah menetapkan "garis pertahanan", seperti memerlukan bukti independen selain petunjuk AI saat menyelidiki kasus, bahkan beberapa daerah secara langsung melarang penggunaan teknologi AI dalam penyelidikan kasus.

Namun, batasan-batasan ini tidak mampu menahan kegunaan AI yang terlalu hebat. Meskipun ada kemungkinan gagal, jelas bahwa jumlah keberhasilannya lebih banyak. Terkadang, petunjuk yang sulit dicari oleh polisi hanyalah foto pengawasan tingkat "kunci pintu", dan sangat mungkin mereka ingin mencoba keberuntungan dengan AI. Sudah sejak 2023 dilaporkan bahwa polisi Amerika telah melakukan lebih dari satu juta pencarian dengan Clearview AI, bahkan setelah secara terbuka dilarang, mereka tetap menggunakannya secara sembunyi-sembunyi—toh, jika digunakan, mereka bisa mengatakan tidak pernah menggunakannya. Jika perangkat lunak ini dilarang, ganti dengan yang lain; jika dilarang secara lokal, minta lembaga lain untuk menggunakannya—mereka benar-benar ketagihan.

Jadi, begitu AI memberikan petunjuk yang tidak dapat dipercaya terlebih dahulu, lalu manusia malas melanjutkan penyelidikan, kombinasi kecerdikan dan kebodohan ini pasti menghasilkan kasus salah tangkap.

Sistem Smart Sampa di Brasil juga menghadapi masalah serupa dalam dua tahun terakhir. Pada 2024, São Paulo, Brasil, meluncurkan sistem kepolisian AI pengenalan wajah terbesar di Amerika Latin, yang diklaim terhubung ke 40.000 kamera.

Berita baiknya adalah efeknya benar-benar luar biasa, selama beberapa tahun terakhir hampir empat ribu penjahat ditangkap di tempat kejadian, serta lebih dari tiga ribu buronan ditangkap, kasus pencurian dengan kekerasan turun hampir 15% pada tahun 2025, layak disebut "garis produksi penangkapan pencuri".

Berita buruknya, setidaknya 59 orang salah dikenali.

Di antaranya ada kasus abstrak, misalnya seorang pasien gangguan jiwa di rumah sakit dianggap sebagai penjahat dan dibawa pergi, kemudian ternyata surat penangkapannya telah kedaluwarsa dan ia dilepaskan. Ada pula seorang pria yang ditangkap empat kali dalam tujuh bulan, karena AI salah mengenali dirinya sebagai seorang pembunuh yang sedang buron. Setiap kali ia ditangkap dan dibawa kembali ke kantor polisi, ia langsung dilepaskan, namun beberapa hari kemudian ia ditangkap lagi, hingga ia benar-benar ketakutan hingga kehabisan tenaga.

Dulu, saat membahas pekerjaan apa yang tidak bisa digantikan oleh AI, kita selalu mengatakan AI tidak bisa menggantikan manusia di penjara, tetapi kita tidak pernah memikirkan sisi lain dari masalah ini—sekarang AI bisa membuat seseorang "dipenjara".

Kalimat ini dulu dianggap lelucon, tapi sekarang hampir tidak lagi menjadi berita. Sebenarnya, tidak hanya pengenalan wajah, AI kadang juga bisa melakukan hal-hal mencengangkan dalam pengenalan objek.

Tahun lalu, sistem keamanan AI di sebuah SMA di Amerika Serikat mengenali kemasan keripik yang dipegang seorang remaja sebagai "senjata potensial," sehingga langsung memicu alarm. Delapan mobil polisi datang dan segera mengendalikan remaja tersebut; baru setelah pemeriksaan tubuh, petugas menemukan kantong makanan ringan di tempat sampah, situasi menjadi sangat memalukan, dan remaja itu mengira ia tidak akan selamat.

Jangan bilang, memang jangan bilang

Siapa yang menyangka semakin kuat AI, semakin besar pula masalah yang ditimbulkan oleh sebagian orang. Dulu AI masih bodoh, salah mengenali gambar dan menjadi bahan tertawaan seluruh jaringan. Sekarang AI sudah kuat, salah mengenali seseorang, membuat manusia harus menjalani hukuman enam bulan. Di masa depan, jangan lagi menciptakan operasi abstrak seperti pengadilan AI, pengacara AI, atau pengadilan energi baru. Pada dasarnya, AI hanyalah sebuah alat; yang penting adalah kemampuan dan tujuan penggunanya, atau dengan kata lain, semakin kuat AI, semakin manusia tidak boleh malas.

Secara keseluruhan, mulai sedikit merindukan AI yang konyol itu.

Artikel ini berasal dari akun WeChat "CoolPlay Lab", penulis: CoolPlay Lab