Nếu AI đột ngột tuyên bố bạn có tội và tất cả mọi người đều tin tưởng mù quáng vào phán quyết của nó, bạn nên chứng minh sự trong sạch của mình như thế nào?
Điều này nghe giống như cảnh trong phim Minority Report khi tội phạm được dự đoán trước rồi bị vu oan, nhưng một cách trừu tượng, một phiên bản thô sơ hơn đã diễn ra trong thực tế:
AI đã nhận nhầm tội phạm, khiến một chị gái vô tội phải ngồi tù sáu tháng, cuộc đời suýt chút nữa về con số không.
Một, việc cảnh sát bắt được "The Flash" nghĩa là gì?
Angela Lipps ở Tennessee, Hoa Kỳ, chính là người phụ nữ bất hạnh này. Tháng 7 năm 2025, một đội cảnh sát được trang bị đầy đủ vũ khí đã đột nhập vào cuộc sống bình lặng của cô, chĩa súng vào cô và thông báo rằng cô đã bị bắt.
Lúc đó cô ấy hơi bối rối, vì hoàn toàn không biết mình đã phạm lỗi gì. Cảnh sát cho biết cô nghi ngờ liên quan đến một vụ lừa đảo ngân hàng ở North Dakota, nhìn dáng dấp dường như bằng chứng rõ ràng và phía đối diện đã phát lệnh truy nã cấp 5 sao, nhưng sau khi nghe xong lý do này, cô đứng sững tại chỗ:
But I’ve never been to that state in my life.
Từ bản đồ, tiểu bang Tennessee của Hoa Kỳ và tiểu bang Bắc Dakota thực sự cách xa nhau, và chính AI đã nối cô ấy với nghi phạm.
Khi cảnh sát bắt cô ấy, họ đã tự động tắt tiếng lời biện minh của cô, và các chi tiết cụ thể của vụ án chỉ được biết đến sau khi cô vào tù. Cảnh sát thành phố Fargo, bang Bắc Dakota, đang điều tra một vụ lừa đảo, trong đó nghi phạm đã dùng danh tính quân nhân giả để lừa đảo ngân hàng lấy đi vài chục nghìn đô la, và phương pháp điều tra của cảnh sát là xem camera giám sát trước, sau đó hỏi AI, và cuối cùng mới bắt người.
Bạn có thể nghĩ rằng họ đã dùng AI để "hô biến" Sherlock Holmes, rồi hóa thân thành thám tử tài ba dùng suy luận logic để phá án, nhưng thực tế không phức tạp đến vậy. Cảnh sát đã sử dụng hệ thống AI để nhận diện khuôn mặt từ các khung hình từ camera giám sát, sau đó lọc ra các nghi phạm trong cơ sở dữ liệu.
Kết quả là AI lần này đã gán nhầm ảnh của Angela Lipps. Thông tin này sau đó được chuyển đến đồn cảnh sát đang điều tra vụ án, và nhân viên đã gán nhầm lớn hơn nữa: sau khi kiểm tra bằng lái xe và mạng xã hội của cô ấy, họ nhận thấy đặc điểm khuôn mặt, vóc dáng và kiểu tóc tương tự, nên đã xác định cô ấy là nghi phạm.
Hình ảnh từ GoFundMe
Chị ấy nghe xong vô cùng sụp đổ, chẳng kịp kiểm tra thêm bất kỳ manh mối nào khác, liệu có thể trùng hợp không? Nhưng điều còn đáng sụp đổ hơn nữa là sau một loạt đòn liên hoàn, cô ấy đã không có cơ hội chứng minh sự trong sạch của mình.
Theo thủ tục địa phương, cô ấy không bị bắt ngay để chuyển đến Bắc Dakota để điều tra thêm, mà phải chờ tại nhà tù địa phương ở Tennessee. Vì bị coi là “kẻ trốn thoát liên bang”, cô không được phép bảo lãnh và cũng không có cơ hội bị cảnh sát thẩm vấn, phải bị giam giữ vô cớ trong 108 ngày, từ tháng Bảy đến cuối tháng Mười, rất khó tưởng tượng cô đã cảm thấy tuyệt vọng đến mức nào trong khoảng thời gian đó.
Angela Lipps đã chờ đến ngày 30 tháng 10, cuối cùng cũng bị cảnh sát dẫn ra khỏi nhà tù để chuyển đến Bắc Dakota, khi đó cô đối mặt với nhiều cáo buộc; trong suốt hành trình, cô không chỉ đeo gông tay mà còn bị cột dây xích quanh thắt lưng, theo cô, việc đi qua sân bay giống như bị đưa đi biểu tình.
Và thực ra đây là lần đầu tiên trong đời cô ấy đi máy bay.
Điều cô không ngờ là sau khi đến Bắc Dakota, cô vẫn phải tiếp tục chờ. Phải đến tháng 12, cô mới có cơ hội chính thức giải thích sự việc, khi luật sư của cô trực tiếp đối chiếu hồ sơ ngân hàng của cô với thời gian, cho thấy vào thời điểm vụ việc xảy ra, cô đang ở Tennessee, cách đó 1.900 km để mua pizza, điều này có nghĩa là trừ khi cô là “The Flash”, cô không thể thực hiện hành vi phạm tội xuyên không gian và thời gian.
Chỉ mất 5 phút, luật sư đã giúp cô ấy làm rõ sự việc này.
Đến ngày 24 tháng 12, các cáo buộc đối với cô ấy cuối cùng cũng được rút lại, nhưng cô chẳng thể vui nổi, vì lúc này “đường cắt giảm” đã lên đến mắt cá chân.
Angela Lipps đã trải qua sinh nhật tuổi 50 trong tù, trong thời gian thụ án không được phép đeo răng giả, cô chỉ ăn toàn thực phẩm chế biến sẵn, áp lực tinh thần lớn khiến cân nặng tăng vọt. Trước khi vào tù, cô mặc áo mùa hè, nhưng khi ra ngoài đã là mùa đông, cô thậm chí không có một chiếc áo khoác dày để giữ ấm, huống chi là về nhà. Lúc đó, cảnh sát cũng không cấp cho cô bất kỳ khoản phí đi lại nào; sau khi ra tù, cô giống như bị kẹt tại Bắc Dakota, và cũng bị kẹt trong chính ngày bị AI vu khống.
Tuy nhiên, may mắn thay, vẫn có người tốt giúp cô ấy một tay.
Luật sư của cô ấy đã sắp xếp chỗ ở khách sạn cho cô và chuẩn bị thức ăn để cô vượt qua giai đoạn khó khăn nhất, tổ chức phi lợi nhuận địa phương đã cứu trợ cô và đưa cô trở về nhà ở Tennessee.
Nhưng về nhà, việc bắt đầu lại cuộc sống cũng khó khăn như địa ngục. Trong thời gian ở tù, tài chính của cô ấy sụp đổ, căn hộ thuê đã mất, con chó ở nhà cũng không còn, thậm chí xe hơi và những vật dụng để trong xe cũng biến mất. Các vật dụng cá nhân của cô lúc đó được lưu tạm trong kho, nhưng sau đó do không trả được tiền thuê, tất cả đồ dùng sinh hoạt đều bị thanh lý sạch sẽ. Thậm chí các mối quan hệ xã hội cũng đang trên bờ vực sụp đổ, vì hàng xóm đều chứng kiến cô bị bắt và “biến mất” sáu tháng, nên đều nghĩ cô thật sự đã phạm tội.
Đồng thời, trải nghiệm phi lý của cô ấy nhanh chóng lan truyền trên mạng và thu hút nhiều lời chê bai dữ dội. Ví dụ, nhiều người bày tỏ sự bất lực: ở Mỹ, một số người có thể “mua miễn phí”, nhưng chỉ cần bạn động vào ngân hàng của giai cấp tư sản, bạn sẽ bị bắt ngay lập tức, dù bạn không hề làm gì.
Vì sự việc trở nên quá lớn, hoàn cảnh khốn cùng của cô ấy một lần nữa đã có cơ hội chuyển biến, nhận được nhiều sự giúp đỡ hơn. Hiện tại, cô ấy đã quyên góp được 80.000 USD, hoàn toàn đủ để bắt đầu lại cuộc sống kinh doanh.
Tuy nhiên, hiện tại kỳ vọng lớn nhất của cư dân mạng là cô ấy có thể tìm một đội ngũ luật sư hùng hậu, sau đó kiện họ đến tận cùng, có thể sẽ thắng kiện và nhận được một khoản bồi thường khác.
Vì đây không phải là sai sót tình cờ của cảnh sát, trước đó đã xuất hiện hàng loạt vụ án oan, có người còn trải qua hoàn cảnh tệ hơn cô ấy.
Hai, khoảnh khắc kinh dị khoa học viễn tưởng do “lỗi” của AI mang lại
Kinh nghiệm của Angela Lipps thực tế đã diễn ra hơn mười lần ở các khu vực khác nhau, thậm chí còn xảy ra ở các quốc gia khác.
Ví dụ, Robert Williams là một trong những nạn nhân đầu tiên của sự kiện này; năm 2020, cảnh sát đã bắt giữ anh ta trước mặt vợ và con gái, giam giữ trong 30 giờ, trong khi anh ta cao hơn 20 cm so với thủ phạm thực sự.
Một người tên Chris Gatlin khác cũng là một nạn nhân cực kỳ xui xẻo; AI đã dựa vào hình ảnh giám sát mờ nhạt để xác định anh ta là nghi phạm tiềm năng trong vụ đánh người trên tàu điện ngầm, và sau đó anh ta bị giam giữ liên tục 17 tháng, trở thành người vô tội bị giam giữ lâu nhất tính đến nay. Điều phi lý là cho đến cuối cùng, các nhân viên điều tra mới phát hiện ra còn một thiết bị ghi hình của cảnh sát có thể đóng vai trò bằng chứng quan trọng, nhưng người nghi phạm trong video hoàn toàn không giống anh ta.
Năm 2023, Porcha Woodruff cũng trải qua tình huống tương tự, cảnh sát buộc cô tội trộm xe. Cô nghe xong liền bật cười vì cho rằng cảnh sát đang đùa, bởi lúc đó cô đang mang thai tám tháng và hoàn toàn không có vẻ gì có thể thực hiện hành vi bạo lực. Tuy nhiên, cô vẫn bị bắt và giam giữ hơn mười giờ, sau đó cô kiện tụng nhưng thua kiện.
Năm nay, một chàng trai người Anh tên Alvi Choudhury cũng bị bắt vì tình huống tương tự, bị nghi ngờ “đột nhập trộm cắp”, nhưng theo bằng chứng thì hành vi này được thực hiện “từ xa”. Cảnh tượng này cũng từng được ghi lại trong phim ảnh. Hình ảnh mà AI nhận diện là bức ảnh của anh ta khi bị giam giữ năm 2021; khi nhìn thấy người thật, cảnh sát cũng bật cười vì anh ta trông già hơn nghi phạm ít nhất 10 tuổi.
Hình ảnh từ phim The Mind Menders
Năm 2022, doanh nhân Ấn Độ Praveen Kumar bị bắt khi đang trên đường đến Thụy Sĩ, trong lúc quá cảnh tại Abu Dhabi, nơi hệ thống AI đã nhận diện nhầm anh ta là một bị can truy nã. Địa phương đã thẩm vấn anh ta rất kỹ, nhưng sau cùng phát hiện ra anh ta không phải nghi phạm và đã trục xuất anh ta trở về Ấn Độ, tuy nhiên, ngay tại sân bay Ấn Độ, anh ta đã bị giữ lại liên tiếp hai lần.
Trong những sự kiện như vậy, có lẽ đáng chú ý nhất là trải nghiệm của nhà khoa học Nga Alexander Tsvetkov, khi AI nói ông trông giống một tên sát nhân, sau đó ông bị giam giữ trong 10 tháng.
Nhà khoa học này có thể nói đã bị cả AI và con người vu khống. Tháng 2 năm 2023, sau khi kết thúc chuyến khảo sát khoa học và trở về Nga, ông vừa xuống máy bay đã bị bắt. Lý do là AI cho thấy ông có 55% độ tương đồng với bức chân dung nghi phạm trong một vụ án giết người hàng loạt cách đây hơn hai mươi năm, đồng thời trong vụ án này còn có một nhân chứng phản bội, người này đã khai gian để được giảm án và buộc tội ông. Đáng buồn hơn, cảnh sát cũng không tiến hành điều tra kỹ lưỡng mà đã bắt ông ngay lập tức.
Sau khi bị giam giữ, ban đầu anh ấy nghĩ đó chỉ là sự hiểu lầm nhỏ, nhưng cuộc điều tra kéo dài không kết thúc, dưới áp lực tinh thần lớn và các vấn đề sức khỏe, anh từng buộc phải nhận tội, sau đó lại rút lại lời khai. May mắn thay, vợ và đồng nghiệp tại viện nghiên cứu luôn nỗ lực vì anh, tìm kiếm vô số tài liệu chứng minh rằng vào năm xảy ra vụ án, anh đang ở nơi khác để khảo sát. Khi sự việc được truyền thông đưa tin, vụ án đã thu hút sự quan tâm rộng rãi của công chúng, và đến tháng 12 mới xuất hiện dấu hiệu chuyển biến, các cáo buộc chính thức được hủy bỏ vào tháng 2 năm 2024.
Và những vụ việc như trên ngày càng xảy ra thường xuyên hơn cùng với sự tiến hóa của AI, trông giống như AI đang “chỉ huy”, trong khi một số người lại trở thành những cỗ máy thực thi.
Ba, bệnh nghề nghiệp "AI quyết định"
Cảm giác trừu tượng về việc "hoán đổi vai trò" xuất phát từ việc cả AI lẫn con người đều có thể mắc lỗi; dù AI mạnh đến đâu cũng có thể sai, còn con người thì luôn có thể "lười biếng" bất cứ lúc nào.
Lấy hệ thống Clearview AI của Mỹ làm ví dụ, chính nó đã đưa người phụ nữ trong ảnh đầu bài vào tù, nhưng nó không phải là phần mềm vặt vãnh. Clearview AI tuyên bố sở hữu cơ sở dữ liệu hình ảnh lớn nhất thế giới, thu thập hàng chục tỷ hình ảnh một cách liều lĩnh bất chấp các khoản phạt từ nhiều quốc gia, hơn 3.000 cơ quan thực thi pháp luật tại Mỹ đang sử dụng nó, và năm ngoái còn ký hợp đồng trị giá 9,2 triệu USD với ICE.
Nhưng nói một cách đơn giản, Clearview AI là một “công cụ tìm kiếm khuôn mặt”, khi sử dụng, bạn chỉ cần tải lên một hình ảnh, sau đó nó sẽ so khớp với cơ sở dữ liệu của mình và trả về một loạt các hình ảnh tương tự, cuối cùng, liệu đó có phải là người bạn đang tìm hay không, bạn vẫn phải tự phán đoán.
Mặc dù những năm gần đây, tiến bộ của AI rất nhanh chóng, nhưng "độ chính xác" vẫn còn nhiều tranh cãi, vì dữ liệu dùng để thử nghiệm luôn có sự khác biệt so với tình huống thực tế khi sử dụng tìm kiếm hình ảnh.
Ví dụ, trong hầu hết các trường hợp, hình ảnh giám sát mà cảnh sát tìm được có độ phân giải như được chụp bằng điện thoại cố định, cộng thêm các yếu tố như ánh sáng kỳ lạ, góc quay khó khăn, khuôn mặt bị che khuất, v.v., nên việc nhận diện thực sự rất khó khăn, và hình ảnh trong thư viện có thể là hình cũ, kết quả khớp có thể chỉ là tình cờ hai người trông giống nhau.
Những sai số này khi áp dụng vào từng cá nhân cụ thể, tất nhiên sẽ khiến họ phải chịu thiệt thòi.
Đây là quạ hay mèo?
Nếu chỉ là AI thỉnh thoảng mắc lỗi, thì vẫn còn cứu vãn được, vì những điều đó chỉ là “dấu hiệu”, còn “kết luận” cuối cùng vẫn cần con người kiểm duyệt, nhưng nhiều khi con người còn “điên rồ” hơn AI.
Thực ra vài năm trước đã có người phàn nàn rằng cảnh sát Mỹ bị AI dẫn dắt, rơi vào tâm lý thiên vị tự động, tức là phụ thuộc hoặc quá tin tưởng vào kết quả do AI đưa ra. Chỉ cần AI nói hai người này khớp nhau, con người liền tin ngay; chiều cao không khớp thì không phải lỗi của tôi, bằng chứng không có mặt tuy có nhưng tôi chỉ có nhiệm vụ bắt người, mọi bằng chứng khác cứ nói với nhà tù đi, bỏ qua các bước điều tra cơ bản đồng thời cũng khiến người khác “bỏ qua cuộc đời”.
Thực ra, con người hoàn toàn hiểu rõ những điểm yếu của AI. Sau khi phải bồi thường một số tiền lớn, nhiều khu vực ở Mỹ đã thiết lập “đường ranh giới phòng ngừa”, ví dụ như khi điều tra vụ án, ngoài các manh mối từ AI, vẫn cần có bằng chứng độc lập, thậm chí một số nơi đã cấm hoàn toàn việc sử dụng công nghệ AI trong điều tra vụ án.
Nhưng những ràng buộc này không thể cản trở AI quá hữu ích. Mặc dù có khả năng thất bại, nhưng rõ ràng số lần thành công nhiều hơn. Đôi khi, những manh mối mà cảnh sát tốn công tìm kiếm lại chỉ là một bức ảnh giám sát cấp độ “khóa cửa”, và rất có thể họ sẽ thử dùng AI để may mắn một lần. Ngay từ năm 2023 đã có báo cáo cho thấy cảnh sát Mỹ đã thực hiện hơn một triệu lần tìm kiếm bằng Clearview AI, thậm chí sau đó khi bị cấm công khai sử dụng, họ vẫn lén lút dùng, vì dù đã dùng cũng có thể nói là chưa dùng; nếu phần mềm này bị cấm thì chuyển sang dùng cái khác, nếu bị cấm trong nước thì nhờ tổ chức khác giúp dùng, thực sự nghiện luôn.
Vì vậy, một khi AI đưa ra một manh mối không đáng tin cậy, sau đó con người lười biếng bỏ qua việc điều tra, cả hai kết hợp với nhau, vụ án oan tất nhiên sẽ xảy ra.
Hai năm qua, hệ thống Smart Sampa của Brazil cũng đang đối mặt với những vấn đề tương tự. Năm 2024, São Paulo, Brazil đã triển khai hệ thống cảnh sát nhận diện khuôn mặt AI lớn nhất châu Mỹ Latinh, được cho là kết nối với 40.000 camera.
Tin tốt là hiệu quả thực sự đáng kinh ngạc, trong vài năm qua đã bắt giữ gần bốn nghìn tội phạm ngay tại chỗ và bắt lại hơn ba nghìn tên trốn truy nã, tỷ lệ vụ cướp tài sản giảm gần 15% vào năm 2025, xứng đáng được gọi là “dây chuyền bắt trộm”.
Tin xấu là ít nhất 59 người đã bị nhận nhầm.
Trong số đó có không ít trường hợp trừu tượng, ví dụ như một bệnh nhân tâm thần bị đưa đi như một tên tội phạm tại bệnh viện, sau đó phát hiện lệnh bắt giữ của anh ta đã hết hạn nên được thả ra. Một anh chàng khác đã bị bắt 4 lần trong vòng 7 tháng, do AI nhầm anh ta với một tên giết người đang trốn truy nã. Mỗi lần đều bị đưa về đồn cảnh sát và ngay lập tức được thả ra, vài ngày sau lại xảy ra một lần nữa, anh ta đã sợ đến mức tê liệt.
Trước đây, khi nói về những công việc không thể bị AI thay thế, người ta thường nói AI không thể ngồi tù thay con người, nhưng chúng ta chưa bao giờ nghĩ đến mặt ngược lại của vấn đề này—giờ đây, nó có thể khiến con người “ngồi tù”.
Trước đây, câu này là một câu đùa, nhưng giờ xem ra đã gần như không còn là tin tức nữa. Thực ra, không chỉ có nhận diện khuôn mặt, AI đôi khi cũng có những “mánh khóe” đáng kinh ngạc trong nhận diện vật thể.
Năm ngoái, hệ thống an ninh AI tại một trường trung học ở Mỹ đã nhận diện bao bì khoai tây chiên trong tay một cậu bé là “vũ khí tiềm ẩn”, kích hoạt cảnh báo ngay lập tức. Tám xe cảnh sát xuất hiện, nhanh chóng khống chế cậu bé, và chỉ sau khi kiểm tra thân thể, họ mới tìm thấy túi đồ ăn vặt trong thùng rác. Tình huống trở nên cực kỳ ngượng ngùng, đến mức cậu bé nghĩ mình sẽ không sống sót.
Đừng nói, thật ra đừng nói
Ai càng mạnh, càng có người dùng nó gây ra những rắc rối lớn hơn. Trước đây, AI còn yếu, nhận diện hình ảnh sai, khiến cả mạng cười chê suốt một thời gian dài. Giờ AI mạnh rồi, nhận diện nhầm một người, khiến con người phải ngồi tù nửa năm. Tương lai đừng còn tạo ra những thứ trừu tượng như AI xét xử, AI luật sư, tòa án năng lượng mới nữa. Rốt cuộc, AI chỉ là một công cụ, điều quan trọng vẫn là năng lực và mục đích của người sử dụng, hay nói cách khác, AI càng mạnh, con người càng không được lười biếng.
Tóm lại, cuối cùng cũng hơi nhớ đến AI ngốc nghếch đó một chút.
Bài viết này đến từ tài khoản WeChat “KuWan Lab”, tác giả: KuWan Lab