AIが突然あなたに罪を着せ、すべての人がその判断を無条件に信じた場合、どのようにして自分の無実を証明しますか？
これは映画『マイノリティ・レポート』で犯罪を予知され、冤罪を被るシーンのように聞こえるが、抽象的に言えば、現実ではさらに粗雑なバージョンがすでに上演されている：
AIが犯人を間違え、無実の女性が半年間刑務所に収監され、人生がほぼゼロに戻りかけた。
一、警察が「フラッシュ」を逮捕したとはどういうことですか？
アメリカのテネシー州に住むアンジェラ・リップスがこの不運な女性である。2025年7月、武装した警察官のチームが彼女の平穏な生活に突然突入し、銃を向けられ、逮捕されたと告げられた。
当時、彼女は少し混乱していた。なぜなら、自分が何の罪を犯したのかまったく分からなかったからだ。警察は、彼女がノースダコタ州の銀行詐欺事件に関与した疑いがあると述べ、その様子は証拠が明確で、5つ星の指名手配が発令されたように見えたが、彼女はその理由を聞いてその場で凍りついた。
でも、私はこの人生でその州に行ったことがありません。
地図上看ると、アメリカのテネシー州とノースダコタ州は確かに距離がありますが、彼女と容疑者を結びつけたのはAIです。
彼女が逮捕された際、彼女の弁明は自動的に無視され、具体的な事件の詳細は刑務所に入ってから判明した。ノースダコタ州ファーゴ市の警察は、詐欺事件を調査しており、容疑者は偽の軍人身份を用いて銀行から数万ドルをだまし取っていた。警察の調査手法は、まず監視カメラを確認し、次にAIに質問し、最後に逮捕するというものだった。
AIを使ってシャーロック・ホームズを精製し、緻密な論理的推論で事件を解決したと思われたかもしれないが、実際にはそれほど「複雑」ではない。警察はAIシステムを使って監視カメラのスクリーンショットから顔認識を行い、その画像データベースから容疑者を絞り込んだ。
AIは今回、Angela Lippsの写真を誤って一致させてしまった。その後、この情報は捜査中の警察署に送られ、職員が彼女の運転免許証とSNSを手動で確認した結果、顔の特徴や体型、髪型が似ていると判断し、彼女を容疑者と確定した。
画像はGoFundMeより
姉は話を聞いて非常に落ち込み、他の手がかりをさらに調べることなく、もしかしたら顔が似ているだけかもしれないのに、それ以上追求しなかった。しかし、さらに落ち込むことがその後に待っていた。それは一連の攻撃を受け、彼女は自分の無実を証明する機会を失ってしまったのだ。
地元の手続きにより、彼女は直接ノースダコタ州に送られてさらに調査を受けるのではなく、テネシー州の地元刑務所で待機していた。彼女は「州間逃走犯」と認定されたため、保釈も警察の尋問の機会も与えられず、7月から刑務所に収監され、10月末までなんと108日間拘束され続けた。この期間、彼女がどれほど絶望していたかは想像に難くない。
アンジェラ・リップスは10月30日まで待たされ、ようやく警察に拘束されてノースダコタ州へ移送された。当時、彼女は複数の罪で起訴されており、移動中は手錠をかけられ、腰には鎖で縛られていた。彼女にとって、空港を通過することは公開の示威行為のように感じられた。
そしてこれは彼女にとって人生で初めての飛行機乗車でした。
彼女が予想しなかったのは、ノースダコタ州に到着してもさらに待たなければならなかったことだった。12月になってようやく正式にこの件を説明する機会を得て、彼女の弁護士は銀行の取引記録を引き出し、時間帯を比較した。事件発生時、彼女は1900キロ離れたテネシー州でピザを購入していた。つまり、彼女が「フラッシュ」でない限り、時空を超えて犯行を起こすことは不可能だった。
5分間で弁護士は彼女にこの件を明確に説明した。
12月24日、ようやく彼女の告訴は取り下げられたが、その頃には「切断ライン」は足首まで迫っていたため、彼女は喜ぶ余裕もなかった。
アンジェラ・リップスは50歳の誕生日をすべて刑務所で迎えた。収監中は義歯の着用が許されず、彼女が口にしたのはすべてジャンクフードであり、精神的圧力も大きく、体重は急増した。刑務所に入る前は夏服を着ていたが、出所したときにはすでに冬になっており、厚手のコートすら持っていない状態で、暖かさを保つことさえ困難だった。帰宅など考えられなかった。当時、警察は旅費すら支給せず、出所後は北ダコタ州に閉じ込められ、AIに冤罪を被ったその日から動けなくなった。
しかし、幸いにも親切な人が彼女を助けてくれました。
彼女の弁護士は彼女にホテルの宿泊を手配し、食事を用意して最も厳しい時期を乗り越える手助けをし、地元の非営利団体が彼女を救済してテネシー州の自宅へ送り届けました。
しかし、家に帰った後、生活を再開する難しさも地獄級だった。刑務所にいた間、彼女の経済状況は崩壊し、賃貸していた家を失い、家の犬もいなくなり、車や車内に保管していた物まですべて失った。彼女の個人物品は一時的に倉庫に保管されていたが、その後家賃を支払えず、すべての生活用品が処分されてしまった。さらに人間関係も危うく、近所の人々は彼女が逮捕され「半年間消えた」のを見て、彼女が本当に何か悪いことをしたと信じてしまった。
同時に、彼女のこの異常な経験はすぐにネット上で広まり、多くの批判を呼びました。たとえば、多くの人が米国では一部の人々が「0ドルで購入」できる一方で、資本家の銀行に手を出せば、たとえ関与していなくても即座に逮捕されると嘆いています。
状況が大きくなりすぎたため、彼女の絶体絶命の状況に再び転機が訪れ、より多くの支援を受けました。現在、彼女は8万ドルの寄付金をクラウドファンディングで調達し、生活を再スタートさせるのに十分な資金を得ました。
しかし、現在ネットユーザーの最大の期待は、彼女が弁護士チームを組み、彼らを訴えて大規模な裁判を起こし、勝訴してさらに賠償金を得られることです。
これは警察の偶然のミスではなく、以前から多数の冤罪が発生しており、彼女よりも悲惨な経験をした人もいます。
二、AIの「ミス」が生み出したスリリングなSFの瞬間
アンジェラ・リップスの経験は、これまでに異なる地域で十数回も繰り返されており、他の国でも同様の事例が発生しています。
例えばロバート・ウィリアムズは、このような事件で最も早い被害者の一人であり、2020年、警察は彼の妻と娘の前で彼を逮捕し、30時間拘束したが、彼は真の犯人より20センチ高い身長だった。
もう一人のクリス・ガトリンも最悪の運命を背負った人物だ。AIはあいまいな監視映像をもとに、彼を地下鉄での暴行事件の潜在的容疑者と一致させ、結果として17か月間拘束され、現在までに最も長く拘束された無実の人物となった。驚くべきことに、最終的に捜査担当者は、重要な証拠となるはずの执法レコーダーが存在していたことにようやく気づいたが、その映像に映る容疑者は彼とはまったく一致しなかった。
2023年、ポルチャ・ウッドラフも同様の状況に見舞われ、警察は彼女を車両強盗容疑で逮捕した。彼女はその話を聞いて即座に笑い出した。警察が冗談を言っていると思ったからだ。当時、彼女は妊娠8か月で、まったく暴力を振るうような外見ではなかったからである。しかし、彼女は10時間以上拘束され、その後、裁判にも敗訴した。
今年、英国のアリ・チョウドリーという若者も同様の状況で逮捕された。彼は「住居侵入」の疑いをかけられたが、証拠からは「遠隔」で行われたものだったという。このシーンは映画にも登場している。AIが識別したのは、彼が2021年に拘束された際の写真であり、警察が実際の人物を見て笑い出したのは、彼が容疑者よりも少なくとも10歳以上老けて見えたからである。
画像は『メンタル・トランスファー』より
2022年、インドの商人Praveen Kumarはスイスへ向かう途中、アブダビで経由中にAIによって通缉犯と誤認され、現地で厳しく尋問された。その後、彼が容疑者でないことが確認され、インドに送還されたが、インドの空港で連続して2回拘束された。
このような事件の中で、最もひどいのはロシアの科学者アレクサンダー・ツベトコフの遭遇であり、AIが彼を殺人犯に似ていると判断したため、彼は10か月間拘束された。
この科学者は、AIと人間の両方による誤認に遭ったと言える。2023年2月、彼は研究調査を終えてロシアに戻った直後、空港で逮捕された。その理由は、AIが彼の顔が20年以上前の連続殺人事件の容疑者の肖像と55％類似していると判定したためであり、さらにその事件には、刑を軽くするために偽証して彼を指名した汚点証人もいた。致命的なことに、警察は調査を十分に行わず、そのまま彼を逮捕した。
拘束された当初、彼は小さな誤解だと思っていたが、調査が長引く一方で、大きな精神的圧力と健康上の問題の影響で一時的に自白を余儀なくされ、その後取り消した。幸いにも、妻と研究所の同僚たちは常に彼のために奔走し、事件当時彼が外地で調査中であったことを証明する膨大な資料を収集した。メディアの報道により、この事件は大衆の広範な議論を呼び、12月になってようやく転機が訪れた。告訴は2024年2月に正式に取り下げられた。
このような事例は、AIの進化に伴いますます頻繁に発生しており、AIが「指揮」し、一部の人々が実行の機械のように見えるようになっている。
三、「AIが決める」ことによる職業病
AIも人間もミスをするため、役割が入れ替わるような抽象的な感覚が生まれる。どんなに強力なAIでも誤りを犯す可能性があり、人間はいつでも「手を抜く」ものだ。
米国のClearview AIシステムを例に挙げると、記事の冒頭で紹介された女性を逮捕したのはまさにこのシステムであるが、これは無名のソフトウェアではない。Clearview AIは世界最大の画像データベースを保有していると謳っており、複数国からの罰金を受けてもなお数百億枚の画像を収集し続けている。米国では3000を超える法執行機関がこのシステムを導入しており、昨年にはICEと920万ドルの契約を結んだ。
簡単に言えば、Clearview AIは「顔検索エンジン」で、使用方法は画像をアップロードし、そのデータベースと照合して類似する画像を多数表示し、最終的にそれが探している人物かどうかはユーザー自身で判断する必要があります。
これらの年月においてAIの進歩は著しいが、「精度」は依然として議論の余地がある。なぜなら、実験で使用されるデータと現実の画像検索での使用状況には常にさまざまな差異が生じるからである。
例えば、警察が入手する監視映像の画質は、固定電話で撮影したようなものであり、不審な照明や奇異な角度、顔の一部が隠れているなどの要因により、認識の難易度は確かに高い。また、画像データベースに含まれているのが古い画像である可能性もあり、一致した結果は単に二人が似ているだけである可能性もある。
そしてこれらの誤差が具体的な人間に適用されると、当然ながら苦しみを伴うことになります。
これは烏か猫か？
AIがたまに誤るだけなら、それらはあくまで「手がかり」であり、その後の「結論」は人がチェックするのでまだ救いがあるが、多くの場合、人間の方がAIよりはるかに「ひどい」。
実は数年前から、米国警察がAIに操られているという批判があり、自動化バイアスに陥っていると指摘されていた。つまり、AIが出した結果に過度に依存・信頼してしまう傾向だ。AIが「この二人は一致している」と言えば、人間はそれを信じてしまう。身長が合っていなくても、それは私の問題ではない。アリバイはあるが、私は逮捕だけを担当する。その他の証拠はすべて刑務所で説明しろ、基本的な調査プロセスを飛ばすことで、他人の人生まで「飛ばす」ことになる。
実際、人間自身はAIの欠点をよく理解しており、米国の警察は多くの賠償金を支払った後、多くの地域で「防火線」を設けた。例えば、事件解決にAIの手がかりを使うだけでなく、独立した証拠も必要とするようにしたり、一部の地域ではAI技術を事件解決に使用することを直接禁止したりしている。
しかし、これらの制約はAIの使い勝手の良さには勝てない。失敗する確率はあるが、成功する回数の方が明らかに多い。警察が苦労して見つけた手がかりの多くは、まさに「ドアロック」レベルの監視カメラ画像であり、その多くがAIで試してみようと考える。2023年には、米国警察がClearview AIを何百万回も検索に使用したという報道があり、その後、公式に使用が禁止されてもこっそり使い続けた。使ったとしても使っていないと言い張ればいいし、このソフトウェアが使えないなら別のものを選べばいい。地元で禁止されたら、他の機関に頼んで使ってもらえばいい。まるで依存症のようにやめられなくなっている。
したがって、AIがまず信頼できない手がかりを提示し、その後人間が調査を怠って手を抜くと、卧龍と鳳雛のコンビネーション技によって冤罪が生まれてしまう。
近年、ブラジルのSmart Sampaシステムも同様の問題に直面している。2024年、ブラジルのサンパウロはラテンアメリカ最大のAI顔認証警察システムを導入し、4万台のカメラと接続されたとされている。
良いニュースは、その効果が非常に顕著で、過去数年で約4,000人の犯罪者が現場で逮捕され、3,000人以上の逃走犯が捕らえられたことです。2025年には強盗事件が約15%減少し、まさに「泥棒捕獲ライン」と称されています。
悪いニュースは、少なくとも59人が間違えられたことです。
その中には抽象的な事例も含まれており、例えば精神疾患を抱える患者が病院で犯罪者と間違われて連行され、後に逮捕令が有効期限切れであることが判明して解放された。また、ある男性は7か月の間に4回逮捕されたが、AIが彼を逃走中の殺人犯と混同したため、毎回警察署に連れて行かれて直ちに解放され、数日後にまた同じことが繰り返された。彼はすでに恐怖で麻痺してしまった。
以前、AIが代替できない仕事について話すとき、AIは人間の代わりに刑務所に入れないと言っていたが、私たちはこの問題の別の側面、つまりAIが今や人間を「刑務所に閉じ込める」可能性があることに気づかなかった。
以前这句话是个段子，但现在看几乎已经不算新闻了。実は顔認識だけでなく、AIは物品認識の分野でもたまに驚異的な成果を上げる。
昨年、アメリカの高校で導入されたAIセキュリティシステムが、少年が手に持っていたポテトチップスの包装を「潜在的な銃」と誤認識し、警報が作動した。警車8台が駆けつけ、少年は即座に制圧され、身体検査の後、ようやくゴミ箱からおやつの袋が見つかった。その場の状況は非常に恥ずかしく、少年は自分が命を落とすものだと信じてしまった。
言ってはいけないとは言わないが
AIが強くなればなるほど、それを悪用して大きな問題を引き起こす人がいるとは誰が想像しただろう。昔のAIは鈍く、画像を間違って認識してネット全体に笑われた。しかし今やAIは強くなり、たった一人の人物を間違えただけで、人類が半年も牢屋に閉じ込められてしまう。今後、AI裁判やAI弁護士、新エネルギー裁判といった抽象的な仕組みをもう作らないでほしい。結局のところ、AIはあくまでツールにすぎず、肝心なのは使用者の能力と目的だ。あるいは、AIが強くなればなるほど、人間はますます怠けてはいけないということだ。
とにかく、はじめはあのバカバカしいAIが少し懐かしく感じられた。
本文は微信公众号「クーワンラボラトリー」より、著者：クーワンラボラトリー