إذا قال الذكاء الاصطناعي فجأةً إنك مذنب، وصدق الجميع حكمه دون تفكير، كيف يمكنك إثبات براءتك؟
هذا يبدو كمشهد من فيلم "تقرير الأقلية" حيث تُتنبأ بالجرائم ثم يُتهم الشخص بها، لكن بشكل تجريدي، فقد شهد الواقع بالفعل نسخة أكثر تهورًا:
أخطأ الذكاء الاصطناعي في تحديد المجرم، مما أدى إلى سجن أخت غير مذنبة لمدة ستة أشهر، وكدت حياتها تصبح صفراً.
ما المقصود بقبض الشرطة على "السريع"؟
أنجيلا ليبس من ولاية تينيسي الأمريكية هي هذه المرأة المحظوظة. في يوليو 2025، اقتحمت فرقة من الشرطة المسلحة فجأة حياتها العادية، وأمسكت بها ببنادق، وأخبرتها بأنها معتقلة.
كانت مذهولة قليلاً في ذلك الوقت، إذ لم تكن تعرف على الإطلاق ما الذي فعلته خطأً. وقالت الشرطة إنها مشتبه بها في المشاركة بقضية احتيال مصرفي في داكوتا الشمالية، وكان المظهر يوحي بأن الأدلة واضحة، كما تم إصدار مذكرة اعتقال من خمس نجوم ضدها، لكنها بقيت مذهولة في مكانها بعد أن سمعت هذا السبب:
But I’ve never been to that state in my life.
من الناحية الجغرافية، تبعد تينيسي في الولايات المتحدة عن داكوتا الشمالية مسافة كبيرة، ولكن الذكاء الاصطناعي هو ما ربطها بالمشتبه به.
عندما اعتقلتها الشرطة، تم تجاهل دفاعها تلقائيًا، ولم تُعرف تفاصيل القضية المحددة إلا بعد دخولها السجن. كانت شرطة فرغو، ولاية داكوتا الشمالية، تحقق في قضية احتيال، حيث استخدم المشتبه به هوية عسكرية مزيفة لسرقة عدة عشرات الآلاف من الدولارات من البنك، وطريقة التحقيق التي اتبعتها الشرطة كانت التحقق من كاميرات المراقبة أولاً، ثم استشارة الذكاء الاصطناعي، وأخيرًا القبض على المشتبه به.
ربما تعتقد أنهم استخدموا الذكاء الاصطناعي لتحليل شيرلوك هولمز، ثم تحولوا إلى محقق خارق يحل الجرائم من خلال استنتاجات منطقية دقيقة، لكن في الواقع الأمر ليس بهذا "التعقيد". استخدمت الشرطة نظام ذكاء اصطناعي لتحديد الوجوه من لقطات كاميرات المراقبة، ثم بحثت في قاعدة البيانات للعثور على المشتبه بهم.
نتيجةً لذلك، أخطأ الذكاء الاصطناعي هذه المرة في مطابقة صورة أنجيلا ليبس. ثم تم تحويل هذه المعلومة إلى مركز الشرطة الذي كان يحقق في القضية، حيث قام الموظفون بخطأ أكبر بكثير، فبعد التحقق اليدوي من رخصة قيادتها وحساباتها على وسائل التواصل الاجتماعي، اعتبروا أن سمات الوجه والجسم والشعر متشابهة، وبالتالي حددوا أنها المشتبه بها.
الصورة من GoFundMe
بعد أن سمعت الأخت الكبرى، شعرت بانهيار كبير، ولم تتحقق من أي مصادر إضافية، فماذا لو تشابهت الوجوه؟ لكن الأسوأ كان ما جاء بعده: بعد سلسلة من الإجراءات، لم تُمنح فرصة لإثبات براءتها.
وفقًا للإجراءات المحلية، لم تُنقل مباشرة إلى داكوتا الشمالية للتحقيق الإضافي، بل ظلت في سجن محلي في تينيسي. وبما أنها صُنفت كـ"هاربة عبر الولايات"، لم تُمنح كفالة ولا فرصة لاستجواب الشرطة، فتم احتجازها لمدة 108 يومًا بشكل غامض، من يوليو حتى أواخر أكتوبر، ومن الصعب تصور مدى يأسها خلال هذه الفترة.
ظلت أنجيلا ليبس محتجزة حتى 30 أكتوبر، عندما أُخذت من السجن من قبل الشرطة استعدادًا للنقل إلى داكوتا الشمالية، حيث كانت تواجه عدة تهم، وخلال رحلتها كان عليها أن ترتدي قيودًا على يديها وسلسلة مربوطة بخصرها، وهو ما اعتبرته كأنه مسيرة علنية عبر المطار.
وهي في الواقع أول مرة تقود طائرة في حياتها.
ما كان يتوقعه أنها بعد الوصول إلى داكوتا الشمالية، ما زال عليها الانتظار. حتى ديسمبر، حصلت على فرصة رسمية لشرح الأمر، حيث استخدم محاميها مباشرة سجلات بنكها لمطابقة التوقيت، وتبين أنه في وقت الجريمة، كانت في تينيسي على بعد 1900 كيلومتر، تشتري بيتزا، مما يعني أنه ما لم تكن "سبيدمان"، لم يكن بإمكانها ارتكاب الجريمة عبر الزمن والمكان.
استغرق المحامي فقط 5 دقائق لمساعدتها على توضيح هذا الأمر.
بحلول 24 ديسمبر، تم سحب اتهاماتها أخيرًا، لكنها لم تكن قادرة على التمتع، لأن "خط القطع" كان قد وصل إلى كاحليها.
كانت أنجيلا ليبس تحتفل بعيد ميلادها الخمسين داخل السجن، ولم يُسمح لها بارتداء أنيابها الصناعية أثناء السجن، وكانت تأكل فقط أطعمة غير صحية، كما أن الضغط النفسي كان كبيرًا، فزاد وزنها بشكل كبير. كانت ترتدي ملابس صيفية عند دخولها السجن، لكنها خرجت أثناء الشتاء، ولم تكن تمتلك معطفًا ثقيلًا، حتى أن الاحتفاظ بالدفء أصبح مشكلة، فكيف بالعودة إلى المنزل؟ في ذلك الوقت، لم تقدم الشرطة أي مصاريف سفر، فبعد الإفراج عنها، كانت محبوسة في داكوتا الشمالية، ومحبوسة في اليوم الذي ظُلمت فيه من قبل الذكاء الاصطناعي.
لكن للحسن الحظ، كان هناك شخص طيب ساعدتها.
ساعد محاموها في ترتيب إقامتها في فندق مؤقت، وحصلوا لها على بعض الطعام لتتجاوز أصعب لحظاتها، وقامت منظمة غير ربحية محلية بإنقاذها وإعادتها إلى منزلها في تينيسي.
لكن العودة إلى المنزل، فإن صعوبة إعادة بناء الحياة كانت على مستوى الجحيم. خلال فترة سجنها، تدهور وضعها المالي تمامًا، وفقدت شقتها المستأجرة، وفقدت كلبها المنزلي، وحتى سيارتها وما كان مخزنًا داخلها اختفى أيضًا. كانت ممتلكاتها الشخصية مخزنة مؤقتًا في مستودع، لكنها لاحقًا تمت إزالتها بالكامل بسبب عدم قدرتها على دفع الإيجار. حتى علاقاتها الاجتماعية أصبحت مهددة، لأن الجيران رأوا اعتقالها و"اختفاءها" لستة أشهر، واعتقدوا أنها ارتكبت فعلًا إجراميًا حقًا.
في الوقت نفسه، انتشرت هذه التجربة المبالغ فيها بسرعة على الإنترنت وأثارت ردود فعل ساخرة واسعة. فعلى سبيل المثال، أشار كثيرون إلى أنهم لا يفهمون كيف يمكن لبعض الأشخاص في الولايات المتحدة أن يحصلوا على "مشتريات مجانية" تمامًا، لكن بمجرد أن تلمس مصرف رأسمالي، يتم القبض عليك فورًا، حتى لو لم تكن أنت من فعل ذلك.
بسبب تفاقم الأمر، واجهت موقفها اليائس فرصة جديدة، وحصلت على مزيد من المساعدة، وهي الآن جمعت 80,000 دولار أمريكي عبر التمويل الجماعي، وهو ما يكفي تمامًا لبدء حياتها من جديد.
لكن التوقع الأكبر من قبل المستخدمين الآن هو أن تجد فريقًا من المحامين، ثم ترفع دعوى قضائية ضدهم بشكل شامل، وقد تفوز بالقضية وتحصل على تعويض آخر.
لأن هذا ليس خطأ عرضيًا من الشرطة، فقد سبق أن ظهرت قضايا ظالمة جماعية، وبعض الأشخاص عانوا أكثر منها.
ثانيًا: لحظات خيال علمي مخيفة ناتجة عن "أخطاء" الذكاء الاصطناعي
لقد مرت تجربة أنجيلا ليبس بالفعل أكثر من عشر مرات في مناطق مختلفة، وحدثت أيضًا في دول أخرى.
على سبيل المثال، كان روبرت ويليامز أحد أول الضحايا في هذا النوع من الحوادث؛ حيث تم اعتقاله عام 2020 أمام زوجته وابنته، وتم احتجازه لمدة 30 ساعة، رغم أنه كان أعلى من الجاني الحقيقي بـ20 سنتيمترًا.
كريس غاتلين الآخر هو أيضًا من أكثر الأشخاص حظًا سيئًا؛ حيث قام الذكاء الاصطناعي بربطه، بناءً على لقطات مراقبة ضبابية، كمشتبه به محتمل في حادثة الضرب في المترو، فتم احتجازه على التوالي لمدة 17 شهرًا، ليصبح أطول شخص بريء يُحتجز في احتجاز احتياطي. والأمر المضحك هو أنه حتى النهاية، اكتشف المحققون وجود تسجيل من كاميرا شرطة يمكن أن يكون دليلاً حاسمًا، لكن المشتبه به فيه لا يشبهه إطلاقًا.
عانت بورشا وودراف من نفس الوضع في عام 2023، حيث ادّعى الشرطة أنها مشتبه بها في جريمة سرقة السيارة. وعندما سمعت ذلك، ضحكت من سخافة الادعاء، ظانة أن الشرطة تمزح، لأنها كانت حاملاً بثمانية أشهر ولم تكن تبدو قادرة على ارتكاب أي فعل عنيف. ومع ذلك، تم احتجازها لحوالي عشر ساعات، وبعد ذلك خسرت دعواها القضائية.
في عام هذا، تم القبض على شاب بريطاني يُدعى ألفي شودهوري بسبب حالة مشابهة، حيث اُتهم بـ"السطو المسلح"، لكن الأدلة تشير إلى أن الجريمة تم تنفيذها "عن بُعد"، وهو ما ورد أيضًا في الأفلام. الصورة التي تم التعرف عليها بواسطة الذكاء الاصطناعي كانت من وقت اعتقاله في عام 2021، وعندما رأى الشرطة الشخص الحقيقي، ضحكوا، لأنه بدا أقدم من المشتبه به بعشر سنوات على الأقل.
الصورة من فيلم "المُنقِلُونَ العقليون"
في عام 2022، تم القبض على التاجر الهندي برافيين كومار أثناء سفره إلى سويسرا، عندما كان ينتقل عبر أبوظبي، حيث تم التعرف عليه كمجرم مطلوب من خلال الذكاء الاصطناعي. خضع لاستجواب مكثف من قبل السلطات المحلية، وبعد التأكد من أنه ليس المشتبه به، تم ترحيله إلى الهند، حيث تم احتجازه مرتين متتاليتين في مطار الهند.
في مثل هذه الحوادث، كان أكثرها غرابة هو ما تعرض له العالم الروسي ألكسندر تسيفتكوف، حيث قال الذكاء الاصطناعي إنه يشبه قاتلاً، فتم احتجازه لمدة 10 أشهر.
يمكن القول إن هذا العالم واجه اتهامًا مزدوجًا من قبل الذكاء الاصطناعي والإنسان. في فبراير 2023، عاد من بعثة بحثية إلى روسيا، فتم القبض عليه فور نزوله من الطائرة. السبب هو أن الذكاء الاصطناعي أظهر تشابهًا بنسبة 55% بينه وصورة المشتبه به في قضية قتل متسلسل حدثت قبل أكثر من عقدين، وفي نفس الوقت، كان هناك شاهد دليل مُرشَّح في هذه القضية، وقد أدلى بشهادة كاذبة متعمدة للحصول على تخفيف للعقوبة واتهمه. وكان الأمر الأكثر خطورة أن الشرطة لم تُجرِ أي تحقيق دقيق، فقامت بالقبض عليه مباشرة.
بعد اعتقاله، اعتقد في البداية أنه خطأ صغير، لكن التحقيق لم يُختَم لفترة طويلة، مما أدى إلى اضطراره للاعتراف تحت ضغط نفسي هائل ومشاكل صحية، ثم نقض اعترافه لاحقًا. لحسن الحظ، ظلت زوجته وزملاؤه في المعهد يبذلون جهودًا مستمرة من أجله، وجمعوا عددًا لا يحصى من الوثائق لإثبات أنه كان في رحلة تفقد خارج المدينة في عام الحادث. ومع تغطية وسائل الإعلام، أصبحت القضية موضوع نقاش واسع بين الجمهور، وظهرت نقطة تحوّل في ديسمبر، وتم إسقاط التهم رسميًا في فبراير 2024.
وتحدث هذه الأنواع من القضايا بشكل متزايد مع تطور الذكاء الاصطناعي، ويبدو وكأن الذكاء الاصطناعي هو الذي "يُوجّه"، بينما يصبح بعض الأشخاص مجرد آلات تنفذ الأوامر.
ثالثًا: مهنة "الذكاء الاصطناعي هو الذي يقرر"
الشعور المجرد بـ"تبديل الأدوار" ينشأ لأن كلًا من الذكاء الاصطناعي والإنسان قد يفشلان، فحتى أقوى أنظمة الذكاء الاصطناعي يمكن أن ترتكب أخطاء، والإنسان يميل باستمرار إلى "التقاعس".
على سبيل المثال، نظام Clearview AI الأمريكي هو الذي أرسل المرأة في مقدمة المقال إلى السجن، لكنه ليس برنامجًا هامشيًا. تدّعي Clearview AI أنها تمتلك أكبر قاعدة بيانات صور في العالم، وقد جمعت بلا تردد عشرات المليارات من الصور على الرغم من الغرامات المفروضة من عدة دول، ويستخدمه أكثر من 3000 وكالة إنفاذ قانون في الولايات المتحدة، كما وقعت عقدًا بقيمة 9.2 مليون دولار مع ICE العام الماضي.
لكن باختصار، Clearview AI هي بمثابة "محرك بحث للوجوه"، حيث تقوم بتحميل صورة، ثم تطابقها مع قاعدة بياناتها، وتُعيد مجموعة من الصور المشابهة، وعليك أنت تحديد ما إذا كانت الصورة التي تبحث عنها هي الفعلية أم لا.
على الرغم من التقدم السريع في الذكاء الاصطناعي على مدار هذه السنوات، فإن "الدقة" لا تزال مثيرة للجدل، نظرًا لوجود اختلافات دائمًا بين بيانات اختبار التجارب وحالات استخدام صور البحث في الواقع.
على سبيل المثال، في معظم الأحيان، تكون جودة الصور الملتقطة من كاميرات المراقبة التي تجدها الشرطة مشابهة لجودة كاميرا هاتف أرضي، بالإضافة إلى عوامل مثل إضاءة غريبة، وزوايا صعبة، ووجود ما يحجب الوجه، مما يجعل التعرف صعبًا حقًا، وقد تكون الصور في قاعدة البيانات قديمة، وبالتالي قد يكون التطابق مجرد تشابه عرضي بين شخصين.
وتطبيق هذه الأخطاء على أشخاص محددين سيؤدي بالطبع إلى معاناتهم.
Is this a crow or a cat?
من الناحية النظرية، إذا كان الذكاء الاصطناعي يرتكب أخطاءً فقط أحيانًا، فلا يزال هناك أمل، لأن هذه مجرد "إشارات"، ويجب على الإنسان مراجعة "الاستنتاجات" اللاحقة، لكن في كثير من الأحيان، يكون الإنسان أكثر "غرابة" من الذكاء الاصطناعي.
في الواقع، منذ بضع سنوات، اشتكى الكثيرون من أن شرطة الولايات المتحدة تُقاد بواسطة الذكاء الاصطناعي، ووقعت في "التحيز التلقائي"، أي الاعتماد أو الثقة المفرطة في النتائج التي يقدمها الذكاء الاصطناعي. كلما قال الذكاء الاصطناعي إن هذين الشخصين متطابقان، اعتقد البشر ذلك فورًا؛ فارتفاع القامة غير المتطابق ليس مشكلتي، ورغم وجود إثباتات الغياب، إلا أن مسؤوليتي تقتصر على القبض، وأي أدلة أخرى يمكنهم إخبار السجن بها، متجاوزين خطوات التحقيق الأساسية ومجبرين الآخرين على "تجاوز حياتهم".
في الواقع، يفهم البشر جيدًا عيوب الذكاء الاصطناعي، وبعد دفع مبالغ كبيرة من المال، أقامت العديد من المناطق الأمريكية "خطًا دفاعيًا"، مثل ضرورة وجود أدلة مستقلة إلى جانب أدلة الذكاء الاصطناعي عند حل الجرائم، بل وحظرت بعض المناطق استخدام تقنيات الذكاء الاصطناعي هذه تمامًا في حل الجرائم.
لكن هذه القيود لا تُجدي أمام فائدة الذكاء الاصطناعي الهائلة. فعلى الرغم من احتمال الفشل، فإن عدد المرات الناجحة يفوق بكثير. أحيانًا، تكون الأدلة التي تبذل الشرطة جهدًا كبيرًا للعثور عليها مجرد صورة مراقبة من مستوى "قفل الباب"، وغالبًا ما تفكر في تجربة الذكاء الاصطناعي لمجرد الحظ. فقد تم الإبلاغ منذ عام 2023 أن شرطة الولايات المتحدة استخدمت Clearview AI في ملايين عمليات البحث، وحتى بعد أن منعت رسميًا استخدامها، استمرت في استخدامها سرًا، لأن استخدامها يمكن تبريره بأنه لم يُستخدم أبدًا. إذا منع هذا البرنامج، فاستخدم برنامجًا آخر، وإذا حُظر محليًا، فاطلب من جهة أخرى المساعدة في استخدامه — إنها مجرد إدمان واضح.
لذلك، بمجرد أن يقدم الذكاء الاصطناعي معلومة غير موثوقة، ثم يتهرب الإنسان من التحقيق، يُطلقان معًا تقنية مدمجة، فيحدث الخطأ القضائي بالضرورة.
على مدار العامين الماضيين، واجهت أنظمة مثل Smart Sampa في البرازيل مشكلات مماثلة. في عام 2024، تم إطلاق نظام شرطة ذكي يعتمد على الذكاء الاصطناعي للتعرف على الوجوه في ساو باولو، البرازيل، وهو أكبر نظام من نوعه في أمريكا اللاتينية، وفقًا لما ذُكر، حيث يتصل بـ 40 ألف كاميرا.
الخبر السار هو أن التأثير كان فعليًا قويًا، حيث تم القبض على ما يقرب من أربعة آلاف مجرم ميدانيًا على مدار سنوات، بالإضافة إلى استعادة أكثر من ثلاثة آلاف فار، وانخفضت جرائم السرقة بنسبة تقارب 15٪ في عام 2025، لتصبح بمثابة "خط إنتاج للقبض على اللصوص".
الخبر السيء هو أن ما لا يقل عن 59 شخصًا تم التعرف عليهم خطأً.
من بينها حالات مجردة، مثل مريض نفسي تم أخذه كمجرم من المستشفى، ثم أُطلق سراحه لاحقًا بعد اكتشاف أن أمر القبض عليه منتهي الصلاحية. وهناك رجل آخر تم القبض عليه أربع مرات خلال سبعة أشهر، حيث خلطته الذكاء الاصطناعي مع قاتل مطلوب. في كل مرة، كان يُطلق سراحه فور وصوله إلى مقر الشرطة، لكنه يُقبض عليه مرة أخرى بعد بضعة أيام، حتى بات مذعورًا تمامًا.
عندما كنا نناقش سابقًا أي وظائف لا يمكن للذكاء الاصطناعي استبدالها، قلنا دائمًا إن الذكاء الاصطناعي لا يمكنه أن يجلس في السجن بدلاً من الإنسان، لكننا لم نفكر قط في الجانب الآخر لهذا السؤال، فهو الآن قادر على جعل الإنسان "يجلس في السجن".
كانت هذه الجملة في الماضي مزحة، لكن الآن تكاد لا تُعد خبرًا. في الواقع، ليس فقط التعرف على الوجه، بل إن الذكاء الاصطناعي أحيانًا يُظهر قدرات مذهلة أيضًا في التعرف على العناصر.
في العام الماضي، تمكّن نظام أمن بالذكاء الاصطناعي في مدرسة ثانوية أمريكية من التعرف على عبوة رقائق البطاطس التي يحملها شاب على أنها "سلاح محتمل"، فتم تفعيل إنذار فوري. ووصلت 8 سيارات شرطة، وتم السيطرة على الشاب فورًا، وبعد تفتيشه، وُجدت كيس الرقائق في سلة المهملات، وحدث موقف محرج للغاية، حيث ظن الشاب أنه لن ينجو.
لا تقل، حقًا لا تقل
من كان يتخيل أن قوة الذكاء الاصطناعي الأكبر ستؤدي إلى ارتكاب أخطاء أكبر؟ في الماضي، كان الذكاء الاصطناعي بطيئًا، ويفشل في التعرف على الصور، مما جعل الجميع يضحكون عليه لفترة طويلة. الآن، مع تقدم الذكاء الاصطناعي، يمكنه أن يخطئ في التعرف على شخص واحد، فيؤدي إلى سجن الإنسان لستة أشهر. في المستقبل، لا داعي لتطوير مفاهيم مجردة مثل محاكم الذكاء الاصطناعي أو محامو الذكاء الاصطناعي أو محاكم الطاقة الجديدة. في النهاية، الذكاء الاصطناعي أداة فقط، والمفتاح يكمن في قدرة المستخدم ونيته، أو بمعنى آخر، كلما زادت قوة الذكاء الاصطناعي، كلما كان على الإنسان أن لا يتكاسل.
بشكل عام، بدأ الأمر يثير بعض الحنين إلى ذلك الذكاء الاصطناعي البسيط.
هذا المقال من حساب WeChat "CoolPlay Lab"، الكاتب: CoolPlay Lab