Article image
مصدر الصورة: إم إس تك عبر أنسبلاش



تُستخدم هذه التكنولوجيا المليئة بالعيوب على نطاق واسع بعيداً عن أعين الناس، ونوضح في هذا التقرير بعض هذه الاستخدامات.

2020-08-17 18:19:48

17 أغسطس 2020

في أواخر يونيو الماضي -وبينما كانت البلاد مشتعلة بالفعل على خلفية مقتل جوروج فلويد قبل شهر- انتشرت أخبار تفيد بأن عملية مطابقة خاطئة نفذها أحد أنظمة التعرف على الوجوه قد أدت بشرطة مدينة ديترويت إلى اعتقال روبرت ويليامز بسبب جريمة لم يرتكبها. وبعد فترة وجيزة، تبين أن رجلاً أسود آخر يدعى مايكل أوليفر اعُتقل في ظروف مماثلة لتلك التي قادت لاعتقال ويليامز. وفي الوقت الذي يواصل فيه معظم الأميركيين هتافاتهم مطالبين بتحقيق العدالة العرقية، فإن حواراً أكثر هدوءاً حول استخدام الشرطة لتكنولوجيا التعرف على الوجوه آخذٌ في التبلور، ويجدر بنا الاستماع إليه.

عندما بدأت أنا وجنيفر سترونج في إعداد تقارير للبودكاست الجديد “بالآلات نؤمن” حول استخدام الشرطة لتكنولوجيا التعرف على الوجوه، كنا نعرف أن رجال الشرطة في مختلف أنحاء الولايات المتحدة وفي بلدان أخرى يستخدمون هذه الأنظمة التي تعمل بالذكاء الاصطناعي، ولكن لم تكن لدينا أدنى فكرة عما يجري بعيداً عن أعين الناس.

بادئ ذي بدء، نحن لا نعرف عدد المرات التي تستخدم فيها أقسام الشرطة في الولايات المتحدة تكنولوجيا التعرف على الوجوه؛ لسبب بسيط: هو أن معظم الولايات القضائية لا تفرض عليها الإبلاغ عند استخدام هذه التكنولوجيا للتعرف على المشتبه به في جريمة. وأحدث الأرقام التي لدينا هي أرقام تخمينية تعود إلى عام 2016، لكنها تشير إلى أن صور ما لا يقل عن نصف الأميركيين كانت موجودة على أحد أنظمة التعرف على الوجوه في ذلك الوقت، وقد أجرت مقاطعة واحدة في ولاية فلوريدا 8000 عملية بحث كل شهر.

كما أننا لا نعرف أيضاً أياً من أقسام الشرطة يمتلك تكنولوجيا التعرف على الوجوه؛ لأنه من الشائع أن تحجب الشرطة عملية الشراء التي تقوم بها. وعلى سبيل المثال، هناك أدلة على أن العديد من الأقسام تشتري تقنياتها باستخدام المنح الفدرالية أو الهبات غير الربحية، التي تُعفى من بعض قوانين الإفصاح. وفي حالات أخرى، تقدم الشركات للشرطة فترات تجريبية لبرامجها، ما يسمح للضباط باستخدام الأنظمة دون أي موافقة أو رقابة رسمية. ويسمح هذا الأمر للشركات التي تصنع أنظمة التعرف على الوجوه بأن تزعم أن منتجاتها مستخدمة على نطاق واسع، ويعطي انطباعاً ظاهرياً بأنها أدوات مشهورة وموثوقة لحل الجرائم.

خوارزميات محمية بلا فائدة

إذا كان لنا أن نصف تكنولوجيا التعرف على الوجوه بشيء، فسيكون عدم جدارتها بالثقة. وكما أوضحنا في البرنامج، فقد أطلقت شرطة متروبوليتان (شرطة القسم الخارجي من لندن)، في شهر يناير الماضي، نظاماً مُباشراً للتعرف على الوجوه بلغ معدل دقته في الاختبارات أقل من 20%. وكذلك جربت هيئة نقل متروبوليتان بمدينة نيويورك نظاماً على الطرق الرئيسية بلغ معدل دقته 0%. كما أن الأنظمة غالباً ما تكون متحيزة عنصرياً؛ حيث وجدت إحدى الدراسات أن معدلات الخطأ في التعرف على النساء ذوات البشرة الداكنة في بعض الأنظمة التجارية -حتى في ظروف المختبر- بلغت حوالي 35%. وقد وجدنا أثناء إعداد التقارير للبرنامج أن من الشائع أن تُعدل الشرطة الصور لتحسين فرصها في العثور على تطابق، حتى أن البعض دافع عن هذه الممارسة باعتبارها ضرورية للقيام بالعمل الشرطي بشكل جيد.

وتزعم شركتان من أكثر الشركات إثارة للجدل والأكثر تقدماً في هذا المجال، وهما كلير فيو ايه آي (ClearviewAI) وإن تك لابز (NTechLabs)، أنهما حلتا “مشكلة التحيز” ووصلتا إلى دقة شبه مثالية. وتؤكد “كلير فيو ايه آي” أن حوالي 600 قسم شرطة في الولايات المتحدة يستخدمون تقنيتها (شكك بعض الخبراء الذين تحدثنا إليهم في هذا الرقم). وتعاقدت شركة “إن تك لابز”، التي تتخذ من روسيا مقراً لها، على تقديم تقنية للتعرف على الوجوه من خلال الفيديو المباشر بحيث تغطي جميع أنحاء مدينة موسكو.

بيد أنه لا توجد تقريباً أي وسيلة للتحقق من ادعاءاتهما بشكل مستقل. وتمتلك كلتا الشركتين خوارزميات ترتكز على قواعد بيانات تضم مليارات الصور العامة. في الوقت نفسه، يوفر المعهد الوطني للمعايير والتكنولوجيا (NIST) إحدى عمليات التدقيق المستقلة القليلة في تكنولوجيا التعرف على الوجوه. ويستخدم اختبار المعهد مجموعة بيانات أصغر كثيراً، الأمر الذي يحد من جودة وتنوع الصور في قاعدة البيانات، كما يحد من قوتها كأداة تدقيق. ولم تخضع “كلير فيو ايه آي” لأحدث اختبار أجراه المعهد. وعلى الرغم من أن “إن تك لابز” خضعت لاختبار الصورة الثابتة وأبلت فيه بلاء حسناً، إلا أنه لا يوجد اختبار مُستخدم حالياً للتعرف على الوجوه من خلال الفيديو المباشر، ولا يوجد أيضاً اختبار مستقل مخصص للكشف عن التحيز.

التعرف على الوجوه في الشوارع

استطاعت الموجة الأخيرة من احتجاجات حركة “حياة السود مهمة” (Black Lives Matter) -التي أشعلها مقتل فلويد- أن تثير الشكوكَ حول الكثير من أعمال الشرطة العصرية التي نُسلم بها، بما في ذلك استخدامها للتكنولوجيا. ومن المفارقات المظلمة هنا أنه عندما خرج الناس إلى الشوارع للاحتجاج على العنصرية التي تكتنف عمل الشرطة، استخدم بعض رجال الشرطة أدوات متطورة معروفة بتحيزها العنصري ضد أولئك المجتمعين. ونحن نعلم، على سبيل المثال، أن قسم شرطة مدينة بالتيمور استخدم تكنولوجيا التعرف على الوجوه على المتظاهرين الذين خرجوا عقب وفاة فريدي جراي عام 2015، كما نعلم أن حفنة من أقسام الشرطة أطلقت دعوات عامة للحصول على مقاطع الفيديو الخاصة بالاحتجاجات التي جرت هذا العام. وقد ثبت أن شرطة مدينة مينيابوليس لديها القدرة على الوصول إلى مجموعة من التقنيات، بما في ذلك خدمات شركة “كلير فيو ايه آي”. ويرى جيمسون سبيفاك من مركز الخصوصية والتكنولوجيا التابع لجامعة جورج تاون -الذي أجرينا معه مقابلة في البرنامج- أنه إذا تم استخدام تكنولوجيا التعرف على الوجوه في احتجاجات حركة حياة السود مهمة، فسيُعد ذلك “استهدافاً وتثبيطاً للخطاب السياسي للسود على وجه التحديد”.

وبعد سنوات من النضال من أجل تنظيم عمل هذه التقنيات -في الغالب من قِبَل المؤسسات التي يقودها ذوو البشرة السوداء والبنية- لم تُتَح لنا قط فرصة أفضل من هذه لإجراء تغيير حقيقي؛ إذ أعلنت شركات مايكروسوفت وأمازون وآي بي إم وقف أو تجميد منتجات التعرف على الوجوه الخاصة بها. وخلال الأشهر القليلة الماضية، أعلنت حفنة من المدن الأميركية الكبرى عن حظر أو تجميد هذه التكنولوجيا. في المقابل، تتطور التكنولوجيا سريعاً. وإن قدرات هذه الأنظمة -وكذلك إمكانية إساءة استخدامها والتعسف فيه- ستستمر في النمو بسرعة فائقة. وقد بدأنا نرى بالفعل تخطي أقسام الشرطة وموردي التكنولوجيا لأنظمة التعرف على الوجوه الثابتة وتلك التي تتطلب استعادة الصور، إلى تحليل مقاطع الفيديو المباشرة التي تتكامل مع أنواع أخرى من تدفقات البيانات، مثل الأنظمة الصوتية لمراقبة إطلاق النار.

وقال بعض ضباط الشرطة الذين تحدثنا إليهم إنه لا ينبغي أن يُتركوا بأدوات قديمة لمكافحة الجريمة في القرن الحادي والعشرين. وصحيح أنه في بعض الحالات يمكن للتكنولوجيا أن تجعل عمل الشرطة أقل عنفاً وأقل عرضة للتحيز البشري.

لكن بعد مرور أشهر من العمل في نشر مسلسلاتنا الصوتية القصيرة، تولَّد لديَّ شعور بالتشاؤم؛ فبالرغم من تزايد المخاطر يوماً بعد يوم، إلا أن الجمهور يتخلف كثيراً حتى الآن عن فهم ما يجري. وليس من الواضح كيف سيتغير هذا الوضع ما لم تتفق جميع أطراف هذه المسألة على أن لكل شخص الحق في الحصول على المعلومات.