وفقاً لدراسةٍ بارزة، فإن حوالي 200 خوارزمية تعرُّف على الوجوه -أي ما يمثل غالبيةً عظمى من الخوارزميات في هذا المجال- قد سجلت أداءً أسوأ عند التعرف على وجوه الأشخاص من ذوي البشرة الملونة.
ما الخوارزميات التي اختبروها؟
قام المعهد الوطني الأميركي للمعايير والتكنولوجيا (NIST) باختبار كلّ خوارزميةٍ في اثنتين من المهام الأكثر شيوعاً لأنظمة التعرف على الوجوه. تتضمن المهمة الأولى (التي تُعرف باسم مطابقة "التناظر الأحادي") مطابقةَ صورة شخصٍ ما مع صورةٍ أخرى لنفس الشخص في قاعدة بيانات. وتُستخدم هذه المهمة -على سبيل المثال- في فتح الهواتف الذكية أو التحقق من جوازات السفر. أما المهمة الثانية (التي تعرف باسم بحث "التناظر من مفرد إلى عدة") فتتضمن تحديد ما إذا كان لصورة شخصٍ أيّةُ نتيجةٍ مطابِقة في قاعدة بياناتٍ ما، وغالباً ما تستخدم أقسامُ الشرطة هذا النوعَ من البحث لتحديد هوية المشتبه بهم في تحقيقٍ ما.
وقد درس المعهد أربعَ مجموعاتٍ من بيانات الوجوه المستخدمة حالياً في التطبيقات الحكومية الأميركية، وهي: لقطاتٌ لأشخاصٍ يعيشون في الولايات المتحدة، والصور على الطلبات التي يتقدم بها أشخاصٌ للحصول على مزايا الهجرة، والصور على الطلبات التي يتقدم بها أشخاصٌ للحصول على تأشيرات الدخول إلى الولايات المتحدة، وصورٌ لأشخاص أثناء عبورهم الحدود إلى الولايات المتحدة. وقد شملت مجموعات البيانات بالمجمل 18.27 مليون صورةً لـ 8.49 مليون شخص.
سجل في نشرة الخوارزمية
ما نتائج الدراسة؟
أعلن المعهد نتائجَ عالية المستوى من هذه الدراسة، وأبرزها:
- في مطابقة التناظر الأحادي، سجلت معظم أنظمة التعرف على الوجوه معدلاً أعلى في التطابقات الإيجابية الخاطئة لوجوه الأشخاص الآسيويين والأميركيين من ذوي الأصول الإفريقية بالمقارنة مع وجوه الأشخاص القوقازيين، وأحياناً وصل الفرق في هذا المعدل إلى عاملٍ بقيمة 10 أو حتى 100. وبعبارةٍ أخرى: كان من المرجح أن تجد هذه الأنظمة صورةً مطابقة حتى عندما لم يكن هناك تطابقٌ بالفعل.
- كانت النتيجة مختلفةً بالنسبة لخوارزميات التعرف على الوجوه التي تم تطويرها في البلدان الآسيوية، التي أنتجت فرقاً ضئيلاً للغاية في التطابقات الإيجابية الخاطئة ما بين الوجوه الآسيوية والقوقازية.
- كانت جميع الخوارزميات المطوَّرة في الولايات المتحدة الأميركية سيئةً دوماً في مطابقة وجوه الأشخاص الآسيويين والأميركيين من ذوي الأصول الإفريقية والأميركيين الأصليين. وقد سجل الأميركيون الأصليون أعلى المعدلات في التعرض للمطابقات الإيجابية الخاطئة.
- في مطابقة التناظر من مفرد إلى عدة، سجلت الأنظمة أسوأ معدلٍ للتطابقات الإيجابية الخاطئة بالنسبة للنساء الأميركيات ذوات الأصول الإفريقية، مما يعرِّض هذه الشريحة الديمغرافية من السكان لأعلى درجات الخطر نتيجة إمكانية اتهامهم خطأً بارتكاب الجرائم.
لماذا تُعتبر هذه النتائج مهمةً؟
يتزايد استخدام أنظمة التعرف على الوجوه بسرعةٍ كبيرة في وكالات فرض القانون ومراقبة الحدود وغيرها من التطبيقات في جميع مناحي المجتمع، ورغم أن العديد من الدراسات الأكاديمية قد أظهرت سابقاً أن الأنظمة التجارية الشائعة متحيزةٌ على أساس العرق والجنس، فإن دراسة معهد NIST تعتبر أكثر التقييمات شموليةً حتى تاريخه، وهي تؤكد نتائج الدراسات السابقة. وتشكِّك هذه النتائج فيما إذا كان ينبغي الاستمرار في استخدام هذه الأنظمة على نطاقٍ واسع أم لا.
الخطوات التالية
إن الأمر منوطٌ الآن بصانعي السياسات لاكتشاف الطريقة الأفضل لتنظيم استخدام هذه التقنيات. كما يحثُّ معهدُ NIST مطوِّري أنظمة التعرف على الوجوه على إجراء المزيد من الأبحاث حول كيفية تخفيف التحيز في هذه الأنظمة.
