استخدم الفريق مجموعة بياناتٍ من تقييمات المخاطر التي أجرتها خوارزمية كومباس، والتي تتضمن معلومات حول 7,000 متهم حقيقي، وقد جاءت النتائج متقاربة.

2020-04-01 09:14:26

25 فبراير 2020
Article image

مصدر الصورة: بيكساباي

يقول الخبر

 وجدت دراسةٌ جديدة أن خوارزميات تقييم المخاطر تتفوق على البشر أحياناً في التنبؤ باحتمال إعادة اعتقال مجرم خلال سنتين من إطلاق سراحه. لكن يبقى أداء الاثنين، أي البشر والخوارزميات، متواضعاً.

تفاصيل الدراسة

 حاول باحثون من جامعتي ستانفورد وكاليفورنيا في بيركلي إعادة إجراء تجربة من عام 2018 والتي وجدت أن أداء الأشخاص الذين لم يتلقوا أي تدريب كان بنفس جودة أداء برنامج تقييم المخاطر المستخدم على نطاق واسع والمسمى كومباس COMPAS. يتم تدريب خوارزميات تقييم المخاطر باستخدام البيانات التاريخية للمدعى عليهم، ويُفترض بها أن تساعد القضاة على تقرير وجوب سجن المدعى عليه أو إطلاق سراحه في انتظار المحاكمة. (لقد درسنا بعض المشاكل المتعلقة بهذه الخوارزميات في مقالتنا التفاعلية المنشورة في العام الماضي).

 اختبار أداء البشر في هذا الموضوع

 استخدم الفريق مجموعة بياناتٍ من تقييمات المخاطر التي أجرتها خوارزمية كومباس، والتي تتضمن معلومات حول 7,000 متهم حقيقي، واعتمدوا على هذه البيانات في إنشاء ملفٍ شخصي لكلٍّ منهم. ثم عُرضت هذه الملفات على 400 شخصٍ عادي تم توظيفهم عبر منصة أمازون ميكانيكال تورك، وطُلب منهم أن يقرروا ما إذا كانوا يعتقدون أن الشخص المتهم قد يرتكب جريمةً أخرى في المستقبل. لقد وجدت دراسة عام 2018 أن تنبؤات كومباس كانت دقيقةً في 65% من الحالات، بينما ظهرت دقة التنبؤ عند البشر فيما يقرب من 67% من الحالات. وقد توصلت الدراسة الجديدة إلى نتائج متقاربة مع هذه الأرقام.

تعديلاتٌ جديدة

 إلا أنه في هذه الدراسة، تم تغيير التجربة الأصلية وتوسيع نطاقها. على سبيل المثال، قام الفريق باختبار مدى تأثير عوامل محددة في إحداث فرقٍ في دقة النتائج؛ وهذه العوامل هي: كشف المزيد من المعلومات عن المتهمين، تقديم معلومات أو الامتناع عن تقديمها بعد كل جولة، والنظر فقط إلى جرائم العنف. لقد أظهرت النتائج أنه في حال عدم استيفاء الأشخاص لمعلومات بشأن دقة تنبؤهم، أو إذا تم إعطاؤهم الكثير من المعلومات الإضافية عن كل واحد من المتهمين، فإن الخوارزمية تحقق دقة أكبر في كل مرة. ويشير الباحثون إلى أنه في الحياة الواقعية، نادراً ما يحصل الناس على تقييمٍ فوري بشأن قراراتهم المتعلقة بالمتهمين، وبالتالي قد تكون هذه المقارنة أكثر واقعية. تم عرض تفاصيل الدراسة في ورقة بحثية في مجلة ساينس أدفانسز Science Advances.

اشتداد التحيز

 أحد الأمور الواضحة تماماً هي أن التحيز وعدم الدقة يتسللان إلى التنبؤات بغض النظر عما إذا كانت تتم من قِبل البشر أو الخوارزميات. لكن الفرق بينهما يكمن في قضية المساءلة؛ فبينما يمكن للناس أن يطعنوا في قرارات القضاة، فإنه من الصعب للغاية الاعتراض على قرارات الخوارزميات، والتي لا يقتصر استخدامها على المجال القضائي، بل يتم استخدامها تدريجياً في عمليات صنع القرار الحكومي في المزيد من المجالات الأخرى مثل الإسكان والتعليم.

ما الحل؟

 من شأن ما سبق أن يفسر جزئياً وجود الكثير من العمل الجاري الذي يرمي إلى جعل الخوارزميات قابلة للتفسير، رغم أن ذلك لا يمثل بالضرورة حلاً سحرياً بالدرجة التي يعتقدها الناس؛ ففي الواقع، يمكن للخوارزميات القابلة للتفسير أن تزيد الأمور سوءاً من خلال دفعنا للثقة المفرطة في النماذج الإحصائية. ورغم أن منظمي بعض الحملات في أوروبا قد نجحوا في كبح جماح “الحكومة المعتمِدة على خوارزميات غير قابلة للمساءلة” في عدة حالاتٍ بارزة، غير أنه سيكون من الصعب التصدي لهذا النوع من البرامج في الولايات المتحدة من دون قوانين تحمي خصوصية البيانات.


شارك