X
Article image

Article image

الآلات الذكية حب

استخدام البيانات التاريخية لتدريب أدوات تقييم المخاطر قد يؤدي إلى تكرار الآلات لأخطاء الماضي.

ربما لن يكون أثر الذكاء الاصطناعي على البشر كبيراً إذا اقتصر الأمر على خوارزميات تعلم الآلة في فيسبوك أو محرك البحث جوجل. لكن في مؤتمر “البيانات من أجل حياة السود” (Data for Black Lives) الذي انعقد مؤخراً في أميركا، سلّط مختصون بالتكنولوجيا وخبراء قانونيون ونشطاء مجتمعيون الضوء على أن الأمور قد تكون مختلفة، حيث ناقشوا نظام القضاء الجنائي الأميركي. وفي نظام القضاء المذكور، يمكن للخوارزميات أن تحدد مسار حياة المرء وإمكانية إقباله على ارتكاب الجريمة.

تقوم الولايات المتحدة بسجن أشخاص أكثر من أية دولة في العالم. ففي نهاية عام 2016 كان نحو 2.2 مليون شخص بالغ وراء القضبان وفي مراكز الشرطة، فضلاً عن 4.5 مليون نسمة في مؤسسات إصلاحية أخرى. أي أن 1 من كل 38 شخصاً أميركياً بالغاً يخضع لشكل من أشكال الإصلاح والتأهيل. وتحت ضغوط كبيرة لتقليل الأعداد دون المخاطرة بزيادة معدلات الجريمة، التفتت المحاكم الأميركية إلى أدوات مؤتمتة في محاولة للتعامل مع المدعى عليهم عبر نظام قانوني أعلى كفاءة وأكثر أماناً قدر الإمكان. وهنا يأتي دور الذكاء الاصطناعي.

تستخدم مراكز الشرطة خوارزميات تنبؤية للتخطيط للمناطق التي يجب إرسال أعوان الشرطة إليها. وتستخدم هيئات إنفاذ القانون تقنيات التعرف على الوجه لتحديد المشتبه به. رافقت هذه الممارسات انتقادات وتساؤلات حول ما إذا كانت تحسن الإجراءات الأمنية أم أنها تكرر أوجه انعدام المساواة القائمة بالفعل. ولقد تكرر إظهار الباحثين والمدافعين عن الحقوق المدنية على سبيل المثال، لأن نظم التعرف على الوجوه لها معدل إخفاق كبير، لا سيما بالنسبة للأفراد داكني البشرة، بل إنها سبق وأشارت إلى نواب في الكونجرس الأميركي بصفتهم مجرمين مُدانين.

لكن الأداة الأكثر إثارة للجدل هي المستخدمة بعد إجراء الشرطة لعملية توقيف لمشتبه به. رحّبوا معنا بخوارزميات تقييم الخطر الإجرامي!

تم تصميم أدوات تقييم الخطر لفعل شيء واحد: تغذيتها بتفاصيل ملف المدعى عليه وإعطائنا درجة تقييم واحدة، تمثل احتمال معاودته ارتكاب الجريمة. ثم يأخذ القاضي هذه الدرجة من بين العديد من العوامل الأخرى، التي قد تحدد نوع العقاب الذي يجب أن يُنزل بالمدعى عليهم، وهل يستحق السجن إلى حين صدور الحُكم، وما مدة الحكم المستحقة. والدرجة القليلة تمهد الطريق لمصير ألطف، والدرجة العالية تفعل العكس.

المنطق وراء استخدام هذه الأدوات الخوارزمية هو أنك إذا تمكنت من التنبؤ بالسلوك الإجرامي، فيمكنك تخصيص الموارد بحسب هذا التنبؤ، مع قرار إرسال الشخص إلى خدمة إصلاحية أم إلى السجن. نظرياً، فهي تقلل أيضاً من أية تحيزات قد تشوب عملية المحاكمة، لأن القضاة يصدرون الأحكام بناء على توصيات مبنية على بيانات، وليس بناء على إحساسهم تجاه المدعى عليهم.

لابد أنكم رأيتم أين تكمن المشكلة: أدوات تقييم الخطر الحديثة تستعين بخوارزميات مُدربة على بيانات جنائية تاريخية.

تستعين خوارزميات تعلم الآلة بالإحصاءات للعثور على أنماط متكررة في البيانات. لذا إذا غذيت الخوارزميات بالسجل الجنائي، فسوف تُخرج أنماطاً متصلة بالجريمة. لكن هذه الأنماط لا تعدو كونها ارتباطاً إحصائياً، ولا يمكن اعتبارها علاقات سببية. إذا رأت الخوارزمية مثلاً أن الدخل المنخفض له ارتباط بارتفاع معدلات المعاودة لارتكاب الجريمة، فهي لا تفيدنا بأي جديد حول وجود علاقة سبب ونتيجة بين تدني الدخل وارتكاب الجريمة. لكن هذا ما تفعله بالضبط: تحوّل الارتباطات الإحصائية إلى آليات لمنح الدرجات الخاصة بعلاقات سببية، لا ارتباطية.

من ثم أصبح الأفراد الذين تم استهدافهم تاريخياً بشكل غير منصف تماماً من قبل الشرطة، لا سيما في المجتمعات منخفضة ومتوسطة الدخل، أصبحت عرضة لخطر التعرض لدرجات أعلى فيما يخص التنبؤ بإمكانية معاودة ارتكاب الجريمة. إذن يمكن أن تضخم الخوارزمية من التحيزات وتؤكدها، بل قد تؤدي إلى بيانات مشوبة بالتحيز تغذي هذه الدائرة المفرغة. وبما أن أغلب خوارزميات تقدير الخطر تعطي درجة واحدة كلية، فمن المستحيل النظر فيما يكمن وراء قراراتها ودرجاتها.

ما زال الجدل حول هذه الأدوات مشتعلاً. ففي يوليو الماضي وقّعت أكثر من 100 منظمة مجتمعية بياناً يدعو إلى رفض استخدام تقييم الخطر. وفي الوقت نفسه بدأت ولايات ومحاكم أكثر تستخدمها في محاولة لإصلاح نظام سجونها المزدحم بالنزلاء. وبحسب ماربري ستالي-بوتس الرئيسة التنفيذية لمؤسسة القانون لأجل السود في كلمة ألقتها خلال المؤتمر فإن تقييم الخطر باستخدام البيانات يشرعن النظم القمعية. وعلى حد قولها، يعد هذا الاستخدام وسيلة لتشتيت الأنظار عن المشكلات الحقيقية التي تؤثر على المجتمعات منخفضة ومتوسطة الدخل، مثل تدهور مستوى المدارس وعدم كفاية الرعاية الصحية المتوفرة.

وقالت: نحن لسنا خطراً يقاس ويقيّم… نحن بشر لنا احتياجات يجب تلبيتها”.

المزيد من المقالات حول الآلات الذكية

  1. Article image
  2. Article image
  3. Article image
error: Content is protected !!