Article image
الصورة الأصلية: شاترستوك | تعديل: إم آي تي تكنولوجي ريفيو العربية



تشير دراسة حديثة إلى أن هذه الخوارزمية تمارس تمييزاً عنصرياً ممنهجاً ضد المرضى ذوي الأصول الأفريقية.

بقلم

2020-11-05 10:08:31

05 نوفمبر 2020

خوارزميات تمارس العنصرية

خلال السنوات القليلة الماضية، حقق الذكاء الاصطناعي نجاحات واسعة في العديد من مجالات الرعاية الصحية، وباتت التطبيقات والأدوات التي تعتمد على الخوارزميات تستخدم على نطاق واسع في عمليات التشخيص واكتشاف الأمراض، وإجراء الاختبارات والتجارب العلمية، بل حتى في العمليات الجراحية.

ومع تزايد اعتماد الأطباء على الخوارزميات في اتخاذ القرارات الطبية أو تحليل المخاطر أو تفسير نتائج الاختبارات، بدأت تظهر جوانب “عنصرية” لهذه الأنظمة التي كان يفترض أن تكون محايدة تماماً في نتائجها.

وإحدى الاستخدامات الهامة للخوارزميات في القطاع الطبي هي تحديد المرضى الذين تكون لهم الأولوية في زراعة الأعضاء. ونظراً إلى أن عدد المرضى الموجود على قائمة الانتظار دائماً ما يكون أكبر من الأعضاء المتاحة للزراعة، فقد بدأت العديد من مراكز الرعاية الطبية تترك اتخاذ هذه القرارات المنقذة للحياة -والتي كانت فيما سبق منوطة بالبشر- في يد خوارزميات معقدة.

تفاوت معدلات الرعاية الصحية

تشير دراسة حديثة نشرتها دورية الطب الباطني العام (Journal of General Internal Medicine) إلى أن إحدى الخوارزميات المستخدمة في تقييم وظائف الكُلَى لدى المرضى كثيراً ما تبالغ في تقدير صحة المرضى ذوي الأصول الأفريقية المصابين بمرض الكُلَى المزمن (CKD)، ما يؤدي في النهاية إلى تلقيهم رعاية أقل تخصصاً. وأوضحت أن الأمر يصل في بعض الأحيان إلى رفض وضع المرضى السود على قوائم انتظار عمليات زراعة الكُلَى، الأمر الذي يتسبب في تفاوت معدلات تلقي الرعاية الصحية عبر المجموعات العرقية المختلفة.

ومرض الكُلَى المزمن هو تراجع تدريجي في وظائف الكُلَى على مدى شهور أو سنوات، وينقسم عادة إلى 5 مراحل، أشدها هي المرحلة الخامسة التي تنخفض فيها قدرة الكُلَى على القيام بوظائفها إلى أقل من 15% من قدرتها الكاملة، ما يؤدي إلى تراكم الفضلات والماء في الدم، وغالباً ما يحدث فشل كلوي للمرضى عند هذه المرحلة، ولا يوجد حل في هذه الحالة سوى غسيل الكُلَى أو الخضوع لجراحة زراعة الكُلَى. ويبدأ التحضير لعمليات زراعة الكُلَى غالباً عند الوصول إلى المرحلة الرابعة.

تستند هذه الخوارزمية إلى معادلات تقيس معدل الترشيح الكبيبي المقدر (eGFR)، وهو مقياس لوظيفة الكُلَى يقيس كمية الدم التي تُصفيها الكُلَى كل دقيقة، وكلما انخفض معدل الترشيح الكبيبي ينخفض مستوى وظائف الكُلَى. وتوضح الدراسة أن أحد المُعامِلات التي تعتمد عليها الخوارزمية هو “مُعامل العرق”، الذي يدفع الخوارزمية في نهاية المطاف إلى اتخاذ قرارات غير عادلة؛ لأنه يحدد قيماً أعلى لمعدل الترشيح الكبيبي للمرضى الأميركيين من أصل أفريقي.

…ولا حالة واحدة!

أُجريت الدراسة على بيانات 56,845 مصاباً بمرض الكُلَى المزمن في مدينة بوسطن الأميركية، من بينهم 2,225 (3.9%) مريضاً من أصل أفريقي. وخلصت النتائج إلى أن أكثر من ثلث المرضى السود (743 مريضاً) كان سيتم تصنيفهم في مرحلة أكثر خطورة إذا تم استبعاد معامل العرق من المعادلة التي تعتمد عليها الخوارزمية، وبالتالي كان من الممكن أن يتلقوا رعاية طبية أفضل لو لم تكن الخوارزميات متحيزة عنصرياً، ولو تم تقدير نتائجهم باستخدام نفس الصيغة المستخدمة مع المرضى البيض.

وتشير الدراسة أيضاً إلى أن إعادة حساب نتائج فحوصات 64 مريضاً أسود -بعد استبعاد معامل العرق- نقلتهم إلى المرحلة الرابعة، وبالتالي أصبحوا مؤهلين للحصول على مكان في قائمة الانتظار للخضوع لعملية زراعة كُلَى. بينما لم تُقّيم الخوارزمية حالة أي من هؤلاء المرضى بأنه في حاجة لعملية زرع ولم تضع أياً منهم في قائمة الانتظار.

وكان عدد من الباحثين قد طوروا صيغة “تصحيح العرق” في عام 2009 لتقليل الفوارق الإحصائية بين العدد القليل من المرضى ذوي الأصول الأفريقية وغيرهم من المرضى في البيانات، بيد أن هذه الصيغة تعرضت لانتقادات شديدة من الأطباء والأكاديميين. وتقول نواماكا إنيانيا الأستاذة المساعدة في جامعة بنسلفانيا -التي شاركت في إجراء الدراسة- إن العرق هو فئة اجتماعية وليست فسيولوجية، وليس من المنطقي استخدامه لفهم اختبارات الدم.

تكمن أهمية هذه الدراسة في أنها تلقي الضوء على مشكلة متغلغلة في مختلف تطبيقات الذكاء الاصطناعي، ألا وهي التمييز العنصري. وقد تزايدت الأدلة خلال السنوات الماضية على التحيز الذي تمارسه خوارزميات الذكاء الاصطناعي ضد ذوي الأصول الأفريقية بشكل خاص، إضافة إلى التمييز على أساس الجنس والعرق والعمر، وهو ما دفع بعضاً من مجموعات الحريات المدنية إلى التحذير من أن التحيز في بيانات التدريب يرجح ظهور تحيز مؤتمت.


شارك