Article image
مصدر الصورة: سيلمان ديزاين


هذا القسم يأتيكم بالتعاون مع:


قالت مؤسسة جولدمان ساكس البنكية إنها لم تأخذ عامل الجنس في الحسبان عند حساب الجدارة الائتمانية. لكن في الواقع، هذا هو السبب.

في شهر نوفمبر الفائت، قامت دائرة الخدمات المالية في ولاية نيويورك بفتح تحقيقٍ حول مؤسسة جولدمان ساكس البنكية بشأن احتمال حدوث تمييزٍ ائتماني على أساس الجنس. وقد جاء هذا التحقيق بعد أن غرَّد رائد أعمال الويب دايفيد هينماير هانسون قائلاً إن بطاقة آبل، التي تتولى جولدمان ساكس إدارتَها، قد منحته حداً ائتمانياً أعلى بعشرين ضعفاً من الحدّ الذي حصلت عليه زوجته، على الرغم من حقيقة تقديمهما لإقراراتٍ ضريبية مشتركة وأن زوجته تتمتع بدرجة جدارةٍ ائتمانية أعلى من درجته.

ترجمة التغريدة:
إن بطاقة آبل متحيزة على أساس الجنس بشكلٍ مريع، لقد قمتُ أنا وزوجتي بتقديم إقراراتٍ ضريبية مشتركة، ونقطن في ملكيةٍ حكومية كما مضى على زواجنا وقتٌ طويل. ومع ذلك تعتقد خوارزمية آبل المبهمة أنني أستحق حداً ائتمانياً أعلى بعشرين ضعفاً من زوجتي. نداءاتنا لتصحيح الخطأ لم تنجح.

ورداً على ذلك، نشرت جولدمان ساكس بياناً تقول فيه إن عامل الجنس لم يؤخذ بعين الاعتبار في عملية تحديد الجدارة الائتمانية. ومن الواضح أن تعليق جولدمان ساكس هذا هو دفاعٌ منطقي؛ إذ كيف يمكن لها التمييزُ ضد النساء إذا لم تكن تعرف أساساً فيما إذا كان الشخص الذي يتم تقييمه امرأةً أم لا؟ لكن في الواقع، إن عدم أخذ عامل الجنس بعين الاعتبار هو بالضبط مصدرُ المشكلة. لقد أظهرت الأبحاث في موضوع الإنصاف الخوارزمي سابقاً أن مراعاة عامل الجنس يساعد فعلاً في تخفيف التحيز على أساس الجنس، لكن المفارقة تكمن في أن القيام بذلك يُعتبر أمراً مخالفاً للقانون في الولايات المتحدة الأميركية.

والآن، فإن النتائج الأولية لدراسةٍ متواصلة وممولة من قِبل مؤسسة الأمم المتحدة والبنك الدولي تشكِّك من جديد في مدى إنصاف النساء من قِبل خوارزميات الإقراض الائتماني التي تُغفل عامل الجنس. لقد وجدت الدراسة أن إنشاء نماذج جدارةٍ ائتمانية للرجال والنساء منفصلة تماماً عن بعضها قد أدى إلى منح غالبية النساء قروضاً ائتمانية أعلى.

إذن، هل يجب تحديث القانون؟

تجاهُل عامل الجنس في الخوارزميات يؤدي إلى التمييز على أساس الجنس
إذا أردنا تجنُّب التمييز على أساس الجنس، فلماذا لا نقوم ببساطة بإزالة عامل الجنس من المعادلة؟ هذه هي تماماً الفرضية التي قام عليها قانون التكافؤ في الفرص الائتمانية إيكوا (ECOA) في الولايات المتحدة الأميركية، في وقتٍ كانت عادةً ما تُحرَم فيه النساء من الحصول على قروض. لقد منع هذا القانون أن تمارس أيُّ جهةٍ دائنة التمييزَ على أساس الجنس أو أن تأخذ عامل الجنس في الحسبان عند تقييم الجدارة الائتمانية. وفي عام 1976، تم تحديث القانون ليشمل منع التمييز على أساس العِرق والأصل القومي وغيرها من السمات المشمولة بحماية الحكومة الفيدرالية.

لكنَّ الآية معكوسةٌ في التعلم الآلي؛ حيث إنَّ الحيادية الجنسانية -من خلال إغفال عامل الجنس- قد تكون هي بالذات مصدر مشكلة التحيز؛ إذ إنه حتى عندما لا يتم تحديد جنس الشخص، فما زال من السهل الاستدلال عليه من خلال متغيراتٍ أخرى مرتبطةٍ به ارتباطاً وثيقاً. ونتيجةً لذلك، فإن النماذج المُدرَّبة على بياناتٍ تاريخية تم تجريدها من عامل الجنس تؤدي إلى تفاقم المشكلة السابقة المتمثلة في عدم المساواة بين الجنسين، وينطبق الأمر عينُه على العِرق والسمات الأخرى. إذن، نستطيع الآن أن نفهم ما حدث على الأرجح في حالة بطاقة آبل: نظراً لكون النساء يحصلن تاريخياً على قروضٍ أقلّ، فقد تعلمت الخوارزمية تكريسَ هذا النمط.

في دراسةٍ أجريت عام 2018، أثمر تعاونٌ بين علماء الحاسوب واقتصاديين عن التوصل إلى أنَّ أفضل طريقةٍ لتخفيف هذه المشاكل تمثلت في الواقع بإعادة إدخال سماتٍ مثل الجنس والعِرق إلى النموذج. فالقيام بذلك يسمح بتحكمٍ أكبر في قياس التحيز الحاصل وتصحيحه، مما يؤدي إلى مزيدٍ من الإنصاف بشكلٍ عام.

إقراض ائتماني متباين وفقاً للجنس
تختبر الدراسة الأحدث في هذا الموضوع فرضيةً جديدة قائمة على السؤال التالي: هل تنجح نماذج منفصلة للرجال والنساء كلٍّ على حدة في تقليص التحيز على أساس الجنس بشكلٍ أكبر؟ في حدثٍ استضافته مؤسسة الأمم المتحدة منذ فترةٍ وجيزة، قام شون هيجنز، وهو أستاذٌ مساعد في جامعة نورث ويسترن وأحد الباحثين في الدراسة، بتقديم نتائج أولية توحي بأن فكرة النماذج المنفصلة قد تنجح بالفعل في تخفيف التحيز على أساس الجنس.

ومن خلال شراكةٍ مع بنكٍ تجاري في جمهورية الدومينيكان، أجرى الباحثون تحليلين منفصلين شملا 20,000 فرد من ذوي الدخل المنخفض، نصفهم من النساء. وفي التحليل الأول، استخدم الباحثون سجلات الأفراد التاريخية في سداد القروض وعامل الجنس من أجل تدريب نموذج تعلمٍ آلي واحد للتنبؤ بالجدارة الائتمانية. أما في التحليل الثاني، فقد قام الباحثون بتدريب نموذجٍ آخر باستخدام بيانات تسديد القروض المتعلقة بالنساء فقط. لقد وجدوا أن 93% من النساء قد حصلن على قروضٍ أعلى في هذا النموذج مقارنةً بالنموذج الأول الذي تم فيه خلط الرجال والنساء معاً.

وحسب قول هيجنز فإن سبب هذه النتيجة يكمن في اختلاف سجلات القروض التاريخية وسلوكيات تسديدها بين النساء والرجال، وهذا بدوره يعود لأسبابٍ تاريخية أو ثقافية أو غيرها. فالنساء أكثر ميلاً من الرجال لتسديد قروضهن، على حدِّ تعبيره، لكن هذه الاختلافات لا تؤخذ بعين الاعتبار في النموذج الذي يشمل النساء والرجال معاً، والذي يتعلم التنبؤ بالجدارة الائتمانية على أساس المتوسط الحسابي العام للنساء والرجال معاً. وبالتالي، فإن هذه النماذج تتسم بنقصانٍ كبير في تقديرها لقيام النساء بتسديد قروضهن وينتهي بها المطاف بمنحهن قروضاً قيمتها أقل مما يستحقِقْن.

وعلى الرغم من أن هيجنز وزملاؤه قد اختبروا هذه الفرضية بشكلٍ خاص على النساء ذوات الدخل المنخفض في جمهورية الدومينيكان، إلا أن النتائج النوعية يجب أن تكون صحيحةً بغض النظر عن السياق. كما يجب أن تنطبق على سماتٍ أخرى غير الجنس، وفي مجالاتٍ أخرى غير المجال المالي.

ما الذي يمكن فعله مع القانون؟
تكمن المشكلة في أن هذا النوع من النماذج أحادية الجنس- أي التي تفرز كل جنسٍ على حدة- مخالفٌ للقانون، والسؤال هو عما إذا كان ينبغي على صانعي السياسات تحديث قانون إيكوا أم لا.

يؤيد هيجنز تحديثَ القانون؛ حيث يقول: “لقد توصلت الأبحاث الأخيرة حول الإنصاف الخوارزمي إلى خلاصةٍ واضحة إلى حدٍّ ما، مفادها أنه يجب استخدام سمات مثل العرق والجنس في الخوارزميات. وإذا لم تتمكن البنوك من الوصول إلى هذه المتغيرات ولم تستطع حتى إجراء اختبارات السلامة للتأكد من أن خوارزمياتها ليست متحيزة، فإن الطريقة الوحيدة التي يمكن من خلالها اكتشاف هذه التحيزات هي عندما يغرد الناس عن حدوث تبايناتٍ يتعرضون لها على أرض الواقع”.

لكن آندرو سيلبست، وهو أستاذٌ مساعد في القانون بجامعة كاليفورنيا بلوس آنجلس، ومتخصص في دراسة العلاقة بين الذكاء الاصطناعي والقانون، يحذِّر من الاستعجال في هذا الأمر؛ حيث يقول: “إن إعادة صياغة القانون بهذه الطريقة تفتح المجال للجهات الخبيثة لتَشرَع في استخدام متغيرات الجنس والعرق في التمييز المتهوِّر بطريقةٍ تصعب للغاية مراقبتها”. كما عبَّر عن قلقه من أن هذا الحل لن يأخذ بعين الاعتبار الأشخاص غير محددي الجنس أو المتحولين جنسياً وبالتالي يسبب لهم الأذى عن غير قصد.


شارك



مراسلة الذكاء الاصطناعي، إم آي تي تكنولوجي ريفيو