Article image
مصدر الصورة: إم إس تك عبر صور جيتي



لا يوجد لدى الوكالة الفدرالية الأميركية المكلفة بمكافحة التمييز في التوظيف أي خطط للتحقق من هذه التكنولوجيا بنفسها.

2021-08-02 01:44:52

01 أغسطس 2021

من المحتمل أن يتوقف حصولك على وظيفتك المقبلة على قدرتك على التحايل على إحدى ألعاب الذكاء الاصطناعي التي أصبحت بعض الشركات -مثل أسترازينيكا وبوستميتس– تعتمد عليها بشكل متزايد في عملية التوظيف.

وتزعم بعض الشركات التي تبني هذه الألعاب، مثل بايميتريكس وأركتيك شورز، إنها تحد من التمييز في عملية التوظيف. غير أن ألعاب الذكاء الاصطناعي الخاصة بالتوظيف قد تكون صعبة بشكل خاص للباحثين عن وظيفة من ذوي الهمم.

وفي أحدث حلقة من المدونة الصوتية لإم آي تي تكنولوجي ريفيو، بعنوان: بالآلات نثق [باللغة الإنجليزية]، درسنا ألعاب التوظيف التي تعتمد على الذكاء الاصطناعي وغيرها من الأدوات التي تستبعد ذوي الهمم. وعلى الرغم من أن الكثيرين من الأشخاص في الولايات المتحدة يتطلعون إلى الهيئة الفدرالية المسؤولة عن التمييز في التوظيف لتنظيم عمل هذه التكنولوجيات، فإن هذه الوكالة لم تتخذ أي إجراء بعد.

وبحثاً عن المزيد من التفاصيل، طلبنا من هنري كلايبول، وهو محلل في سياسات الإعاقات، أن يجرب إحدى ألعاب بايميتريكس. تقوم بايميتريكس بقياس تسع مهارات، بما فيها الانتباه، والكرم، وتحمل المخاطرة، التي تقول الرئيسة التنفيذية وواحدة من مؤسسي الشركة فريدا بولي إنها أساسية للنجاح في العمل.

عندما تعمل بايميتريكس مع شركة تريد توظيف أشخاص جدد، تطلب منها تحديد الأشخاص الذين نجحوا في المناصب التي تحاول شغلها وتطلب منهم أن يلعبوا بهذه الألعاب. وبعد ذلك، ولتحديد المهارات الخاصة بالموظفين الناجحين، تقارن بيانات الألعاب الخاصة بهم مع عينة عشوائية من اللاعبين.

وعندما شارك كلايبول في اللعبة، طلبت منه أن يختار بين النسخة المعدلة -المصممة للمصابين بعمى الألوان أو اضطراب فرط الحركة و تشتت الانتباه أو خلل القراءة- والنسخة غير المعدلة. ويقول إن هذا السؤال يمثل معضلة بالنسبة لذوي الهمم.

ويضيف: “أخشى أن اختيار النسخة المعدلة يعني الكشف عن معلومة ستؤدي إلى خسارتي لفرصة التوظيف، كما أن اختيار النسخة غير المعدلة -مع إصابتي مثلاً بخلل القراءة- قد يعني صعوبة كبيرة في قراءة المعلومات بسرعة، ما يضعني أيضاً في موقف صعب. ويبدو أنني سأفشل في الحالتين”.

تقول بولي إن بايميتريكس لا تخبر الشركات المتعاقدة معها بأسماء المتقدمين الذين طلبوا ألعاباً معدلة خلال عملية التوظيف، وهو ما يُفترض بأنه سيمنع الشركات من ممارسة التمييز ضد المصابين بإعاقات معينة. وتضيف بولي إن الشركة، وبناء على تقريرنا الصحفي، ستجعل هذه المعلومة أكثر وضوحاً للمتقدمين، بحيث يدركون إن حاجتهم إلى نسخ معدلة من اللعبة ستبقى خاصة وسرية.

يفرض قانون الأميركيين المعوقين على أصحاب العمل توفير تسهيلات معقولة لذوي الهمم. وإذا كانت تقييمات التوظيف للشركة تستبعد ذوي الهمم، فيجب على الشركة أن تثبت أن هذه التقييمات ضرورية للعمل.

وبالنسبة لأصحاب العمل، فإن استخدام ألعاب مثل هذه التي تنتجها أركتيك شورز قد يكون أكثر موضوعية. وخلافاً للاختبارات النفسية التقليدية، فإن خوارزميات أركتيك شورز تقيم المرشحين على أساس خياراتهم خلال اللعبة. غير أن المرشحين في أغلب الأحيان لا يعرفون ماذا تقيس اللعبة بالضبط أو ما يمكن أن يتوقعوه أثناء اللعب. وبالنسبة للمتقدمين من ذوي الهمم، فإنهم سيصابون بالحيرة إزاء طلب نسخة معدلة.

يقول سيف حماد، المسؤول التكنولوجي الأساسي في أركتيك شور وأحد مؤسسيها، فإن فريقه يركز على إتاحة عملية التقييم لأكبر عدد ممكن من الأشخاص. ويضيف أن المصابين بعمى الألوان ومشاكل السمع يستطيعون استخدام برنامج الشركة دون أي تعديلات خاصة، ولكن أيضاً يتوجب على الشركات الامتناع عن استخدام أي طلبات خاصة للتمييز بين المتقدمين.

غير أن استخدام هذه الأدوات قد يؤدي في بعض الأحيان إلى استبعاد الناس بطريقة قد لا تكون واضحة للشركات. تعمل باتي سانشيز كأخصائية توظيف في مركز ماكدونالد للتدريب في فلوريدا، وتركز على الباحثين عن العمل من المصابين بالصمم والصعوبات في السمع. ومنذ حوالي سنتين، تقدم أحد عملائها بطلب للحصول على وظيفة في أمازون، وهي وظيفة كانت تتطلب مقابلة بالفيديو عبر هايرفيو.

وقد حاولت سانشيز، وهي أيضاً مصابة بالصمم، أن تتواصل مع الشركة لطلب المساعدة، ولكنها لم تنجح في ذلك. وبدلاً من ذلك، جلبت عميلها مع مترجم بلغة الإشارة إلى مكان التوظيف، وأقنعت ممثلي الشركة هناك بإجراء المقابلة شخصياً. وعلى الرغم من أن أمازون وظفت هذا العميل، فإن سانشيز تقول إن هذه المشاكل شائعة لدى التعامل مع الأنظمة المؤتمتة. (لم تستجب أمازون لطلبنا بالتعليق على هذه الحادثة).

إن جعل تكنولوجيا التوظيف متاحة أمام الجميع يعني ضمان إمكانية استخدام المرشح لهذه التكنولوجيا وضمان عدم استبعاده بعد قياس مهاراته بسبب إعاقته، وذلك وفقاً لألكسندرا جيفنز، الرئيسة التنفيذية لمركز الديمقراطية والتكنولوجيا، وهي منظمة تركز على الحقوق المدنية في العصر الرقمي.

وتقول إن أدوات التوظيف التي تعتمد على الذكاء الاصطناعي لا تشمل -في أغلب الأحيان- ذوي الهمم عند توليد بيانات التدريب. لطالما تم استبعاد هؤلاء الأشخاص من قوة العمل، ولهذا، فإن الخوارزميات المنمذجة وفقاً للتوظيفات السابقة للشركات لن تعكس القدرات الكامنة لديهم.

وحتى لو تمكنت النماذج من أخذ الحالات النادرة بعين الاعتبار، فإن الإعاقة تتجسد بطرق عديدة ومتباينة من شخص إلى آخر. وعلى سبيل المثال، فقد يختلف شخصان يعانيان من التوحد من حيث المشاكل ونقاط القوة.

تقول جيفنز: “مع أتمتة هذه الأنظمة، واندفاع الشركات نحو الأنظمة الأسرع والأكثر فعالية، فإننا نضيع الفرصة على هؤلاء الأشخاص لعرض مؤهلاتهم وقدرتهم على القيام بالعمل. وهي خسارة كبيرة”.

مقاربة غير مباشرة

تواجه الجهات الحكومية المنظمة صعوبة في مراقبة أدوات التوظيف التي تعتمد على الذكاء الاصطناعي؛ ففي ديسمبر من العام 2020، كتب 11 سيناتوراً رسالة إلى الهيئة الأميركية للمساواة في فرص العمالة، معبرين عن مخاوفهم إزاء استخدام تكنولوجيات التوظيف بعد وباء كوفيد-19. وقد تساءلت الرسالة حول صلاحيات الوكالة في التحقق من وجود التمييز في هذه الأدوات، خصوصاً ضد ذوي الهمم.

وقد استجابت الهيئة برسالة في يناير، وتم تسريب هذه الرسالة إلى إم آي تي تكنولوجي ريفيو. وفي هذه الرسالة، أشارت الهيئة إلى أنها لا تستطيع فتح تحقيق حول أدوات التوظيف بمساعدة الذكاء الاصطناعي دون وجود ادعاء تمييز محدد. كما عبرت الرسالة أيضاً عن مخاوف حول تردد الصناعة في مشاركة البيانات، وقالت إن التباينات بين البرمجيات المختلفة لدى الشركات يمكن أن تمنع الهيئة من فرض سياسات عامة.

يقول رونالد بيم، وهو محامٍ وناشط مناصر للأشخاص الذين يعانون من مشاكل صحية سلوكية: “لقد تفاجأت وشعرت بالخيبة عند قراءة هذا الرد. وتوحي لهجة الرسالة بأكملها بأن الهيئة أقرب إلى متفرج سلبي منها إلى وكالة للتنظيم وفرض القانون”.

عادة ما تفتح الوكالة تحقيقاً عند تقديم أحد الأشخاص لشكوى بوجود تمييز. ولكن، ومع تكنولوجيا التوظيف بمساعدة الذكاء الاصطناعي، لا يعرف معظم المتقدمين سبب رفض طلبهم للحصول على الوظيفة. يقول كيث سوندرلينج وهو مفوض في الهيئة: “أعتقد أننا لم نشهد فرض إجراءات أكثر صرامة أو صياغة قوانين للقطاع الخاص في هذا المجال بسبب عدم معرفة المرشحين أنهم يُمنحون العلامات أو يخضعون للتقييم من قبل حاسوب”.

ويقول سوندرلينج إنه يعتقد أن الذكاء الاصطناعي سيحسن عملية التوظيف، ويأمل بأن تصدر الوكالة توجيهات للشركات حول تطبيق هذه التكنولوجيا بأفضل طريقة ممكنة. ويضيف قائلاً إنه يرحب بإشراف الكونجرس.

غير أن آرون ريك، وهو المدير الإداري لمنظمة أبتيرن اللاربحية المكرسة للحقوق المدنية والتكنولوجيا، عبر عن خيبة أمله باستجابة الهيئة: “آمل أن الهيئة ستصبح في السنوات المقبلة أكثر حزماً وأكثر ابتكاراً في التفكير بطريقة استخدام سلطتها”.

وتضيف بولين كيم، وهي أستاذة في القانون في جامعة واشنطن في سان لويس، وتركز في أبحاثها على أدوات التوظيف الخوارزمية، أن الهيئة يمكن أن تكون أكثر فعالية واستباقية في جمع الأبحاث وتحديث توجيهاتها لمساعدة الموظفين وشركات الذكاء الاصطناعي على الالتزام بالقانون.

ويضيف بيم أن الهيئة يمكن أن تركز على مجالات أخرى لفرض القانون، مثل تكليف المفوض، الذي يسمح له بفتح تحقيق عند الاشتباه بالتمييز بدلاً من اشتراط وجود شكوى من أحد الأفراد (ويقول سوندرلينج إنه يفكر في تنفيذ هذه الفكرة). كما يقترح أيضاً أن تتواصل الهيئة مع مجموعات المناصرة والدعم لتطوير إرشادات لشركات الذكاء الاصطناعي، على أمل تحقيق تمثيل أفضل لذوي الهمم في النماذج الخوارزمية.

كما يضيف بيم أنه من غير المرجح أن تتعمد شركات الذكاء الاصطناعي والشركات التي تبحث عن موظفين مراقبة واستبعاد ذوي الهمم. ولكنها “لم تخصص من الوقت والجهد ما يكفي لفهم الأنظمة التي تتخذ قرارات تؤثر على حياة الكثيرين بشكل كامل. هل سأحصل على الوظيفة أم لا؟ هل سأتمكن من إعالة عائلتي أم لا؟”.