التحيز في لينكدإن: الذكاء الاصطناعي هو المشكلة والحل في الوقت نفسه

قبل سنوات خلت، اكتشفت لينكدإن أن خوارزميات التوصية التي تستخدمها لمطابقة الباحثين عن عمل مع الفرص المناسبة كانت تولّد نتائج متحيزة؛ فقد كانت الخوارزميات ترتّب المرشحين جزئياً على أساس مدى أرجحية احتمال تقدمهم لوظيفة ما أو استجابتهم لجهة توظيف معينة. انتهى المطاف بهذا النظام باقتراح فرص العمل الشاغرة على الرجال بنسبة أكبر من النساء لمجرد أن الرجال غالباً ما يبحثون بكثافة أكبر عن الفرص الجديدة.

وبعد أن اكتشفت لينكدإن المشكلة، قامت ببناء برنامج ذكاء اصطناعي ثانٍ لمواجهة التحيز الموجود في البرنامج الأول. كما تتخذ بعض أكبر مواقع البحث عن الوظائف في العالمة -بما في ذلك كارير بيلدر (CareerBuilder) وويبريكروتر (ZipRecruiter) ومونستر (Monster)- أساليب شديدة التباين للتعامل مع مسألة التحيز في منصاتها، وهو ما تحدثنا عنه في الحلقة الأحدث من بودكاست إم آي تي تكنولوجي ريفيو "بالآلات نثق"؛ لكن نظراً لأن هذه المنصات لا تكشف بالضبط عن كيفية عمل أنظمتها، فمن الصعب على الباحثين عن عمل معرفة مدى فعالية أي من هذه الإجراءات في منع التمييز فعلياً.

إذا كنت ستشرع بالبحث عن وظيفة جديدة اليوم، فمن المرجح للغاية أن يؤثر الذكاء الاصطناعي على بحثك؛ إذ يمكن للذكاء الاصطناعي أن يقرر ما المنشورات التي تراها على منصات البحث عن الوظائف واتخاذ القرار بإرسال سيرتك الذاتية إلى مسؤولي التوظيف في إحدى الشركات. قد تطلب منك بعض الشركات ممارسة ألعاب فيديو قائمة على الذكاء الاصطناعي، بحيث تحدد من خلالها سمات شخصيتك وتقرر مدى ملاءمتك للعمل في وظائف محددة.

يلجأ عدد متزايد من الشركات إلى استخدام الذكاء الاصطناعي لتوظيف وتعيين موظفين جدد، ويمكنها أن تستخدمه في أي مرحلة تقريباً من مراحل عملية التوظيف. لقد أدى كوفيد-19 إلى نمو متجدد في الطلب على هذه التقنيات؛ حيث كشفت كل من كوريوس ثينج (Curious Thing) وهايرفو (HireVue)، وهما شركتان متخصصتان في مقابلات العمل القائمة على الذكاء الاصطناعي، عن نمو أعمالهما خلال الوباء.

تبدأ معظم مساعي البحث عن الوظائف بعملية بحث بسيطة؛ حيث يلجأ الباحثون عن عمل إلى منصات مثل لينكدإن أو مونستر أو زيبريكروتر التي تتيح لهم تحميل سيرهم الذاتية وتصفح فرص التوظيف والتقدم للوظائف الشاغرة.

وتتمثل مهمة هذه المواقع في التوفيق بين المرشحين المؤهلين والوظائف المتاحة. وتعتمد العديد منها على خوارزميات التوصية القائمة على الذكاء الاصطناعي لتنظيم جميع الوظائف والمرشحين. تقوم الخوارزميات -التي يشار إليها أحياناً باسم بمحركات المطابقة- بمعالجة معلومات كل من الباحث عن عمل وصاحب العمل لإعداد قائمة بالتوصيات لكل منهما.

يقول ديريك كان، نائب رئيس إدارة المنتجات في مونستر: "كثيراً ما تسمع حكاية تقول إن صاحب العمل يقضي ست ثوانٍ في دراسة سيرتك الذاتية، أليس كذلك؟ لكن عندما تستخدم محرك التوصية الذي طورناه، يمكنك تخفيض هذا الوقت إلى أجزاء من الثانية".

يقول جون جيرسين، النائب السابق لرئيس إدارة المنتجات في لينكدإن، إن معظم محركات المطابقة مصممة لتقدم أفضل أداء في إنشاء طلبات التوظيف. تستند هذه الأنظمة في توصياتها إلى ثلاث فئات من البيانات، وهي: المعلومات التي يقدمها المستخدم بشكل مباشر إلى المنصة، والبيانات المخصصة للمستخدم بناءً على بيانات آخرين ممن يمتلكون مجموعات مهارات وخبرات واهتمامات مماثلة، والبيانات السلوكية مثل عدد المرات التي يستجيب فيها المستخدم للرسائل أو يتفاعل مع إعلانات الوظائف.

وفي حالة لينكدإن، تقوم هذه الخوارزميات باستبعاد اسم الشخص وعمره وجنسه وعرقه؛ لأن تضمين هذه الخصائص قد يساهم في ظهور التحيز في العمليات المؤتمتة. ولكن فريق جيرسين اكتشف أنه بالرغم من استبعاد هذه الخصائص، لا يزال بإمكان خوارزميات التوصية اكتشاف الأنماط السلوكية التي تظهرها مجموعات ذات هويات جنسية معينة.

على سبيل المثال، في حين أنه من المرجح أن يتقدم الرجال للوظائف التي تتطلب خبرة عملية تتجاوز مؤهلاتهم، تميل النساء إلى التقدم للوظائف التي تتوافق فيها مؤهلاتهن مع متطلبات الوظيفة. فتقوم الخوارزمية بتفسير هذا التباين في السلوك وتعديل توصياتها بطريقة مؤذية للنساء عن غير قصد.

يقول جيرسين: "قد توصي، على سبيل المثال، بمزيد من الوظائف في المراتب الأعلى لمجموعة من الأشخاص أكثر من مجموعة أخرى حتى لو كانوا يتمتعون بنفس المستوى من المؤهلات. قد لا تُعرض نفس فرص العمل على هؤلاء الأشخاص، وهذا هو التأثير الذي نتحدث عنه حقاً".

يقوم الرجال أيضاً بتضمين المزيد من المهارات في سيرهم الذاتية بدرجة إتقان أقل من النساء، وغالباً ما يتفاعلون بشكل أكثر قوة مع أصحاب العمل على المنصة.

في مسعى للتعامل مع هذا النوع من المشاكل، أنشأ جيرسين وفريقه في لينكدإن نظام ذكاء اصطناعي جديد مصمم لإنتاج المزيد من النتائج التمثيلية وقاموا بنشره على المنصة في عام 2018. وكان النظام في جوهره عبارة عن خوارزمية مستقلة مصممة لمواجهة التوصيات المنحازة لصالح مجموعة معينة. يضمن الذكاء الاصطناعي الجديد أن يشتمل نظام التوصية على توزيع عادل عبر الهويات الجنسية قبل عرض المطابقات التي يقترحها المحرك الأساسي.

يقول كان إن منصة مونستر، التي تعرض من 5 إلى 6 ملايين وظيفة بشكل دائم، تدمج أيضاً البيانات السلوكية في توصياتها ولكنها لا تصحح التحيز بنفس طريقة لينكدإن؛ حيث يركز فريق التسويق على تشجيع مستخدمين من خلفيات متنوعة على التسجيل للحصول على الخدمة. بعد ذلك، تعتمد الشركة على أصحاب العمل للإبلاغ وإخبار مونستر بما إذا كانت قد عرضت عليهم مجموعة تمثيلية من المرشحين أو لا.

تقول إيرينا نوفوسيلسكي، الرئيسة التنفيذية في كارير بيلدر، إنها تركز على استخدام البيانات التي تجمعها الخدمة لتعليم أصحاب العمل كيفية إزالة التحيز من إعلانات وظائفهم. وعلى سبيل المثال، "عندما يقرأ المرشح وصفاً لوظيفة يحتوي كلمة ’ندم غناء روك’، سيكون هناك عملياً نسبة أقل من المتقدمات النساء لهذه الوظيفة".

يقول إيان سيجل، الرئيس التنفيذي والشريك المؤسس لشركة زيبريكروتر، إن خوارزميات الشركة لا تأخذ في الاعتبار خصائص تعريف معينة مثل الأسماء عند تصنيف المرشحين؛ وبدلاً من ذلك، تقوم بتصنيف الأشخاص على أساس 64 نوعاً آخر من المعلومات، بما في ذلك البيانات الجغرافية. ويقول إن الشركة لا تناقش تفاصيل خوارزمياتها لدواعي الحفاظ على الملكية الفكرية، لكنه يضيف: "أعتقد أننا نوفر أفضل تقييم ممكن حالياً يقوم على جدارة الأشخاص".

مع دخول الأتمتة إلى كل خطوة من خطوات عملية التوظيف، يجب أن يتعلم الباحثون عن عمل الآن كيفية إبراز أنفسهم أمام كل من الخوارزمية ومسؤولي التوظيف. ولكنها مهمة صعبة ومليئة بالتحديات من دون توافر معلومات واضحة حول آلية عمل هذه الخوارزميات.

يقول كان: "أعتقد أن الناس يقللون من شأن تأثير الخوارزميات ومحركات التوصية على الوظائف؛ فالطريقة التي تقدم بها نفسك تتم قراءتها على الأرجح من قِبل آلاف الأجهزة والخوادم أولاً، قبل أن تنظر إليها عين بشرية".