يجب أن تعلم | للاطلاع | في صلب الموضوع | رقم اليوم | شخصية اليوم | مصطلح اليوم
هل ينجح عمال الوظائف المؤقتة في مواجهة الخوارزميات؟
في حي بيندونغان هيلير، وعلى مرمى حجر من منطقة الأعمال المتألقة في جاكارتا، يقف صف طويل من الأكشاك الخشبية المحشورة على الرصيف والمبنية كيفما اتفق، والتي تبيع حساء المعكرونة والأرز المقلي والسجائر للسكان المحليين.
ولكن أحد هذه الأماكن يبدو مميزاً عن غيره، حيث يعج بسائقي دراجات نارية يرتدون ملابس خضراء. ويُعتبر هذا المكان بمثابة "مخيم رئيسي" غير رسمي، أو نقطة التقاء، لسائقي شركة غوجيك (Gojek) وهي أكبر شركة للطلب الإلكتروني للرحلات في إندونيسيا، ويمثل جزءاً من العصب الأساسي لحركة مقاومة متنامية ضد خوارزميات التوزيع التي تهيمن على حياة هؤلاء السائقين.
وقد نشأت نقاط التجمع هذه من تقليد كان موجوداً قبل دخول خدمات الطلب الإلكتروني للرحلات القائم على الخوارزميات إلى إندونيسيا، فقد اعتاد سائقو الدراجات النارية على عرض التوصيل على الناس بشكل غير منظم، وكانوا يتجمعون عند نواصي الشوارع وأكشاك الطعام لتبادل الأخبار والإشاعات أو مشاركة النصائح حول الحفاظ على السلامة على الطريق. وما إن وصلت غوجيك وغيرها من الشركات مع تطبيقاتها، استمرت هذه العادة، كما يقول رضا قدري، وهو عالم حوسبة اجتماعية في إم آي تي، ويدرس مجتمعات سائقي خدمات الطلب الإلكتروني للرحلات في جاكارتا. تحولت نقاط التجمع إلى شبكة تواصل وثيقة بين السائقين في جميع أنحاء المدينة.
وأصبح هذا الإحساس بروح الجماعة الميزة الأساسية التي تميز سائقي جاكارتا عن غيرهم من عمال الوظائف المؤقتة في جميع أنحاء العالم. وعلى الرغم من أن هؤلاء العمال في كل مكان شعروا بزيادة الضغط والاستغلال من قبل الخوارزميات التي لا ترحم، فقد واجهوا في أغلب الأحيان صعوبات كبيرة في تنظيم أنفسهم وفرض تغييرات جوهرية في المنصات التي تتحكم بعملهم، أو السياسات الحكومية التي تتسامح مع استغلالهم.
ويعود هذا جزئياً إلى التحدي الذي تفرضه الإدارة القائمة على الخوارزميات على منظمي العمال، حيث تضع العمال في موضع المواجهة والتنافس بين بعضهم بعضاً، وتبعثرهم على مساحة جغرافية كبيرة، كما يقول جيسون جاكسون، وهو أستاذ في الاقتصاد السياسي والتخطيط الحضري في جامعة إم آي تي. وتقوم هذه الخوارزميات بشكل افتراضي، بإضعاف قدرة العمال على التواصل الشخصي وبناء الانسجام المطلوب لإطلاق حركة فعلية.
للمزيد حول هذا الموضوع، تابع قراءة المقالة على موقعنا عبر هذا الرابط
كيف أجبرت خوارزمية واحدة الحكومة الهولندية على الاستقالة؟
حتى وقت قريب، لم يكن من الممكن القول إن الذكاء الاصطناعي سيكون له دور في إجبار إحدى الحكومات على الاستقالة. لكن هذا بالضبط ما حدث في هولندا في يناير 2021، عندما استقالت الحكومة بسبب ما يُسمى بقضية "إعانات رعاية الأطفال" (kinderopvangtoeslagaffaire).
عندما كانت أي عائلة في هولندا تطالب الحكومة بالحصول على إعانة رعاية لأطفالها، كان يتوجب عليها تقديم الطلب إلى مصلحة الضرائب الهولندية. كانت هذه الطلبات تمر على إحدى خوارزميات التعلم الذاتي، التي تم نشرها في البداية في عام 2013. تقوم الخوارزمية أولاً بفحص الطلبات بحثاً عن وجود علامات احتيال، ثم يقوم البشر بفحص الطلبات التي تصنفها الخوارزمية على أنها شديدة الخطورة.
في الواقع، طوّرت الخوارزمية نمطاً من الوسم الكاذب للطلبات على أنها احتيالية، وصّدق موظفو الخدمة المدنية على وسمها بالاحتيال. لذلك، وعلى مدى سنوات، أمرت مصلحة الضرائب آلاف العائلات بإعادة ما حصلوا عليه من أموال الإعانات، ما أغرق عدداً كبيراً من العائلات في ديون مرهقة وتسبب في تدمير حياة الكثيرين.
أظهرت التحقيقات اللاحقة وجود أدلة على التحيز الخوارزمي، بناء على الخلفية العرقية والجنسية والدخل. يقول يونغ سوك لي، أستاذ التكنولوجيا والاقتصاد في جامعة نوتردام بالولايات المتحدة، إن "أداء النموذج والخوارزمية يجب أن يكون شفافاً أو أن يتم نشره من قبل مجموعات مختلفة". لكن خوارزمية مصلحة الضرائب الهولندية تملصت من مثل هذا التدقيق؛ كانت صندوقاً أسوداً معتماً، لا تتسم بالشفافية في طريقة عملها الداخلية. وبالنسبة للمتضررين، كان من المستحيل تقريباً معرفة سبب وسمهم بالاحتيال، ولم يكن أمامهم أي نوع من الإجراءات القانونية التي يمكن اللجوء إليها.
تُستخدم هذه الكارثة الضريبية الهولندية الآن كدراسة حالة للمشرعين الأوروبيين الذين يطورون قانون الذكاء الاصطناعي، والذي يهدف إلى أن يكون التشريع الأكثر شمولاً في القارة والذي يهدف إلى المساعدة في تنظيم استخدام الذكاء الاصطناعي وتطويره.
الرابط (إنجليزي)
كيف أدى الوباء إلى إصابة الخوارزميات بالارتباك؟
لطالما واجهت الخوارزميات بعض المشكلات في العمل بشكل صحيح، ولهذا ترى الإعلانات تلاحقك على الإنترنت من مكان لآخر حول أشياء اشتريتها من قبل.
ولكن، ومنذ أدى كوفيد إلى تغيير حياتنا، تزايدت أخطاء هذه الخوارزميات، ما أدى إلى إيذاء الملايين من الأميركيين، وتضخيم التفاوتات المالية والصحية التي تعاني منها المجموعات المهمشة. وقد نتج هذا في بعض الأحيان عن أخطاء بشرية في استخدام الخوارزميات. ولكن، وفي أغلب الأحيان، فقد نتج عن تأثير كوفيد على حياتنا بشكل جعل الخوارزميات تعمل بصورة خاطئة.
على سبيل المثال، فهناك خوارزمية تعتمد عليها العشرات من المستشفيات في الولايات المتحدة لكشف المرضى المصابين بالإنتانات، وهي إحدى تبعات الالتهابات التي يمكن أن تؤدي إلى الموت. وقد كان يُفترض بهذه الخوارزمية أن تساعد الأطباء على تسريع النقل إلى وحدة العناية الفائقة. ولكن، وبحلول ربيع العام 2020، حدث تغير في طبيعة المرضى المقبلين على المستشفيات بسبب كوفيد. فقد أدى الوباء إلى تغيير شامل في العديد من المعاملات التي تعتمد عليها الخوارزمية، مثل مستويات الأكسجة والعمر والاعتلالات المشتركة. ولهذا، لم تستطع الخوارزمية القيام بعمل فعال في التمييز بين المرضى الأفضل حالاً والمصابين بشدة، ما أدى بها إلى توصيف ضعف عدد المرضى على أنهم "مصابون بشدة"، على الرغم من أن سعة المستشفى كانت أقل ما هي عليه في الحالة الطبيعية بنسبة 35%.
بطبيعة الحال، أدى هذا إلى زيادة في استدعاء الأطباء والممرضات لمعاينة المرضى. ومن المحتمل أن كل هذه الإنذارات كانت ضرورية، فقد كان هناك عدد أكبر من المرضى على أي حال. ولكن، من المحتمل أيضاً أن الكثير من هذه الإنذارات كانت غير ضرورية، بسبب اختلاف نوع المرضى الذين أتوا إلى المستشفى. وفي الحالتين، أدى هذا إلى زيادة الضغط على الأطباء والمستشفيات. وقد تم اكتشاف هذا "الحمل الزائد في الإنذارات" بعد عدة أشهر من تفشي الوباء، ما أدى إلى إيقاف استخدام هذه الخوارزمية من قبل النظام الصحي لجامعة ميشيغان.
للمزيد حول الارتباك الذي أصاب الخوارزميات بسبب الجائحة، تابع قراءة المقالة على موقعنا عبر هذا الرابط
|
