ما هو التدقيق الخوارزمي؟ وهل ينجح حقاً في مواجهة مشكلة التحيز؟
في الوقت الذي يتزايد فيه استخدام خوارزميات الذكاء الاصطناعي في مختلف القطاعات من التوظيف إلى الإقراض إلى العدالة الجنائية، فإن هذه الخوارزميات تعاني من مشكلة مزمنة ومستترة، ألا وهي التحيز.

قد يتمثل أحد الحلول في عمليات التدقيق التي تهدف إلى تحديد ما إذا كانت خوارزمية ما تعمل على النحو المنشود، وما إذا كانت تتحيز لصالح مجموعة من الأشخاص على حساب مجموعات أخرى، بالإضافة إلى اكتشاف المشكلات واقتراح كيفية إصلاحها. لكن مجال التدقيق الخوارزمي لا زال في بداياته، وسيكون من الصعب إجراء عمليات تدقيق حقيقية قبل أن يتم إخضاع مجال الذكاء الاصطناعي للوائح تنظيمية صارمة.

وتشمل عمليات التدقيق الخوارزمي- التي تجريها عادة شركات خارجية- فحص الشيفرة البرمجية للخوارزمية والبيانات المستخدمة في تدريبها، وتقييم تأثيرها المحتمل على الناس من خلال إجراء مقابلات مع أصحاب المصلحة وأولئك الذين قد تتأثر حياتهم بمخرجاتها.

ولكن على عكس عمليات التدقيق المالي- التي تحدد أهدافاً واضحة وفق قوانين قائمة- فإن مجال التدقيق الخوارزمي "مفكك بعض الشيء"، كما تقول ليز أوسوليفان، الرئيس التنفيذي لشركة باريتي المختصة بتدقيق أنظمة الذكاء الاصطناعي. وتضيف: "هناك الكثير من الشركات التي تحاول القيام بأنواع مختلفة من الأساليب للتحقق مما إذا كان النموذج متوافقاً مع الأداء أو أنه يعاني من التحيز والتمييز ضد مجموعات معينة".

وفي حين أن الغاية من عمليات التدقيق المالي تكمن جزئياً في "فتح الصندوق الأسود" للعمليات الداخلية للشركة أمام المستثمرين الخارجيين وضمان التزام الشركة بالقوانين واللوائح المالية، فإنه في حالة عمليات التدقيق الخوارزمي، قد تكون عمليات الذكاء الاصطناعي عبارة عن "صندوق أسود" بالنسبة للشركة نفسها. مما يصعب على المدققين تحديد كيفية تحيز الخوارزمية وسببه، ناهيك عن "ترجمة هذا التمثيل الرياضي إلى كلمات يمكن أن يفهمها أي شخص"، كما يقول هنري جيا، رئيس علم البيانات في شركة إكسيلا للبرمجيات.

من شأن عمليات التدقيق أن تساعد في اكتشاف بعض العيوب وبعض جوانب التحيز في خوارزميات الذكاء الاصطناعي، لكن تحقيق تقدم حقيقي في هذا المجال سيتطلب سن قوانين جديدة لتنظيم الذكاء الاصطناعي، وتحديث اللوائح التنظيمية التي تم وضعها قبل أن يبدأ العمل على هذه الخوارزميات بعقود من الزمن.

 الرابط (إنجليزي)