أدت إلى تكوين صورٍ ذات دقة عالية يظهر فيها رجالٌ بيض، وذلك بعد إدخال صور منخفضة الدقة لأشخاصٍ من ذوي البشرات الملونة.

2020-06-29 10:54:14

29 يونيو 2020
Article image
تم تشويه الصورة الأصلية (على اليسار) لرجلٍ ذو بشرةٍ سوداء والنائبة في الكونغرس الأميركيّ أليكساندريا كورتيز (والدها أسود البشرة وأمها لاتينية من بورتو ريكو). تم إدخال الصور المشوهة ذات البيكسلات القليلة إلى برنامج بالس بتهديف تحسين دقتها، وكانت النتيجة هي صور جديدة مختلفة في الشكل والملامح عن أصحاب الصور الأصلية والأهم أنها تحاكي ملامح الأشخاص البيض بشكلٍ كبير.
مصدر الصورة: Robert Osazuwa Ness عبر تويتر

كشفت مجموعة من الباحثين في جامعة ديوك الأميركية عن تطويرهم لبرنامجٍ جديد يستطيع تحويل الصور منخفضة الدقة -التي تمتلك عدداً قليلاً جداً من البيكسلات (عناصر الصورة)- لأخرى ذات دقة مرتفعة وبتفاصيل واضحة، وتم تجريب البرنامج الجديد بشكلٍ أساسيّ على صور الوجوه، وأظهر البرنامج بالفعل قدرةً متقدمة على تحويل الصور ذات الدقة المنخفضة وغير واضحة المعالم إلى أخرى ذات تفاصيل دقيقة وبعدد كبير من البيكسلات.

تم تسمية البرنامج -أو الخوارزمية- بالس (Pulse) وهي مبنية استناداً لطرق التعلم الآلي الذي يمثل أحد طرق الذكاء الاصطناعي (يمكنكم قراءة مقالنا التفصيلي الذي شرحنا عبره الفرق بين المفهومين). لا يمثل برنامج بالس فكرةً جديدة بحد ذاتها، والمقصود هنا أنه يوجد بالفعل تطبيقات وبرامج تتيح تحسين الصور منخفضة الدقة أو زيادة عدد البيكسلات في الصورة بهدف جعلها ذات تفاصيل أوضح، ولكن المميز به هو المنهجية التي يقوم عليها؛ حيث تعتمد برامج وتطبيقات تحسين الصور على تحليل الصورة الأصلية منخفضة الدقة ومن ثم التنبؤ بالآلية التي يجب اتباعها من أجل إضافة بيكسلات جديدة للوصول للدقة والوضوح المطلوبين. ولكن باحثي جامعة ديوك لجؤوا إلى مقاربةٍ مختلفة لبناء برنامجهم، وهي استثمار قواعد بيانات الصور الكبيرة المتوافرة، التي تعود لأشخاصٍ حقيقيين، ومن ثم يتم بناء الصورة الجديدة عالية الدقة اعتماداً على المعلومات المتوافرة من قواعد البيانات والمعلومات الخاصة بالصورة الأصلية نفسها، وهكذا، تمكن الباحثون من إنتاج صورة بدقة 1024×1024 بيكسل اعتماداً على صورةٍ ذات دقة منخفضة تبلغ 16×16 بيكسل.

لم تبدأ القصة بعد؛ حيث كشف برنامج بالس عن جانبٍ يبدو أنه لم يخطر على بال مطوريه، وذلك في وقتٍ يتصف بتصاعد التوتر والحساسية المرتبطين بمسألة التفرقة العنصرية على أساس لون البشرة، ووصولها حتى للتقنيات المستخدمة في العديد من الخدمات والدوائر الرسمية الحكومية حول العالم.

ما حدث هو أن القائمين على البرنامج أتاحوا الشيفرة المصدرية الخاصة به بشكلٍ مجانيّ على منصة جيت هاب (GitHub) الشهيرة، التي يستخدمها مطورو البرامج ومهندسو البرمجيات حول العالم كوسيلة فعالة لأرشفة وتنظيم النسخ المختلفة لمشاريعهم. أراد المطورون من هذه الخطوة إتاحة البرنامج ليشاهدوا نتائج استخدامه على نطاقٍ واسع، وفي البداية، تلقوا مراجعاتٍ متحمسة مرتبطة بسعادة الكثير من المستخدمين في قدرتهم على تحسين صورٍ قديمة أو تحسين دقة صور الشخصيات الشهيرة من ألعاب الفيديو مثل سوبر ماريو، خصوصاً مع قيام مطورٍ من روسيا بإطلاق تطبيقٍ يدعى ديبيكسلايزر (Depixelizer)، والمبني على خوارزمية بالس. مثَّلَ هذا الأمر تشجيعاً وحماساً لمطوري خوارزمية بالس، وهو ما دفعهم إلى التفكير في مجالات استخدام أكثر أهمية، مثل تحسين دقة الصور الطبية أو الصور الفلكية الخاصة بالأجسام والبنى الكونية، أو حتى الصور المجهرية للكائنات الحية الدقيقة.

لم تدم هذه الحماسة طويلاً؛ إذ إن جانباً مظلماً آخر بدأ يظهر حين نشر العديد من المستخدمين نتائجَ استخدامهم لخوارزمية بالس على تويتر بعد إدخال صورٍ منخفضة الدقة، وذات عدد قليل من البيكسلات لشخصياتٍ شهيرة ذات بشرة سمراء أو سوداء أو حتى أشخاص من آسيا، وكانت النتيجة هي أن الخوارزمية شكلت صورة عالية الدقة ولكن لشخصٍ أبيض البشرة وبشعرٍ أشقر اللون! من الأمثلة الشهيرة على ذلك هي صورة منخفضة الدقة للرئيس الأميركي السابق باراك أوباما لا تظهر فيها معالم وجهه بشكلٍ واضح، ولكن من المفترض أنها تتضمن عدداً كافياً من البيكسلات لتُظهر أنها على الأقل صورة لشخص ذي بشرة داكنة أو سوداء. لم تتمكن الخوارزمية من ملاحظة هذه الأمور، وكانت النتيجة توليد صورة عالية الدقة لشخصٍ أبيض. 

دفعت هذه النتائج مطوري خوارزمية بالس لترك ملاحظة هامة على منصة جيت هاب التي تتضمن رابط الشيفرة المصدرية الخاصة به، ومفادها أن الخوارزمية تقوم بتخيل صورة عالية الدقة اعتماداً على الصور منخفضة الدقة، بمعنى أنها لا تهدف إلى التعرف على هوية أو صاحب الصورة الأصلية منخفضة الدقة. علاوةً على ذلك، أشار المطورون إلى أنه من المستحيل تحديد هوية الشخص وشكله الحقيقي من الصور منخفضة الدقة. بمعنى آخر، لا يريد المطورون أن يُساء فهم خوارزميتهم على أنها مخصصة للتعرف على أصحاب الصور الحقيقية اعتماداً على صورهم مشوهة المعالم والتي لا تمتلك عدداً كبيراً من البيكسلات، إلا أن هذا التصريح لم ينفِ التقارير والمراجعات التي نشرها العديد من الأشخاص، والتي أظهرت أن الصور النهائية التي ولّدها البرنامج غير واقعية، ويوجد بها تحيّز لصالح مجموعة عرقية على حساب أخرى.

سلطت هذه النتائج الضوء من جديد على مشكلةٍ ترتبط بخوارزميات معالجة الصورة المعتمدة على الذكاء الاصطناعيّ؛ أظهرت العديد من الدراسات أن هنالك تحيزاً لصالح الأشخاص ذوي البشرة البيضاء كنتيجةٍ لعمل هذه الخوارزميات، وظهر هذا الأمر بشكلٍ جليّ في خوارزميات التعرف على الوجوه التي غالباً ما تميل لاتخاذ قرار مفاده أن المجرم هو شخصٌ ذو بشرة سمراء أو سوداء، ليتبين لاحقاً خلاف ذلك. هذه الأمور دفعت العديد من الشركات التقنية مؤخراً للانسحاب من برامجها المخصصة لتطوير تقنيات التعرف على الوجه والمستخدمة في مراكز الشرطة في الولايات المتحدة الأميركية، مثل شركة آي بي إم وما لبثت أمازون أن أجرت خطوةً مماثلة، تمثلت في تعليق قدرة الشرطة على استخدام تقنية التعرف على الوجوه الخاصة بها لمدة عامين

نشر أحد المستخدمين على تويتر نتائج استخدامه لخوارزمية بالس بعد إدخال صورة منخفضة الدقة للرئيس الأميركي السابق باراك أوباما، وكانت النتيجة أن الخوارزمية ولدت صورة جديدة لرجلٍ أبيض وشعرٍ أشقر وعيون ملونة.
مصدر الصورة: Chicken3gg عبر تويتر

من المنصف القول بأن سبب التحيز الذي تظهره الخوارزميات من ناحية تفضيل ذوي البشرة البيضاء يعود لطبيعة البيانات التي يتم تزويدها بها؛ حيث تحتاج خوارزميات الذكاء الاصطناعي لبياناتٍ من أجل إجراء تدريبٍ لها، بحيث تكون الخوارزميات قادرة بعد انتهاء التدريب على العمل بمفردها من أجل إتمام المهمة المطلوبة. أظهرت الكثير من الدراسات أن قواعد البيانات المستخدمة في عمليات التدريب قد تمثل صلب المشكلة، فقد تتضمن عدداً أكبر من المجرمين ومرتكبي الجنح ذوي البشرة السوداء أو السمراء مقياساً بأقرانهم البيض، أو قد تتضمن عدداً كبيراً جداً من الأشخاص ذوي البشرة البيضاء إن لم تكن قاعدة البيانات مرتبطة بالجرائم والجنح، وهو ما حدث في حالة خوارزمية بالس.

تمثل حالة خوارزمية بالس إضافة جديدة من شأنها تعزيز الجهود التي يتم بذلها في مجال مراجعة وتقييم الأثر الفعليّ لخوارزميات الذكاء الاصطناعيّ والدور الذي يمكن أن تلعبه، سواء كان ذلك من ناحية مدى “الابتكار” و”الذكاء” الذي تتضمنه بالفعل، أو من ناحية الجوانب السلبية التي قد تنجم عن اعتماد هذه الخوارزميات كوسائل موثوقة يمكن الاستناد إلى نتائج عملها بشكلٍ مطلق.

قام الباحثون في جامعة ديوك بنشر ورقةٍ بحثية تصف خوارزمية بالس على حافظة أركيف (arXiv) الشهيرة للأوراق البحثية غير المحكمة التي لم تخضع بعد لمراجعة الأقران.


شارك