Article image
مصدر الصورة: نيال كارسون/ أسوشييتد برس



في الخطاب الافتتاحي لأحد مؤتمرات أبحاث الذكاء الاصطناعي البارزة، طالبت عالمة النفس الإدراكي سيليست كيد الحضورَ بالتفكير بشكل نقدي في المستقبل الذي يسعون إلى بنائه.

2020-01-06 17:30:56

06 يناير 2020

مؤخراً، وخلال الخطاب الافتتاحي لواحد من أهم لقاءات باحثي الذكاء الاصطناعي في العالم، خاطبت سيليست كيد الآلاف من الحاضرين في القاعة التي تبلغ تقريباً ضعفي مساحة ملعب كرة القدم، وقد تحدثت كيد بكل جرأة وبلا هوادة.

قالت كيد -وهي عالمة هامة ومن أبرز وجوه حركة #metoo- للحاضرين في مؤتمر نيوربس NeurIPS في فانكوفر: “لا توجد منصة حيادية. إن الخوارزميات التي تتحكم في المحتوى على الإنترنت تؤثر إلى حد كبير على معتقداتنا وأفكارنا”.

تشغل كيد منصب أستاذ في علم النفس بجامعة كاليفورنيا بيركلي، وهي معروفة في مجالها بمساهماتها الهامة في فهم نظرية العقل، أي كيف نكتسب المعرفة ونكوّن المعتقدات. ومنذ سنتين، أصبحت أيضاً معروفة على مستوى العالم عندما منحتها مجلة تايم لقب شخصية العام من بين آخرين تحدثوا ضد الاعتداء والتحرش الجنسي.

وقد عرضت كيد على المنصة 5 دروس من أبحاثها، وبينت كيف يمكن لقرارات صناعة التكنولوجيا أن تؤثر على الناس وتدفعهم نحو معتقدات زائفة، مثل إنكار التغير المناخي. وقبل نهاية حديثها بقليل، أطلعت الحضور أيضاً على تجربتها مع التحرش الجنسي عندما كانت طالبة دراسات عليا، كما تحدثت بشكل مباشر عن بعض الأفكار الخاطئة التي سمعتها من الرجال حول حركة #metoo.

قالت كيد للحضور، الذين بلغت نسبة الرجال بينهم 80% هذه السنة: “قد تبدو هذه الفترة مرعبة بالنسبة للرجال في المجال التكنولوجي حالياً؛ فهناك انطباع سائد حول إمكانية دمار حياة مهنية كاملة بسبب موقف غريب أو سوء فهم. وأريد أن أقول لجميع الرجال في هذه الغرفة إنكم تعرضتم للتضليل”. وقد تلقت في نهاية حديثها تصفيقاً حاراً من الحضور وقوفاً، وهي لحظة نادرة في تاريخ المؤتمر.

تحدثت كيد في وقت يتوجب فيه على أوساط الذكاء الاصطناعي -وصناعة التكنولوجيا عموماً- أن تقر بالأذى غير المقصود الذي تتسبب فيه تكنولوجياتها. ففي السنة الماضية وحدها، ظهرت العديد من القضايا الشهيرة التي كشفت عن استخدام المُزَيّفَات العميقة لاستغلال النساء، وكيف يمكن للخوارزميات أن تتخذ قرارات متحيزة في مجال الرعاية الصحية و الإقراض الائتماني، وكيف يمكن أن يؤدي تطوير نماذج الذكاء الاصطناعي إلى آثار بيئية سلبية للغاية. وفي نفس الوقت، تعرضت هذه الأوساط لهزات كبيرة بسبب عدة فضائح استغلال وتحرش جنسي، بما فيها حوادث في المؤتمر نفسه في سنوات سابقة. إضافة إلى ذلك، فما زالت هذه الأوساط تعاني من نسب مخجلة من حيث الشمولية.

غير أن حديث كيد ركز أيضاً على النقلة الهامة التي بدأت تظهر، وهي نقلة كانت واضحة في القاعة تلك الليلة. فبعد حديثها، اصطف الناس بالعشرات في طوابير أمام الميكروفونات الموزعة في أنحاء القاعة لتوجيه الشكر إليها على حديثها حول هذه القضايا. كما تجمّع العشرات حولها بعد الجلسة، وكان البعض يريد فقط مصافحتها بامتنان. وبالنسبة للحضور ممن يتذكرون المؤتمر منذ سنتين حتى، كان هناك انفتاح جديد على الاعتراف بهذه التحديات، وتركيز جديد على محاولة التعامل معها بشكل أفضل.

وفي اليوم التالي لحديثها، جلستُ مع كيد لنتحدث بمزيد من التفصيل حول الرسالتين اللتين حاولت إيصالهما للحضور، والعلاقة ما بينهما، وآمالها للمستقبل.

تم تعديل المقابلة وتكثيفها لمزيد من الوضوح.

– في القسم البحثي من حديثكِ، ختمتِ بالرسالة التالية: “لا توجد منصة حيادية”. كيف توصلتِ إلى هذا الاستنتاج من أبحاثك؟
– لقد أدركت شيئاً في السنوات القليلة الماضية وحسب -بسبب تعاملي مع طالبي الدراسات العليا تحت إشرافي- وهو أنه لا يوجد تمييز بين المعرفة والمعتقدات، بل هما نفس الشيء عملياً.

الآن، بدأنا ننتقل نحو استيعاب كيفية امتداد هذه الحركيات -التي راقبناها في التجارب المختبرية- في العالم الحقيقي. فعندما يدخل شخص ما إلى الإنترنت من دون أن يكون واثقاً مما يجب تصديقه، فما النتيجة التي سيتوصل إليها بعد عمليات البحث الحيادية هذه؟ هل يمكن أن نستخدم أفكاراً مماثلة لتفسير اعتقاد البعض أن الأرض مسطحة، وتفسير عدم تصحيح هذه الأفكار الخاطئة؟ لم أرَ الكثير من الاهتمام بهذه المسألة، ولكنني أعتقد أنها هامة للغاية.

– لمَ شعرتِ بضرورة مشاركة رسالتك في هذا المؤتمر؟
تنبع الكثير من معتقداتنا الحالية من مصادر على الإنترنت، خصوصاً في حالة الأولاد، فهم يعملون حالياً على بناء الكتل المعرفية التي ستشكّل معتقداتهم لاحقاً، وما يرغبون في تعلمه مع تقدمهم في الحياة. وبالنسبة لليافعين، فهناك أيضاً ما يدعو إلى أن نتوقع أنهم يتجاوزون الراشدين من حيث استهلاك المحتوى الذي تقترحه خوارزميات التشغيل التلقائي، ولهذا فهم أكثر عرضة لتأثير الخوارزميات التي تروج لمحتوى معين؛ لأن هذا خيارهم الوحيد.

تقصدتُ في حديثي توجيه رسالة إلى العاملين على هذه الأنظمة حتى يكونوا أكثر تفكيراً في تأثير هذه القرارات البرمجية على المعتقدات الفردية، وأيضاً على المجتمع ككل. ولا أعتقد أن الأوساط التكنولوجية تبدي اهتماماً كافياً بتأثير هذه القرارات التي تُتخذ خلف الكواليس حول المحتوى على حياة الناس.

وهناك دعوة موحدة للمواجهة يتم إطلاقها من قِبل الجميع عند إثارة التساؤلات حول كيفية تقديم المحتوى، وهي الزعم بأن المنصات حيادية. وأعتقد أن هذا ليس من النزاهة في شيء؛ حيث إن القرارات الخفية التي تُتخذ على المستوى البرمجي تؤثر مباشرة على معتقدات الناس، وهم يعرفون هذا، ولهذا فإن ادعاء عدم صحة هذا الأمر أبعد ما يكون عن النزاهة.

عندما نغير من سلوكيات الناس، فنحن نغير من معتقداتهم. وتوجد آثار واقعية وراسخة لهذه التغييرات. فعندما يبحث أحد الوالدين عن معلومات حول وجوب تلقيح الأطفال لاتخاذ قرار حاسم حول هذه المسألة، فإن المحتوى المُقدم ووجهات النظر المعروضة تكون في غاية الأهمية.

ولا أعتقد أن من المنطقي نفيَ وجود مسؤولية عما ستقوم به الأم لطفلها -أي ما إذا كانت ستجري عملية التلقيح أم لا- لأنه لم يكن بين العوامل التي تم أخذها بعين الاعتبار أثناء بناء النظام. أعتقد أنه توجد مسؤولية تُوجِب التفكير في تأثير قراراتنا البرمجية.

– لقد ذكرتِ في جلسة الأسئلة والأجوبة الخاصة بعد حديثك أنه لم يسبق لك أن قدمت أبحاثك وتجاربك حول التحرش الجنسي معاً في لقاء عام. لماذا تقومين عادة بالفصل ما بين هذين الموضوعين، ولماذا قررت الجمع بينهما الآن؟
سأبدأ بالشق الثاني من السؤال، فقد استثنيت هذه القاعدة في هذه الحالة لأنني أعتقد أن من الهام بالنسبة لهذه الأوساط سماعَ الرسالة. فلطالما واجهَت النساء صعوبة كبيرة لوقت طويل للغاية في دخول مجال علوم الحاسوب واكتساب الزخم فيه؛ إذ عادة ما تُقابَل المرأة باهتمام كبير في البداية، ومن ثم تظهر أخطاء النظام التي تمنعها من التقدم. وأنا أعرف أن أحد أهم العوامل التي تمنع تقدم النساء هو ضعف فرص الإشراف.

وأعلم أن أغلبية الرجال في مجال علوم الحاسوب من ذوي النوايا الحسنة يشعرون بالقلق إزاء احتمال إهانة النساء، وهذا يؤدي لاحقاً إلى خسارة النساء لفرص التدريب، ولكنه يؤدي أيضاً إلى خسارة الرجال للأفكار والابتكارات التي يمكن أن تقدمها النساء. وتبين الدراسات التجريبية أن الشمولية تؤدي إلى زيادة معدلات الابتكار. كما أن فرصة التحدث إلى عدد كبير من هؤلاء الرجال في قاعة واحدة في نفس الوقت بدت هامة للغاية بالنسبة لي، وهو ما دعاني إلى التحدث حول هذه المواضيع.

أما السبب الذي يمنعني عادة من الجمع ما بين هذين الموضوعين، فهو أنني لم أختر ما حدث معي في أول سنة في الدراسات العليا في روتشستر؛ لم يكن رد الجامعة من اختياري. لقد رغبت في ممارسة مهنة علمية وأريد أن أحمي هذه المهنة، ولهذا لا أرغب في تقليل التحدث عن العلم من أجل التحدث عن هذه المسألة، ولكنني أيضاً أعلم أن أغلب الناس لا يحصلون على فرصة الصعود على منصة للتحدث بشكل مباشر. وعندما يتعرض الناس للتحرش الجنسي في بداية حياتهم المهنية، ويتعرضون لردود سلبية من مؤسساتهم، فهم يختفون عادة. لم أستطع أن أقف على الحياد، وأعتقد أن الذين يحصلون على بعض الامتيازات مطالبون أخلاقياً باستخدامها وقت الحاجة، وكانت هذه فرصة لاستخدام امتياز التحدث في نيوربس لمساعدة المزيد من المبتدئات الجديرات بالمعاملة العادلة.

– هل شعرتِ بالقلق إزاء ردود الفعل على هذه التعليقات؟
بالطبع؛ ولكن الخوف من الردود ليس سبباً للصمت، لقد تحدثت قليلاً حول الامتياز. وأنا في وضع يتسم بشيء من الامتياز في هذا المؤتمر بالتحديد، بسبب وجود الكثيرين من العاملين في هذه الصناعة، وأعتقد أن الضغوط الرامية إلى إسكات الناس أكبر في الشركات مما هي في المؤسسات الأكاديمية، على الأقل حالياً في المجال التكنولوجي، ولهذا إذا كنت أشعر بالقلق إزاء التعرض للفصل من العمل، فهذا سيكون سبباً إضافياً يدعوني إلى الصمت. غير أن جامعة كاليفورنيا بيركلي كانت مطلعة على مساهمتي في هذه القضايا قبل توظيفي، ولم تُبدِ لي سوى الدعم والتشجيع في صراعي في سبيل المساواة. وبوجودي في مكان كهذا، يمكنني أن أعبر عن الخوف من خسارة العمل وعدم القدرة على إعالة الأطفال؛ وهو السبب الآخر الذي دعاني للتحدث.

لقد توقعت بالتأكيد أن يشعر البعض بالغضب، فهناك 13,000 شخص، ومن المؤكد أن البعض سيسيئون فهمي. لقد تحدثت حرفياً حول إثارة الكلمات الغامضة لأفكار مختلفة عند استخدامها، ويستحيل أن تقنعي الجميع بما تفكرين فيه بالضبط.

– على الرغم من أنك تفصلين عادة في أحاديثك ما بين موضوعي الأبحاث ونشاطاتك، وحتى أنك خصصتِ جزءاً مستقلاً لكل منهما في نيوربس، فأنا أعتقد أنهما يتحدثان فعلياً عن نفس الشيء، وهو: كيف يمكن تطوير تكنولوجيا مسؤولة بتحمل المزيد من المسؤولية حول القرارات والأفعال.
هذا صحيح. ولقد ذكرتِ لي سابقاً تزايد الأحاديث في أوساط الذكاء الاصطناعي حول الآثار الأخلاقية، وتزايد الاهتمام في الصلة ما بين التكنولوجيا والمجتمع. وأعتقد أن هذا يعود جزئياً إلى زيادة تنوع وشمولية المجتمع؛ حيث يوجد المزيد من الأشخاص ممن يتحدرون من أماكن أقل ثراء، وهم أكثر إدراكاً لمفاهيم مثل التحيز والظلم، وكيف يمكن أن تؤدي التكنولوجيات المصممة لشرائح معينة إلى أذية الناس الأقل نفوذاً وموارد.

آمل أن هذا سيستمر؛ يجب أن نتحاور معاً حتى نحرز التقدم. ونستحق جميعاً أن نشعر بالأمان عندما نتفاعل مع بعضنا البعض.


شارك



مراسلة الذكاء الاصطناعي، إم آي تي تكنولوجي ريفيو