Article image
مصدر الصورة: صور جيتي



بدأت تظهر الأخطاء في نماذج التعلم الآلي المدرّبة على السلوك الطبيعي للأشخاص، مما يجبر البشر على التدخل لتصحيح عملها.

2020-05-14 23:30:42

14 مايو 2020

في الأسبوع الممتد من 12 إلى 18 أبريل، كانت مصطلحات البحث العشرة الأولى على موقع أمازون هي: الورق الصحي، وقناع الوجه، ومعقم اليدين، والمناشف الورقية، وبخَّاخ منظِّف لايسول، ومناديل كلوركس، والكمامة، ومنظِّف لايسول، والأقنعة للحماية من الجراثيم، وقناع إن95. ولم يكن الناس يبحثون فقط عن هذه الأشياء، بل كانوا يشترونها أيضاً، وبكمياتٍ كبيرة. وانتهى المطاف بمعظم الأشخاص الذين يبحثون عن الأقنعة بشراء السلعة الجديدة الأكثر مبيعاً على أمازون وهي “قناع الوجه، حزمة من 50 قطعة”.

عندما اندلع وباء كوفيد-19، بدأنا في شراء أشياء لم نشترها أبداً من قبل. لقد كان التحول مفاجئاً؛ ففي غضون بضعة أيام، اختفت المنتجات التي كانت دائمة الحضور في قائمة أكثر عشر سلع مبيعاً على أمازون مثل حافظات وشواحن الهواتف ولعبة ليجو. وقد قامت نوزل Nozzle، وهي شركة استشارية مقرها لندن ومتخصصة في خدمة الإعلان الخوارزمي للبائعين على أمازون، بالتقاط التغير السريع في هذا الرسم البياني البسيط.

استغرق الأمر أقل من أسبوع في نهاية فبراير حتى تملأ المنتجات ذات الصلة بكوفيد-19 قائمة أكثر 10 مصطلحات بحثاً على موقع أمازون في العديد من البلدان. ويمكنك تتبع انتشار الوباء من خلال مراقبة نوع المواد التي يتم تسوقها؛ فقد بلغ البحث عن هذه المنتجات ذروته أولاً في إيطاليا، تليها إسبانيا وفرنسا وكندا والولايات المتحدة، ثم تأتي المملكة المتحدة وألمانيا متأخرتان قليلاً. ويقول رايل كلاين، الرئيس التنفيذي لشركة نوزل: “إنه تحول مذهل في غضون خمسة أيام”، وقد لمسنا امتداد تأثيرات هذا التحول عبر سلاسل توريد التجزئة.

كما طالت هذه التأثيرات نماذج الذكاء الاصطناعي، مما تسبب في حدوث أخطاء في الخوارزميات التي تعمل خلف الكواليس في إدارة المخزون والتسويق وكشف الاحتيال وغيرها. حيث تكتشف نماذج التعلم الآلي المُدرَّبة على السلوك البشري الطبيعي أن هذا السلوك قد تغير، بل إن بعضها قد بدأ في الانهيار نتيجة لذلك. 

ويتغير تقدير درجة سوء هذه التأثيرات بتغير الجهة التي نتحدث إليها؛ فوفقاً لشركة باكتيرا إيدج Pactera Edge، وهي شركة استشارية عالمية في مجال الذكاء الاصطناعي، فإن “الأتمتة تشهد حالة من الفوضى الشاملة”. ويقول آخرون إنهم يراقبون بحذر عمل الأنظمة المؤتمتة التي بالكاد تستمر في أداء عملها، وإنهم يتدخلون بإجراء تصحيحات يدوية عند الحاجة.

لكن الأمر الواضح حالياً هو أن الوباء قد بيَّن مدى تشابك حياتنا مع الذكاء الاصطناعي، كاشفاً عن الاعتماد المتبادل الدقيق الذي تؤدي فيه التغييرات في سلوكنا إلى تعديل طريقة عمل الذكاء الاصطناعي، وتؤدي التعديلات في كيفية عمل الذكاء الاصطناعي إلى تغير سلوكنا. كما يمثل هذا الأمر تذكيراً بأن الدور البشري في الأنظمة المؤتمتة لا يزال أساسياً؛ حيث يقول كلاين: “لا يمكنك أبداً أن تترك هذه الأنظمة تعمل وحدها في مثل هذه الظروف الاستثنائية”.

وعلى الرغم من أن نماذج التعلم الآلي قد تم تصميمها حتى تتمكن من الاستجابة للتغيرات، إلا أن معظمها يتسم بالهشاشة؛ إذ يسوء أداؤها عندما تختلف بيانات الإدخال بشكل كبير عن البيانات التي تم تدريبها عليها. ويقول راجيف شارما، نائب الرئيس العالمي في باكتيرا إيدج: “من الخطأ افتراض أنه يمكنك إنشاء نموذج ذكاء اصطناعي وتركه يعمل وحده من دون تدخل منك، فالذكاء الاصطناعي هو عبارة عن محرك مفعم بالنشاط وكأنه كائن حي”.

ويتواصل شارما مع العديد من الشركات التي تعاني من صعوبات في التعامل مع نماذج الذكاء الاصطناعي المتعثرة. فإحدى الشركات، التي تقدم الصلصات والتوابل إلى تجار التجزئة في الهند، تحتاج إلى المساعدة في إصلاح النظام المؤتمت لإدارة المخزون بعد أن تسبب الارتفاع الكبير في الطلبات إلى حدوث خلل في خوارزمياته التنبؤية. ويقول شارما: “لم يتم تدريب النظام مطلقاً على مثل هذه الزيادة الهائلة في الطلبات، لذلك خرج عن السيطرة”.

تستخدم شركة أخرى الذكاء الاصطناعي لتقييم المشاعر الكامنة في المقالات الإخبارية وتقديم توصيات استثمارية يومية بناءً على النتائج. ولكن مع كون الأخبار في الوقت الحالي أكثر قتامة من المعتاد، ستكون التوصية منحرفة بشدة عن الحقيقة، كما يقول شارما. ويضيف أن شركة بث كبيرة تواجه أيضاً مشكلات في خوارزميات التوصيات الخاصة بها بعد أن شهدت تدفقاً مفاجئاً من المشتركين المتعطشين للمحتوى.

تبرز العديد من هذه المشاكل في النماذج لأن المزيد من الشركات تشتري أنظمة التعلم الآلي لكنها تفتقر إلى المعرفة الداخلية اللازمة لإدارتها؛ إذ يمكن أن يتطلب إعادة تدريب النموذج تدخل شخص خبير.

وقد أظهرت الأزمة الحالية أيضاً أن الأمور يمكن أن تسوء بدرجة أكبر من السيناريوهات المعتادة لأسوأ حالة ممكنة والتي يتم تضمينها في مجموعات بيانات التدريب. ويعتقد شارما أنه يجب تدريب المزيد من نماذج الذكاء الاصطناعي ليس فقط على التغيرات الإيجابية والسلبية خلال السنوات القليلة الماضية، ولكن أيضاً على الأحداث الغريبة مثل الكساد الكبير في الثلاثينيات، وانهيار سوق الأسهم يوم الإثنين الأسود في عام 1987، والأزمة المالية في 2007-2008. ويقول: “إن وباء مثل هذا يمثل الدافع المثالي لبناء نماذج أفضل للتعلم الآلي”.

ومع ذلك، من المستحيل الاستعداد لكل شيء. وبشكل عام، إذا كان نظام التعلم الآلي لا يرى البيانات التي يتوقع رؤيتها، فعندئذٍ ستواجه مشاكل، كما يقول ديفيد إكسل، مؤسس موقع فيتشر سبيس Featurespace، وهي شركة تحليلات السلوك التي تستخدم الذكاء الاصطناعي للكشف عن احتيالات بطاقات الائتمان. وربما يكون من المدهش أن شركة فيتشر سبيس لم تشهد تعرُّض أنظمتها القائمة على الذكاء الاصطناعي لتأثيرات جسيمة؛ إذ لا يزال الناس يشترون السلع على أمازون ويشتركون في نتفليكس كما كانوا يفعلون من قبل، لكنهم اليوم لا يشترون سلعاً باهظة الثمن أو ينفقون أموالهم في أماكن جديدة، وهي السلوكيات التي يمكن أن تثير الشكوك. ويقول إكسل: “إن سلوك الناس في الإنفاق هو انكماش عن عاداتهم القديمة”.

ويضيف أنه لم يكن على مهندسي شركته سوى التدخل وتكييف النموذج مع الزيادة في عدد الأشخاص الذين يشترون معدات الحدائق وأدوات الطاقة. وهذه هي أنواع عمليات الشراء متوسطة السعر والخارجة عن المألوف التي قد تلتقطها خوارزميات كشف الاحتيال. ويقول إكسل: “أعتقد أن هناك بالتأكيد رقابة أكبر، لقد تغير العالم، ومعه تغيرت البيانات كذلك”.

التقاط التغير في مزاج المستهلكين

فرازي هي شركة تعمل في مجال الذكاء الاصطناعي ومقرها لندن، وتلجأ هي الأخرى إلى التدخل البشري من أجل ضبط أنظمتها. وتستخدم هذه الشركة معالجة اللغة الطبيعية والتعلم الآلي لإطلاق حملات تسويق عبر البريد الإلكتروني أو إعلانات فيسبوك نيابة عن عملائها. ويعتبر الالتقاط الصحيح لمزاج المستهلكين جزءاً من وظيفتها؛ حيث يعمل نموذج الذكاء الاصطناعي لديها من خلال توليد الكثير من العبارات الممكنة ثم تغذيتها إلى شبكة عصبونية تقوم باختيار أفضل العبارات. ولكن نظراً لأن توليد اللغة الطبيعية يمكن أن يخطئ تماماً، فإن فرازي دائماً ما توكل موظفين بشراً لفحص مدخلات ومخرجات نموذج الذكاء الاصطناعي.

وعندما تفشى وباء كوفيد-19، أدركت شركة فرازي أنها قد تكون بحاجة إلى درجة حساسية أكبر من المعتاد وبدأت في تصفية واستبعاد عبارات إضافية؛ حيث قامت الشركة بحظر تعابير محددة مثل “انتشار واسع النطاق”، ومنعت استخدام الخطاب الذي يشير إلى الأنشطة التي لا يُنصح بممارستها مثل “ثياب الحفلات”. حتى أنها قامت بإزالة الرموز التعبيرية التي يمكن فهمها على أنها سعيدة للغاية أو مثيرة جداً للقلق. كما تخلَّت عن مصطلحات قد تؤجج التوتر، مثل “يا للهول” و”كن مستعداً” و”قم بتخزين المؤن” و”هيئ نفسك”. ويقول باري مالم، الرئيس التنفيذي للشركة: “بالطبع، لا يريد الناس تسويقاً يدفعهم للشعور بالقلق والخوف من قبيل ’أسرع، هذه الصفقة على وشك الانتهاء’، فهذا من شأنه أن يشعرهم بتزايد الضغط عليهم”. 

ومع ذلك، لا يمكن للنماذج المصغرة من الذكاء الاصطناعي المستخدمة في صناعة البيع بالتجزئة أن تتفوق على نماذج شركة أمازون؛ ففي هذه الأخيرة يتم إجراء بعض التعديلات الأكثر دقة وراء الكواليس. وفي ظل الصعوبات الكبيرة التي تواجهها أمازون والبائعون الخارجيون البالغ عددهم 2.5 مليون بائع على موقعها لتلبية الطلب، تقوم الشركة بإجراء تعديلات صغيرة على خوارزمياتها للمساعدة في توزيع الضغط.

يعتمد معظم باعة أمازون على الشركة للإيفاء بطلباتهم؛ حيث يخزن البائعون بضائعهم في مستودع تابع لأمازون وتضطلع الشركة بمهمة القيام بجميع الخدمات اللوجستية وتسليمها إلى منازل الأشخاص والتعامل مع المرتجعات، ثم تروج للبائعين الذين تتولى بنفسها تلبية الطلبات على بضائعهم. وعلى سبيل المثال، إذا كنت تبحث عن سلعة معينة، مثل جهاز الألعاب نينتيندو سويتش (Nintendo Switch)، فإنه من المرجح أن تكون النتيجة التي تظهر في الجزء العلوي بجوار الزر البارز”إضافة إلى السلة”، هي لبائع يستخدم لوجستيات أمازون وليس من البائعين الآخرين الذين لا يستخدمون خدمات الشركة.

لكن يقول كلاين إن أمازون قد غيرت من أسلوبها هذا في الأسابيع القليلة الماضية؛ حيث يبدو من المرجح الآن أن تقوم خوارزمياتها بالترويج للبائعين الذين يديرون بأنفسهم عمليات التوصيل الخاصة بهم. 

أسواق متقلبة

سيكون من الصعب القيام بهذا النوع من التعديل من دون تدخل يدوي؛ حيث يقول كلاين: “إن الوضع متقلب للغاية؛ ففي الأسبوع الماضي كانت الشركات تحاول أَمْثلة نماذجها للتعامل مع الطلب على الورق الصحي، وهذا الأسبوع يريد الجميع شراء الألغاز أو معدات ممارسة الرياضة”.

إن التعديلات التي تجريها أمازون على الخوارزميات الخاصة بها سيكون لها تأثيرات كبيرة على الخوارزميات التي يستخدمها البائعون لتحديد حجم إنفاقهم على الإعلان عبر الإنترنت؛ ففي كل مرة يتم تحميل صفحة ويب تحتوي على إعلانات، ينطلق مزاد فائق السرعة حيث تقرر الأنظمة المؤتمتة للمزايدة فيما بينها من سيملأ كل مربع إعلاني. ويعتمد المبلغ الذي تقرر هذه الخوارزميات إنفاقه على الإعلان على عدد هائل من المتغيرات، ولكن في النهاية يتوقف القرار على تقييم أهميتك كزبون محتمل يحدق في الصفحة. وهناك العديد من الطرق للتنبؤ بسلوك الزبائن، بما في ذلك ليس فقط البيانات المتعلقة بمشترياتك السابقة ولكن أيضاً التصنيف الذي وضعته لك الشركات الإعلانية على أساس نشاطك عبر الإنترنت.

ولكن في الوقت الحاضر، يرى كلاين أن أحد أفضل العوامل للتنبؤ فيما إذا كان الشخص الذي ينقر على أحد الإعلانات سيشتري منتجك هو المدة التي تقول إنك تستطيع توصيله خلالها. لذا تناقش شركة نوزل مع العملاء كيفية تعديل خوارزمياتهم لأخذ هذا العامل بعين الاعتبار. وعلى سبيل المثال، إذا كنت تعتقد أنه لا يمكنك التوصيل بشكل أسرع من المنافس، فقد لا يستحق الأمر أن تعرض ثمناً أعلى منهم في مزاد الإعلانات. ومن ناحية أخرى، إذا كنت تعرف أن المخزون قد نفد لدى منافسيك، فيمكنك أن تعرض ثمناً بخساً مراهناً على أنهم لن يُقدموا على المزايدة.

يقول كلاين إن كل هذا ممكن فقط مع وجود فريق متخصص يراقب مجريات الأمور بعناية. ويعتقد أن الوضع الحالي يمثل تنبيهاً للكثير من الناس الذين افترضوا أن جميع الأنظمة المؤتمتة تستطيع أن تدير نفسها بنفسها. ويقول: “أنت في حاجة إلى فريق متخصص بعلوم البيانات قادر على ربط الأحداث في العالم بما يحدث داخل الخوارزميات، فالخوارزمية لن تتمكن أبداً من التقاط بعض هذه الأحداث”.

وفي عالم متصل، كان تأثير الوباء محسوساً على نطاق واسع، ولامس الآليات التي تظل مخفية في الأوقات الاعتيادية. وإذا كنا نبحث عن جانب مشرق في كل هذا، فقد حان الوقت لتقييم الأنظمة التي تعرضت لهذه التأثيرات في الآونة الأخيرة، والسؤال عن الكيفية التي يمكن تصميمها فيها بشكل أفضل وجعلها أكثر مرونة ومقاومة. فإذا كان لابد من الوثوق بالآلات، فنحن في حاجة إلى مراقبتها.