هذا القسم يأتيكم بالتعاون مع:


نقدم لك قائمة تدقيق تسمح لك بتقييم نوعية مُنتج التعلم الآلي الذي تقدمه الشركة ومصداقيته.

Article image
مصدر الصورة: إم إس تك

منذ فترة وجيزة، استضافت دولة الإمارات العربية المتحدة مؤتمر إيه آي إيفريثينج، وهو أول مؤتمر كبير تعقده في مجال الذكاء الاصطناعي، وأحد أكبر مؤتمرات تطبيقات الذكاء الاصطناعي في العالم. وقد مثّل الحدث برهاناً واضحاً على اتساع مجال الصناعات التي تستخدم شركاتها التعلم الآلي، كما أنه كان رسالة تذكير هامة بمَيْل عالم الأعمال إلى الغموض والمبالغة فيما يتعلق بالإمكانات الفعلية للتكنولوجيا.

ولهذا، أرغب في أن أوضح لكم الأسئلة الخمسة التي عادة ما ألجأ إليها لتقييم نوعية التكنولوجيا التي تقدمها شركة ما ومصداقيتها:

  1. ما المشكلة التي تحاول هذه التكنولوجيا حلها؟

أبدأ على الدوام بمسألة المشكلة. ما الذي تقول الشركة إنها تحاول فعله، وأنه يستحق استخدام التعلم الآلي؟ ربما نتكلم عن أفيكتيفا، التي تقوم ببناء تكنولوجيا التعرف على الحركة لتتبع وتحليل المشاعر البشرية بدقة. من الناحية المجردة: هذه مشكلة تعرف على الأنماط، ولهذا فهي من المشاكل التي يمكن أن يتعامل معها التعلم الآلي (اقرأ مقالة: ما هو التعلم الآلي؟ ). سيكون أيضاً من الصعب أن نتعامل معها بطريقة أخرى لأن برمجتها على شكل مجموعة من القواعد أمر معقد للغاية.

  1. كيف تستخدم الشركة التعلمَ الآلي للتعامل مع هذه المشكلة؟

بعد أن فهمنا المشكلة بشكل مجرد، يجب أن نعرف كيف ستقوم الشركة بمعالجتها؛ فمن الممكن للشركة التي تقوم بالتعرف على المشاعر أن تعتمد على العديد من الأساليب لبناء منتجها، حيث يمكن أن تقوم بتدريب نظام رؤية حاسوبية على مطابقة الأنماط بالتعابير الوجهية عند البشر، أو تدريب نظام صوتي على مطابقة الأنماط بنبرة الصوت البشرية. وبشكل عام، يجب أن نرى كيف قامت الشركة بإعادة صياغة المشكلة لتحويلها إلى مسألة تعلم آلي، وتحديد البيانات التي ستلقمها لخوارزمياتها.

  1. كيف ستحصل الشركة على بيانات التدريب؟

بعد أن عرفنا نوع البيانات التي ستستخدمها الشركة لتدريب خوارزمياتها، يجب أن نعرف كيف ستحصل عليها؛ حيث تعتمد معظم تطبيقات الذكاء الاصطناعي على التعلم الآلي الموجه، الذي يتطلب بيانات مصنفة عالية الجودة ومنتقاة بعناية. ولكن من سيقوم بتصنيف البيانات؟ وإذا كانت التصنيفات تعبر عن مسألة ذاتية (مثل العواطف) فهل ستعتمد على معايير علمية محددة؟ في حالة أفيكتيفا، قامت الشركة بجمع بيانات الصوت والفيديو بشكل تطوعي من المستخدمين، كما وظفت أخصائيين مدربين لتصنيف البيانات بطريقة صارمة الاتساق. إن معرفة تفاصيل هذه المرحلة من العملية يسمح أيضاً بتحديد أي مصدر محتمل لجمع البيانات أو التحيز في التصنيف (اقرأ مقالة: كيف يتحيز الذكاء الاصطناعي ولماذا يصعب إصلاحه؟).

  1. هل يوجد لدى الشركة عمليات تدقيق للمنتجات؟

الآن، يجب أن نرى ما إذا كانت الشركة تقوم باختبار منتجاتها أم لا. فمثلاً كم تبلغ دقة خوارزمياتها؟ وهل تم اختبارها للبحث عن التحيز؟ وماذا عن تكرار الشركة لعمليات التقييم لخوارزمياتها من أجل الحرص على جودة أدائها؟ وإذا لم تصل خوارزميات الشركة إلى المستوى المطلوب من الدقة أو العدالة، فما خططها حتى تحقق هذا الأمر قبل إطلاق المنتج؟

  1. هل يجب أن تستخدم الشركة التعلم الآلي لحل هذه المشكلة؟

ليس من السهل الإجابة عن هذا السؤال. وحتى لو كان بالإمكان حل المشكلة بالتعلم الآلي، فمن الهام أن نسأل ما إذا كان يجب أن نفعل هذا فعلاً. يمكنك أن تبني منصة للتعرف على المشاعر بدقة تصل على الأقل إلى 80% لمختلف أنواع البشر، ولكن هذا لا يعني أن هذه المنصة لن تُستخدم بشكل مسيء؛ فهل تتفوق فوائد هذه التكنولوجيا بشكل واضح على الانتهاكات المحتملة لحقوق الانسان بمراقبة مشاعر الناس؟ وهل وضعت الشركة آليات للتخفيف من أية آثار سلبية محتملة؟

في رأيي، يجب على أية شركة تقدم منتجاً جيداً يعتمد على التعلم الآلي أن تحقق كل ما سبق؛ أي يجب أن تتعامل مع مشكلة مناسبة للتعلم الآلي، ويجب أن يكون لديها أساليب جيدة للحصول على البيانات وتدقيقها، وخوارزميات عالية الدقة أو خطط واضحة لتحسينها، ويجب أن تتعامل مع المسائل الأخلاقية بشكل مباشر وبلا مواربة. وغالباً ما تنجح الشركات في المسائل الأربعة الأولى وتفشل في الأخيرة. ويمثل هذا بالنسبة لي إشارة فارقة خطيرة، فهو يثبت أن الشركة لا تفكر بشكل شامل في تأثير تكنولوجياتها على حياة الناس، ويمكن أن ترتكب أخطاء فادحة لاحقاً كما فعلت فيسبوك.

فإذا كنت مديراً تنفيذياً يبحث عن حلول تعتمد على الذكاء الاصطناعي لشركته، فهذه دلالة واضحة يجب أن تكون كافية للتراجع عن أي مشروع شراكة مع أية جهة تجدها لديها.


شارك



مراسلة الذكاء الاصطناعي، إم آي تي تكنولوجي ريفيو