شارك
الرئيسية
4 دقيقة
ملخص:
المشكلة: تبنّي تكنولوجيات الذكاء الاصطناعي يمكن أن يكون محفوفاً بالمخاطر، بما في ذلك التحيز، انتشار المعلومات المزيفة، وإمكانية استخدامه في بناء أسلحة خطيرة، أو يمكن أن تسبب الإدمان على استخدامها كما في حال بوتات الدردشة.
السبب: نقص الفهم الشامل لمخاطر الذكاء الاصطناعي وتعقيد عمل أنظمته، بالإضافة إلى الأخطاء المرتَكبة في تدريب نماذج الذكاء الاصطناعي، كمحدودية البيانات التي يتم تدريبها عليها، أو الاعتقاد بأنها يمكن أن تحل مكان البشر في الكثير من الأعمال، لا سيما الإبداعية منها كالكتابة.
الحل: إنشاء قواعد بيانات مثل "AI Risk Repository" لتوثيق ودراسة المخاطر المحتملة، وضرورة مراقبة وتقييم الأنظمة بعد إطلاقها لتفادي المخاطر، وتقييم المخاطر وتصنيفها للعمل على مواجهتها ووضع الحلول المناسبة لكل منها على حدة. بالإضافة إلى أهمية التوعية بأن هذه المخاطر قد لا تكون على سوية واحدة، وأنه لا يمكن تضييق نطاقها كما يحاول كثيرون، بل يجب البحث فيها بإسهاب نظراً لتعقيدها وتعددها.
قد يكون تبنّي الذكاء الاصطناعي مسألة محفوفة بالمخاطر. فقد تعمل هذه الأنظمة بصورة متحيزة، أو تطلق المعلومات المزيفة بصورة متكررة كالببغاوات، ويمكن حتى أن تتسبب بالإدمان. إضافة إلى ما سبق، ثمة احتمال يتضمن استخدام الذكاء الاصطناعي لبناء أسلحة بيولوجية أو كيميائية جديدة، بل ويمكن حتى أن يخرج عن سيطرتنا يوماً ما.
اقرأ أيضاً: أبرز مخاطر الخصوصية الناجمة عن استخدام الذكاء الاصطناعي
مخزن مخاطر استخدام الذكاء الاصطناعي
وحتى نتمكن من التعامل مع هذه المخاطر المحتملة، يجب أولاً أن نعرف ماهية هذه المخاطر. وستساعدنا في هذه المهمة قاعدة بيانات جديدة بنتها مجموعة فيوتشر تيك (FutureTech) في مختبر علوم الكمبيوتر والذكاء الاصطناعي أو اختصاراً "سيسيل" (CSAIL) في معهد ماساتشوستس للتكنولوجيا (إم آي تي) مع مجموعة من المشاركين، ونشرتها عبر الإنترنت مؤخراً. حيث يتضمن مخزن مخاطر الذكاء الاصطناعي (AI Risk Repository) توثيقاً لأكثر من 700 خطر محتمل يمكن أن ينتج عن أنظمة الذكاء الاصطناعي المتطورة. يمثل هذا المخزن أشمل مصادر المعلومات حتى الآن حول المشاكل التي جرى تحديدها مسبقاً والتي يمكن أن تنشأ بسبب بناء نماذج الذكاء الاصطناعي ونشرها.
تفحص الفريق بدقة المقالات التي تبحث في مخاطر الذكاء الاصطناعي، سواء المقالات المنشورة في المجلات الخاضعة لمراجعة الأقران، أو النسخ الأولية من الأوراق البحثية المخزنة في قواعد البيانات المخصصة لمرحلة ما قبل النشر. تركزت أكثر المخاطر شيوعاً حول مسائل سلامة أنظمة الذكاء الاصطناعي ودرجة استقرارها (بنسبة 76%)، والتحيز والتمييز غير العادل (بنسبة 63%) وانتهاك الخصوصية (بنسبة 61%). أما المخاطر الأقل شيوعاً فقد كانت تتعلق بدرجة أكبر بالجوانب الداخلية المنشأ للذكاء الاصطناعي، مثل خطر بناء ذكاء اصطناعي مزود بالقدرة على الشعور بالألم أو تجربة شيء قريب إلى "الموت".
تُظهر قاعدة البيانات أيضاً أنه لا يمكن تحديد غالبية المخاطر الناجمة عن الذكاء الاصطناعي إلا بعد أن يصبح النموذج الخاضع للدراسة متاحاً للعامة. وتبلغ نسبة المخاطر المدروسة التي جرى اكتشافها قبل نشرها 10% فقط.
التأثير في تقييمنا للذكاء الاصطناعي
قد تؤثر هذه النتائج في كيفية تقييمنا للذكاء الاصطناعي، حيث نميل حالياً إلى التركيز على ضمان سلامة النموذج قبل إطلاقه. يقول مدير فيوتشر تيك في إم آي تي وأحد مصممي قاعدة البيانات، نيل تومبسون: "الرسالة التي يمكن فهمها من قاعدة البيانات التي صممناها، هو أن نطاق المخاطر واسع، ولا يمكن التحقق منها جميعاً بصورة استباقية". ولهذا، قد يرغب المدققون وصانعو السياسات والعلماء في المختبرات في مراقبة النماذج بعد إطلاقها، وذلك بإجراء عمليات مراجعة منتظمة للمخاطر الناجمة عنها بعد نشرها.
كانت هناك محاولات عديدة لبناء قائمة شبيهة بقاعدة البيانات هذه في الماضي، لكن اهتمامها كان منصباً في المقام الأول على نطاق ضيق من الأضرار المحتملة التي يمكن أن تنشأ من الذكاء الاصطناعي، كما يقول تومبسون، وهذا الأسلوب التدريجي جعل الحصول على تصور شامل للمخاطر المقترنة بالذكاء الاصطناعي مسألة صعبة.
وحتى مع قاعدة البيانات الجديدة هذه، من الصعب أن نحدد مخاطر الذكاء الاصطناعي الأكثر إثارة للقلق، وهي مهمة أصبحت أكثر تعقيداً لأننا لا نفهم تماماً كيفية عمل أحدث أنظمة الذكاء الاصطناعي حتى.
قرر مصممو قاعدة البيانات أن يتفادوا الدخول في متاهات هذا السؤال، واختاروا ألا يصنفوا المخاطر بناء على مستوى الخطر الذي تشكله.
اقرأ أيضاً: لماذا تعمل الشركات على إنشاء مراكز بيانات في الفضاء؟
قاعدة بيانات محايدة وشاملة
يقول المبتكر الرئيسي لقاعدة البيانات، والباحث في مرحلة ما بعد الدكتوراة في مجموعة فيوتشر تيك في إم آي تي، بيتر سلاتيري: "ما أردنا أن نفعله حقاً هو بناء قاعدة بيانات محايدة وشاملة، وأعني بالمحايدة أن نأخذ كل شيء كما ورد من مصدره، وأن نتحلى بمستوى عالٍ من الشفافية إزاء هذه المسألة".
لكن هذا الأسلوب قد يحدّ من فائدة قاعدة البيانات هذه، كما تقول طالبة الدكتوراة في علوم الكمبيوتر في جامعة ستانفورد، وعضو مركز سلامة الذكاء الاصطناعي فيها، أنكا ريويل، التي لم تشارك في المشروع. وتضيف قائلة إن مجرد تجميع المخاطر المقترنة بالذكاء الاصطناعي سيصبح غير كافٍ قريباً. وتقول: "لقد أنجزوا عملهم بكثير من الدقة والعناية، ويمثل هذا نقطة انطلاق جيدة للجهود البحثية الأخرى في المستقبل، لكنني أعتقد أننا وصلنا إلى مرحلة لم تعد فيها مسألة توعية الناس بشأن هذه المخاطر كلها مشكلتنا الرئيسية بعد الآن. فالمشكلة الرئيسية في نظري هي ترجمة هذه المخاطر إلى أفعال. فما هي الإجراءات المطلوبة فعلياً حتى نواجهها؟"
تفتح قاعدة البيانات هذه الباب أمام أبحاث مستقبلية أخرى. ومن الأسباب التي دفعت مصممي قاعدة البيانات هذه إلى تجميع هذه القائمة من المخاطر، محاولة الإجابة عن أسئلتهم الخاصة، مثل تحديد المخاطر التي لم تحظ بما تستحق من البحث، أو التي ما زالت خارج نطاق الدراسة. يقول تومبسون: "المسألة الأكثر إثارة للقلق بالنسبة لنا هي التالية: هل هناك ثغرات؟ لقد بنينا هذا المشروع ليكون لدينا قاعدة بيانات فعالة، وتمثل بداية عمل مفيد. يقول سلاتيري: "نحن متحمسون للغاية لتلقي الملاحظات حول هذا المشروع. فنحن لم نطرح هذا المشروع واهمين ومعتقدين أننا اكتشفنا كل شيء حقاً، وأن كل ما فعلناه سيكون مثالياً".