اشترك

الاستمرار بالحساب الحالي

شارك
شارك


تظهر الهجمات التنافسية ضد تقنية التعلم المعزز أنها أقل مناعةً مما اعتقدنا، ويمكن لهذا الأمر أن يحمل عواقبَ وخيمة.

2020-04-01 10:24:38

05 مارس 2020
Article image
مصدر الصورة: إم آي تي تكنولوجي ريفيو / آدم جليف
يصطفُّ بوت كرة القدم ليوجِّه تسديدةً إلى المرمى، لكن الحارس يسقط على الأرض ملوحاً بساقيه عوضاً عن الاستعداد لصد الركلة، مما يُربك المهاجِم الذي يبدأ برقصةٍ غريبة ويتعثر بقدميه ويلوح بذراعه قبل أن يسقط أرضاً، والنتيجة 1-0 لصالح حارس المرمى. إن ما نراه ليس تكتيكاً يمكن أن يلجأ اللاعبون المحترفون إلى استخدامه، بل هو إثباتٌ على أن الذكاء الاصطناعي المدرب بواسطة التعلم المُعزَّز العميق -وهي التقنية وراء تصميم أنظمة الذكاء الاصطناعي المتطورة لممارسة الألعاب مثل ألفاجو وأوبن إيه آي فايف- هو أكثر عرضةً للهجمات مما اعتقدناه سابقاً، ويمكن لهذا الأمر أن يحمل عواقبَ وخيمة. مصدر الفيديو: آدم جليف خلال السنوات القليلة الماضية، اكتشف الباحثون العديد من الطرق لاختراق أنظمة الذكاء الاصطناعي المُدرَّبة باستخدام بياناتٍ موسومة، وهو ما يُعرف باسم التعلم الموجَّه. حيث يمكن لتعديلاتٍ بسيطة على دخل النظام -من قبيل تغيير بضعة بيكسلات في صورة- أن يربكه تماماً، مما يجعله يتعرف على صورة لحيوان الكسلان على أنها صورة لسيارة سباق على سبيل المثال. وليس هناك إصلاحٌ مضمون لهذا النوع من الهجمات التي تسمى هجمات تنافسية.  يعتبر التعلم المعزز تقنيةً حديثة نسبياً مقارنة بالتعلم الموجه ولم تتم دراسته بالعمق الكافي. لكن تبين أنه معرضٌ هو الآخر للهجمات عن طريق الدخل المُفبرك. يقوم التعلم المعزَّز بتعليم الذكاء الاصطناعي كيفية

أدخل بريدك الإلكتروني واقرأ المقال مجاناً

أنشئ حساباً مجاناً واقرأ مقالتين مجاناً كل شهر من أوسع تشكيلة محتوى أنتجته ألمع العقول العالمية والعربية.