Article image
مصدر الصورة: تايلور فيك عبر أنسبلاش



كشفت دراسة جديدة أن أحدث جيل من الشبكات العصبونية عرضة لنوع جديد من الهجمات التي تجعلها تستهلك الكثير من الطاقة.

2021-05-16 00:08:36

14 مايو 2021

هجوم جديد على الشبكات العصبونية

يمكن لنوع جديد من الهجمات أن يزيد من استهلاك أنظمة الذكاء الاصطناعي للطاقة. بشكل مشابه لهجوم الحرمان من الخدمة على الإنترنت -الذي يسعى إلى إغراق الشبكة بالطلبات وجعلها غير قابلة للاستخدام- فإن هذا الهجوم الجديد على الشبكات العصبونية يجبر شبكة عصبونية عميقة على حجز موارد حاسوبية تزيد عن حاجتها؛ ما يؤدي إلى إبطاء عملياتها.

هدف الهجوم الجديد: أحد أنواع الشبكات العصبونية

في السنوات الأخيرة، دفع القلق المتزايد بشأن استهلاك نماذج الذكاء الاصطناعي للطاقة بصورة مكلفة الباحثين إلى تصميم شبكات عصبونية أكثر كفاءة. وتنطوي إحدى هذه الشبكات -المعروفة باسم البنى متعددة المخارج المتكيفة مع المدخلات- على تقسيم المهام تبعاً لدرجة صعوبة حلها. ثم تستخدم الحد الأدنى من الموارد الحسابية اللازمة لحل كل منها.

لنفترض أن لديك صورة لأسد ينظر مباشرة إلى الكاميرا بإضاءة مثالية، وصورة أخرى لأسد رابض في منظر طبيعي معقد ومحجوب جزئياً عن الأنظار. ستقوم الشبكة العصبونية التقليدية بتمرير كلتا الصورتين عبر جميع طبقاتها وتنفق نفس القدر من الموارد الحاسوبية لوسم كل منهما. أما الشبكة العصبونية متعددة المخارج المتكيفة مع المدخلات، فقد تمرر الصورة الأولى من خلال طبقة واحدة فقط قبل إحراز عتبة الثقة اللازمة لوسمها بالتسمية الصحيحة. من شأن هذه العملية تقليص البصمة الكربونية للنموذج، بالإضافة إلى تحسين سرعته، وإتاحة إمكانية نشره على الأجهزة الصغيرة مثل الهواتف الذكية ومكبرات الصوت الذكية.

تفاصيل الهجوم

لكن هذا النوع من الشبكات العصبونية يعني أنه إذا قمت بتغيير المدخلات -مثل الصورة التي يتم تغذيتها بها- يمكنك تغيير حجم الحسابات التي تحتاجها لحلها. وهذا يفتح ثغرة أمنية يمكن أن يستغلها القراصنة، كما أوضح الباحثون من مركز ماريلاند للأمن السيبراني في ورقة بحثية جديدة تم تقديمها في المؤتمر الدولي لتمثيلات التعلم هذا الأسبوع. فمن خلال إضافة كميات صغيرة من الضوضاء إلى مدخلات الشبكة، دفعوها للاعتقاد أن المدخلات أكثر صعوبة وبالتالي زيادة حجم حساباتها.

عندما افترض الباحثون أن المهاجم يمتلك معلومات كاملة عن الشبكة العصبونية، تمكنوا من دفعها لاستهلاك أكبر قدر ممكن من الطاقة. وعندما افترضوا أن المهاجم لا يمتلك أي معلومات، كانوا لا يزالون قادرين على إبطاء قدرة الشبكة على المعالجة وزيادة استهلاكها للطاقة بنسبة تتراوح بين 20% و80%. وقد وجد الباحثون أن السبب وراء ذلك يكمن في إمكانية تطبيق نفس الهجمات عبر أنواع مختلفة من الشبكات العصبونية. ويقول إيجيتكان كايا، طالب الدكتوراه وأحد مؤلفي الورقة البحثية، إن تصميم هجوم ضد نظام واحد لتصنيف صور يكفي لتوظيفه في تعطيل العديد من هذه الأنظمة.

تنبيه حول التهديد الجديد

لا يزال هذا النوع من الهجمات نظرياً إلى حد ما؛ إذ لا يزال استخدام البنى المتكيفة مع المدخلات محدوداً في تطبيقات العالم الحقيقي. لكن يعتقد الباحثون أن هذا سيتغير بسرعة نتيجة الضغوط داخل هذا المجال التي تسعى لنشر شبكات عصبونية أخف استهلاكاً للطاقة، بهدف استخدامها في تطبيقات مثل المنزل الذكي وأجهزة إنترنت الأشياء الأخرى. ويقول تيودور دوميتراس، الأستاذ الذي أشرف على البحث، إن هناك حاجة إلى مزيد من العمل لفهم حجم الضرر الذي يمكن أن يتسبب فيه هذا النوع من التهديد. لكنه يضيف أن هذه الورقة البحثية تمثل الخطوة الأولى لزيادة الوعي: “ما يهمني هو لفت انتباه الناس إلى حقيقة أن هذا نموذج تهديد جديد، وأن هذا النوع من الهجمات قابل للتنفيذ بالفعل”.


شارك



مراسلة الذكاء الاصطناعي، إم آي تي تكنولوجي ريفيو