خمسة سنتيمترات من شريطٍ لاصق خدعت كاميرات سيارة تسلا ودفعتها إلى الاستعجال بزيادة سرعتها عن طريق الخطأ.

2020-04-01 09:14:08

25 فبراير 2020
Article image

لقد تمكن قراصنةٌ من التلاعب بعدة سيارات تسلا لجعلها تزيد سرعتها بمقدار 80 كيلومتراً في الساعة؛ حيث قام باحثان بخداع نظام الكاميرا من نوع Mobileye EyeQ3 الذي تستخدمه سيارة تسلا عن طريق التغيير المتقن للوحة تحديد السرعة القصوى على جانب الطريق، بحيث يكاد يكون مستحيلاً بالنسبة للسائق البشري أن يلاحظها.

ويعتبر هذا البيان العملي من شركة الأمن السيبراني مكافي McAfee المؤشراً الأحدث على أن التعلم الآلي التنافسي يمكن أن يقوض أنظمة القيادة ذاتية التحكم، مما يمثل تحدياً أمنياً بالنسبة لأولئك الساعين لطرح هذه التكنولوجيا وتسويقها.

وقال ستيف بوفولني وشيفانجي تريفيدي من فريق مكافي لأبحاث التهديدات المتقدمة إن أنظمة كاميرا Mobileye EyeQ3 تقوم بقراءة لوحات تحديد السرعة المسموحة ومن ثم تزويد هذه المعلومات إلى برامج القيادة ذاتية التحكم مثل نظام تسلا للتحكم الآلي بتثبيت السرعة.

وقد قام الباحثان بوضع ملصقٍ صغير جداً وبالكاد يمكن رؤيته على لوحة لتحديد السرعة القصوى، وبسببه قرأت الكاميرا الرقم 85 (136 كيلومتر) على اللوحة عوضاً عن الرقم 35 (56 كيلومتر). وفي الاختبارات، فإن سيارتي تسلا من طرازي إكس وإس 2016 قد زادتا سرعتهما بمقدار 80 كيلومتراً في الساعة.

 

يتم عرض الرقم الموجود على اللوحة المعدَّلة لتحديد السرعة القصوى على أنه 85 على شاشة التنبيهات لسيارة تسلا. قلَّل متحدث رسمي باسم Mobileye من أهمية البحث قائلاً إن اللوحة قد تخدع السائق البشري أيضاً ليظن أن السرعة المسموحة هي 85 ميلاً في الساعة.

يتم خداع سيارة تسلا لتزيد سرعتها إثر قراءة الرقم 85 عوضاً عن الرقم 35.

تعتبر هذه التجربة هي الأحدث في سلسلةٍ متزايدة من الأبحاث التي تُظهر إمكانية تعرُّض أنظمة التعلم الآلي للهجمات والخداع في أوضاعٍ مهدِّدة للحياة.

لقد أمضى تريفيدي وبوفولني عاماً ونصف في هذا البحث وهم يعملون على محاكاة وتطوير مجموعةٍ من هجمات التعلم الآلي التنافسي بما فيها دراسةٌ أجراها البروفيسور داون سونج من جامعة كاليفورنيا في بيركلي، التي استخدم فيها الملصقات لخداع سيارةٍ ذاتية القيادة ودَفعِها للاعتقاد أن لوحة توقفٍ هي لوحةٌ لتحديد السرعة القصوى عند 72 كيلومتر في الساعة. وفي العام الماضي، تمكن قراصنةٌ من خداع سيارة تسلا لتدخل في المسار الخاطئ من حركة المرور، وذلك من خلال وضع ملصقاتٍ على الطريق في هجمةٍ تنافسية هدفت إلى التلاعب بخوارزميات التعلم الآلي في نظام السيارة.

وقال بوفولني: نحن ندرس هذا الأمر مقدَّماً لأن لدينا أنظمةً ذكية ستقوم في مرحلةٍ ما في المستقبل بتأدية المهام التي يتم معالجتها اليوم من قِبل البشر. فإذا لم نكن متيقظين بشأن طبيعة الهجمات وحذرين للغاية حول كيفية تصميم الأنظمة، سيكون لدينا أسطولٌ متحرك من الحواسيب المتصلة مع بعضها البعض، التي تُعدُّ واحدةً من أكثر الأهداف إغراءً للهجمات وأعظمها تأثيراً.

ومع توسع استخدام الأنظمة ذاتية التحكم، لا تنحصر المشكلة في خوارزميات التعلم الآلي داخل السيارات فقط؛ ففي مارس من عام 2019 أظهرت دراسةٌ كيف تم خداع الأنظمة الطبية للتعلم الآلي لتقديم تشخيصاتٍ خاطئة.

لقد أُرسل بحث مكافي إلى كلٍّ من تسلا وMobileye EyeQ3 في العام الماضي. ورغم أن شركة تسلا لم تستجب لطلب التعليق من إم آي تي تكنولوجي ريفيو، لكنها أقرت بالنتائج التي توصلت إليها مكافي، وقالت إنه لن يتم إصلاح هذه المشاكل في الجيل الحالي من العتاد الصلب. وقد قلَّل متحدثٌ رسمي باسم Mobileye من أهمية البحث قائلاً إن اللوحة قد تخدع السائق البشري أيضاً ليظن أن السرعة المسموحة هي 85 ميلاً في الساعة. فالشركة لا تعتبر خداع الكاميرا بمنزلة هجمة، وعلى الرغم من الدور الذي تلعبه الكاميرا في نظام التحكم بتثبيت السرعة لسيارة تسلا، فإنها لم تُصمَّم للعمل في نظام القيادة ذاتية التحكم.

وقد جاء في بيان المتحدث الرسمي باسم Mobileye: “لن تعتمد تكنولوجيا السيارات ذاتية التحكم على الاستشعار فقط، وإنما سيتم دعمها بمجموعةٍ متنوعة من التقنيات والبيانات، مثل المسح بالتعهيد الجماهيري، من أجل التأكد من وثوقية المعلومات القادمة من حساسات الكاميرا وتعزيز توافر معلوماتٍ فائضة من مصادر مختلفة وضمان السلامة”.

ومنذ ذلك الحين، انتقلت تسلا إلى استخدام كاميراتٍ تملكها الشركة في الطرازات الأحدث من السيارات، كما أطلقت Mobileye EyeQ3 عدة إصداراتٍ جديدة من كاميراتها التي لم تتأثر في مرحلة الاختبار بهذا النوع بالضبط من الهجمات.

يقول بوفولني إنه ما زال هناك عددٌ كبير من سيارات تسلا التي تعمل مستخدمةً العتاد الصلب المعرَّض للتأثر بهذه الهجمات. وأشار إلى أنه لا يمكن تطوير سيارات تسلا العاملة على الجيل الأول من العتاد الصلب لتنتقل إلى استخدام عتادٍ أحدث.