اشترك

الاستمرار بالحساب الحالي

شارك
شارك
Article image
مصدر الصورة: جيريمي بورتجي



تحذر خبيرة حماية الذكاء الاصطناعي داون سونج من إمكانية استخدام "التعلم الآلي التنافسي" للهندسة العكسية للأنظمة، خصوصاً تلك المستخدمة في الدفاع.

بقلم

2021-07-14 17:10:04

01 أبريل 2019
لن يتمكن الذكاء الاصطناعي من إحداث ثورة في أي شيء إذا أصبح بوسع القراصنة العبث به. هذا هو التحذير الذي أطلقته داون سونج، الأستاذة في جامعة كاليفورنيا بيركلي، والمختصة بدراسة المخاطر الأمنية المتعلقة بالذكاء الاصطناعي والتعلم الآلي. تحدثت سونج في إمتيك ديجيتل، وهو حدث نظمته إم آي تي تكنولوجي ريفيو في سان فرانسيسكو، وقد حذرت هناك من أن الأساليب الجديدة المستخدمة لسبر أنظمة التعلم الآلي والتلاعب بها، والتي يطلق عليها المختصون اسم أساليب "التعلم الآلي التنافسي"، قد تحدث مشاكل كبيرة بالنسبة لأي شخص يحاول استثمار قدرات الذكاء الاصطناعي في مجال الأعمال. وقد قالت إنه يمكن استخدام التعلم الآلي التنافسي لمهاجمة أي نظام مبني على هذه التكنولوجيا تقريباً: "إنها مشكلة كبيرة. ويجب أن نتعاون معاً لمواجهتها". يتضمن التعلم الآلي التنافسي اختبار الخوارزمية عن طريق تلقيمها بيانات للكشف عن المعلومات التي تم تدريبها عليها، أو تخريب الدخل بطريقة تؤدي إلى تشويش عمل النظام. وعلى سبيل المثال، فإن تلقيم خوارزمية رؤية حاسوبية بالكثير من الصور قد يتيح معرفة وظيفتها بالهندسة العكسية، وضمان الحصول على نتائج معينة، بما فيها النتائج الخاطئة. قدمت سونج عدة أمثلة عن حيل التعلم الآلي التنافسي التي قامت مجموعتها البحثية بدراستها. نُفذ أحد المشاريع بالتعاون مع جوجل، ويتضمن سبر خوارزميات التعلم الآلي التي تقوم بتوليد ردود مؤتمتة على رسائل البريد الإلكتروني (والتي استخدمت لتدريبها مجموعة بيانات البريد الإلكتروني إنرون). وقد بين هذا العمل أنه يمكن بصياغة الرسائل بطريقة محددة دفع النموذج الآلي إلى تقديم بيانات حساسة، مثل أرقام البطاقات الائتمانية. وقد استخدمت جوجل هذه

أدخل بريدك الإلكتروني واقرأ المقال مجاناً

أنشئ حساباً مجاناً واقرأ مقالتين مجاناً كل شهر من أوسع تشكيلة محتوى أنتجته ألمع العقول العالمية والعربية.

مصطلح اليوم


HACKATHON

الهاكاثون

عبارة عن حدث إبداعي يجتمع فيه المبرمجون والأشخاص المهتمون بتطوير البرمجيات معاً لفترة زمنية قصيرة تمتد من يوم واحد إلى أسبوع كحد أقصى، وذلك بهدف التدريب أو حل المشكلات أو تطوير برمجيات وعتاد قابل للعمل في نهاية الحدث.