اشترك

الاستمرار بالحساب الحالي

شارك
شارك
Article image
صور أخطأ الذكاء الاصطناعي في تصنيفها.
مصدر الصور: UNSPLASH: FLORIAN VAN DUYN / KRZYSZTOF NIEWOLNY / PRANAY PAREEK



إن الأخطاء التي يرتكبها الذكاء الاصطناعي حالياً تُحتِّم على الباحثين جعلَ الخوارزميات أكثر مناعةً ضد الهجمات.

2021-07-29 15:20:10

08 يوليو 2019
يتمتع الذكاء الاصطناعي بمهارة عالية في التعرف على الأغراض في الصور، إلا أن خداعه والتلاعب به ما زال سهلاً جداً. يكفي أن تضيف بعض التعديلات الفنية المعينة أو تُدرج طبقة من التشويش غير المرئي بالعين المجردة -لكن الآلة تدركه- حتى تتجاوز نظام التعرّف على الصور بكل سهولة. بل إن هذا التلاعب يكون له في بعض الأحيان أثرٌ مُميت؛ حيث يمكن لإضافة بعض الملصقات إلى لافتة توقُّف مرورية أن تجعل السيارة ذاتية القيادة تظن أن اللافتة تشير إلى تحديد السرعة بـ 70 كيلومتراً في الساعة وليس التوقف. من ناحية أخرى فإن إضافة تلك الملصقات إلى الطريق قد أدى بسيارة تسلا إلى أن تنحرف لتسير في الاتجاه المعاكس. (وطبيعي أن يكون لهذا التلاعب جانب إيجابي، منه على سبيل المثال: حماية المواطنين من المراقبة الحكومية. وهذا ما يعنيه المثل: مصائب قوم عند قوم فوائد). وجميع ما سبق من عمليات التلاعب بالذكاء الاصطناعي تُعرف بمصطلح "الأمثلة المُربكة"، وفي الوقت الراهن يسعى الكثير من الباحثين والعلماء لتطوير أساليب جديدة لتحصين نُظُم الذكاء الاصطناعي منها. لكن هناك دراسة علمية نُشرت العام الماضي من قِبل فريق من الباحثين لدى مشروع

أدخل بريدك الإلكتروني واقرأ المقال مجاناً

أنشئ حساباً مجاناً واقرأ مقالتين مجاناً كل شهر من أوسع تشكيلة محتوى أنتجته ألمع العقول العالمية والعربية.

مصطلح اليوم


HEATMAP

الخريطة الحرارية

تمثيل رسومي ثنائي الأبعاد للبيانات يستخدم نظام ترميز لوني للتعبير عن القيم المختلفة ويقدم ملخصاً بصرياً فورياً للمعلومات؛ مما يسهل عملية فهم مجموعات البيانات المُعقدة.



مراسلة الذكاء الاصطناعي ، إم آي تي تكنولوجي ريفيو