اشترك

الاستمرار بالحساب الحالي

شارك
شارك
Article image
صور أخطأ الذكاء الاصطناعي في تصنيفها.
مصدر الصور: UNSPLASH: FLORIAN VAN DUYN / KRZYSZTOF NIEWOLNY / PRANAY PAREEK



إن الأخطاء التي يرتكبها الذكاء الاصطناعي حالياً تُحتِّم على الباحثين جعلَ الخوارزميات أكثر مناعةً ضد الهجمات.

2021-07-29 15:20:10

08 يوليو 2019
يتمتع الذكاء الاصطناعي بمهارة عالية في التعرف على الأغراض في الصور، إلا أن خداعه والتلاعب به ما زال سهلاً جداً. يكفي أن تضيف بعض التعديلات الفنية المعينة أو تُدرج طبقة من التشويش غير المرئي بالعين المجردة -لكن الآلة تدركه- حتى تتجاوز نظام التعرّف على الصور بكل سهولة. بل إن هذا التلاعب يكون له في بعض الأحيان أثرٌ مُميت؛ حيث يمكن لإضافة بعض الملصقات إلى لافتة توقُّف مرورية أن تجعل السيارة ذاتية القيادة تظن أن اللافتة تشير إلى تحديد السرعة بـ 70 كيلومتراً في الساعة وليس التوقف. من ناحية أخرى فإن إضافة تلك الملصقات إلى الطريق قد أدى بسيارة تسلا إلى أن تنحرف لتسير في الاتجاه المعاكس. (وطبيعي أن يكون لهذا التلاعب جانب إيجابي، منه على سبيل المثال: حماية المواطنين من المراقبة الحكومية. وهذا ما يعنيه المثل: مصائب قوم عند قوم فوائد). وجميع ما سبق من عمليات التلاعب بالذكاء الاصطناعي تُعرف بمصطلح "الأمثلة المُربكة"، وفي الوقت الراهن يسعى الكثير من الباحثين والعلماء لتطوير أساليب جديدة لتحصين نُظُم الذكاء الاصطناعي منها. لكن هناك دراسة علمية نُشرت العام الماضي من قِبل فريق من الباحثين لدى مشروع

مقالك الأول مجاناً، أدخل بريدك الإلكتروني واقرأ.

أو اشترك الآن واستفد من العرض الأقوى بمناسبة اليوم الوطني السعودي.
25% على الاشتراكات السنوية في مجرة.



مراسلة الذكاء الاصطناعي ، إم آي تي تكنولوجي ريفيو