كيف تمنع الذكاء الاصطناعي من التعرف على وجهك في صور السيلفي؟
قد يبدو تحميل الصور الشخصية على الإنترنت بمنزلة استهتار بالخصوصية؛ إذ ينطوي على تساؤلات من قبيل: من سيتمكن من الوصول إليها؟ وماذا سيفعلون بها؟ وما هي خوارزميات التعلم الآلي التي ستستفيد منها في عملية التدريب؟

وفي الوقت الحاضر، يمكن لأي شخص يتمتع بمهارات البرمجة الأساسية تطوير برنامج تعرف على الوجوه. مما يعني أن هناك احتمالية أكثر من أي وقت مضى لإساءة استخدام هذه التكنولوجيا في كل شيء بدءاً من التحرش الجنسي والتمييز العنصري وصولاً إلى القمع السياسي والاضطهاد الديني.

يبذل عدد من الباحثين في مجال الذكاء الاصطناعي جهوداً للوقوف في وجه هذه المخاطر من خلال تطوير أساليب تضمن عدم تمكن أنظمة الذكاء الاصطناعي من التعلم من البيانات الشخصية. وسيتم تقديم اثنين من أحدث هذه الأساليب هذا الأسبوع في المؤتمر الدولي لتمثيلات التعلم (ICLR)، وهو أحد أبرز المؤتمرات في مجال الذكاء الاصطناعي:

1. الأداة الأولى فوكس (Fawkes): طورها باحثون من جامعة شيكاغو. وعند تطبيق تقنية فوكس على مجموعة من صور السيلفي، فإنها ستدخل تعديلات على مستوى البيكسل إلى الصور تمنع أحدث أنظمة التعرف على الوجوه من تحديد هوية الشخص الظاهر في الصور. وقد أثبتت فعاليتها بنسبة 100% ضد أشهر أنظمة التعرف على الوجوه مثل إيه دبليو إس ريكوجنيشين (AWS Rekognition) من أمازون ومايكروسوفت آزور وفيس ++. وقد تم تحميل فوكس بالفعل ما يقرب من نصف مليون مرة من موقع المشروع. وقام أحد المستخدمين بإنشاء إصدار منها متاح عبر الإنترنت، مما يسهل على الأشخاص استخدامها.
2. الأداة الثانية لو-كي (LowKey): طورها باحثون من جامعة ماريلاند. وتتمتع بميزات إضافية عن فوكس من خلال تطبيق التعديلات على الصور بناءً على نوع أقوى من الهجمات التنافسية، والذي ينجح أيضاً في خداع النماذج التجارية التي تم تدريبها مسبقًا. وتتوفر نسخة من لو-كي عبر الإنترنت، شأنها شأن فوكس.

• كيف يمكنك (تسميم) البيانات التي تستخدمها الشركات التكنولوجية الكبيرة لمراقبتك؟ الرابط

كيف يمكن للقراصنة دفع الذكاء الاصطناعي لاستهلاك المزيد من الطاقة؟
في السنوات الأخيرة، دفع القلق المتزايد بشأن استهلاك نماذج الذكاء الاصطناعي للطاقة بصورة مكلفة الباحثين إلى تصميم شبكات عصبونية أكثر كفاءة. وتنطوي إحدى هذه الشبكات -المعروفة باسم البنى متعددة المخارج المتكيفة مع المدخلات- على تقسيم المهام تبعاً لدرجة صعوبة حلها. ثم تستخدم الحد الأدنى من الموارد الحسابية اللازمة لحل كل منها.

لكن هذا النوع من الشبكات العصبونية يعني أنه إذا قمت بتغيير المدخلات -مثل الصورة التي يتم تغذيتها بها- يمكنك تغيير حجم الحسابات التي تحتاجها لحلها. وهذا يفتح ثغرة أمنية يمكن أن يستغلها القراصنة، كما أوضح الباحثون من مركز ماريلاند للأمن السيبراني في ورقة بحثية جديدة. فمن خلال إضافة كميات صغيرة من الضوضاء إلى مدخلات الشبكة، دفعوها للاعتقاد أن المدخلات أكثر صعوبة وبالتالي زيادة حجم حساباتها.

ووفقاً للباحثين، يمكن لهذا النوع من الهجمات أن يزيد من استهلاك أنظمة الذكاء الاصطناعي للطاقة. بشكل مشابه لهجوم الحرمان من الخدمة على الإنترنت -الذي يسعى إلى إغراق الشبكة بالطلبات وجعلها غير قابلة للاستخدام- فإن هذا الهجوم الجديد على الشبكات العصبونية يجبر شبكة عصبونية عميقة على حجز موارد حاسوبية تزيد عن حاجتها؛ ما يؤدي إلى إبطاء عملياتها.

ورغم أن هذا النوع من الهجمات لا يزال نظرياً إلى حد ما، لكن يعتقد الباحثون أن هذا سيتغير بسرعة نتيجة الضغوط داخل هذا المجال التي تسعى لنشر شبكات عصبونية أخف استهلاكاً للطاقة، بهدف استخدامها في تطبيقات مثل المنزل الذكي وأجهزة إنترنت الأشياء الأخرى.

تابع القراءة على موقعنا: الرابط
اقرأ مقالتنا ذات الصلة بالموضوع:

• تخيل أن الذكاء الاصطناعي يشبه النفط من زاويةٍ ما! الرابط

نتائج استطلاع رأي للمدراء في 7 قطاعات حول تبني الذكاء الاصطناعي
أصدرت مجموعة (KPMG) نتائج استطلاعها المعنون "الازدهار في عالم يسوده الذكاء الاصطناعي" والذي شمل آراء قادة الأعمال في 7 قطاعات رئيسية هي: التكنولوجيا، الخدمات المالية، التصنيع، الرعاية الصحية، علوم الحياة، تجارة التجزئة، القطاع الحكومي.

إليك أهم نتائج الاستطلاع:

• اعتبر 92% من المستطلعين أن الذكاء الاصطناعي سيجعل منظماتهم تعمل بكفاءة أكبر.
• رأى 74% منهم أن قدرات الذكاء الاصطناعي في مساعدة شركاتهم هي في الحقيقة أقل مما يروج له إعلامياً.
• يرغب 85% من المدراء بأن تقوم منظماتهم بتطبيق تقنيات الذكاء الاصطناعي بسرعة أكبر.
• عبر 65% منهم عن اعتقادهم بتأخر الولايات المتحدة عن بعض الدول الأخرى في تبني تقنيات الذكاء الاصطناعي.
• قال 42% من المدراء أنه لا بد من التعامل مع مشكلة تحيز الذكاء الاصطناعي.
• أكد 94% من المدراء في قطاع التصنيع ضرورة أن تقوم الحكومة بتنظيم مجال الذكاء الاصطناعي.

اقرأ الاستطلاع كاملاً: الرابط (إنجليزي)