content_cookies111:string(1840) "{"id":15556,"content_cookies":null,"user_header":{"SERVER_SOFTWARE":"Apache\/2.4.52 (Debian)","REQUEST_URI":"\/%d8%ae%d8%b7%d8%a3-%d9%81%d9%8a-%d8%a3%d9%86%d8%b8%d9%85%d8%a9-%d8%a7%d9%84%d8%aa%d8%b9%d8%b1%d9%81-%d8%b9%d9%84%d9%89-%d8%a7%d9%84%d9%88%d8%ac%d9%88%d9%87\/","REDIRECT_STATUS":"200","HTTP_X_FORWARDED_PROTO":"https","HTTP_CONNECTION":"upgrade","HTTP_HOST":"technologyreview.ae","HTTP_CF_CONNECTING_IP":"44.192.254.173","HTTP_CF_IPCOUNTRY":"US","HTTP_ACCEPT_ENCODING":"gzip","HTTP_CF_RAY":"80afcba64df607b6-IAD","HTTP_CF_VISITOR":"{\\\"scheme\\\":\\\"https\\\"}","HTTP_USER_AGENT":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)","HTTP_ACCEPT":"text\/html,application\/xhtml+xml,application\/xml;q=0.9,*\/*;q=0.8","HTTP_ACCEPT_LANGUAGE":"en-US,en;q=0.5","HTTP_CDN_LOOP":"cloudflare","PATH":"\/usr\/local\/sbin:\/usr\/local\/bin:\/usr\/sbin:\/usr\/bin:\/sbin:\/bin","SERVER_SIGNATURE":"Apache\/2.4.52 (Debian) Server at technologyreview.ae Port 80<\/address>\n","SERVER_NAME":"technologyreview.ae","SERVER_ADDR":"172.18.0.14","SERVER_PORT":"80","REMOTE_ADDR":"44.192.254.173","DOCUMENT_ROOT":"\/var\/www\/html","REQUEST_SCHEME":"http","CONTEXT_PREFIX":"","CONTEXT_DOCUMENT_ROOT":"\/var\/www\/html","SERVER_ADMIN":"webmaster@localhost","SCRIPT_FILENAME":"\/var\/www\/html\/index.php","REMOTE_PORT":"57110","REDIRECT_URL":"\/\u062e\u0637\u0623-\u0641\u064a-\u0623\u0646\u0638\u0645\u0629-\u0627\u0644\u062a\u0639\u0631\u0641-\u0639\u0644\u0649-\u0627\u0644\u0648\u062c\u0648\u0647\/","GATEWAY_INTERFACE":"CGI\/1.1","SERVER_PROTOCOL":"HTTP\/1.1","REQUEST_METHOD":"GET","QUERY_STRING":"","SCRIPT_NAME":"\/index.php","PHP_SELF":"\/index.php","REQUEST_TIME_FLOAT":1695440733.390556,"REQUEST_TIME":1695440733,"argv":[],"argc":0,"HTTPS":"on"},"user_ip":"44.192.254.173","user_agent":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)"}"
هذه الميزة مخصصة للمشتركين يمكنهم مشاركة المواضيع بحد اقصى 10 مواد من كافة مواقع مجرة
أثبت عددٌ من الباحثين تجريبياً أنه يمكن خداع نظام عصري للتعرف على الوجوه بحيث يرى شخصاً غير موجود فعلياً.
فقد قام فريق من شركة مكافي للأمن السيبراني بتصميم هجوم ضد نظام تعرف على الوجوه يماثل الأنظمة المستخدمة حالياً في المطارات للتأكد من جوازات السفر. وباستخدام التعلم الآلي، قام الباحثون ببناء صورة تبدو شبيهة بشخص معين بالنسبة للعين البشرية، ولكنها تبدو بالنسبة لنظام التعرف على الوجوه شخصاً آخر، بشكل يتيح على سبيل المثال خداع النظام للسماح لشخص ما بالصعود على متن رحلة جوية على الرغم من ورود اسمه على قائمة حظر السفر.
سجل في نشرة الخوارزمية
ابق مواكباً لأحدث أخبار وتطبيقات الذكاء الاصطناعي في قطاعك، وتأثيراته المستقبلية على مجال عملك.
تم الإشتراك بنجاح !هناك خطأ ما, حاول مجدداً
يقول ستيف بوفولني، المؤلف الأساسي للدراسة: "في حال استخدام كاميرا تعمل بشكل مباشر على تحديد هوية الشخص أمامها، ومقارنتها بصورة جواز السفر، يمكن بشكل واقعي ومتكرر أن نتسبب بهذا النوع من التصنيف الخاطئ الموجَّه".
مبدأ العمل
لخداع الخوارزمية، استخدم الباحثون خوارزمية ترجمة الصور المعروفة باسم سايكل جان (CycleGAN)، والتي تقدم نتائج ممتازة في تحويل الصور الفوتوغرافية من أسلوب إلى أسلوب آخر. وعلى سبيل المثال، يمكن أن تقوم الخوارزمية بتحويل صورة ميناء لتبدو وكأنها من أعمال الرسام الفرنسي مونيه، أو تجعل صورة تُظهر عدداً من الجبال في فصل الصيف تبدو وكأنها التُقطت في فصل الشتاء.
مصدر الصورة: جون يان وتيسونج بارك وآخرون
استخدم فريق مكافي 1,500 صورة لكل من المؤلفين الرئيسيين في المشروع، وزوَّدوا خوارزمية سايكل جان بالصور لجعل كل شخص منهم يبدو على هيئة شخص آخر من نفس المجموعة. وفي نفس الوقت، استخدم الفريق خوارزمية التعرف على الوجوه لتفحص الصور التي ولدتها خوارزمية سايكل جان والحصول على هويات الأشخاص التي تعرفت عليها. وبعد توليد مئات الصور، توصلت خوارزمية سايكل جان في نهاية المطاف إلى توليد صورة مزيفة تبدو وكأنها تعود للشخص A للعين المجردة، ولكنها تستطيع خداع نظام التعرف على الوجوه بحيث يعتقد أنها تعود للشخص B.
مصدر الصورة: مكافي
على الرغم من أن هذه الدراسة تثير مخاوف واضحة حول مناعة أنظمة التعرف على الوجوه، إلا أنه لا بد من أن نأخذ بضعة أمور بعين الاعتبار. أولاً، لم يتمكن الباحثون من إجراء التجربة على النظام الفعلي المستخدم في المطارات للتعرف على المسافرين، وبدلاً من ذلك، استخدموا نظاماً حديثاً يعتمد على خوارزمية مفتوحة المصدر. يقول بوفولني: "أعتقد أن استحالة الوصول إلى النظام الهدف ستكون أصعب مشكلة بالنسبة لأي مهاجم". ولكن، ونظراً للتشابهات بين خوارزميات التعرف على الوجوه، فإنه يعتقد أن الهجوم سينجح على الأرجح حتى مع النظام الحقيقي المستخدم في المطارات.
كيف تعمل شبكات جان
تُعرف شبكات جان GAN (اختصاراً لعبارة الشبكات التنافسية التوليدية) على أنها نوع من الخوارزميات التي تتمتع بتصميم ذكي يقوم على إحداث تنافس بين شبكتين عصبونيتين لتوليد نتائج أفضل.
في الشكل التقليدي لهذا النوع من الشبكات، تُستخدم شبكتان فقط: شبكة التوليد التي تتدرب على مجموعة بيانات –مثل صور منظر صيفي- لتوليد المزيد من صور المناظر الصيفية، وشبكة التقييم التي تقارن الصور المولدة مع نفس مجموعة البيانات حتى تقرر ما إذا كانت حقيقية أو مزيفة.
غير أن خوارزميات سايكل جان تقوم بتعديل هذه العملية، حيث توجد فيها شبكتان للتوليد وشبكتان للتقييم. هناك أيضاً مجموعتان للصور، مثل المناظر الصيفية والشتوية، وتمثلان نوعي الصور التي ستتم الترجمة بينهما.
في هذا النظام، تتدرب الشبكة المولدة الأولى على صور المناظر الصيفية بهدف توليد مناظر شتائية. أما الشبكة المولدة الثانية فتتدرب على المناظر الشتوية لتوليد مناظر صيفية. وتعمل شبكتا التقييم على اكتشاف التزييف بشكل دقيق؛ حتى تصل الصور المزيفة إلى مرحلة من الدقة يتعذر فيها تمييزها عن الصور الحقيقية.
ثانياً، يتطلب هجوم كهذا الكثيرَ من الوقت والموارد. تحتاج خوارزميات سايكل جان إلى حواسيب قوية وخبرات عالية للتدريب والتنفيذ.
توجد محاولات تقنية أخرى لخداع أنظمة التعرف على الوجوه؛ فقد قام فريق من جامعة شيكاغو مؤخراً بإطلاق فوكس Fawkes، وهي أداة من أجل "حجب" الوجوه عن طريق تعديلات طفيفة على صورك في مواقع التواصل الاجتماعي، وذلك لخداع أنظمة الذكاء الاصطناعي التي تعتمد على قواعد بيانات تتضمن المليارات من هذه الصور. كما قام باحثون من شركة نيرون للذكاء الاصطناعي باستعراض كيفية استخدام الأقنعة لخداع أنظمة التعرف على الوجوه المستخدمة في جميع أنحاء العالم.
يقول باحثو مكافي إن هدفهم النهائي هو توضيح وجود نقاط ضعف كامنة في بنية هذه الأنظمة، وضرورة استمرار الإشراف البشري عليها.
يقول بوفولني: "لا شك في أن أنظمة الذكاء الاصطناعي وأنظمة التعرف على الوجوه أدوات قوية للغاية في مساعدة عملية تحديد هويات الأشخاص ومعالجتها. ولكن إذا تم إحلال هذه الأنظمة بثقة عمياء محل أنظمة حالية تعتمد بشكل كلي على البشر من دون أي تدقيق إضافي، فستكتشف فجأة أنك ربما زرعت نقطة ضعف أكثر خطورة مما كان موجوداً قبل ذلك".
أصبح الذكاء الاصطناعي أكثر براعة في اجتياز الاختبارات المصممة لقياس القدرات الإبداعية عند البشر، ففي دراسة نُشِرت في مجلة ساينتيفيك ريبورتس (Scientific Reports) مؤخراً، حققت بوتات الدردشة التي تعمل بالذكاء الاصطناعي متوسط درجات أعلى من البشر في مهمة الاستخدامات البديلة (Alternate Uses Task)، وهي اختبار شائع الاستخدام لقياس هذه القدرات.
نستخدم ملفات تعريف الارتباط لتحسين تجربتك، استمرار استخدامك للموقع يعني موافقتك على ذلك. سياسة الخصوصيةأوافقX
Privacy & Cookies Policy
Privacy Overview
This website uses cookies to improve your experience while you navigate through the website. Out of these cookies, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may have an effect on your browsing experience.
Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.
Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.
