content_cookies111:string(1845) "{"id":14743,"content_cookies":null,"user_header":{"SERVER_SOFTWARE":"Apache\/2.4.52 (Debian)","REQUEST_URI":"\/%D8%AE%D8%B5%D9%88%D8%B5%D9%8A%D8%A9-%D9%86%D9%85%D8%A7%D8%B0%D8%AC-%D8%A7%D9%84%D8%AA%D8%B9%D9%84%D9%85-%D8%A7%D9%84%D8%A2%D9%84%D9%8A-%D9%81%D9%8A-tensorflow\/","REDIRECT_STATUS":"200","HTTP_X_FORWARDED_PROTO":"https","HTTP_CONNECTION":"upgrade","HTTP_HOST":"technologyreview.ae","HTTP_CF_CONNECTING_IP":"44.201.72.250","HTTP_CF_IPCOUNTRY":"US","HTTP_ACCEPT_ENCODING":"gzip","HTTP_CF_RAY":"8106f53cf85e9c52-IAD","HTTP_CF_VISITOR":"{\\\"scheme\\\":\\\"https\\\"}","HTTP_USER_AGENT":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)","HTTP_ACCEPT":"text\/html,application\/xhtml+xml,application\/xml;q=0.9,*\/*;q=0.8","HTTP_ACCEPT_LANGUAGE":"en-US,en;q=0.5","HTTP_CDN_LOOP":"cloudflare","PATH":"\/usr\/local\/sbin:\/usr\/local\/bin:\/usr\/sbin:\/usr\/bin:\/sbin:\/bin","SERVER_SIGNATURE":"

Apache\/2.4.52 (Debian) Server at technologyreview.ae Port 80<\/address>\n","SERVER_NAME":"technologyreview.ae","SERVER_ADDR":"172.18.0.20","SERVER_PORT":"80","REMOTE_ADDR":"44.201.72.250","DOCUMENT_ROOT":"\/var\/www\/html","REQUEST_SCHEME":"http","CONTEXT_PREFIX":"","CONTEXT_DOCUMENT_ROOT":"\/var\/www\/html","SERVER_ADMIN":"webmaster@localhost","SCRIPT_FILENAME":"\/var\/www\/html\/index.php","REMOTE_PORT":"43632","REDIRECT_URL":"\/\u062e\u0635\u0648\u0635\u064a\u0629-\u0646\u0645\u0627\u0630\u062c-\u0627\u0644\u062a\u0639\u0644\u0645-\u0627\u0644\u0622\u0644\u064a-\u0641\u064a-tensorflow\/","GATEWAY_INTERFACE":"CGI\/1.1","SERVER_PROTOCOL":"HTTP\/1.1","REQUEST_METHOD":"GET","QUERY_STRING":"","SCRIPT_NAME":"\/index.php","PHP_SELF":"\/index.php","REQUEST_TIME_FLOAT":1696354698.005368,"REQUEST_TIME":1696354698,"argv":[],"argc":0,"HTTPS":"on"},"user_ip":"44.201.72.250","user_agent":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)"}"

check_post_to_show:object(stdClass)#29483 (13) { ["is_valid"]=> int(1) ["global_remaining_posts_to_view"]=> int(0) ["remaining_posts_to_view"]=> int(0) ["number_all_post"]=> int(0) ["number_post_read"]=> int(0) ["exceeded_daily_limit"]=> int(0) ["is_watched_before"]=> int(0) ["user_agent"]=> string(40) "CCBot/2.0 (https://commoncrawl.org/faq/)" ["user_ip"]=> string(13) "44.201.72.250" ["user_header"]=> object(stdClass)#29475 (40) { ["SERVER_SOFTWARE"]=> string(22) "Apache/2.4.52 (Debian)" ["REQUEST_URI"]=> string(161) "/%D8%AE%D8%B5%D9%88%D8%B5%D9%8A%D8%A9-%D9%86%D9%85%D8%A7%D8%B0%D8%AC-%D8%A7%D9%84%D8%AA%D8%B9%D9%84%D9%85-%D8%A7%D9%84%D8%A2%D9%84%D9%8A-%D9%81%D9%8A-tensorflow/" ["REDIRECT_STATUS"]=> string(3) "200" ["HTTP_X_FORWARDED_PROTO"]=> string(5) "https" ["HTTP_CONNECTION"]=> string(7) "upgrade" ["HTTP_HOST"]=> string(19) "technologyreview.ae" ["HTTP_CF_CONNECTING_IP"]=> string(13) "44.201.72.250" ["HTTP_CF_IPCOUNTRY"]=> string(2) "US" ["HTTP_ACCEPT_ENCODING"]=> string(4) "gzip" ["HTTP_CF_RAY"]=> string(20) "8106f53cf85e9c52-IAD" ["HTTP_CF_VISITOR"]=> string(22) "{\"scheme\":\"https\"}" ["HTTP_USER_AGENT"]=> string(40) "CCBot/2.0 (https://commoncrawl.org/faq/)" ["HTTP_ACCEPT"]=> string(63) "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8" ["HTTP_ACCEPT_LANGUAGE"]=> string(14) "en-US,en;q=0.5" ["HTTP_CDN_LOOP"]=> string(10) "cloudflare" ["PATH"]=> string(60) "/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin" ["SERVER_SIGNATURE"]=> string(79) "

Apache/2.4.52 (Debian) Server at technologyreview.ae Port 80

" ["SERVER_NAME"]=> string(19) "technologyreview.ae" ["SERVER_ADDR"]=> string(11) "172.18.0.20" ["SERVER_PORT"]=> string(2) "80" ["REMOTE_ADDR"]=> string(13) "44.201.72.250" ["DOCUMENT_ROOT"]=> string(13) "/var/www/html" ["REQUEST_SCHEME"]=> string(4) "http" ["CONTEXT_PREFIX"]=> NULL ["CONTEXT_DOCUMENT_ROOT"]=> string(13) "/var/www/html" ["SERVER_ADMIN"]=> string(19) "webmaster@localhost" ["SCRIPT_FILENAME"]=> string(23) "/var/www/html/index.php" ["REMOTE_PORT"]=> string(5) "43632" ["REDIRECT_URL"]=> string(65) "/خصوصية-نماذج-التعلم-الآلي-في-tensorflow/" ["GATEWAY_INTERFACE"]=> string(7) "CGI/1.1" ["SERVER_PROTOCOL"]=> string(8) "HTTP/1.1" ["REQUEST_METHOD"]=> string(3) "GET" ["QUERY_STRING"]=> NULL ["SCRIPT_NAME"]=> string(10) "/index.php" ["PHP_SELF"]=> string(10) "/index.php" ["REQUEST_TIME_FLOAT"]=> float(1696354698.0054) ["REQUEST_TIME"]=> int(1696354698) ["argv"]=> array(0) { } ["argc"]=> int(0) ["HTTPS"]=> string(2) "on" } ["content_user_category"]=> string(4) "paid" ["content_cookies"]=> object(stdClass)#29470 (3) { ["status"]=> int(0) ["sso"]=> object(stdClass)#29480 (2) { ["content_id"]=> int(19529) ["client_id"]=> string(36) "1d1883f4-87d0-4156-8903-e6ceb0cb4224" } ["count_read"]=> NULL } ["is_agent_bot"]=> int(1) }

الخصوصية والأمان الرقمي

جوجل تعزز خصوصية نماذج التعلم الآلي في منصة (TensorFlow)

من شأن الإضافة الجديدة أن تساعد المطورين على تعزيز حماية الخصوصية في نماذج التعلم الآلي وضبط تسرب بيانات التدريب باستخدام أسلوب يسمى هجمات استخلاص العضوية.

بقلم وسام شاهين

01 يوليو 2020

مصدر الصورة الأصلية: جوجل | تعديل: إم آي تي تكنولوجي ريفيو العربية

أعلنت جوجل يوم 24 يونيو عن إطلاق إضافة تجريبية لمجموعة أدوات الخصوصية في منصتها تنسرفلو (TensorFlow) الخاصة بتطوير نماذج التعلم الآلي، وهي إضافة تتيح للمطورين إمكانية تقييم درجة الخصوصية في نماذج التعلم الآلي والسيطرة بشكل أفضل على تسرب البيانات. وتأمل جوجل أن تشكِّل هذه الأدوات أساساً لتطوير حزمة اختبار الخصوصية التي يمكن لجميع المطورين استخدامها بغض النظر عن مستوى مهاراتهم.

لا توجد حتى الآن قواعد محددة فيما يتعلق بتطوير نماذج ذكاء اصطناعي تحافظ على خصوصية البيانات، لكن العديد من الدراسات تشير إلى إمكانية تسرب أجزاء حساسة من بيانات التدريب عبر هذه النماذج.

وقد كانت منصة تنسرفلو تتعامل مع هذه المسألة باستخدام تقنية الخصوصية التفاضلية التي تتيح إمكانية إضافة بعض التشويش إلى البيانات، بحيث لا يمكن تطبيق أدوات الهندسة العكسية للتعرّف على هوية أشخاص محددين، غير أن من شأن هذا التشويش أن يؤثر على دقة النموذج.

سجل في نشرة الخوارزمية

ابق مواكباً لأحدث أخبار وتطبيقات الذكاء الاصطناعي في قطاعك، وتأثيراته المستقبلية على مجال عملك.

شكل توضيحي لهجمات استخلاص العضوية؛ حيث يحاول الشخص المهاجم معرفة ما إذا كانت عينة ما موجودة ضمن بيانات التدريب أم لا.
مصدر الصورة: مدونة (TensorFlow) من جوجل

وفي مسعى من جوجل لحل هذه المشكلة، لجأت اليوم إلى استخدام أسلوب يسمى "هجمات استخلاص العضوية". وينطوي هذا الأسلوب على بناء خوارزميات قادرة على استنتاج ما إذا كانت عينة محددة موجودة في مجموعة بيانات التدريب. وكلما ارتفعت دقة استنتاج الخوارزمية، كان نموذج الذكاء الاصطناعي أقلّ حماية للخصوصية.

وقد قال فريق تنسرفلو في منشور مدونة إن أهم ما يميز هذا الأسلوب هو استخدامه لمُخرجات النموذج فقط ودون الحاجة إلى الوصول إلى أوزان النموذج أو عينات الإدخال. كما أنه لا يتطلب إعادة تدريب النموذج، مما يجعل تنفيذه سهلاً ولا يستغرق وقتاً طويلاً.

وأشارت الشركة في إعلانها إلى أن الاختبار الجديد يعطي درجة للنموذج تشير إلى مدى تسريبه لبيانات التدريب. وأكدت أن استخدام تقنية الخصوصية التفاضلية إلى جانب أسلوب هجمات استخلاص العضوية يساعد في تخفيض هذه الدرجة وبالتالي توفير حماية أكبر للبيانات.

اخترنا لك للقراءة

الوسوم :

تسريب البيانات

وسام شاهين

مدير المحتوى العلمي والتقني ، مجرة

مهتم بدراسة تطور العلاقة بين التكنولوجيا والمجتمع. مارس البحث العلمي في مجال الشبكات الحاسوبية وخوارزميات التعلم الآلي ونظرية الألعاب والنمذجة والأَمثلة، وشارك بأبحاثه في العديد من المجلات والمؤتمرات العلمية في باريس وشنغهاي وأونتاريو. كما عمل في … المزيد مجال التدريس في جامعة أفينيون - فرنسا.

المزيد من المقالات حول الخصوصية والأمان الرقمي

اخترنا لك

الخصوصية والأمان الرقمي

جوجل تعزز خصوصية نماذج التعلم الآلي في منصة (TensorFlow)

من شأن الإضافة الجديدة أن تساعد المطورين على تعزيز حماية الخصوصية في نماذج التعلم الآلي وضبط تسرب بيانات التدريب باستخدام أسلوب يسمى هجمات استخلاص العضوية.

اخترنا لك للقراءة

وسام شاهين

الخصوصية والأمان الرقمي

ما التهديدات السيبرانية التي يمكن أن تعوق نمو مؤسستك؟

الخصوصية والأمان الرقمي

أفضل منصات مؤتمرات الفيديو التي تحافظ على سرية الاجتماعات وخصوصيتها

الخصوصية والأمان الرقمي

كيف تتجسس سيارتك عليك وما يمكنك فعله حيال ذلك؟

منصات مجرة

تواصل معنا

جوجل تعزز خصوصية نماذج التعلم الآلي في منصة (TensorFlow)

من شأن الإضافة الجديدة أن تساعد المطورين على تعزيز حماية الخصوصية في نماذج التعلم الآلي وضبط تسرب بيانات التدريب باستخدام أسلوب يسمى هجمات استخلاص العضوية.

اخترنا لك للقراءة