content_cookies111:string(1845) "{"id":14743,"content_cookies":null,"user_header":{"SERVER_SOFTWARE":"Apache\/2.4.52 (Debian)","REQUEST_URI":"\/%D8%AE%D8%B5%D9%88%D8%B5%D9%8A%D8%A9-%D9%86%D9%85%D8%A7%D8%B0%D8%AC-%D8%A7%D9%84%D8%AA%D8%B9%D9%84%D9%85-%D8%A7%D9%84%D8%A2%D9%84%D9%8A-%D9%81%D9%8A-tensorflow\/","REDIRECT_STATUS":"200","HTTP_X_FORWARDED_PROTO":"https","HTTP_CONNECTION":"upgrade","HTTP_HOST":"technologyreview.ae","HTTP_CF_CONNECTING_IP":"44.201.72.250","HTTP_CF_IPCOUNTRY":"US","HTTP_ACCEPT_ENCODING":"gzip","HTTP_CF_RAY":"8106f53cf85e9c52-IAD","HTTP_CF_VISITOR":"{\\\"scheme\\\":\\\"https\\\"}","HTTP_USER_AGENT":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)","HTTP_ACCEPT":"text\/html,application\/xhtml+xml,application\/xml;q=0.9,*\/*;q=0.8","HTTP_ACCEPT_LANGUAGE":"en-US,en;q=0.5","HTTP_CDN_LOOP":"cloudflare","PATH":"\/usr\/local\/sbin:\/usr\/local\/bin:\/usr\/sbin:\/usr\/bin:\/sbin:\/bin","SERVER_SIGNATURE":"Apache\/2.4.52 (Debian) Server at technologyreview.ae Port 80<\/address>\n","SERVER_NAME":"technologyreview.ae","SERVER_ADDR":"172.18.0.20","SERVER_PORT":"80","REMOTE_ADDR":"44.201.72.250","DOCUMENT_ROOT":"\/var\/www\/html","REQUEST_SCHEME":"http","CONTEXT_PREFIX":"","CONTEXT_DOCUMENT_ROOT":"\/var\/www\/html","SERVER_ADMIN":"webmaster@localhost","SCRIPT_FILENAME":"\/var\/www\/html\/index.php","REMOTE_PORT":"43632","REDIRECT_URL":"\/\u062e\u0635\u0648\u0635\u064a\u0629-\u0646\u0645\u0627\u0630\u062c-\u0627\u0644\u062a\u0639\u0644\u0645-\u0627\u0644\u0622\u0644\u064a-\u0641\u064a-tensorflow\/","GATEWAY_INTERFACE":"CGI\/1.1","SERVER_PROTOCOL":"HTTP\/1.1","REQUEST_METHOD":"GET","QUERY_STRING":"","SCRIPT_NAME":"\/index.php","PHP_SELF":"\/index.php","REQUEST_TIME_FLOAT":1696354698.005368,"REQUEST_TIME":1696354698,"argv":[],"argc":0,"HTTPS":"on"},"user_ip":"44.201.72.250","user_agent":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)"}"
من شأن الإضافة الجديدة أن تساعد المطورين على تعزيز حماية الخصوصية في نماذج التعلم الآلي وضبط تسرب بيانات التدريب باستخدام أسلوب يسمى هجمات استخلاص العضوية.
مصدر الصورة الأصلية: جوجل | تعديل: إم آي تي تكنولوجي ريفيو العربية
إهداء هذه المقالة
هذه الميزة مخصصة للمشتركين يمكنهم مشاركة المواضيع بحد اقصى 10 مواد من كافة مواقع مجرة
أعلنت جوجل يوم 24 يونيو عن إطلاق إضافة تجريبية لمجموعة أدوات الخصوصية في منصتها تنسرفلو (TensorFlow) الخاصة بتطوير نماذج التعلم الآلي، وهي إضافة تتيح للمطورين إمكانية تقييم درجة الخصوصية في نماذج التعلم الآلي والسيطرة بشكل أفضل على تسرب البيانات. وتأمل جوجل أن تشكِّل هذه الأدوات أساساً لتطوير حزمة اختبار الخصوصية التي يمكن لجميع المطورين استخدامها بغض النظر عن مستوى مهاراتهم.
لا توجد حتى الآن قواعد محددة فيما يتعلق بتطوير نماذج ذكاء اصطناعي تحافظ على خصوصية البيانات، لكن العديد من الدراسات تشير إلى إمكانية تسرب أجزاء حساسة من بيانات التدريب عبر هذه النماذج.
وقد كانت منصة تنسرفلو تتعامل مع هذه المسألة باستخدام تقنية الخصوصية التفاضلية التي تتيح إمكانية إضافة بعض التشويش إلى البيانات، بحيث لا يمكن تطبيق أدوات الهندسة العكسية للتعرّف على هوية أشخاص محددين، غير أن من شأن هذا التشويش أن يؤثر على دقة النموذج.
سجل في نشرة الخوارزمية
ابق مواكباً لأحدث أخبار وتطبيقات الذكاء الاصطناعي في قطاعك، وتأثيراته المستقبلية على مجال عملك.
تم الإشتراك بنجاح !هناك خطأ ما, حاول مجدداً
شكل توضيحي لهجمات استخلاص العضوية؛ حيث يحاول الشخص المهاجم معرفة ما إذا كانت عينة ما موجودة ضمن بيانات التدريب أم لا.
مصدر الصورة: مدونة (TensorFlow) من جوجل
وفي مسعى من جوجل لحل هذه المشكلة، لجأت اليوم إلى استخدام أسلوب يسمى "هجمات استخلاص العضوية". وينطوي هذا الأسلوب على بناء خوارزميات قادرة على استنتاج ما إذا كانت عينة محددة موجودة في مجموعة بيانات التدريب. وكلما ارتفعت دقة استنتاج الخوارزمية، كان نموذج الذكاء الاصطناعي أقلّ حماية للخصوصية.
وقد قال فريق تنسرفلو في منشور مدونة إن أهم ما يميز هذا الأسلوب هو استخدامه لمُخرجات النموذج فقط ودون الحاجة إلى الوصول إلى أوزان النموذج أو عينات الإدخال. كما أنه لا يتطلب إعادة تدريب النموذج، مما يجعل تنفيذه سهلاً ولا يستغرق وقتاً طويلاً.
وأشارت الشركة في إعلانها إلى أن الاختبار الجديد يعطي درجة للنموذج تشير إلى مدى تسريبه لبيانات التدريب. وأكدت أن استخدام تقنية الخصوصية التفاضلية إلى جانب أسلوب هجمات استخلاص العضوية يساعد في تخفيض هذه الدرجة وبالتالي توفير حماية أكبر للبيانات.
مهتم بدراسة تطور العلاقة بين التكنولوجيا والمجتمع. مارس البحث العلمي في مجال الشبكات الحاسوبية وخوارزميات التعلم الآلي ونظرية الألعاب والنمذجة والأَمثلة، وشارك بأبحاثه في العديد من المجلات والمؤتمرات العلمية في باريس وشنغهاي وأونتاريو. كما عمل في … المزيد مجال التدريس في جامعة أفينيون - فرنسا.
في عام 1994، وبعد تعرضها لسلسلة من الهجمات الإلكترونية، عيّنت شركة الخدمات المصرفية الاستثمارية سيتي غروب (Citigroup) -سابقاً سيتي كورب- الأميركي ستيف كاتز (Steve Katz) في منصب رئيس أمن المعلومات (Chief Information Security Officer،
السيارات الحديثة ليست مجرد مركبات تنقلك من مكان إلى آخر، فهي أيضاً حواسيب متطورة تجمع وتخزن وتشارك
نستخدم ملفات تعريف الارتباط لتحسين تجربتك، استمرار استخدامك للموقع يعني موافقتك على ذلك. سياسة الخصوصيةأوافقX
Privacy & Cookies Policy
Privacy Overview
This website uses cookies to improve your experience while you navigate through the website. Out of these cookies, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may have an effect on your browsing experience.
Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.
Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.