content_cookies111:string(1906) "{"id":39883,"content_cookies":null,"user_header":{"SERVER_SOFTWARE":"Apache\/2.4.52 (Debian)","REQUEST_URI":"\/%D9%83%D8%B4%D9%81-%D8%AA%D8%AD%D9%8A%D8%B2-%D8%AE%D9%88%D8%A7%D8%B1%D8%B2%D9%85%D9%8A%D8%A7%D8%AA-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A\/","REDIRECT_STATUS":"200","HTTP_X_FORWARDED_PROTO":"https","HTTP_CONNECTION":"upgrade","HTTP_HOST":"technologyreview.ae","HTTP_CF_CONNECTING_IP":"44.200.101.84","HTTP_CF_IPCOUNTRY":"US","HTTP_ACCEPT_ENCODING":"gzip","HTTP_CF_RAY":"80aaa864cfb52076-IAD","HTTP_CF_VISITOR":"{\\\"scheme\\\":\\\"https\\\"}","HTTP_USER_AGENT":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)","HTTP_ACCEPT":"text\/html,application\/xhtml+xml,application\/xml;q=0.9,*\/*;q=0.8","HTTP_ACCEPT_LANGUAGE":"en-US,en;q=0.5","HTTP_CDN_LOOP":"cloudflare","PATH":"\/usr\/local\/sbin:\/usr\/local\/bin:\/usr\/sbin:\/usr\/bin:\/sbin:\/bin","SERVER_SIGNATURE":"Apache\/2.4.52 (Debian) Server at technologyreview.ae Port 80<\/address>\n","SERVER_NAME":"technologyreview.ae","SERVER_ADDR":"172.18.0.9","SERVER_PORT":"80","REMOTE_ADDR":"44.200.101.84","DOCUMENT_ROOT":"\/var\/www\/html","REQUEST_SCHEME":"http","CONTEXT_PREFIX":"","CONTEXT_DOCUMENT_ROOT":"\/var\/www\/html","SERVER_ADMIN":"webmaster@localhost","SCRIPT_FILENAME":"\/var\/www\/html\/index.php","REMOTE_PORT":"45054","REDIRECT_URL":"\/\u0643\u0634\u0641-\u062a\u062d\u064a\u0632-\u062e\u0648\u0627\u0631\u0632\u0645\u064a\u0627\u062a-\u0627\u0644\u0630\u0643\u0627\u0621-\u0627\u0644\u0627\u0635\u0637\u0646\u0627\u0639\u064a\/","GATEWAY_INTERFACE":"CGI\/1.1","SERVER_PROTOCOL":"HTTP\/1.1","REQUEST_METHOD":"GET","QUERY_STRING":"","SCRIPT_NAME":"\/index.php","PHP_SELF":"\/index.php","REQUEST_TIME_FLOAT":1695386860.536914,"REQUEST_TIME":1695386860,"argv":[],"argc":0,"HTTPS":"on"},"user_ip":"44.200.101.84","user_agent":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)"}"
تطلق اليوم مجموعة من خبراء الذكاء الاصطناعي والتعلم الآلي مسابقة جديدة لمكافآت التحيز، ويأمل هؤلاء الخبراء أن تسرّع هذه المسابقة عملية الكشف عن هذه الأنواع من التحيز الكامن.
سجل في نشرة الخوارزمية
ابق مواكباً لأحدث أخبار وتطبيقات الذكاء الاصطناعي في قطاعك، وتأثيراته المستقبلية على مجال عملك.
تم الإشتراك بنجاح !هناك خطأ ما, حاول مجدداً
تدعو المسابقة، المستوحاة من مكافآت الأخطاء في الأمن السيبراني، المشاركين إلى إنشاء أدوات لتحديد التحيزات الخوارزمية في نماذج الذكاء الاصطناعي والعمل على تقليصها.
يتم تنظيم المسابقة من قبل مجموعة من المتطوعين الذين يعملون في شركات مثل تويتر وشركة البرمجيات سبلانك (Splunk) وشركة رياليتي ديفيندر (Reality Defender) الناشئة لاكتشاف التزييف العميق. وقد أطلقوا على أنفسهم لقب "قراصنة التحيز".
ستقوم مسابقة مكافأة التحيز الأولى بالتركيز على الكشف عن الصور المتحيزة، لأنها مشكلة شائعة. فعلى سبيل المثال، أخطأت أنظمة الكشف عن الصور المغلوطة سابقاً في تحديد ذوي البشرة السمراء على أنهم غوريلا.
سيواجه المنافسون تحدياً لبناء نموذج للتعلم الآلي يصنّف كل صورة بلون بشرتها، والهوية الجنسية، والفئة العمرية، ما يسهّل عمليات قياس التحيزات في مجموعات البيانات واكتشافها. سيتم منح هؤلاء المتنافسين إمكانية الوصول إلى مجموعة بيانات مؤلفة من نحو 15.000 صورة لوجوه بشرية تم إنشاؤها صناعياً. يتم تصنيف المشاركين على أساس مدى دقة وضع العلامات على الصور في نماذجهم والمدة التي يستغرقها تشغيل الكود، وغيرها من المقاييس. تنتهي المسابقة في 30 نوفمبر/ تشرين الثاني.
خصصت شركة مايكروسوفت وشركة روبوست إنتيليجنس (Robust Intelligence) الناشئة جوائز مالية بقيمة 6000 دولار للفائز، و4000 دولار للوصيف، و2000 دولار لصاحب المركز الثالث. وساهمت شركة أمازون بمبلغ 5000 دولار لأول مجموعة من المتسابقين في مجال القدرة الحاسوبية.
تدقيق الذكاء الاصطناعي
تعد المسابقة أفضل مثال على الصناعة الناشئة التي ظهرت في الذكاء الاصطناعي، وهي تدقيق تحيز الخوارزميات. وقد أطلقت منصة تويتر أول مكافأة تحيز للذكاء الاصطناعي العام الماضي، كما اختتمت جامعة ستانفورد للتو أول تحدٍ لتدقيق الذكاء الاصطناعي. وفي الوقت نفسه، تعمل شركة موزيلا (Mozilla) غير الربحية على إنشاء أدوات لمدققي الذكاء الاصطناعي.
ومن المرجح أن تصبح عمليات التدقيق هذه أكثر شيوعاً. وقد أشاد المنظمون وخبراء أخلاقيات الذكاء الاصطناعي بهذه الأدوات كطريقة جيدة لمساءلة أنظمة الذكاء الاصطناعي، كما ستصبح هذه الأدوات مطلباً قانونياً في بعض الاختصاصات القضائية.
يتضمن قانون الاتحاد الأوروبي الجديد للإشراف على المحتوى، الذي يُطلق عليه قانون الخدمات الرقمية، متطلبات تدقيق سنوية للبيانات والخوارزميات التي تستخدمها منصات التكنولوجيا الكبيرة، وقد يسمح قانون الذكاء الاصطناعي الأوروبي الجديد للسلطات بمراجعة أنظمة الذكاء الاصطناعي. كما يوصي المعهد الوطني الأميركي للمعايير والتكنولوجيا أيضاً بإجراء عمليات تدقيق الذكاء الاصطناعي كمعيارٍ ذهبي. يقول الزميل والباحث، أليكس إنغلر، الذي يدرس حوكمة الذكاء الاصطناعي في مركز الأبحاث التابع لمعهد بروكينغز: تتمثل الفكرة في أن إجراءات التدقيق هذه ستعمل بنفس الطريقة التي تعمل بها عمليات الفحص والمعاينة التي نراها في القطاعات الأخرى شديدة الخطورة، مثل مصانع الكيماويات.
وتقول الباحثة المتخصصة في مساءلة الذكاء الاصطناعي، ديبورا راجي، والمؤلفون المشاركون معها في ورقة بحثية في يونيو/ حزيران الماضي: تكمن المشكلة في عدم وجود عدد كافٍ من المتعاقدين المستقلين لتلبية الطلبات القادمة على عمليات تدقيق الخوارزميات، كما أن الشركات مترددة في السماح لهذه العمليات بالوصول إلى أنظمتها.
وهو ما تريد هذه المسابقات تنميته. يتمثل الأمل في مجتمع الذكاء الاصطناعي في قيادة المزيد من المهندسين والباحثين والخبراء لتطوير المهارات والخبرات اللازمة لتنفيذ عمليات التدقيق هذه.
تقتصر عمليات التدقيق المحدودة في عالم الذكاء الاصطناعي حتى الآن على ما يقوم به الأكاديميون أو شركات التكنولوجيا نفسها. إن الهدف من مثل هذه المسابقات هو إنشاء قطاع جديد من الخبراء المتخصصين في تدقيق الذكاء الاصطناعي.
تقول مديرة فريق تويتر للأخلاقيات والشفافية والمساءلة في التعلم الآلي، ورئيسة فريق قراصنة التحيز، رومان تشاودري: "نحاول خلق مساحة للأشخاص المهتمين بهذا النوع من الأعمال، سواء كانوا مبتدئين أو خبراء لا يعملون في شركات التكنولوجيا أو قراصنة وعلماء بيانات يرغبون في تعلم مهارة جديدة".
يأمل الفريق المسؤول عن مسابقة جوائز قراصنة التحيز أن تكون هذه المسابقة الأولى في سلسلة لاحقة من المسابقات.
تقول مديرة مختبر كوهير (Cohere) غير الربحي لأبحاث الذكاء الاصطناعي، سارة هوكر: لا تخلق مثل هذه المسابقات محفزات لمجتمع التعلم الآلي لإجراء عمليات التدقيق فحسب، بل تعمل أيضاً على تعزيز الفهم المشترك حول "أفضل السبل للتدقيق وأنواع عمليات التدقيق التي يجب أن نستثمر فيها".
ويقول مؤسس معهد مونتريال لأخلاقيات الذكاء الاصطناعي، أبهيشيك غوبتا، الذي كان أحد أعضاء لجنة التحكيم في مسابقة تدقيق الذكاء الاصطناعي في جامعة ستانفورد، إن هذا الجهد "رائع ومطلوب بشدة".
ويتابع: "كلما زادت عمليات مراقبة النظام، زادت احتمالية العثور على أخطاء".
ميليسا هيكيلا من كبار مراسلي مجلة إم آي تي تكنولوجي ريفيو، حيث تغطي مواضيع الذكاء الاصطناعي وتأثيره على المجتمع. كتبت سابقاً عن السياسات العامة وسياسة الذكاء الاصطناعي في صحيفة "بوليتيكو" (POLITICO). عملت أيضاً في مجلة "ذي إيكونومست" (The Economist) … المزيد وكانت مذيعة أخبار. صنّفتها مجلة فوربس كواحدة من بين 30 شخصية تقل أعمارهم عن 30 عاماً في قائمة المبدعين في وسائل الإعلام الأوروبية في عام 2020.
نستخدم ملفات تعريف الارتباط لتحسين تجربتك، استمرار استخدامك للموقع يعني موافقتك على ذلك. سياسة الخصوصيةأوافقX
Privacy & Cookies Policy
Privacy Overview
This website uses cookies to improve your experience while you navigate through the website. Out of these cookies, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may have an effect on your browsing experience.
Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.
Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.
