وفّر 50٪ من خلال الاشتراك السنوي في مجرة واحصل على تصفح لا محدود لأفضل محتوى عربي على الإنترنت.

مجرة
هارفارد بزنس ريفيو
إم آي تي تكنولوجي
العلوم للعموم
نفسيتي
ستانفورد للابتكار الاجتماعي
اشترك
اشترك
اشترك

تواصل معنا

الاستمرار بالحساب الحالي

content_cookies111:string(1924) "{"id":23672,"content_cookies":null,"user_header":{"SERVER_SOFTWARE":"Apache\/2.4.52 (Debian)","REQUEST_URI":"\/%d8%aa%d8%ad%d9%8a%d8%b2-%d8%a7%d9%84%d8%b0%d9%83%d8%a7%d8%a1-%d8%a7%d9%84%d8%a7%d8%b5%d8%b7%d9%86%d8%a7%d8%b9%d9%8a-%d8%b6%d8%af-%d8%a7%d9%84%d9%85%d8%b1%d8%b6%d9%89-%d8%a7%d9%84%d8%b3%d9%88%d8%af\/","REDIRECT_STATUS":"200","HTTP_X_FORWARDED_PROTO":"https","HTTP_CONNECTION":"upgrade","HTTP_HOST":"technologyreview.ae","HTTP_CF_CONNECTING_IP":"44.192.254.173","HTTP_CF_IPCOUNTRY":"US","HTTP_ACCEPT_ENCODING":"gzip","HTTP_CF_RAY":"80b07651daeb07b6-IAD","HTTP_CF_VISITOR":"{\\\"scheme\\\":\\\"https\\\"}","HTTP_USER_AGENT":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)","HTTP_ACCEPT":"text\/html,application\/xhtml+xml,application\/xml;q=0.9,*\/*;q=0.8","HTTP_ACCEPT_LANGUAGE":"en-US,en;q=0.5","HTTP_CDN_LOOP":"cloudflare","PATH":"\/usr\/local\/sbin:\/usr\/local\/bin:\/usr\/sbin:\/usr\/bin:\/sbin:\/bin","SERVER_SIGNATURE":"
Apache\/2.4.52 (Debian) Server at technologyreview.ae Port 80<\/address>\n","SERVER_NAME":"technologyreview.ae","SERVER_ADDR":"172.18.0.14","SERVER_PORT":"80","REMOTE_ADDR":"44.192.254.173","DOCUMENT_ROOT":"\/var\/www\/html","REQUEST_SCHEME":"http","CONTEXT_PREFIX":"","CONTEXT_DOCUMENT_ROOT":"\/var\/www\/html","SERVER_ADMIN":"webmaster@localhost","SCRIPT_FILENAME":"\/var\/www\/html\/index.php","REMOTE_PORT":"38528","REDIRECT_URL":"\/\u062a\u062d\u064a\u0632-\u0627\u0644\u0630\u0643\u0627\u0621-\u0627\u0644\u0627\u0635\u0637\u0646\u0627\u0639\u064a-\u0636\u062f-\u0627\u0644\u0645\u0631\u0636\u0649-\u0627\u0644\u0633\u0648\u062f\/","GATEWAY_INTERFACE":"CGI\/1.1","SERVER_PROTOCOL":"HTTP\/1.1","REQUEST_METHOD":"GET","QUERY_STRING":"","SCRIPT_NAME":"\/index.php","PHP_SELF":"\/index.php","REQUEST_TIME_FLOAT":1695447724.051586,"REQUEST_TIME":1695447724,"argv":[],"argc":0,"HTTPS":"on"},"user_ip":"44.192.254.173","user_agent":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)"}"

check_post_to_show:object(stdClass)#28910 (13) {
  ["is_valid"]=>
  int(1)
  ["global_remaining_posts_to_view"]=>
  int(0)
  ["remaining_posts_to_view"]=>
  int(0)
  ["number_all_post"]=>
  int(0)
  ["number_post_read"]=>
  int(0)
  ["exceeded_daily_limit"]=>
  int(0)
  ["is_watched_before"]=>
  int(0)
  ["user_agent"]=>
  string(40) "CCBot/2.0 (https://commoncrawl.org/faq/)"
  ["user_ip"]=>
  string(14) "44.192.254.173"
  ["user_header"]=>
  object(stdClass)#28898 (40) {
    ["SERVER_SOFTWARE"]=>
    string(22) "Apache/2.4.52 (Debian)"
    ["REQUEST_URI"]=>
    string(199) "/%d8%aa%d8%ad%d9%8a%d8%b2-%d8%a7%d9%84%d8%b0%d9%83%d8%a7%d8%a1-%d8%a7%d9%84%d8%a7%d8%b5%d8%b7%d9%86%d8%a7%d8%b9%d9%8a-%d8%b6%d8%af-%d8%a7%d9%84%d9%85%d8%b1%d8%b6%d9%89-%d8%a7%d9%84%d8%b3%d9%88%d8%af/"
    ["REDIRECT_STATUS"]=>
    string(3) "200"
    ["HTTP_X_FORWARDED_PROTO"]=>
    string(5) "https"
    ["HTTP_CONNECTION"]=>
    string(7) "upgrade"
    ["HTTP_HOST"]=>
    string(19) "technologyreview.ae"
    ["HTTP_CF_CONNECTING_IP"]=>
    string(14) "44.192.254.173"
    ["HTTP_CF_IPCOUNTRY"]=>
    string(2) "US"
    ["HTTP_ACCEPT_ENCODING"]=>
    string(4) "gzip"
    ["HTTP_CF_RAY"]=>
    string(20) "80b07651daeb07b6-IAD"
    ["HTTP_CF_VISITOR"]=>
    string(22) "{\"scheme\":\"https\"}"
    ["HTTP_USER_AGENT"]=>
    string(40) "CCBot/2.0 (https://commoncrawl.org/faq/)"
    ["HTTP_ACCEPT"]=>
    string(63) "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8"
    ["HTTP_ACCEPT_LANGUAGE"]=>
    string(14) "en-US,en;q=0.5"
    ["HTTP_CDN_LOOP"]=>
    string(10) "cloudflare"
    ["PATH"]=>
    string(60) "/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
    ["SERVER_SIGNATURE"]=>
    string(79) "
Apache/2.4.52 (Debian) Server at technologyreview.ae Port 80
"
    ["SERVER_NAME"]=>
    string(19) "technologyreview.ae"
    ["SERVER_ADDR"]=>
    string(11) "172.18.0.14"
    ["SERVER_PORT"]=>
    string(2) "80"
    ["REMOTE_ADDR"]=>
    string(14) "44.192.254.173"
    ["DOCUMENT_ROOT"]=>
    string(13) "/var/www/html"
    ["REQUEST_SCHEME"]=>
    string(4) "http"
    ["CONTEXT_PREFIX"]=>
    NULL
    ["CONTEXT_DOCUMENT_ROOT"]=>
    string(13) "/var/www/html"
    ["SERVER_ADMIN"]=>
    string(19) "webmaster@localhost"
    ["SCRIPT_FILENAME"]=>
    string(23) "/var/www/html/index.php"
    ["REMOTE_PORT"]=>
    string(5) "38528"
    ["REDIRECT_URL"]=>
    string(71) "/تحيز-الذكاء-الاصطناعي-ضد-المرضى-السود/"
    ["GATEWAY_INTERFACE"]=>
    string(7) "CGI/1.1"
    ["SERVER_PROTOCOL"]=>
    string(8) "HTTP/1.1"
    ["REQUEST_METHOD"]=>
    string(3) "GET"
    ["QUERY_STRING"]=>
    NULL
    ["SCRIPT_NAME"]=>
    string(10) "/index.php"
    ["PHP_SELF"]=>
    string(10) "/index.php"
    ["REQUEST_TIME_FLOAT"]=>
    float(1695447724.0516)
    ["REQUEST_TIME"]=>
    int(1695447724)
    ["argv"]=>
    array(0) {
    }
    ["argc"]=>
    int(0)
    ["HTTPS"]=>
    string(2) "on"
  }
  ["content_user_category"]=>
  string(4) "paid"
  ["content_cookies"]=>
  object(stdClass)#28901 (3) {
    ["status"]=>
    int(0)
    ["sso"]=>
    object(stdClass)#28897 (2) {
      ["content_id"]=>
      int(25966)
      ["client_id"]=>
      string(36) "1d1883f4-87d0-4156-8903-e6ceb0cb4224"
    }
    ["count_read"]=>
    NULL
  }
  ["is_agent_bot"]=>
  int(1)
}
شارك
شارك
whatsapp
linkedin

الذكاء الاصطناعي

تشير دراسة حديثة إلى أن إحدى الخوارزميات المستخدمة لتقييم كفاءة وظائف الكُلَى في الولايات المتحدة تمارس تمييزاً عنصرياً ممنهجاً ضد المرضى ذوي الأصول الإفريقية.

بقلم عمرو عوض

2020-11-05 19:44:57

2022-01-18 19:48:37

05 نوفمبر 2020
Article image
الصورة الأصلية: شاترستوك | تعديل: إم آي تي تكنولوجي ريفيو العربية
إهداء هذه المقالة

هذه الميزة مخصصة للمشتركين يمكنهم مشاركة المواضيع بحد اقصى 10 مواد من كافة مواقع مجرة

خوارزميات تمارس العنصرية

حقق الذكاء الاصطناعي، خلال السنوات القليلة الماضية، نجاحات واسعة في العديد من مجالات الرعاية الصحية، وباتت التطبيقات والأدوات التي تعتمد على الخوارزميات تستخدم على نطاق واسع في عمليات التشخيص واكتشاف الأمراض، وإجراء الاختبارات والتجارب العلمية، بل وحتى في العمليات الجراحية.

ومع تزايد اعتماد الأطباء على الخوارزميات في اتخاذ القرارات الطبية أو تحليل المخاطر أو تفسير نتائج الاختبارات، بدأت تظهر جوانب "عنصرية" لهذه الأنظمة التي كان يفترض أن تكون محايدة تماماً في نتائجها.

وإحدى الاستخدامات الهامة للخوارزميات في القطاع الطبي هي تحديد المرضى الذين تكون لهم الأولوية في زراعة الأعضاء. ونظراً إلى أن عدد المرضى الموجود على قائمة الانتظار دائماً ما يكون أكبر من الأعضاء المتاحة للزراعة، فقد بدأت العديد من مراكز الرعاية الطبية تترك اتخاذ هذه القرارات المنقذة للحياة، والتي كانت فيما سبق منوطة بالبشر، في يد خوارزميات معقدة.

سجل في نشرة الخوارزمية

ابق مواكباً لأحدث أخبار وتطبيقات الذكاء الاصطناعي في قطاعك، وتأثيراته المستقبلية على مجال عملك.

تفاوت معدلات الرعاية الصحية

تشير دراسة حديثة نشرتها دورية الطب الباطني العام (Journal of General Internal Medicine) إلى أن إحدى الخوارزميات المستخدمة في تقييم وظائف الكُلَى لدى المرضى كثيراً ما تبالغ في تقدير صحة المرضى ذوي الأصول الإفريقية المصابين بمرض الكُلَى المزمن (CKD)، ما يؤدي في النهاية إلى تلقيهم رعاية أقل تخصصاً. وأوضحت أن الأمر يصل في بعض الأحيان إلى رفض وضع المرضى السود على قوائم انتظار عمليات زراعة الكُلَى، الأمر الذي يتسبب في تفاوت معدلات تلقي الرعاية الصحية عبر المجموعات العرقية المختلفة.

ومرض الكُلَى المزمن هو تراجع تدريجي في وظائف الكُلَى على مدى شهور أو سنوات، وينقسم عادة إلى 5 مراحل، أشدها هي المرحلة الخامسة التي تنخفض فيها قدرة الكُلَى على القيام بوظائفها إلى أقل من 15% من قدرتها الكاملة، مما يؤدي إلى تراكم الفضلات والماء في الدم، وغالباً ما يحدث فشل كلوي للمرضى عند هذه المرحلة، ولا يوجد حل في هذه الحالة سوى غسيل الكُلَى أو الخضوع لجراحة زراعة الكُلَى. ويبدأ التحضير لعمليات زراعة الكُلَى غالباً عند الوصول إلى المرحلة الرابعة.

تستند هذه الخوارزمية إلى معادلات تقيس معدل الترشيح الكبيبي المقدر (eGFR) وهو مقياس لوظيفة الكُلَى يقيس كمية الدم التي تُصفيها الكُلَى كل دقيقة، وكلما انخفض معدل الترشيح الكبيبي ينخفض مستوى وظائف الكُلَى. وتوضح الدراسة أن أحد المُعاملات التي تعتمد عليها الخوارزمية هو "مُعامل العرق"، والذي يدفع الخوارزمية في نهاية المطاف إلى اتخاذ قرارات غير عادلة، لأنه يحدد قيماً أعلى لمعدل الترشيح الكبيبي للمرضى الأمريكيين من أصل أفريقي.

…ولا حالة واحدة!

أجُريت الدراسة على بيانات 56 ألف و845 مصاباً بمرض الكُلَى المزمن في مدينة بوسطن الأميركية، من بينهم 2225 (3.9%) مريضاً من أصل أفريقي. وخلصت النتائج إلى أن أكثر من ثلث المرضى السود (743 مريضاً) كان سيتم تصنيفهم في مرحلة أكثر خطورة إذا تم استبعاد معامل العرق من المعادلة التي تعتمد عليها الخوارزمية، وبالتالي كان من الممكن أن يتلقوا رعاية طبية أفضل لو لم تكن الخوارزميات متحيزة عنصرياً، ولو تم تقدير نتائجهم باستخدام نفس الصيغة المستخدمة مع المرضى البيض.

وتشير الدراسة أيضاً إلى أن إعادة حساب نتائج فحوصات 64 مريضاً أسود – بعد استبعاد معامل العرق – نقلتهم إلى المرحلة الرابعة، وبالتالي أصبحوا مؤهلين للحصول على مكان في قائمة الانتظار للخضوع لعملية زراعة كُلَى. بينما لم تُقّيم الخوارزمية حالة أي من هؤلاء المرضى بأنه بحاجة لعملية زرع ولم تضع أي منهم في قائمة الانتظار.

وكان عدد من الباحثين قد طوروا صيغة "تصحيح العرق" في عام 2009 لتقليل الفوارق الإحصائية بين العدد القليل من المرضى ذوي الأصول الإفريقية وغيرهم من المرضى في البيانات، بيد أن هذه الصيغة تعرضت لانتقادات شديدة من الأطباء والأكاديميين. وتقول نواماكا إنيانيا الأستاذة المساعدة في جامعة بنسلفانيا – والتي شاركت في إجراء الدراسة – إن العرق هو فئة اجتماعية وليست فسيولوجية، وليس من المنطقي استخدامه لفهم اختبارات الدم.

تكمن أهمية هذه الدراسة في أنها تلقي الضوء على مشكلة متغلغلة في مختلف تطبيقات الذكاء الاصطناعي، ألا وهي التمييز العنصري. وقد تزايدت الأدلة خلال السنوات الماضية على التحيز الذي تمارسه خوارزميات الذكاء الاصطناعي ضد ذوي الأصول الأفريقية بشكل خاص، إضافة إلى التمييز على أساس الجنس والعرق والعمر، وهو ما دفع بعضاً من مجموعات الحريات المدنية إلى التحذير من أن التحيز في بيانات التدريب يرجح ظهور تحيز مؤتمت.

اخترنا لك للقراءة
عمرو عوض

عمرو عوض

باحث ماجستير في جامعة فيينا بالنمسا، وحاصل على بكالوريوس العلوم السياسية من جامعة القاهرة عام 2010، ثم دبلومة في المفاوضات الدولية من نفس الجامعة. عمل في صحيفة الشروق المصرية منذ عام 2013، ثم وكالة أنباء الشرق الأوسط منذ عام 2015، وكتب العديد من … المزيد المقالات عن السياسة الدولية لمجلة (دير شبيجل) الألمانية. ويعمل حالياً كاتباً في إم آي تي تكنولوجي ريفيو العربية.

المزيد من المقالات حول الذكاء الاصطناعي

اخترنا لك

01

الذكاء الاصطناعي

ماذا يعني أن يتمكّن الذكاء الاصطناعي من التغلب على البشر في اختبار القدرات الإبداعية؟

أصبح الذكاء الاصطناعي أكثر براعة في اجتياز الاختبارات المصممة لقياس القدرات الإبداعية عند البشر، ففي دراسة نُشِرت في مجلة ساينتيفيك ريبورتس (Scientific Reports) مؤخراً، حققت بوتات الدردشة التي تعمل بالذكاء الاصطناعي متوسط درجات أعلى من البشر في مهمة الاستخدامات البديلة (Alternate Uses Task)، وهي اختبار شائع الاستخدام لقياس هذه القدرات.

02

الذكاء الاصطناعي

6 أفكار حول الذكاء الاصطناعي يجب أن نناقشها الآن مع الأطفال

كان عام 2022 بمثابة دورة تدريبية مكثّفة في الذكاء الاصطناعي بالنسبة للأطفال والمعلمين وأولياء الأمور، وذلك بفضل

03

الذكاء الاصطناعي

كيف تستفيد من ميزات الذكاء الاصطناعي في حياتك اليومية؟

تخيل أن تستيقظ في الصباح وتطلب من