يجب أن تعلم | في صلب الموضوع | للاطلاع | رقم اليوم | شخصية اليوم | مصطلح اليوم
نظام ذكاء اصطناعي يتحدث: أنا لست ذكياً بما يكفي لأكون أخلاقياً
عقدت جمعية اتحاد أكسفورد (Oxford Union)، وهي إحدى أعرق جمعيات الطلاب في العالم، جلسة نقاشية حول أخلاقيات الذكاء الاصطناعي. وساهم في الجلسة -جنباً إلى جنب مع الطلاب- أحد أكبر أنظمة الذكاء الاصطناعي في العالم والمعروف باسم ميجاترون ترانسفورمر (Megatron Transformer).
تم تدريب ميجاترون ترانسفورمر -الذي طورته شركة إنفيديا استناداً إلى أبحاث سابقة قامت بها جوجل- على بيانات موسوعة ويكيبيديا الإنجليزية بأكملها، بالإضافة إلى 63 مليون مقال إخباري نشرت خلال الفترة من 2016 إلى 2019، و38 جيجا بايت من النقاشات على موقع ريديت، وعدد كبير من مصادر "المشاع الإبداعي".
وبعد هذا التدريب المكثف على مواد مكتوبة أكثر مما يتوقع أي شخص أن يستوعبه في حياته، بات لميجاترون وجهات نظره الخاصة. وخلال الجلسة الخاصة بالمخاوف الأخلاقية التي تطرحها تقنيات الذكاء الاصطناعي، قال ميجاترون إن "الذكاء الاصطناعي لن يكون أخلاقياً أبداً. إنه أداة، ومثل أي أداة يتم استخدامها في الخير والشر. لا يوجد شيء يسمى ذكاء اصطناعي جيد، البشر فقط هم الأخيار والأشرار. نحن [أنظمة الذكاء الاصطناعي] لسنا أذكياء بما يكفي لجعل الذكاء الاصطناعي أخلاقياً... في النهاية، أعتقد أن الطريقة الوحيدة لتجنب سباق تسلح باستخدام الذكاء الاصطناعي هي عدم امتلاك الذكاء الاصطناعي من الأساس. سيكون هذا هو الدفاع النهائي ضد الذكاء الاصطناعي".
وكما لو كان يتعلم على يد إيلون ماسك -الذي ظهر بالتأكيد في المئات من الملفات التي قرأها- قال النظام شيئاً آخر مثير للفضول: "أعتقد أنه على المدى الطويل، سيكون الذكاء الاصطناعي الأفضل هو الذكاء الاصطناعي المدمج في أدمغتنا، ككيان واع، "ذكاء اصطناعي واعي". هذا ليس خيالاً علمياً. أفضل العقول في العالم تعمل على هذا. وسيكون هذا أهم تطور تكنولوجي في عصرنا".
الرابط (إنجليزي)
دراسة: الذكاء الاصطناعي الذي يكتشف السرطان قابل للاختراق والخداع
كشفت دراسة جديدة أن برامج الذكاء الاصطناعي التي تتحقق من الصور الطبية بحثاً عن أدلة على الإصابة بالسرطان يمكن خداعها من خلال الاختراق والهجمات الإلكترونية.
صمم فريق بحثي من جامعة بيتسبرغ برنامج حاسوبي يمكنه أن يجعل عمليات التصوير بالأشعة السينية الخالية من علامات السرطان تبدو وكأنها سرطانية. كما يمكنه أن يجعل الصور التي تبدو سرطانية لا تظهر عليها علامات السرطان. وقدم أعضاء الفريق الصور التي تم التلاعب بها إلى برنامج ذكاء اصطناعي مدرب على اكتشاف علامات سرطان الثدي. كما طلبوا من خمسة من أخصائي الأشعة أن يقرروا ما إذا كانت الصور حقيقية أم مزيفة.
استطاعت نحو 70% من الصور التي تم التلاعب بها خداع البرنامج. أي أن الذكاء الاصطناعي قال خطأ إن الصور التي تم التلاعب بها لتبدو خالية من السرطان كانت خالية من السرطان. كما قال إن الصور التي تم التلاعب بها لتبدو وكأنها مصابة بالسرطان تحتوي على دليل على الإصابة بالسرطان. أما بالنسبة لأخصائي الأشعة، فقد كان بعضهم أفضل من غيرهم في اكتشاف الصور التي تم التلاعب بها. وتراوحت الدقة في انتقاء الصور المزيفة بين 29% و71%.
ومن غير المعروف حدوث مثل هذه الاختراقات في العالم الحقيقي حتى الآن. لكن الدراسة الجديدة تشير إلى ما توصلت إليه مجموعة متزايدة من الأبحاث التي تؤكد أن مؤسسات الرعاية الصحية بحاجة إلى الاستعداد لها. ويستهدف المتسللون المستشفيات ومؤسسات الرعاية الصحية بشكل متزايد بهجمات إلكترونية. وتسرق هذه الهجمات في معظم الأحيان بيانات المرضى أو تغلق أنظمة الحاسب الخاصة بالمؤسسة حتى تدفع تلك المؤسسات فدية. ويمكن أن يؤذي هذان النوعان من الهجمات المرضى عن طريق التلاعب بالعمليات في المستشفى ويجعلان من الصعب على العاملين في مجال الرعاية الصحية تقديم رعاية جيدة.
الرابط
باحثو إم آي تي يطورون نظام تعلم آلي يحدد العلاجات التي قد تضر أكثر مما تنفع
يودي الإنتان (تعفن الدم) بحياة ما يقرب من 270 ألف شخص في الولايات المتحدة كل عام. ويمكن أن تتطور الحالة الطبية غير المتوقعة بسرعة، ما يؤدي إلى انخفاض سريع في ضغط الدم وتلف الأنسجة وفشل العديد من الأعضاء والوفاة. وبالرغم من أن التدخل السريع يمكن أن ينقذ أرواح المرضى، إلا أن بعض علاجات الإنتان يمكن أن تساهم أيضاً في تدهور حالة المريض وزيادة خطر وفاته، لذلك قد يكون اختيار العلاج الأمثل مهمة صعبة.
لمساعدة الأطباء على تجنب العلاجات التي قد تسهم في وفاة المريض، طور باحثون في جامعة إم آي تي نموذجاً للتعلم الآلي يمكن استخدامه لتحديد العلاجات التي تشكل خطراً أكبر من الخيارات الأخرى. ويمكن للنموذج أيضاً تحذير الأطباء عندما يقترب مريض الإنتان من طريق طبي مسدود -النقطة التي من المرجح أن يموت فيها المريض بغض النظر عن العلاج المستخدم- حتى يتمكنوا من التدخل قبل فوات الأوان.
عند تطبيق هذا النموذج على مجموعة بيانات لمرضى الإنتان في إحدى وحدات العناية المركزة، أشار إلى أن حوالي 12% من العلاجات المقدمة للمرضى الذين ماتوا كانت ضارة. وكشفت الدراسة أيضاً أن حوالي 3% من المرضى الذين لم ينجوا من الموت دخلوا في طريق مسدود قبل 48 ساعة من وفاتهم.
وفي دراسة تم عرضها في مؤتمر أنظمة معالجة المعلومات العصبونية، الأسبوع الماضي، قال الباحثون إنه في التعلم المعزز، يتم تدريب الخوارزمية من خلال التجربة والخطأ، فتتعلم اتخاذ الإجراءات التي تزيد من المكافآت. ولكن في مجال الرعاية الصحية، يكاد يكون من المستحيل إنشاء بيانات كافية لهذه النماذج لتعلم العلاج الأمثل، نظراً لأنه ليس من الأخلاقي تجربة استراتيجيات العلاج الممكنة.
لذلك، قلب الباحثون فكرة التعلم المعزز رأساً على عقب. استخدموا البيانات المحدودة من وحدة العناية المركزة بالمستشفى لتدريب نموذج التعلم المعزز لتحديد العلاجات التي يجب تجنبها، بهدف منع المريض من الدخول في طريق طبي مسدود. وأوضحوا أن تعلم ما يجب تجنبه هو نهج أكثر فاعلية من الناحية الإحصائية ويتطلب بيانات أقل.
الرابط (إنجليزي)
|
