Article image
مصدر الصورة: سيمون لاندرين
Article image مصدر الصورة: سيمون لاندرين

الآلات الذكية

طرحت "مسألة العربة" الشهيرة على الملايين في دراسة عالمية كشفت مقدار التباين في الأخلاقيات بين الثقافات المختلفة.

في 2014، قام باحثو مختبر الميديا في إم آي تي بتصميم تجربة أطلقوا عليها اسم الآلة الأخلاقية. تقوم الفكرة على تصميم منصة تعمل بطريقة مشابهة للألعاب لجمع آراء وقرارات الناس حول مسألة أولوية الحفاظ على حياة الأشخاص لدى السيارات ذاتية القيادة ضمن تنويعات مختلفة على “مسألة العربة”. وبهذه العملية، ستقدم البيانات المستخلصة معلومات حول أولويات الأخلاقيات الجماعية للثقافات المختلفة.

ولم يتوقع الباحثون أن تحوز التجربة هذا الانتشار الكبير، فبعد أربع سنوات من إطلاق المنصة، سجل أشخاص من 233 بلداً ومنطقة 40 مليون قرار، مما يجعلها إحدى أضخم الدراسات الاجتماعية التي أجريت حول التفضيلات الأخلاقية العالمية.

وهناك بحث جديد نُشر في مجلة نيتشر Nature يحوي تحليلاً لهذه البيانات، ويكشف الفروقات ما بين الأخلاقيات لدى الثقافات المختلفة بناء على الثقافة والاقتصاد والموقع الجغرافي.

أما بالنسبة لمسألة العربة بشكلها التقليدي، فهي كالتالي: هناك عربة خارجة عن السيطرة وتندفع بسرعة عالية على السكة الحديدية، وهي توشك على دهس خمسة أشخاص والتسبب في مقتلهم. يمكنك أن تستخدم مقبضاً لنقل العربة إلى سكة مختلفة، حيث سيلاقي شخص واحد نفس المصير. هل يجب أن تسحب المقبض وتقتل شخصاً حتى تنقذ خمسة أشخاص أم لا؟

اعتمدت الآلة الأخلاقية على هذه الفكرة لاختبار تسع مقارنات مختلفة أثبتت وجود تباين كبير من آراء البشر: هل يجب على السيارة ذاتية القيادة أن تفضل البشر على الحيوانات الأليفة، أو الركاب (في داخلها) على المشاة، أو العدد الأكبر من الحيوات على العدد الأقل، أو النساء على الرجال، أو الصغار على الكبار، أو صحيحي الأبدان على المرضى، أو ذوي المكانة الاجتماعية العالية على ذوي المكانة الاجتماعية المنخفضة، أو الملتزمين بالقانون على مخالفي القانون؟ وأخيراً، هل يجب على السيارة أن تنحرف عن مسارها (تبدي ردة فعل) أو تتابع مسارها (لا تفعل شيئاً)؟

مثال على الأسئلة المطروحة على المشاركين في الآلة الأخلاقية.
مصدر الصورة: الآلة الأخلاقية

ولكن بدلاً من عرض هذه المقارنات بشكل منفرد، قدمت التجربة إلى المشاركين تركيبات مختلفة، وعلى سبيل المثال: هل يجب على السيارة ذاتية القيادة أن تتابع طريقها وتقتل ثلاثة مشاة كبار في العمر، أو تنحرف في مسارها حتى تصطدم بحاجز وتقتل ثلاثة ركاب يافعين؟

ووجد الباحثون تفاوتاً كبيراً في الآراء ما بين البلدان المختلفة، ولكنهم اكتشفوا أيضاً ترابطاً عالياً مع الثقافة والاقتصاد. وعلى سبيل المثال، فإن المشاركين من الثقافات جماعية الطابع (مثل الصين واليابان)، كانوا أقل ميلاً لتفضيل إنقاذ صغار السن بدلاً من كبار السن، ويقول الباحثون إن السبب قد يعود إلى التركيز الكبير على احترام كبار السن في هذه الثقافات.

تميل البلدان ذات الثقافة فردية الطابع إلى إنقاذ صغار السن:

وبنفس الشكل، كان المشاركون من البلدان الفقيرة ذات المؤسسات المفككة أكثر تسامحاً مع عابري الطريق المخالفين مقارنة بمن يعبرون الطريق بشكل قانوني، كما أن المشاركين من بلدان ذات تفاوت اقتصادي كبير في الدخل أبدوا تبايناً كبيراً في المعاملة ما بين الأفراد ذوي المكانة الاجتماعية العالية والمنخفضة.

وعند الوصول إلى السؤال الأساسي في مسألة العربة، لاحظ الباحثون أن العدد الإجمالي للأشخاص المعرضين للخطر لم يكن العامل الأساسي دائماً في اختيار المجموعة التي يجب إنقاذها. وقد أظهرت النتائج أن المشاركين الذين ينتمون إلى ثقافات فردية الطابع، مثل المملكة المتحدة والولايات المتحدة، كانوا أكثر ميلاً إلى إنقاذ أكبر عدد ممكن من الأشخاص بشكل عام، وهو ما قد يعود من وجهة نظر المؤلفين إلى القيمة الكبيرة لكل فرد في هذه الثقافات.

تميل البلدان ذات الثقافة فردية الطابع إلى إنقاذ عدد أكبر من الأشخاص:

كما أن البلدان القريبة من بعضها أظهرت تقارباً في التفضيلات الأخلاقية، مع وجود ثلاثة تجمعات متمايزة في الغرب والشرق والجنوب.

ويعترف الباحثون بإمكانية وجود انحراف في النتائج؛ نظراً لأن المشاركين اختاروا المشاركة بأنفسهم، ولهذا فمن المرجح أن يكونوا متصلين بالإنترنت بشكل دائم، وذوي مكانة اجتماعية عالية ومعرفة تقنية جيدة. ولكن من ناحية أخرى، يُرجح وجود هذه الصفات أيضاً لدى المهتمين بركوب السيارات ذاتية القيادة.

وهذه الدراسة تقدم نتائج مثيرة للاهتمام إلى هذه البلدان التي تعمل حالياً على اختبار السيارات ذاتية القيادة، نظراً لأن هذه الخيارات قد تلعب دوراً في صياغة القواعد الناظمة لعمل هذه المركبات. وقد يكتشف صانعو السيارات أن الزبائن الصينيين -على سبيل المثال- يفضلون استخدام سيارة تحمي حياتهم على حساب حياة المارة.

مقارنة بين البلدان من ناحية تفضيل إنقاذ المشاة على إنقاذ الركاب:

يشدد المؤلفون على أن هذه النتائج لا تهدف إلى إملاء كيفية التعامل مع الموضوع على البلدان المختلفة، وفي الواقع فقد شعر المؤلفون في بعض الحالات أن التقنيين وصانعي القرار يجب أن يتجاهلوا الرأي العام الجماعي. وقد طرح إدموند عوض (وهو أحد مؤلفي البحث) مسألة مقارنة المكانة الاجتماعية مثالاً على هذه الحالة، فقال: “من المقلق أن بعض الناس يعتبرون أن من المقبول -وإن كان إلى حد معين- تفضيل إنقاذ ذوي المكانة الاجتماعية العالية على حساب إنقاذ ذوي المكانة الاجتماعية المنخفضة. ومن المهم أن نحاول تكميم هذه المسألة بدلاً من أن نستخدمها بهذا الشكل”. يقول عوض إنه يجب استخدام النتائج من قِبل الشركات والحكومات كأساس لفهم وجهة النظر الأخلاقية العامة فيما يتعلق بالقرارات التصميمية والسياسية المختلفة.

ويأمل عوض أن النتائج ستساعد التقنيين على توسيع تفكيرهم في مسألة أخلاقيات الذكاء الاصطناعي بشكل يتجاوز السيارات ذاتية القيادة، حيث يقول: “لقد اعتمدنا على مسألة العربة لأنها طريقة جيدة جداً لجمع البيانات، ومع ذلك فنحن نأمل أن النقاش حول الأخلاقيات لن يبقى محصوراً في حدودها، بل يجب أن ينتقل النقاش إلى تحليل المخاطر، أي تحديد الطرف المعرَّض لخطر أكبر بدلاً من أن نكتفي بتحديد من سيموت ومن سيعيش، وأيضاً حول كيفية ظهور التحيز”. ويأمل أنه سيتابع الدراسة لاحقاً لمعرفة كيفية استخدام هذه النتائج في ترسيخ أخلاقيات التصميم والذكاء الاصطناعي.

ويقول عوض: “بدأ الناس يتحدثون عن أخلاقيات الذكاء الاصطناعي في آخر سنتين أو ثلاث، وبدأت تنتشر فكرة اختلاف العواقب الأخلاقية للذكاء الاصطناعي باختلاف المجموعات البشرية. وإن رؤية الناس وهم يتفاعلون مع هذه المسألة أمر واعد على ما أعتقد”.

المزيد من المقالات حول الآلات الذكية

  1. Article image
  2. Article image
  3. Article image
error: Content is protected !!