ما الذي يخبرنا به روبوت تسلا عن التحيز في التصميم؟

حقوق الصورة: تسلا.

استمع الى المقالة الآن هذه الخدمة تجريبية

في أوائل أكتوبر/ تشرين الأول، قدمت شركة تسلا نموذجاً أولياً لروبوت أوبتيموس (Optimus) الشبيه بالإنسان. كان العرض التوضيحي السابق للشركة قد تضمن خروج إنسان ببدلة تشبه الروبوت، لذلك عندما سار أوبتيموس ببطء على خشبة المسرح، قابله الجمهور المبتهج بسعادة. على الرغم من الإطار المستقبلي للعرض، فقد شعر خبراء الروبوتات بالإحباط بعد الكشف عن هذا الروبوت. بدت محاولات أوبتيموس الثقيلة للقيام بأشياء مثل الرقص أقل تقدماً من الروبوتات الأخرى، مثل روبوت أسيمو (ASIMO) من شركة هوندا، الذي لعب كرة القدم مع الرئيس السابق باراك أوباما في عام 2014. تفاخر مهندسو تسلا بأن روبوت أوبتيموس يستطيع تحريك يديه بحرية بمقدار 11 درجة (أي جميع الطرق التي يمكن للأجزاء الروبوتية أن تنحني بها). وبالمقارنة، فإن اليد الروبوتية التي صممها مهندس ياباني في عام 1963 كانت تتحرك بمقدار 27 درجة.

على الرغم من قدراته المحدودة بشكل واضح، فإن أوبتيموس لا يزال يثير قلقاً اعتيادياً من احتمالية تمرد الروبوتات على صانعيها يوماً ما. ما الذي يجعلنا نشعر بالتهديد من روبوت أوبتيموس؟ يكشف البحث الذي قدمته حول تطوير الروبوتات اليابانية أن مشاعرنا تجاه الروبوتات لا تتعلق بالفكرة العامة للاصطناعية، كما يقترح العديد من النقاد، بل تتعلق أكثر بحقيقة أنها وكلاء لبشر حقيقيين. غالباً ما تعكس مشاعر الناس تجاه الروبوتات مشاعرهم تجاه نوع العامل البشري الذي يُفترض أن يحل الروبوت مكانه.

تجارب تخبرنا عن تحيزات تصميم الروبوتات

عند مشاهدة الفيديو الطويل للعرض التوضيحي، أدهشني سماع إيلون ماسك ومهندسيه يدلون بتصريحات تعكس ما قاله المهندسون اليابانيون في الثمانينيات (وحتى قبل ذلك)، كالحاجة إلى “تصميم مستوحى بيولوجياً” لإنشاء آلة متعددة الأغراض، والوعد بأن العمال الآليين سوف يحرروننا من رهبة العمل ويحققون السعادة والازدهار بشكل عام في غضون 10 إلى 15 عاماً، والرغبة في الحصول على رفيقٍ آلي، وغيرها الكثير. تُعتبر تجربة المهندسين اليابانيين الذين حاولوا (منذ نحو 40 عاماً) القيام بما يحاول مهندسو شركة تسلا القيام به الآن، تجربةً مُلهمة، لأنها تُظهر أن المهمة أصعب بكثير مما تبدو عليه، كما أنها تكشف لنا الافتراضات والتحيزات المخفية التي تدخل في تصميم روبوت شبيه بالإنسان.

اليوم، تولّد الروبوتات في اليابان الحب والمودة بدلاً من الخوف، لكن ذلك لا يحدث على الدوام. حدثت اللحظة المفصلية التي جعلت الروبوتات اليابانية محبوبةً (بدلاً من أن تكون مهدّدة للبشر) في الثمانينيات، عندما سعى قادة الحكومة والصناعة إلى علاج مشكلة نقص العمالة في قطاع الخدمات عن طريق استبدال البشر بالروبوتات. وفي ذلك الوقت، كانت معظم الروبوتات صناعية وغير مناسبة لقطاع الخدمات. لسببٍ واحد، لم تكن الروبوتات الصناعية آمنة لتكون موجودة وتعمل في البيئات البشرية.

كانت إعادة تصميم الروبوتات للعمل في الأماكن العامة أو المنزلية أمراً صعباً، لكن مهندسي الروبوتات واجهوا تحدياً أكبر. اتضح أن الخدمة الجيدة لا تقتصر على إكمال المهام المحددة بشكل فعّال مثل التنظيف أو تقديم الطعام أو قص الشعر. وكما اكتشف المهندسون اليابانيون، فإنها تستلزم أيضاً عملاً عاطفياً، كالتحيّات المبهجة والدردشة والابتسامات العفوية التي تجعل العملاء يشعرون بالراحة. ولتصميم روبوت قادر على توفير خدمة مرضية، كان على مهندسي الروبوتات أن يفعلوا أكثر من مجرد تحقيق تقدم في الذكاء الاصطناعي أو في حركة القدمين؛ فقد كان عليهم أيضاً دراسة كيفية إرضاء المستخدمين البشر. ووجدوا أن روبوتات الخدمة يجب أن تشبه العمال البشر الذين قدموا نفس العمل في السابق: يجب أن يكونوا شبيهين بالإنسان.

محاكاة روبوتية لفئات محددة من البشر

توضّح هذه الحلقة من تاريخ الروبوتات اليابانية السبب، فعلى الرغم من التحديات الهندسية المتمثلة في جعل آلة ثقيلة الوزن تسير على قدمين، جعل مهندسو تسلا روبوت أوبتيموس يشبه الإنسان. ورداً على سؤال حول قدرة الإصدارات المستقبلية من روبوت أوبتيموس على “الضحك على نكاتنا أثناء قيامها بطي ملابسنا”، أجاب ماسك ببيان كان من الممكن أن يأتي ببساطة من مهندس ياباني في الثمانينيات. فقد قال إن هدفه كان ابتكار روبوت “أشبه بصديق”، ولا يؤدي المهام الموكلة إليه فحسب. يكشف سعر التجزئة المنخفض نسبياً لروبوت أوبتيموس والذي يبلغ (20.000 دولار، أو “أقل من قيمة سيارة”) أن استراتيجية شركة تسلا هي إنشاء منتج استهلاكي للشركات الصغيرة في قطاع الخدمات، وفي النهاية، للأسر الفردية.

لا يمكن أن تكون الظروف أفضل لمثل هذا المنتج. لقد قضى الوباء على القوى العاملة في قطاع الخدمات. تغلق المطاعم التي تعاني نقصاً في الموظفين في وقتٍ مبكر وتقدم خدماتها لعدد أقل من الزبائن. لذا، فإن بعض سلاسل الوجبات السريعة تفكر في الانتقال إلى خدمة الدفع من خلال السيارة، درايف ثرو (drive-through) فقط. ثمة فوضى هائلة في المطارات. كل ذلك لأن العديد من البشر لم يعودوا مستعدين لتحمّل ظروف العمل السيئة مقابل أجور زهيدة.

من المؤكد أن استبدال هؤلاء العمال بروبوتات الخدمة سيؤتي ثماره لصاحب العمل المغامر إذا استطاع مهندسو الروبوتات جعل الروبوتات تفعل ما هو متوقع من البشر الحقيقيين، وهو أمرٌ صعب، نظراً لأن الروبوت أوبتيموس احتاج إلى مساعدة للخروج من المسرح. (في اليابان، على سبيل المثال، لا تزال الروبوتات “التي تشغل وظائف” وسيلةً للتحايل بشكلٍ فعّال، حيث يقوم عدد كبير من البشر بالعمل و/ أو صيانة الروبوتات، التي تعتبر أجهزة ترضي الجماهير، وليست موفرة للعمالة).

تصاميم غير محايدة تحاكي توقعاتنا!

تكشف الروبوتات عمّا نتوقعه من أولئك الذين يخدموننا ومصدر هذه التوقعات. وجدتُ من خلال أبحاثي أن تصميمات الروبوتات تحتوي على إشارات تنبيهية تحاكي تجارب المستخدمين السابقة. حيث لا يتم تصميم الروبوتات على أساس إنسان “شامل”، ولكن على أساس فئةٍ معينة من البشر الذين يقدمون نوعاً محدداً من العمل. بعبارة أخرى، لا يعكس تصميم الروبوت المهام التي نرغب في أن يقوم بها الروبوت فحسب، بل يعكس نوع الإنسان الذي نتوقع منه القيام بتلك المهام.

كما تكشف تفاصيل تصميم روبوت بشري معين عن تلميحات حول نوع العامل البشري الذي يتخيله المهندسون (حتى بشكل لا إرادي) كنموذج. يمكن أن تخبرنا تفاصيل التصميم هذه كثيراً عن تصورات الأشخاص الحقيقيين المرتبطين بعمل معين، بالإضافة إلى الافتراضات الضمنية حول الحالة والهوية. والأهم من ذلك، أن تصميم الروبوتات البشرية يكشف شيئاً عن شعورنا تجاه عمال الخدمة وكيف نعتقد أنهم “يجب” أن يتصرفوا.

في حالة الروبوتات اليابانية، غالباً ما تكون روبوتات الخدمة ضئيلة الحجم ومؤنثة (مع ذقن وأنف صغيرين، ونطاق صوتي عالٍ، ولا يوجد خط للفك). كما يقدم تصميم أجسادها تلميحات بصرية لنوع البشر الذين من المفترض أن يحلّوا محلهم. على سبيل المثال، يرتبط المئزر الخفي المرئي على بعض روبوتات الخدمة اليابانية بـ”العمة” التي تقوم بالرعاية. تم تصميم هذه الروبوتات صراحةً لمنح المستخدم إحساساً بالتعاطف العائلي، والاعتناء به، وأهميته. وفي المقابل، تم تصميم “موظفي الاستقبال” الروبوتيين بشكل يشبه الشابات ذوات الرغبة الجنسية المفرطة، وهو تصميم يوضح أن العمل المتوقع منهنّ ليس مكتبياً فقط. تعد الروبوتات الجنسية (Sexbots) قصةً أخرى، والسبب في أن المهندسين اليابانيين عملوا بجد لتطوير جلد اصطناعي يكون واقعياً للغاية).

وهذا يعيدنا إلى روبوت أوبتيموس. صرّح ماسك بأنه من الممكن “وضع كل أنواع الأزياء على الروبوتات”. إذاً، ما الذي يكشف عنه تصميم أوبتيموس عن نوع الشخص الذي يرتدي هذا التصميم (أو، كما يريد المصممون منّا أن نصدّق)، على عكس النموذج الأولي أو الرجل الذي يرتدي البدلة التي تم تصميمها؟ أولاً، إنه ذكر بلا شك، ذو قامة طويلة، وعضلات فخذ مبالغ فيها، وأكتاف عريضة. يوصل لنا رأس أوبتيموس الصغير رسالةً مفادها أنه ليس مفكراً. كما يؤكد الوجه الخالي من المعالم للروبوت أن عواطفه ليست لها أهمية. كما يخبرنا التصميم أن العامل البشري المصمم على غرار الروبوت أوبتيموس يتم تقييمه على أساس العمل اليدوي وحده. فهو لا يفكر. وإنما يعمل. ويفعل ما هو مطلوب منه.

ومن الجدير بالذكر أيضاً، ظهور وجه أوبتيموس ويديه باللون الأسود في العرض التجريبي. هل هذا يعني أي شيء؟ ربما. قد لا يزال العديد من المستخدمين الأميركيين (لاشعوريّاً) يربطون بين العمل اليدوي للذكور واللون الأسود. قرأت ذات مرة نص محادثة بين المهندسين اليابانيين، الذين اعتقدوا، في عام 1973، بأن الولايات المتحدة سعت إلى تصميم روبوتات لتحل محل قوتها العاملة من أصحاب البشرة السوداء. ليس لدي أدنى شك في أن المهندسين اليابانيين كانوا يقرؤون المجلات الأميركية، حيث كانوا يتصورون أن تتولى الروبوتات الوظائف المرتبطة غالباً بالأميركيين ذوي البشرة السوداء، كالأعمال اليدوية الشاقة، والتصنيع، وجمع القمامة. وكانت بعض المقالات الأميركية أكثر وضوحاً فيما يتعلق بنواياهم.

يستشهد زميلي جيسون ريسنيكوف بمقال نُشر عام 1957 في مجلة ميكانيكس إيلوستريتد (Mechanix Illustrated)، الذي يبشّر القراء بأنهم “سيمتلكون” عبيداً “بحلول عام 1965”. ويُقصد بالعبيد الآليين، الخدم الآليون والطهاة والسائقون وموظفو السكرتاريا وحراس الأمن. وبالتالي يمكن تفسير الروبوت أوبتيموس على أنه تمثيل لكلٍّ من بنى العمل القمعية والعنصرية وما يتبعها من انخفاض لقيمة أنواع مختلفة من العمل. ربما يكون الخوف الذي يثيره أوبتيموس بين بعض الأميركيين هو الخوف من التمرد على تلك الأعمال.

التصميم ليس محايداً. تعكس هندسة الروبوتات ما نريده من العامل، وبالتالي، ما نريده لأنفسنا. بينما تمثّل الروبوتات اليابانية الرغبة في تقديم الخدمة بحُب من قبل شخص (روبوت) يعطي أكثر مما يطلب، يجسد الروبوت أوبتيموس عاملاً مطيعاً.

لا أخشى سيطرة الروبوتات على العالم. إن المسافة بين ما يمكن أن تفعله الروبوتات الآن وما يجب أن تكون قادرة على القيام به للسيطرة على العالم أكبر بكثير مما يتخيله معظم الناس. لكنني أخشى أن تؤدي الروبوتات مثل أوبتيموس إلى إلحاق الضرر بالبشر في نهاية المطاف. لن يكون ذلك عن طريق إيذاء البشر جسدياً، ولكن من خلال تقديم أمل زائف للإصلاحات التكنولوجية التي من شأنها أن تحل المشكلات الاجتماعية بطريقةٍ سحرية. والأمر الأكثر تدميراً هو أنه في حال عدم الانتباه الواعي والدقيق للتصميم، فإن الروبوتات البشرية ستعزز حتماً الارتباطات الضارة المتعلقة بالعرق والجنس والعمل الخضوعي، وبالتالي تفاقم التمييز ضد البشر واستغلالهم. من الممكن أن تكون الخوارزميّات والشبكات الاجتماعية متحيّزة أيضاً. وكذلك الروبوتات.