ما التحديات التي تواجه ممارسة الرقابة على المحتوى في الميتافيرس؟

الإشراف على المحتوى في الميتافيرس

يعمل ييكانتي في طليعة مجال جديد يحمل اسم الإشراف على المحتوى في الميتافيرس والواقع الافتراضي، شهد مجال الأمان الرقمي الكثير من المشكلات في بدايته؛ إذ أُبلغ عن حالات تحرّش وتنمّر تجاه الأطفال، وأصبحت هذه المشكلة أكثر إلحاحاً بعد أن أعلنت شركة ميتا (Meta) في منتصف شهر أبريل/ نيسان أنها ستخفّض الحد العمري الأدنى لمنصة هورايزون وورلدز (Horizon Worlds) من 18عاماً إلى 13 عاماً. احتوى الإعلان أيضاً على عدد كبير من الميزات والقواعد التي تهدف إلى حماية المستخدمين الأصغر سناً، مع ذلك، سيتعين على أشخاص معينين إنفاذ هذه القواعد والتأكد من أن المستخدمين لا يحتالون على آليات الحماية.

لم تصرّح شركة ميتا بعدد مشرفي المحتوى الذين وظّفتهم أو تعاقدت معهم في منصة هورايزون وورلدز، أو ما إذا كانت تنوي زيادة هذا العدد بعد خفض الحد العمري الأدنى، لكن هذا التغيير يسلّط الضوء على الأشخاص المكلفين بإنفاذ القوانين في هذه المساحات الجديدة على الإنترنت (مثل ييكانتي) وطرق ممارسة وظائفهم.

عمل ييكانتي مشرفاً ومدير تدريب في مجال الواقع الافتراضي منذ عام 2020، وبدأ العمل في الميتافيرس بعد العمل على الإشراف التقليدي على المحتوى من النصوص والصور، وهو يعمل مع فريق في الهند لدى شركة ويب بيوريفاي (WebPurify) التي تقدّم خدمات الإشراف على المحتوى لشركات الإنترنت مثل مايكروسوفت (Microsoft) وبلاي لاب (Play Lab). يجري ييكانتي أغلبية عمله في المنصات الرائجة، ومنها التي تملكها شركة ميتا، على الرغم من أن شركة ويب بيوريفاي رفضت تأكيد أي منها، مشيرةً إلى الاتفاقيات السرية مع العملاء على وجه التحديد.

يقول ييكانتي، الذي كان من الشغوفين بالإنترنت منذ فترة طويلة، إنه يحب ارتداء نظارات الواقع الافتراضي ومقابلة أشخاص من جميع أنحاء العالم وتقديم النصائح لمنشئي المحتوى في الميتافيرس حول كيفية رفع جودة ألعابهم و”عوالمهم”.

ينتمي ييكانتي إلى فئة جديدة من العاملين الذين يضمنون السلامة في الميتافيرس بصفتهم وكلاء أمن خاصين، وهو يتعامل مع الشخصيات الرمزية لأشخاص حقيقيين بهدف تحرّي حالات سوء السلوك في الواقع الافتراضي. لا يكشف ييكانتي علناً عن أنه مشرف، بل هو أقرب لعميل سري يدّعي أنه مجرد مستخدم عادي كي يشهد على الانتهاكات بكفاءة أكبر.

بما أن أدوات الإشراف على المحتوى التقليدية، مثل عوامل التصفية التي تعمل بالذكاء الاصطناعي وتُطبَّق على كلمات معينة، لا تعمل بكفاءة في البيئات الغامرة في الوقت الفعلي، فالاستعانة بالمشرفين مثل ييكانتي هي الطريقة الأساسية لضمان السلامة في العالم الرقمي، وتزداد أهمية هذا العمل مع الزمن.

اقرأ أيضاً: كيف سيغيّر الميتافيرس تجربة التداول الإلكتروني؟

مشكلة الأمان في الميتافيرس

مشكلة الأمان في الميتافيرس معقدة ومبهمة. أبلغ الصحفيون عن حوادث مثل التعليقات المسيئة والاحتيال والتحرش، كما أُبلغ أيضاً عن حالة اختطاف دُبّرت بمساعدة نظارات الواقع الافتراضي أوكيولوس (Oculus) من شركة ميتا. تتكتّم أكبر المنصات الغامرة، مثل روبلوكس (Roblox) وهورايزون وورلدز، على الإحصائيات المتعلقة بالسلوكيات المسيئة، ولكن يقول ييكانتي إنه يواجه تجاوزات يمكن الإبلاغ عنها يومياً.

رفضت شركة ميتا التعليق على الحالات المبلغ عنها، ولكنها أرسلت قائمة بالأدوات والسياسات التي تطبّقها إلى موقع إم آي تي تكنولوجي ريفيو، ويقول متحدث باسم شركة روبلوكس، إن الشركة شكّلت “فريقاً من آلاف المشرفين الذين يراقبون المحتوى غير الملائم على مدار الساعة طوال أيام الأسبوع ويتحققون من التقارير التي يقدّمها مجتمع المنصة”، وإنها تستخدم أيضاً التعلم الآلي لمراجعة النصوص والصور والملفات الصوتية.

لجأت شركات التكنولوجيا بهدف التعامل مع مسائل السلامة إلى المتطوعين والموظفين مثل المرشدين في مجتمع ميتا والمشرفين الذين يعملون بالسر مثل ييكانتي، بالإضافة إلى أنها تستفيد بدرجة متزايدة من ميزات المنصات التي تُتيح للمستخدمين ضمان سلامتهم بأنفسهم، مثل ما يدعى بخط الحدود الشخصية الذي لا يمكن للمستخدمين الآخرين تجاوزه.

اقرأ أيضاً: كيف تخطط دائرة صحة أبوظبي للاستفادة من الميتافيرس في الخدمات الصحية؟

يقول محلل السياسات في مؤسسة تكنولوجيا المعلومات والابتكار (Information Technology and Innovation Foundation)، وهي مركز تفكير مقره العاصمة الأميركية واشنطن، خوان لوندونيو (Juan Londoño): “وسائل التواصل الاجتماعي هي حجر الأساس بالنسبة للميتافيرس، وعلينا أن نتعامل مع الميتافيرس على أنه نظام نتج عن عملية تطوّر، وأنه الخطوة التالية في تطوّر وسائل التواصل الاجتماعي، وليس كياناً منفصلاً عنها تماماً”.

ولكن نظراً إلى الطبيعة المستحوذة للميتافيرس، فكثير من الأدوات المصممة للتعامل مع العدد الهائل من الكلمات والصور التي يحتمل أن تكون مسيئة في مواقع الويب الثنائية الأبعاد لا تعمل بكفاءة في الواقع الافتراضي، واتضح أن مشرفي المحتوى البشر من أهم الحلول.

تعتبر محاولة تقرب البالغين ذوي النوايا السيئة من القاصرين، تحدياً حقيقياً أيضاً؛ عندما لا تعزل الشركات هذه الإساءات وتقي المستخدمين منها استباقياً، يُكلّف المستخدمون بالكشف عن السلوك المسيء والإبلاغ عنه.

تقول محامية الخصوصية التي عملت في شركة رياليتي لابز (Reality Labs) التابعة لشركة ميتا حتى أكتوبر/ تشرين الأول 2022، ديلارا ديراكشاني (Delara Derakhshani): “يبدو أن إبلاغ المستخدمين عن الأحداث الصادمة أو المواقف الخطيرة المحتملة التي مروا بها إجراء متأخر جداً، ويجب ألّا تعتمد الشركات عليهم في ذلك. يجب ألّا يقع العبء على الأطفال للإبلاغ عن هذه الحوادث بعد وقوع الضرر أو الصدمة بالفعل”.

اقرأ أيضاً: ازدهار تصميم الأزياء الافتراضية في عالم الميتافيرس

الخط الأمامي في معركة الإشراف على المحتوى

تعني الطبيعة الغامرة للميتافيرس أن السلوكيات التي تخرق القواعد ستكون متعددة الأبعاد حرفياً ويجب أن تُكتشف في الوقت الفعلي عموماً. يبلِّغ المستخدمون عن نسبة قليلة فقط من هذه السلوكيات، ولا يُكتشف كل ما يحدث ويُوثّق في الوقت الفعلي، ولذلك وفقاً لمتحدث باسم شركة ميتا، صرّحت الشركة بأنها توثّق التفاعلات فور وقوعها.

عملت شركة ويب بيوريفاي، التي ركّزت من قبل على الإشراف على النصوص والصور، على تقديم خدماتها للشركات التابعة لشركة ميتا منذ عام 2022، واستعانت مؤخراً برئيس عمليات الثقة والأمان السابق في شركة تويتر (Twitter)، أليكس بوبكين (Alex Popken)، ليقود جهودها.

يقول بوبكين: “نحاول حالياً التوصل إلى طريقة لممارسة الرقابة على مجالي الواقع الافتراضي والواقع المعزز، وهو مجال جديد نوعاً ما لأننا سنضطر إلى مراقبة سلوك البشر”.

يقف موظفو شركة ويب بيوريفاي في الخطوط الأمامية في هذه المجالات الجديدة، ويبدو أن التعليقات العرقية والجنسية شائعة. يقول ييكانتي إن واحدة من المشرفين في فريقه تعاملت مع مستخدم أدرك أنها هندية وعرض عليها الزواج مقابل تقديم بقرة.

وهناك حوادث أخطر؛ تعاملت مشرفة أخرى في فريق ييكانتي مع مستخدم أدلى بتعليقات مسيئة ومهينة للغاية عن جسمها، وفي إحدى المرات، اقترب أحد المستخدمين من إحدى المشرفات وتحرّش بها مدعياً أنه كان يريد مصافحتها.

اقرأ أيضاً: مقابلة مع المؤسس الشريك في ميتابوليس: كيف تستطيع الشركات الاستفادة من الميتافيرس؟

يطّلع المشرفون على سياسات السلامة التفصيلية التي تحدد طرق تحديد التجاوزات والإبلاغ عنها في الشركة التي يعملون فيها، وتتضمن إحدى الألعاب التي يعمل عليها ييكانتي سياسة تحدد الفئات المحمية من البشر التي تميّزها خصائص مثل العرق والإثنية والنوع والانتماء السياسي والدين وحالة اللجوء وغيرها. يقول ييكانتي: “سيُعتبر أي شكل من التعليقات السلبية تجاه هذه المجموعات خطاب كراهية”. يتدرّب المشرفون على الاستجابة وفقاً لدرجة الإساءة وتبعاً لحكمهم الخاص، قد يعني ذلك كتم صوت المستخدمين الذين ينتهكون السياسات أو إزالتهم من اللعبة أو إبلاغ الشركة عنهم.

توفّر شركة ويب بيوريفاي للمشرفين وصولاً دائماً لاستشارات الصحة النفسية وغيرها من الموارد، إذ يجب أن يتعامل المشرفون مع المشكلات الدقيقة المتعلقة بالسلامة، ويمكن أن يتطلب الأمر الكثير من التفكير ودرجة عالية من الذكاء العاطفي لتحديد درجة ملاءمة الممارسات التي يصادفونها. على سبيل المثال، تختلف التوقعات حول المساحة الشخصية والتحيّات الجسدية عبر الثقافات والمستخدمين، وتتمتع المساحات المختلفة في الميتافيرس بإرشادات مجتمعية مختلفة.

اقرأ أيضاً: تغيّر المناخ يدفع هذه الدولة لإنشاء توأمها الرقمي في الميتافيرس

سرية المراقبة

يحدث كل هذا سرّاً كي لا يغيّر المستخدمون سلوكهم إن عرفوا أنهم يتفاعلون مع مشرف، يقول ييكانتي: “القبض على المسيئين مجزٍ أكثر مما هو مزعج”.

يعني الإشراف أيضاً تجاوز الخصوصية المتوقعة للمستخدم. “تعقّب كل شيء” هو جزء بالغ الأهمية من العمل، حسب تعبير ييكانتي، إذ يسجّل المشرفون كل ما يحدث في اللعبة من لحظة دخولهم إلى وقت مغادرتهم، ويشمل ذلك المحادثات بين اللاعبين. يمنح بعض الألعاب المشرفين امتيازات إدارية تمكّنهم من الاستماع لكل شيء يقوله اللاعبون، حتى لو لم يفعّل هؤلاء الوصول الكامل للاعبين الآخرين، يُتيح ذلك للمشرفين الاستماع إلى المحادثات التي يعتقد اللاعبون أنها خاصة.

يقول لوندونيو: “إذا أردنا أن تؤدي المنصات دوراً مباشراً وفعلياً في الحفاظ على سلامة المستخدم، قد يؤدي ذلك إلى تجاوز الخصوصية في بعض الحالات التي قد لا تناسب المستخدمين”.

في الوقت نفسه، أعرب بعض المسؤولين الحكوميين عن أنهم يشكون في فاعلية سياسات شركة ميتا. كتب عضوا مجلس الشيوخ الأميركي الديمقراطيان، إد ماركي (Ed Markey) من ولاية ماساتشوستس وريتشارد بلومنثال (Richard Blumenthal) من ولاية كونكتيكت، رسالة عامة إلى مارك زوكربيرغ (Mark Zuckerberg) طلبا فيها منه إعادة النظر في قرار خفض الحد العمري الأدنى وانتقدا “الفجوات في فهم الشركة لسلامة المستخدم”.

اقرأ أيضاً: ميتا تبذل جهوداً كبيرة لتحويل الميتافيرس إلى حقيقة

وفقاً لديراكشاني، نحن بحاجة إلى درجة أكبر من الشفافية عندما يتعلق الأمر بالطريقة التي تتعامل فيها الشركات مع مسألة الأمان في الميتافيرس: “هل تهدف الخطوة المتمثلة في جذب المستخدمين الأصغر سناً إلى توفير التجربة الأفضل للمراهقين صغار السن؟ أم تهدف إلى جذب مستخدمين جدد عندما يصبح المستخدمون الأقدم أكبر سناً من أن يستخدموا المنصات؟ في جميع الأحوال، هناك شيء واحد مؤكد، وهو أنه مهما كان السبب، فإن الجمهور والجهات التنظيمية يحتاجون حقاً إلى ضمانات أن تكون هذه الشركات مستعدة كما يجب لحماية المستخدمين وفكّرت في ممارساتها بحذر شديد. ولكني لست متأكدة من أن الشركات تحقق هذه الشروط”.

من ناحية أخرى، يقول ييكانتي إنه يريد أن يفهم الناس أن عمله ضروري، على الرغم من أنه يمكن أن يكون ممتعاً للغاية: “بصفتنا مشرفين، نحاول خلق تجربة أفضل للجميع كي لا يتعرض أحد لأي صدمة. ونحن مستعدون لهذا العمل وجاهزون لحماية الآخرين. يمكننا أن نشكّل خط الدفاع الأول”.