كيف تساعد بوتات الدردشة على جعل منصات التواصل الاجتماعي أقل سمية؟

حقوق الصورة: shutterstock.com/Golden Sikorka

استمع الى المقالة الآن هذه الخدمة تجريبية

على الرغم من أن بوتات الدردشة لديها القدرة على جعل منصات التواصل الاجتماعي بيئة أكثر إيجابية وشمولية، فإنها ليست حلاً سحرياً، فقد تكون متحيزة أو يُساء تفسيرها، أو تكون عُرضة للتلاعب بها إذا لم تُصمَّم وتُنفَّذ بعناية، ومن ثَمَّ من الضروري تكثيف البحث والتطوير لضمان استخدام بوتات الدردشة بشكلٍ فعّال ومسؤول لمكافحة السمية على منصات التواصل الاجتماعي.

ما هو تعريف السمية على منصات التواصل الاجتماعي وأشهر أمثلتها؟

تُعرف السمية أو السلوك السام (Toxicity) على منصات التواصل الاجتماعي بأنها نشر سلبية غير ضرورية أو كراهية تؤدي في النهاية إلى التأثير سلباً في الأشخاص الذين يواجهونها. على سبيل المثال، وجد تحقيق أجرته صحيفة وول ستريت جورنال عام 2021 أن شركة ميتا كانت على علم بمخاطر الصحة العقلية المرتبطة باستخدام تطبيق مشاركة الصور إنستغرام المملوك لها، لكنها مع ذلك أبقت هذه الدراسة سرية.

حيث وجدت الأبحاث الداخلية التي أجراها مسؤولو شركة التواصل الاجتماعي الكبيرة أن منصة إنستغرام قد أدّت إلى تفاقم مشكلات صورة الجسم لدى واحدة من كل ثلاث فتيات مراهقات، وربط مستخدمو التطبيق المراهقون بينه وبين تجارب القلق والاكتئاب. يمكن أن يتخذ السلوك السام على منصات التواصل الاجتماعي أشكالاً عديدة بما في ذلك:

التسلط عبر الإنترنت: شكلٌ من أشكال المضايقة عبر الإنترنت يتضمن استخدام الاتصالات الإلكترونية للتنمر على شخص ما، عادة عن طريق إرسال رسائل تهديد أو نشر تعليقات سلبية عنه.
التشهير: وهو الفعل الذي يُنتقد من خلاله شخصٌ ما علناً بسبب سلوكه أو أفعاله، وغالباً ما يكون ذلك بطريقة سلبية أو مهينة.
التصيد: من خلال نشر رسائل تحريضية أو خارجة عن الموضوع في مجتمع عبر الإنترنت بهدف استفزاز مستخدمين آخرين.
خطاب الكراهية: أي خطاب يهاجم شخصاً أو مجموعة على أساس الأصل العرقي أو القومي أو الديني أو أي خصائص أخرى.
المعلومات الخاطئة: من خلال نشر معلومات كاذبة أو مضللة، غالباً بقصد التسبب في الأذى أو الارتباك.

دراسة قد تساعد على جعل منصات التواصل الاجتماعي أقل سمية

مع انتشار بوتات الدردشة المدعومة بالذكاء الاصطناعي، أصبحت مجالات استخدامها متنوعة ومن ضمنها التدريب وإجراء البحوث العملية، حيث وُجد أنها يمكن أن تقدّم حلولاً لتقليل النشاط على منصات التواصل الاجتماعي الذي يُنظر إليه على أنه سام ومستقطب.

حيث يقترح الباحثون الذين أجروا الدراسة أن التغيير والتبديل في كيفية ظهور محتوى منصات التواصل الاجتماعي يمكن أن يقلل من الانقسامات ويؤدي إلى تفاعلات أكثر إيجابية، حيث أجرى الدراسة فريق بقيادة الأستاذ بيتر تورنبرغ (Petter Törnberg) من جامعة أمستردام من خلال برمجة 500 بوت دردشة بملفات سياسية وديموغرافية فريدة بناءً على بيانات المسح لمحاكاة مستخدمي وسائل التواصل الاجتماعي في نماذج تجريبية.

صُمِمت البوتات لقراءة الأخبار الحقيقية ونشرها ضمن محاكاة لمنصة إكس، حيث أظهرت بوتات الدردشة قابلية أكبر لإيجاد أرضية مشتركة وسلوك أقل خطورة، ومن ثَمَّ نظراً إلى أن الذكاء الاصطناعي يحاكي الأشخاص بشكلٍ أكثر واقعية، فقد توفّر هذه الدراسة رؤى حول كيفية جمع الأشخاص معاً على وسائل التواصل الاجتماعي مع تجنب المخاطر الأخلاقية.

محاكاة التفاعل في شبكة تواصل اجتماعي

برمج فريق البحث بوتات الدردشة باستخدام تشات جي بي تي المدعومة بالنموذج اللغوي الكبير جي بي تي 3.5 (GPT 3.5)، وخُصِص كل بوت بملفات تعريف مختلفة تشمل الانتماء السياسي والعمر والجنس والدخل والدين والفرق الرياضية المفضلة وغيرها، ما أعطى الباحثين مجموعة محاكاة متنوعة.

ثم أنشأ الباحثون ثلاثة نماذج تجريبية مختلفة، هي:

نماذج الغرفة ذات الصدى: حيث يرى المستخدمون -بوتات الدردشة- المشاركات الأكثر إعجاباً وتعليقاً من المستخدمين الذين يتابعونهم.
نماذج اكتشاف الأولوية: تشاهد المشاركات من المستخدمين جميعهم حتى أولئك الذين هم خارج شبكتهم الخاصة.
نماذج الجسر: تُسلّط الضوء على المشاركات التي أعجبت بها المجموعات المعارضة لتحسين التفاعل.

ثم تقرأ البوتات عناوين الأخبار الفعلية حول موضوعات مثل كوفيد-19 واحتجاجات حياة السود مهمة، وتعلق بعد ذلك بالإعجاب والتعليق والتفاعل مع المنشورات المتعلقة بعناوين الأخبار، واستمرت عمليات المحاكاة لمدة 6 ساعات، حيث تتبّع الباحثون كيفية تصرف البوتات.

في نموذج التجسير أظهرت البوتات سعادة أكبر في إيجاد أرضية مشتركة حول قضايا خلافية، وشجّعت على إجراء حوار بنَّاءة أكثر وغير سامة، كما كان هناك أيضاً تفاعل أكبر بكثير بينها وتبادلات أقل سمية من نماذج غرفة الصدى.

كيف يمكن التقليل من انتشار السمية في منصات التواصل الاجتماعي؟

يعد القضاء على انتشار السمية في منصات التواصل الاجتماعي أو القضاء عليها تحدياً معقداً ومتعدد الأوجه، ولكن هناك العديد من الخطوات التي يمكن اتخاذها للحد من انتشارها لجعل منصات التواصل الاجتماعي مساحة أكثر إيجابية، منها:

تعزيز الإشراف على المحتوى

تحتاج منصات التواصل الاجتماعي إلى الاستثمار في أنظمة قوية للإشراف على المحتوى يمكنها تحديد المحتوى الضار وإزالته بشكلٍ فعّال، مثل خطاب الكراهية والتسلط والمعلومات المضللة، وقد يتطلب ذلك توظيف المزيد من الوسطاء البشريين، وتطوير أدوات ذكاء اصطناعي أكثر تطوراً، والعمل بشكلٍ وثيق مع الخبراء في المجالات ذات الصلة.

تعزيز الشفافية والمساءلة

ينبغي أن تكون منصات التواصل الاجتماعي أكثر شفافية بشأن السياسات وعمليات الإشراف على المحتوى، بحيث ينبغي عليها أن تكون مسؤولة عن تنفيذها بشكلٍ متسق وعادل، وقد يتضمن ذلك نشر تقارير منتظمة عن جهودها في الإشراف على المحتوى، وتقديم تفسيرات أكثر تفصيلاً لقرارات إزالة المحتوى أو الاحتفاظ به وإنشاء آليات مراقبة مستقلة.

توفير الأدوات والموارد للمستخدمين

ينبغي أن تزوّد منصات التواصل الاجتماعي المستخدمين بالأدوات والموارد اللازمة لحماية أنفسهم من المحتوى السام، مثل القدرة على الإبلاغ عن المحتوى الضار، وتصفية أنواع معينة من المحتوى، وإدارة إعدادات خصوصيتهم، بالإضافة إلى تقديم معلومات واضحة ويمكن الوصول إليها حول إرشادات الاستخدام وكيفية الإبلاغ عن الانتهاكات.

تعزيز المجتمعات الإيجابية عبر الإنترنت

يمكن لمنصات التواصل الاجتماعي تعزيز المجتمعات الإيجابية عبر الإنترنت من خلال تشجيع المستخدمين على أن يكونوا لطفاء ومراعين، وتثبيط الهجمات الشخصية واللغة التحريضية، وتسليط الضوء على الأمثلة الإيجابية للتفاعلات عبر الإنترنت، كما يمكنها أيضاً الشراكة مع المؤسسات التي تروّج للمواطنة الرقمية وتعليم السلامة عبر الإنترنت.

معالجة الأسباب الكامنة وراء السمية

تعد معالجة الأسباب الكامنة وراء السمية مثل الاستقطاب وعدم الكشف عن الهوية وتضخيم المحتوى السلبي أمراً بالغ الأهمية لخلق بيئة أكثر إيجابية لمنصات التواصل الاجتماعي، وقد يتطلب ذلك تغييرات مجتمعية أوسع، مثل تعزيز التعليم ومهارات التفكير النقدي، وتشجيع الحوار البنَّاء، ومعالجة قضايا عدم المساواة والتمييز.

كيف تحمى نفسك من التعرض للمحتوى السام في منصات التواصل الاجتماعي؟

أصبحت منصات التواصل الاجتماعي جزءاً لا يتجزأ من حياتنا اليومية، لكنّ السمية الموجودة على هذه المنصات يمكن أن تكون ضارة بصحتنا العقلية ورفاهيتنا، ومع ذلك تذكر أن منصات التواصل الاجتماعي ليست سامة بطبيعتها، ولكن الطريقة التي نستخدمها بها هي التي تجعلها هكذا، وفيما يلي بعض الطرق لتجنب التعرض لها:

تصفية التعليقات السامة: استخدم أدوات مثل إضافة المتصفح تون (Tune) لتصفية التعليقات السامة على منصات التواصل الاجتماعي مثل إنستغرام وإكس وفيسبوك.
تحسين كيفية استخدامك منصات التواصل الاجتماعي: قد يكون إجراء القليل من التنظيف لقائمة الأشخاص والحسابات التي تتابعها كافياً لتقليل تعرضك للسلوك السام على منصات التواصل الاجتماعي.
الانضمام إلى المجتمعات الصغيرة: يمكن أن يجنبك الانضمام إلى مجتمعات صغيرة من الأشخاص الذين يركّزون على موضوع معين من تعرضك للمحتوى السام أو يقلل منه.
الدراية بعاداتك: انتبه إلى عاداتك عند استخدام منصات التواصل الاجتماعي وضع حدوداً لمقدار الوقت الذي تقضيه فيها. بالإضافة إلى ذلك، إذا وجدت حساباً يُثير مشاعر سلبية لديك ألغِ متابعته على الفور.