Article image




لطالما خشي الباحثون في مجال التزييف العميق من اليوم الذي سيحدث فيه وضع وجوه النساء على صور عارية بنقرة زر

2021-09-23 14:39:38

22 سبتمبر 2021

موقع ويب يشد الانتباه لبساطته؛ زر كبير الحجم أزرق اللون على خلفية بيضاء يدعو الزائرين لتحميل صورة وجه. وهناك، تحت الزر، أربعة وجوه مولدة بالذكاء الاصطناعي تتيح لك اختبار الخدمة. أما فوق الزر، فقد تم وضع عبارة تعلن لك الهدف بكل جرأة: تحويل أي شخص إلى نجم أفلام إباحية من خلال استخدام تقنية التزييف العميق لاستبدال وجه شخص في فيديو للبالغين. كل ما يتطلبه الأمر هو صورة وكبسة زر.

قررت إم آي تي تكنولوجي ريفيو عدم الكشف عن اسم الخدمة، التي سنطلق عليها هنا اسم “سين”، واخترنا عدم تضمين أي اقتباسات مباشرة أو لقطات شاشة لمحتوياتها، بهدف تجنب توجيه المزيد من الزيارات إلى الموقع. وقد اكتشف الباحث هنري أجدر الموقع ولفت انتباهنا إليه. يعمل أجدر على تتبع تطور الوسائط المصطنعة عبر الإنترنت وانتشارها.

في الوقت الحالي، لا تزال الخدمة “سين” غير معروفة نسبياً، مع وجود قاعدة مستخدمين صغيرة لكن نشطة في تقديم اقتراحات لمقدمي الخدمة عبر المنتديات على الإنترنت. لكن لطالما خشي الباحثون من إمكانية ظهور تطبيق مثل هذا منتهكاً خطاً أحمر أخلاقياً لم تتجاوزه أي خدمة أخرى من قبل.

IU35 مبتكرون دون 35

منذ ظهور تقنية التزييف العميق، أو الوسائط المصطنعة المولدة بالذكاء الاصطناعي، تم استخدامها بشكل أساسي في إنشاء تمثيلات إباحية للنساء اللائي غالباً ما يجدن هذا أمراً مدمراً من الناحية النفسية. وقد قام أحد مستخدمي ريديت، الذي كان أول من روج لهذه التكنولوجيا، باستبدال وجوه النساء الشهيرات في مقاطع فيديو إباحية. وحتى يومنا هذا، تُقدّر شركة الأبحاث سينسيتي إيه آي (Sensity AI) أن ما بين 90% و95% من جميع مقاطع الفيديو المزيفة على الإنترنت هي مواد إباحية إكراهية، وحوالي 90% منها تستبدل وجوه النساء.

ومع تطور هذه التكنولوجيا، ظهر أيضاً الكثير من الأدوات سهلة الاستخدام دون الحاجة إلى خبرة في البرمجة، ما يتيح للمستخدمين “تجريد” الملابس عن الأجسام في الصور. ورغم أنه قد تم إجبار الكثير من هذه الخدمات على إيقاف مواقعها على الإنترنت منذ ذلك الحين، لكن الشيفرة البرمجية لا تزال متاحة في أنظمة التخزين العامة مفتوحة المصدر وتواصل ظهورها عبر الإنترنت بأشكال جديدة. وكان آخر موقع من هذا النوع قد استقبل أكثر من 6.7 ملايين زيارة في أغسطس، وفقاً للباحثة جينيفيف أوه التي اكتشفته. ولا يزال الموقع نشطاً حتى الآن ولم يتم إيقافه بعد.

ظهرت تطبيقات أخرى لاستبدال الوجه في الصور الثابتة، مثل زاو (ZAO) وريفيس (ReFace)، التي تتيح للمستخدمين وضع أنفسهم في مشاهد محددة من الأفلام الرائجة أو مقاطع الفيديو الشعبية. ولكن تطبيق “سين”، باعتباره أول تطبيق استبدال وجوه في الأفلام الإباحية، ينتقل بهذه الاستخدامات إلى مستوى آخر. يقول آدم دودج، مؤسس إندتاب (EndTAB)، وهي منظمة غير ربحية تعمل على تثقيف الناس بشأن الإساءات باستخدام التكنولوجيا، إنه “مصمم خصيصاً” لإنشاء صور إباحية لأشخاص دون موافقتهم. يسهّل ذلك على منشئي المحتوى تحسين التكنولوجيا لتتناسب مع حالة الاستخدام المحددة هذه ويجذب الأشخاص الذين لم يكونوا ليفكروا في إنشاء مواد إباحية مزيفة. يقول دودج: “عندما يكون لدينا هذا المستوى من التخصص، فإنه يخلق ركناً جديداً من الإنترنت يجذب مستخدمين جدداً”.

يتسم الموقع “سين” بأنه سهل الاستخدام للغاية؛ إذ بمجرد قيام المستخدم بتحميل صورة وجه، يفتح الموقع مكتبة من مقاطع الفيديو الإباحية التي يظهر في الغالبية العظمى منها نساء. يمكن للمستخدم بعد ذلك تحديد أي مقطع فيديو لإنشاء معاينة لنتيجة تبديل الوجه في غضون ثوانٍ، ثم ينبغي له الدفع حتى يتمكن من تنزيل النسخة الكاملة.

لا تزال المقاطع الناتجة تحتوي على عيوب كثيرة؛ فالكثير من عمليات استبدال الوجه تظهر أنها مزيفة، حيث تتلألأ الوجوه وتتشوه عندما تستدير بزوايا مختلفة. لكن بعضها جيد بما يكفي ليصدقه المشاهد العادي، وقد أظهر مسار التطور السريع للمزيفات العميقة بالفعل إمكانية بلوغها مرحلة يصعب عندها تمييزها عن الحقيقة. يرى بعض الخبراء أن جودة التزييف العميق هي مسألة جانبية وغير مهمة حقاً نظراً لأنها تلحق الضرر النفسي بالضحايا سواء كانت جودتها عالية أو منخفضة. علاوة على ذلك، لا يزال الكثير من الأشخاص غير مدركين لوجود مثل هذه التكنولوجيا، لذلك حتى عندما تكون جودة استبدال الوجوه متدنية فإنها يمكن أن تنجح في خداع الناس.

يقدم الموقع “سين” نفسه باعتباره أداة آمنة ومسؤولة. وفي حين أن الخطاب الموجود على الموقع يشجع المستخدمين على تحميل صور وجوههم هم، ولكن لا شيء يمنعهم من تحميل صور وجوه الآخرين. وتشير التعليقات على المنتديات عبر الإنترنت إلى أن المستخدمين يقومون بتحويل صور وجوه الآخرين بالفعل.

إن عواقب هذا النشاط قد تكون مدمرة بالنسبة للنساء والفتيات المستهدفات. فعلى المستوى النفسي، يمكن أن تكون هذه المقاطع مؤذية وتنتهك خصوصية النساء تماماً مثل المقاطع الإباحية الانتقامية، وهي مقاطع فيديو حميمية حقيقية تم تصويرها أو نشرها دون موافقة. تقول نويل مارتن، الناشطة الأسترالية التي تم استهدافها في حملة مقاطع إباحية مولدة باستخدام التزييف العميق: “إن هذا النوع من الإساءة، حيث يسيء الناس إلى هويتك واسمك وسمعتك ويغيرونها بهذه الطرق التي تنتهك خصوصيتك، يلحق بك ضرراً كبيراً ويؤذيك في الصميم”.

“حتى يومنا هذا، لم أنجح مطلقاً في إزالة أي من الصور عن الإنترنت. سيكون هذا المحتوى موجوداً على الإنترنت إلى الأبد مهما حاولت إزالته”.

– نويل مارتن، ناشطة أسترالية

ويمكن لهذه التداعيات أن ترافق ضحاياها مدى الحياة؛ فمن الصعب إزالة الصور ومقاطع الفيديو من الإنترنت، ويمكن إنشاء مواد جديدة في أي وقت. تقول مارتين: “إنه يؤثر في علاقاتك الشخصية ويؤثر في فرص حصولك على الوظائف، فقد يتم ذكرها في كل مقابلة عمل تجريها. وقد تؤثر في حياتك العاطفية”.

في بعض الأحيان، قد يكون الأمر أكثر تعقيداً من مسألة المقاطع الإباحية الانتقامية. إذ نظراً لأن المحتوى غير حقيقي، قد تشك النساء المستهدفات فيما إذا كان يحق لهن الشعور بالصدمة، وما إذا كان ينبغي لهن الإبلاغ عن الأمر، كما يقول دودج. ويضيف: “إذا كان شخص ما يعيش صراعاً داخلياً بشأن ما إذا كان ضحية حقاً، فهذا يضعف قدرته على التعافي”.

ربما هناك أيضاً تأثيرات اقتصادية ومهنية للمقاطع الإباحية الإكراهية المزيفة تزييفاً عميقاً. لقد تعرضت رنا أيوب، الصحفية الهندية التي وقعت ضحية لحملة إباحية مزيفة تزييفاً عميقاً، لمضايقات شديدة عبر الإنترنت في أعقاب الحملة لدرجة أنها اضطرت إلى تقليل تواجدها على الإنترنت وبالتالي إضعاف الصورة الشخصية العامة الضرورية للقيام بعملها. وقالت هيلين مورت، الشاعرة والمذيعة المقيمة في المملكة المتحدة التي شاركت قصتها سابقاً مع إم آي تي تكنولوجي ريفيو، إنها شعرت بالضغوط للقيام بالأمر نفسه بعد أن اكتشفت سرقة صورها من حسابات وسائل التواصل الاجتماعي الخاصة واستخدامها في إنشاء صور عارية مزيفة.

كما تلقت خدمة (Revenge Porn Helpline)، التي تمولها الحكومة البريطانية، مؤخراً قضية من معلمة فقدت وظيفتها بعد تداول صور إباحية مزيفة لها على وسائل التواصل الاجتماعي ووصلت إلى العاملين في مدرستها، كما تقول صوفي مورتيمر، التي تدير الخدمة. يقول دودج: “إن المسألة تتفاقم؛ حيث يتعرض المزيد من النساء للاستهداف بهذه الطريقة”.

يقول أجدر، الذي اكتشف الكثير من التطبيقات التي تستخدم التزييف العميق لإنتاج مقاطع إباحية في السنوات القليلة الماضية، إنه حاول التواصل مع الخدمة التي تستضيف الموقع “سين” وإجبارها على إيقاف موقع الويب. لكنه متشائم بشأن إمكانية منع إنشاء أدوات مماثلة. بالفعل، ظهر موقع آخر يبدو أنه يحاول تقديم الخدمة نفسها. يعتقد أجدر أن الحل الأكثر استدامة قد يتمثل في حظر هذا النوع من المحتوى من منصات التواصل الاجتماعي، وربما حتى الحظر القانوني لإنشائه أو استهلاكه. ويضيف: “هذا يعني أن يتم التعامل مع هذه المواقع بنفس الطريقة التي نتعامل بها مع محتوى الويب المظلمة. وحتى لو لم تتم إزالتها بشكل كامل وإنما زيادة صعوبة الوصول إليها، فإنها على الأقل ستكون حينئذٍ بعيدة عن أعين الناس العاديين”.

لم يستجب الموقع “سين” لطلبات متعددة للتعليق أرسلناها إلى البريد الإلكتروني المدرج على موقعه. كما أن معلومات التسجيل المرتبطة بنطاق الموقع تم حجبها من قبل خدمة الخصوصية ويزهيلد فور برايفسي (Withheld for Privacy). في 17 أغسطس، بعد أن قامت إم آي تي تكنولوجي ريفيو بمحاولة ثالثة للوصول إلى منشئ الموقع، نشر الموقع إشعاراً على صفحته الرئيسية يقول فيها إنه لم يعد متاحاً للمستخدمين الجدد. واعتباراً من يوم 14 سبتمبر، نشر الموقع “سين” إشعاراً يقول فيه إنه غير متاح الآن”.


شارك



مراسلة الذكاء الاصطناعي، إم آي تي تكنولوجي ريفيو