إن زيادة انتشار هذه التكنولوجيا وإمكانية الوصول إليها تثير مخاوف جديدة حول احتمال إساءة استخدامها.

2020-08-31 21:10:37

31 أغسطس 2020
Article image

الجهة اليمنى من الأسفل: هذه أنا.
مصدر الفيديو: إم إس تك/ نيوريبس (مجموعة تدريب)، هاو (تقدمة)

سبق لجريس ويندهايم أن سمعت بالمزيفات العميقة، ولكنها لم تفكر إطلاقاً في كيفية صناعتها. وبسبب ميم سريع الانتشار يعتمد على هذه التكنولوجيا، بدأت تبحث في هذه المسألة، ووجدت أنها سهلة للغاية ومجانية تماماً.

وخلال يوم واحد، قامت بإنتاج مقطع فيديو تعليمي على يوتيوب، يتضمن سير هذه العملية خطوة بخطوة. وقالت في الفيديو، الذي نُشر بتاريخ 4 أغسطس: “إن صناعة أحد هذه المزيفات العميقة، وإضافة الصوت إليه، ليست بالعملية المعقدة كما تظنون”. وأحرز هذا المقطع أكثر من 360,000 مشاهدة.

تُعتبر ويندهايم جزءاً من مجموعة جديدة من المبتكرين على الإنترنت ممن يجرون التجارب على المزيفات العميقة، وذلك مع زيادة إمكانية الوصول إلى هذه التكنولوجيا، وتسربها شيئاً فشيئاً إلى ثقافة الإنترنت. ليست هذه الظاهرة بالأمر المفاجئ، فلطالما اكتسبت أدوات التلاعب بالوسائط زخماً عبر استخدامها لأغراض التسلية والسخرية. ولكنها، من ناحية أخرى، تثير مخاوف جديدة حول إمكانية إساءة استخدامها.

لقد استُخدمت المزيفات العميقة فعلياً للتحرش بالنساء، وذلك عن طريق وضع وجوههن ضمن مقاطع الفيديو الإباحية من دون موافقتهن. كما يساور الأكاديميين أيضاً القلق حول أثر هذه المزيفات العميقة على الانتخابات. وعلى الرغم من أن المزيفات العميقة التي صُنعت للميمات ما زالت واضحة التزييف وعديمة الأذى نسبياً، فقد لا تبقى كذلك لوقت طويل.

تقول ويندهايم: “هناك حد ضئيل فاصل ما بين استخدام المزيفات العميقة للترفيه والميمات، واستخدامها للأذى. وفي هذا المقطع التعليمي، سأحدثكم عن كيفية صنع هذا المزيف العميق بالتحديد. غير أن الشيء المخيف في هذه الطريقة هو أنه يمكن تطبيقها لصنع أي نوع تريد من المزيفات العميقة”.

“لقد كنت أحمق”

تعمل ويندهايم، التي تخرجت مؤخراً من الجامعة، منتجةَ محتوى في الشركة الناشئة كابوينج في سان فرانسيسكو. بدأت هذه الشركة بالعمل في مجال إنتاج الميمات، وتقدم مجموعة مجانية من الأدوات البرمجية المبنية على أساس متصفحات الإنترنت لتحرير مقاطع الفيديو. وفي إطار عملها، تقوم ويندهايم بإدارة قناة يوتيوب، وتنتج مقاطع فيديو للترويج للمحتوى لاستعراض قدرات منتجات الشركة.

في بدايات أغسطس، صادفت موضوع بحث واسع الانتشار على جوجل تريندز (إحصائيات جوجل). كانت ثلاث من عمليات البحث الخمس الأكثر تكراراً تسأل عن “ميم باكا ميتاي عميق التزييف”، وتضيف: “لم يكد يسبق لي أن رأيت عملية بحث تتكرر إلى هذه الدرجة”.

تَبيّن أن الميم مبني على مقطع فيديو لمزامنة حركة الفم مع أغنية في لعبة فيديو يابانية تحمل اسم “باكا ميتاي” (الترجمة: “لقد كنت أحمق”). اعتمد العديد من مستخدمي الإنترنت على هذا الفيديو لصنع مزيفات عميقة خرقاء للعديد من الأشخاص، بحيث يظهرون كأنهم يغنون هذه الأغنية، بدءاً من باراك أوباما وصولاً إلى ثانوس. ولكن على الرغم من شعبية هذا الميم، وجدت ويندهايم أنه لم يُكتب الكثير حول كيفية صنعه. ورأت بالتالي أن هناك فرصة سانحة أمامها.

أما خوارزمية التزييف العميق التي استخدمها هؤلاء الأشخاص، فهي من ورقة بحثية تم عرضها عام 2019 في نيوريبس (NeurIPS)، وهو أضخم مؤتمر بحثي سنوي للذكاء الاصطناعي. وخلافاً للخوارزميات الأخرى الأكثر تعقيداً، فإن هذه الخوارزمية تسمح للمستخدم بأن يأخذ مقطع فيديو لوجه شخص ما ويستخدمه لتحريك صورة لوجه شخص آخر باستخدام بضعة أسطر من التعليمات البرمجية وحسب.

وجدت ويندهايم الخوارزمية مفتوحة المصدر في مقطع فيديو تعليمي، ونقلتها إلى ملف على جوجل كولاب، وهي خدمة مجانية لتشغيل التعليمات البرمجية في السحابة الإلكترونية. وبعد بضعة محاولات -وباستخدام المهارات التي تعلمتها من دروس البرمجة في الجامعة- تمكنت أخيراً من إنتاج فيديو عميق التزييف باستخدام هذا النص البرمجي. وبعد ذلك، قامت بمزامنة الأغنية مع الفيديو باستخدام أدوات كابوينج، وحصلت بالتالي على نسخة جديدة من الميم.

منذ أن نشرت ويندهايم مقطعها التعليمي المصور على قناة كابوينج على يوتيوب، قام عدد من محترفي يوتيوب بإنتاج مقاطع مماثلة باستخدام نفس خوارزمية النسخ واللصق. أما الفرق بين عملها وعملهم، فهو أن الكثيرين منهم يعلّمون متابعيهم كيفية صنع أي نوع من ميمات التزييف العميق. بل إن أحد هذه الفيديوهات يعلم المتابعين كيفية إنتاج هذه المقاطع على الهاتف الخليوي.

بدأت هذه الميمات تظهر في كل مكان على منصات التواصل الاجتماعي: على تويتر، وإنستقرام، وخصوصاً على تيك توك؛ حيث إن مقاطع الفيديو القصيرة على هذه المنصة -التي غالباً ما تصور حركات راقصة مع موسيقا رائجة- تشكل بيئة مثالية للمزيفات العميقة شديدة التأثير. وقد حقق وسم deepfake# في التطبيق أكثر من عشرين مليون مشاهدة حتى الآن.

وغالباً ما تتميز الوجوه في المقاطع المُنتجة باستخدام هذه الخوارزمية باختلال فاضح، ما يجعل تمييزها أمراً سهلاً، وهو جزء من الفكاهة المرتبطة بالمزيفات العميقة. وبالتالي، فإن هذه العيوب والمسحة الخيالية لهذه الميمات ستمنع أي شخص من الوقوع في خطأ اعتبارها حقيقية. في الوقت الحالي، فإن صنع المزيفات العميقة شديدة الواقعية يتصف بصعوبة فنية كبيرة، كما أنه أكثر استهلاكاً للموارد الحاسوبية.

ولكن إذا استمرت التكنولوجيا بالتقدم على هذه الوتيرة، فإن إنتاج المزيفات العميقة التي يكاد يستحيل تمييزها عن الواقع سيصبح في وقت قريب سهلاً ومتاحاً للجميع. وقد أعلنت بعض الشركات -مثل الشركة الصينية العملاقة تينسينت التي تمتلك تطبيق وي تشات- عن عزمها على استثمار المزيد من الموارد في تطوير أحدث تقنيات التزييف العميق للأغراض التجارية.

إن المزيفات العميقة ليست سيئة بحد ذاتها، وقد استخدمها الفنانون والمعلمون وغيرهم كأداة جديدة رائعة للتعبير الإبداعي. وعلى سبيل المثال، قامت مجلة تايم في فبراير الماضي باستخدام المزيفات العميقة لإعادة إنتاج تجربة إلقاء مارتن لوثر كينغ لخطابه الشهير “لدي حلم” في الواقع الافتراضي. وفي نهاية المطاف، يجب على المشرعين أن يحددوا ماهية الاستخدامات المناسبة، وماهية الاستخدامات التي يمكن أن تكون مؤذية.

وفي الوقت الحالي، تعتمد ويندهايم على تقديرها الخاص للأمور لاتخاذ هذا القرار. وقبل نشر مقطع الفيديو، قرأت بعض المواد حول آثار التزييف العميق، كما خاضت بعض الحوارات مع زملائها. وتقول: “ليس في نيتنا نشر منتجات تساعد المستخدمين على نشر المعلومات الخاطئة، ولهذا نتعامل بحرص مع هذه المسألة”.

وفي المحصلة، قررت الشركة وضع بعض القواعد الأساسية، وهي تركيز مقاطع الفيديو على إنتاج ميمات محددة، ومن دون إنتاج مزيفات عميقة خارج هذا السياق على الإطلاق. تقول ويندهايم، “نحن في أمان” طالما أن هذا العمل يتم بهدف الترفيه، وضمن ثقافة الميمات.


شارك



مراسلة الذكاء الاصطناعي، إم آي تي تكنولوجي ريفيو