$User->is_logged_in:  bool(false)
$User->user_info:  NULL
$User->check_post:  object(stdClass)#6924 (18) {
  ["is_valid"]=>
  int(1)
  ["global_remaining_posts_to_view"]=>
  int(0)
  ["remaining_posts_to_view"]=>
  int(0)
  ["number_all_post"]=>
  int(0)
  ["number_post_read"]=>
  int(0)
  ["is_from_gifts_balance"]=>
  int(0)
  ["gifts_articles_balance"]=>
  int(0)
  ["all_gifts_articles_balance"]=>
  int(0)
  ["gifts_read_articles"]=>
  int(0)
  ["exceeded_daily_limit"]=>
  int(0)
  ["is_watched_before"]=>
  int(0)
  ["sso_id"]=>
  int(20229)
  ["user_agent"]=>
  string(9) "claudebot"
  ["user_ip"]=>
  string(11) "54.152.5.73"
  ["user_header"]=>
  object(stdClass)#7062 (41) {
    ["SERVER_SOFTWARE"]=>
    string(22) "Apache/2.4.57 (Debian)"
    ["REQUEST_URI"]=>
    string(161) "/%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A-%D9%84%D8%AA%D9%88%D9%84%D9%8A%D8%AF-%D8%A7%D9%84%D9%84%D8%BA%D8%A9/"
    ["REDIRECT_HTTP_AUTHORIZATION"]=>
    NULL
    ["REDIRECT_STATUS"]=>
    string(3) "200"
    ["HTTP_AUTHORIZATION"]=>
    NULL
    ["HTTP_X_FORWARDED_PROTO"]=>
    string(5) "https"
    ["HTTP_CONNECTION"]=>
    string(7) "upgrade"
    ["HTTP_HOST"]=>
    string(19) "technologyreview.ae"
    ["HTTP_CDN_LOOP"]=>
    string(10) "cloudflare"
    ["HTTP_CF_IPCOUNTRY"]=>
    string(2) "US"
    ["HTTP_ACCEPT_ENCODING"]=>
    string(8) "gzip, br"
    ["HTTP_CF_RAY"]=>
    string(20) "86bb43d3efd13b72-IAD"
    ["HTTP_CF_VISITOR"]=>
    string(22) "{\"scheme\":\"https\"}"
    ["HTTP_ACCEPT"]=>
    string(3) "*/*"
    ["HTTP_USER_AGENT"]=>
    string(9) "claudebot"
    ["HTTP_CF_CONNECTING_IP"]=>
    string(11) "54.152.5.73"
    ["PATH"]=>
    string(60) "/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
    ["SERVER_SIGNATURE"]=>
    string(79) "
Apache/2.4.57 (Debian) Server at technologyreview.ae Port 80
" ["SERVER_NAME"]=> string(19) "technologyreview.ae" ["SERVER_ADDR"]=> string(11) "172.18.0.20" ["SERVER_PORT"]=> string(2) "80" ["REMOTE_ADDR"]=> string(11) "54.152.5.73" ["DOCUMENT_ROOT"]=> string(13) "/var/www/html" ["REQUEST_SCHEME"]=> string(4) "http" ["CONTEXT_PREFIX"]=> NULL ["CONTEXT_DOCUMENT_ROOT"]=> string(13) "/var/www/html" ["SERVER_ADMIN"]=> string(19) "webmaster@localhost" ["SCRIPT_FILENAME"]=> string(23) "/var/www/html/index.php" ["REMOTE_PORT"]=> string(5) "47060" ["REDIRECT_URL"]=> string(57) "/الذكاء-الاصطناعي-لتوليد-اللغة/" ["GATEWAY_INTERFACE"]=> string(7) "CGI/1.1" ["SERVER_PROTOCOL"]=> string(8) "HTTP/1.1" ["REQUEST_METHOD"]=> string(3) "GET" ["QUERY_STRING"]=> NULL ["SCRIPT_NAME"]=> string(10) "/index.php" ["PHP_SELF"]=> string(10) "/index.php" ["REQUEST_TIME_FLOAT"]=> float(1711667126.630424) ["REQUEST_TIME"]=> int(1711667126) ["argv"]=> array(0) { } ["argc"]=> int(0) ["HTTPS"]=> string(2) "on" } ["content_user_category"]=> string(4) "paid" ["content_cookies"]=> object(stdClass)#7061 (3) { ["status"]=> int(0) ["sso"]=> object(stdClass)#7060 (2) { ["content_id"]=> int(20229) ["client_id"]=> string(36) "1d1883f4-87d0-4156-8903-e6ceb0cb4224" } ["count_read"]=> NULL } ["is_agent_bot"]=> int(1) }
$User->gift_id:  NULL

الذكاء الاصطناعي لتوليد اللغة هو كابوس لحرية التعبير

5 دقائق
استمع الى المقالة الآن هذه الخدمة تجريبية
Play Audio Pause Audio

“ماذا بحق ’باي بال‘ أو ’بالنتير‘ قلت لتوّك عني أيها المتعجرف؟ سأخبرك من أنا، أنا ولي عهد وادي السيليكون، وشاركت في عدة شركات تكنولوجية ناشئة ناجحة ولدي سيولة نقدية تزيد عن مليار دولار. لقد استخدمت تلك الأموال في الترويج لمواقف غير تقليدية بشأن تعزيز القدرات البشرية والتحكم بالساحة السياسية، وأختبر الآن المحاكاة الكاملة للدماغ. وأنا مدرّب على الفلسفة الكلاسيكية وصنفتني شركة “جوجل” مؤخراً على أني الليبرالي الأكثر تأثيراً في العالم. ليس لك أي قيمة عندي، ما أنت سوى مستقبل بديل آخر. وسأقضي عليك بمحاكاة شديدة الدقة لم يسبق لها مثيل قطّ، ثق بكلامي”.

هذه ليست تغريدة رعناء نشرها إيلون ماسك مؤخراً، ولا هو مشهد يمثله أحد معجبيه المخلصين على منصة “ريديت”. ولا هو نفسه نص “كوبي باستا” الخاص بجندي البحرية الأميركية (Navy Seal copypasta)، تلك الفقرة الهزلية التي تحاكي بأسلوب ساخر مبالغ فيه صوت “الرجل القوي” وانتشرت على نطاق واسع بعد أن قامت أعداد كبيرة من مستخدمي الإنترنت بنسخه ولصقه ونشره على مواقع التواصل الاجتماعي.

نصوص الـ “كوبي باستا”

هو محاكاة ساخرة لنص الـ “كوبي باستا” الخاص بجندي البحرية الأميركية ذاك، وإنما من تأليف الكمبيوتر. إذ لقّن الباحث المستقل والكاتب غويرن برانوين نموذج الجيل الثالث من تقنية المحول المدرَّب لتوليد النصوص “جي بي تي ثري” (GPT-3) بضعة أمثلة عن المحاكاة الساخرة لنصوص الكوبي باستا الخاصة بجندي البحرية، (مثل نص بأسلوب الحد الأدنى: “أنا جندي في البحرية. قتلت 300 شخص. ستموت يا فتى”. أو أسلوب القرصان: “ماذا بحق مقبرة قاع البحر صرخت في وجهي أيها الوضيع…”) ثم طلب من النموذج استخدام هذه الأمثلة لتوليد نصوص محاكاة ساخرة جديدة. (يمكنكم الاطلاع على تجارب برانوين العديدة على نموذج “جي بي تي ثري” من هنا). بالنسبة لنص المحاكاة الساخرة هذا، لقّن برانوين نموذج “جي بي تي ثري” جملة “إيلون ماسك وبيتر ثيل” كي يولده.

نموذج الجيل الثالث من تقنية المحول المدرَّب لتوليد النصوص هو من صنع مختبر الذكاء الاصطناعي “أوبن أيه آي” (OpenAI) الذي يصف مهمته على أنها “اكتشاف الطريق نحو الذكاء العام الاصطناعي الآمن وتشريعه”. كان مختبر “أوبن أيه آي” مصدراً للنزاع لاسيما فيما يتعلق بقرار انتقاله من مؤسسة غير ربحية إلى مؤسسة ربحية الذي تبعه استثمار شركة “مايكروسوفت” له بقيمة مليار دولار. (تملك شركة “مايكروسوفت” الآن الترخيص الحصري لنموذج “جي بي تي ثري”). واجه مختبر “أوبن أيه آي” اتهامات بتأجيج دورة نشاط الذكاء الاصطناعي وانتقادات بسبب امتناعه عن إطلاق نموذج اللغة السابق “الجيل الثاني من تقنية المحول المدرب مسبقاً لتوليد النصوص “جي بي تي تو” (GPT-2) خوفاً من أن يشكل خطراً كبيراً. وبالمثل، أثار إطلاق نموذج “جي بي تي ثري” مؤخراً (بنسخة تجريبية خاصة) كثيراً من النقاشات. فالبعض يبشر به على أنه قفزة نحو الذكاء الاصطناعي مستشهداً بالأمثلة المثيرة للإعجاب عن قدراته على توليد الشفرة البرمجية والإجابة عن الأسئلة الطبية وحلّ ألغاز اللغة والنحو، فيما يبدي البعض الآخر حذراً أكبر بناء على قلقه بشأن إمكانية إساءة استخدام التكنولوجيا أو اعتقاده بأن الضجيج حولها غير مدعوم بالأدلة والإثباتات. وعلى أي حال، يبدو جلياً أن نماذج اللغة المتطورة تحقق تقدماً كبيراً في قدرتها على توليد نصوص مقنعة. وفي عالم أدت فيه منصات مواقع التواصل الاجتماعي إلى زعزعة منافذ الخطاب والانتشار التقليدية (مثل الصحف)، فإن الذكاء الاصطناعي المولد للنصوص المقنعة يشكل تحديات في وجه حرية التعبير والصحافة الحرة. بعبارة أخرى، هو قادر على تعزيز ما تسميه عالمة النفس زينب توفيكجي “الرقابة الحديثة”، وهي حملات إعلامية تعمل على المضايقة والتشويش وزرع الشك بهدف تقويض السلطة الفردية والعمل السياسي.

الانتهاكات على شبكة الإنترنت

تستخدم المضايقات على الإنترنت في ترهيب الناس ومعاقبتهم، وغالباً ما تستخدم ضد الصحفيين والناشطين وضد النساء والأقليات بنسبة كبيرة لمعاقبتهم على التعبير عن آرائهم. مع أن نسبة كبيرة من المضايقات على الإنترنت تكون نتيجة لعمل فردي، إلا أن بعضها يكون نتيجة لحملات منظمة. وكانت الحكومة الروسية رائدة في حملات المضايقات المنظمة في بداية العقد الأول من الألفية الثالثة، إذ شكلت جيشاً من المتصيدين يستهدف الصحفيين والناشطين والنقّاد الذين يهددون المصالح الروسية.

يمكن لنماذج اللغة المتطورة أن تتيح مزيداً من المضايقات الآلية الفعالة.
مثلاً، يمكن لنموذج اللغة المتطور توجيه المضايقات إلى متحدثين محددين، ما يجعل تهديدها أشد وقدرتها على الإقناع أكبر. وبالفعل، شهدنا بعض الأمثلة عن نموذج الجيل الثالث من تقنية المحول المدرَّب لتوليد النصوص الذي ينشئ سجلات وفيات زائفة تتضمن معلومات دقيقة عن أشخاص كانوا أرباب عمل سابقين لبعض الأشخاص وعن أفراد حاليين من عائلاتهم، ما يدل على إمكانية استخدامه في توليد مضايقات شخصية. غالباً ما يقول الناشطون والصحفيون الذين تستهدفهم المضايقات إنهم يستطيعون التمييز بين المضايقات “الحقيقية” والآلية، وينوهون إلى عوامل تمييز تتمثل في تواتر المنشورات وتماسك المحتوى. لكن يمكن لنماذج مثل “جي بي تي ثري” زيادة صعوبة تمييز نصوصها عن طريق توليد مضايقات مقنعة أكثر، وبالتالي ستكون مرعبة أكثر.

إلى جانب المضايقات الموجهة، يستخدم من يسعون إلى السيطرة على المناقشات العامة تكنولوجيا تسمى “الإغراق” تعمل على إسكات الخطابات التي يستهدفونها وتشويه بيئة المعلومات. ينطوي الإغراق على توليد كمية كبيرة من المحتوى من أجل تشويش الجمهور وإرباكه وإضعاف ثقته. خذ مثلاً إنشاء “الأخبار الزائفة” وبثها في الولايات المتحدة، إذ يقوم أشخاص داخل البلاد وخارجها بتوليد كمية هائلة من القصص التي تجمع بين الحقيقة والخيال تؤدي إلى ضعضعة مؤسسات الأنباء السائدة مع تشويش الجمهور وإرباكه في نفس الوقت. وبما أن معظم أعمال الكتابة تتم بواسطة الآلة، يمكن لنماذج اللغة المتطورة مثل “جي بي تي ثري” زيادة فعّالية عمليات الإغراق بدرجة هائلة.

نموذج الجيل الثالث من تقنية المحول المدرَّب

تقدم ورقة بحثية قيد الطباعة من مختبر “أوبن أيه آي” حول نموذج الجيل الثالث من تقنية المحول المدرَّب لتوليد النصوص أدلة مهمة تدعم ما نقوله، إذ إن مؤلفيها أجروا تجارب لاختبار قدرة الناس على التمييز بين مقالات الأخبار الحقيقية التي كتبها البشر والمقالات التي كتبها نموذج “جي بي تي ثري”. ولاحظوا أن المشاركين في الاختبار لم يتمكنوا من التمييز بين المقالات الحقيقية والتي ولدها النموذج، إذ بلغت دقتهم في ذلك قرابة 52% أي أفضل بنسبة طفيفة من دقة التخمين بواسطة رمي قطعة عملة معدنية. ولوحظت النتيجة ذاتها على أرض الواقع أيضاً، فقد كُشف مؤخراً أن مدونة يولدها نموذج “جي بي تي ثري” بلغت المرتبة الأولى في موقع “هاكر نيوز” (Hacker News) الذي يركز على التكنولوجيا، وكان طالب في جامعة كاليفورنيا في مدينة بيركلي قد أعدّ المدونة كتجربة لدراسة مدى قدرة الناس على اكتشاف أن المحتوى هو من صنع نموذج “جي بي تي ثري”. لم يستطع عشرات الآلاف من قراء موقع “هاكر نيوز” أن يلاحظوا شيئاً، في حين واجهت القلة التي لاحظت الأمر معارضة كبيرة.

ومع قدرة المؤلفات التي يولدها الذكاء الاصطناعي على خداع الكثير من القراء ستصبح “المعلومات المضللة كخدمة” أمراً ممكناً، ما يلغي الحاجة إلى جيوش المتصيدين البشرية ويمنح المؤسسات الكبيرة والصغيرة القدرة على التحكم في المناقشات العامة بواسطة برامج منخفضة التكلفة عالية الفاعلية وقابلة للتطوير بدرجة كبيرة. وهذا قادر على جعل الإغراق سهلاً ونشره على نطاق واسع.

يشكك البعض في تأثير نموذج “جي بي تي ثري” النهائي قائلين إن أسلوبه في الكتابة يشبه أسلوب طالب في السنة الأولى من المرحلة الجامعية. قد يكون ذلك صحيحاً، لكن هل قرأت معلومات مضللة من قبل؟ يمكن لطالب في السنة الأولى إنتاج معلومات مضللة بجودة أعلى من جودة المعلومات المنتشرة حالياً وبسهولة كبيرة. لكن نموذج “جي بي تي ثري” ليس مضطراً لكتابة عمود أسبوعي في مجلة مرموقة كي يصبح فعالاً، ما عليه سوى ألا يثير انتباه القراء إلى المحتوى غير المثبت على الإنترنت، كالتغريدات والمدونات ومنشورات فيسبوك و”الأخبار الزائفة”، فهذا النوع من المحتوى يشكل قسماً كبيراً مما يتم إنشاؤه ونشره على الإنترنت، ومن الواضح أنه بإمكان نموذج “جي بي تي ثري” وغيره من النماذج الشبيهة توليده آلياً وبصورة مقنعة.

وفي نهاية الحديث عن الذكاء الاصطناعي لتوليد اللغة، سيتطلب تخفيف أضرار نماذج اللغة المتطورة معالجة مشكلات الحملات الإعلامية بصورة عامة أكثر. وهذا يعني اتباع أساليب تقنية (الكشف عن برمجيات تأليف النصوص المزيفة أو روبوتات تأليف النصوص، ومواقع التواصل الاجتماعي الجديدة) واجتماعية (قواعد إصدار النماذج والمعرفة الرقمية) وسياسية (مكافحة الاحتكار وإجراء تغييرات تنظيمية). لا يغير نموذج الجيل الثالث من تقنية المحول المدرَّب لتوليد النصوص المشكلة، بل يرسخها. وكما رأينا، فقد فشلت مؤسساتنا فشلاً ذريعاً في مواجهة التحديات التي تولدها شبكة الإنترنت. ونموذج الجيل الثالث من تقنية المحول المدرَّب لتوليد النصوص ونماذج اللغة الشبيهة ستجعل حماية الخطاب العام الصحي على الإنترنت أكثر صعوبة وأهمية.

هذا المقال حول الذكاء الاصطناعي لتوليد اللغة هو جزء من مشروع حرية التعبير، وهو تعاون بين مجلة “فيوتشر تنس” و”برنامج التكنولوجيا والقانون والأمن” (Tech, Law, & Security Program) في “كلية واشنطن” للقانون بالجامعة الأميركية، وهو يدرس طرق تأثير التكنولوجيا في نظرتنا إلى التعبير عن الرأي.

Content is protected !!