تاريخ النشرة : 23-01-2023
تكتبها هذا الأسبوع: نجوى بيطار
بالكاد غاب عمن يمتلك جهازاً ذكياً أو حاسوباً محمولاً، يشاهد التلفاز في أضعف الإيمان، خبر طرح بوت الدردشة تشات جي بي تي من أوبن أيه آي، فالبعض رأى فيه إيذاناً ببدء عصر جديد يلغي الحاجة إلى محركات البحث، هذا في الجانب اللطيف من الأمر، وآخرون وجدوا أنه يهدد الوظائف. ومن وجهة نظري، قد يكون المبرمجون هم الفئة الأكثر تهديداً من هذا البوت.
حُمّلت قدرات البوت أكثر بكثير من حقيقتها في جوانب كثيرة، فدقته -عن تجربة- موضع شك، لكن هذا لا ينفي بشكل من الأشكال أنه سيغيّر الطريقة التي ننظر بها إلى عالم محركات البحث أو استخدام الموسوعات العلمية، إن لم يغير، لا بُدّ أنه فتح الطريق لذلك الآن.
ونحن نتناول البوت المسكين الذي سيجيب برسالة مفادها غالباً أن السيرفر مشغول بمعالجة الطلبات الكثيرة عن أول طلب لك، لا بُدّ من التفكير واستباق الأحداث ولو قليلاً، لا سيما أن كثيراً من أسوأ السيناريوهات التي تنتظرنا من استخدام هذا البوت أصبح أمراً واقعاً، وبعد قراءة هذه النشرة ستصبح أخرى كذلك أيضاً، فلا أسرع من وتيرة التطورات التكنولوجية اليوم.
10 أشياء ضعها نصب عينيك قبل أن تفكر باستخدام تشات جي بي تي
- المعلومات المضللة: يعد نشر المعلومات المضللة من أكبر المخاطر المحيطة باستخدام تشات جي بي تي، حيث يتم تدريب النموذج على مجموعة بيانات نصية كبيرة قد تحتوي على أخطاء. ينتج عن هذا نشر النموذج معلومات غير صحيحة للمستخدمين، ما قد تكون له آثار كارثية. هنا يجدر بالذكر أن استخدام محركات البحث نفسها بنتائجها المتعددة وعالمها الواسع محفوف بالمخاطر بالنسبة لهذه النقطة، إلا لمن كان به خبيراً، فما بالك ببوت دردشة يحصر نتائج من شتى الجهات.
- كتابة برامج ضارة: جربتها بنفسي، وعلى محدودية نطاق التجربة، لكنه مدرب جيداً على كتابة البرمجيات ومدعوم بالذكاء الاصطناعي الذي يضاعف قدرته في هذا المجال. ما شعورك وأنت تحيا في عالمٍ أصبحت التهديدات السيبرانية فيه لا تقل شأناً عن الحرب على أرض الواقع حيال هذه النقطة.
- الردود غير الملائمة أو الهجومية: تشات جي بي تي هو نموذج لغوي يمكنه الرد على العديد من الرسائل والطلبات. ومع ذلك، يمكن أن يقدم إجابات غير لائقة أو عدائية. للأمر شقان مقلقان هنا: على الصعيد المهني إن أُريد استخدامه في الرد على رسائل العملاء مثلاً، أو الشخصي، تخيل أن تقرر قضاء الوقت مع بوت دردشة لتروّح عن نفسك فإذا بك تتلقى جملاً وعبارات هربت منها على أرض الواقع.
- الرسائل غير المرغوب فيها: في حال الطلب منه، يمكن أن يرسل تشات جي بي تي الكثير من الرسائل، ما قد يؤدي إلى رسائل غير مرغوب فيها أو اتصالات غير مرغوب فيها. هذه النقطة ليست بعديمة الشأن حين يتم استخدام النموذج للتسويق أو الإعلان.
- مخاوف الخصوصية: من المؤكد أن هذه المخاوف هي أكثر ما ينبغي القلق حياله. تذكر أن الخصوصية والأمان تؤثران على سلوكك كمستخدم لمحركات البحث، وهذه القضية من الحساسية بحيث أُخذت على محمل الجد على مستوى حكومي، فهناك القانون العام لحماية البيانات الصادر عن الاتحاد الأوروبي، وأصدرت عدة ولايات أميركية قوانين مشابهة. لكن تشات جي بي تي لا يطرح حتى اللحظة على المستخدم خيارات استخدامه للبيانات، أو ما إذا كان المستخدم يفضل ألا تُجمع بياناته. لا مبرر في ذلك، فنحن في عصر الذكاء الاصطناعي.
- غياب المحاكمة الأخلاقية: عند التعامل مع القضايا الحساسة بالنسبة إلى مجتمع أو فئة معينة، علينا أن ننسى تماماً أي محاذير أو خطوط حمراء، فأنت تتعامل مع بوت لن يراعي مشاعرك أو خطوطك الحمراء، هو بالأصل غير مدرب عليها.
- صعوبة فهم السياق: تعتمد اللغة بشكل كبير على السياق، وقد تلاحظ أن تشات جي بي تي يتأخر في معالجة رسائلك، فهذا النموذج يحاول فهم السياق لكنه بالكاد يوفق في فهمه. أذكر أنه أعطاني ثلاث إجابات مختلفة للسؤال عن عدد كواكب المجموعة الشمسية (باللغة العربية)، على الرغم من أن السؤال بالغ السهولة، لكن أجزم أن السياقات التي طُرح بها السؤال أدت دوراً في ذلك.
- التحيز: تحيز البيانات ونماذج الذكاء الاصطناعي كان لا بُدّ من أن يُفضي إلى بوت متحيز. وإجمالاً تلك من أكبر المشكلات التي يعاني منها الذكاء الاصطناعي عموماً، ويُخشى من أن يُعزز بوت الدردشة الصور النمطية والتحيزات السائدة، إذ لم نسمع بعد أن نماذج الذكاء الاصطناعي قد برئت منها. الجانب المشرق في هذه النقطة، هو أننا نستشعر الوجود البشري بقوة في هذه النقطة، فهم من نقل تحيزاتهم للآلة.
- صعوبة الرد على الأسئلة: على الرغم من قوة تشات جي بي تي في معالجة اللغة، ولكنه قد يواجه صعوبة في فهم أنواع معينة من الأسئلة أو الرد عليها، أي لا يمكن التعويل أبداً عليه، وهنا تسجل محركات البحث هدفاً عليه، فهي تبرز ما عندها فوراً.
- صعوبة التحكم في الاستخدام أو تنظيمه: قد يكون من الصعب مراقبة استخدامه أو تنظيمه. يمكن أن يؤدي هذا إلى احتمال إساءة استخدام النموذج.
ربما سيدق تشات جي بي تي الكثير من نواقيس الخطر لقضايا لم تكن ملحة جداً من قبله، كأخلاقيات الذكاء الاصطناعي التي لم يعد البحث فيها مجرد كرم أخلاقي من طرف عد نفسه متفوقاً على آخر مهمش، بالإضافة إلى الخصوصية والتحيز وغيرها، والتي تكرّس صوراً نمطية يعاني منها البشر أنفسهم ويكافحون للتخلص منها.
لكن، لنكن متفائلين، فما بالك لو طُور هذا البوت فعلاً ليوفر عليك ساعات من البحث؟ لا ندري، فالإجابة غالباً في وادي السيليكون. فالقادم قد يكون أعظم بكثير.
قد يشبه هذا السيناريو ذلك الذي وقف فيه اللورد كلفن حين تكريمه بجائزة نوبل في الفيزياء ليخطب بجمع العلماء منوهاً إلى أن بداية القرن العشرين كانت خاتمة الفيزياء "التي لم يبقَ فيها ما قد يُكتشف وما علينا سوى إجراء قياسات"، ليخرج بعد أشهر ماكس بلانك بفرع مختلف كليّاً في الفيزياء، جعل ما قبله (الكامل) كلاسيكياً، والقادم كان غير يقيني بالمطلق، لقد فتح باب عالم الكم.
