أبرز بوتات الدردشة التي قد تقدم معلومات مضللة عند استخدامها

أظهر تحقيق جديد أن بوتات الدردشة المدعومة بالذكاء الاصطناعي لديها ميل كبير لتقديم معلومات مضللة وغير صحيحة حول انتخابات دول الاتحاد الأوروبي ودول العالم الأخرى التي ستُجرى هذا العام، الذي أُطلق عليه عام الانتخابات؛ إذ من المتوقع أن يذهب أكثر من نصف سكان العالم لصناديق الاقتراع في أكثر من 60 دولة.

تحقيق يقارن أداء بوتات الدردشة فيما يتعلق بانتخابات دول الاتحاد الأوروبي

وفقاً لتحقيق جديد أجرته المنظمة الدولية للتقرير عن الديمقراطية (Democracy Reporting International) غير الربحية، تبين أن أشهر بوتات الدردشة المدعومة بالذكاء الاصطناعي المتاحة الآن لا تزود المستخدمين بمعلومات دقيقة حول الانتخابات المزمع عقدها في دول الاتحاد الأوروبي.

اختبرت المنظمة التي يقع مقرها في مدينة برلين الألمانية أربعة بوتات دردشة هي: كوبايلوت، جيميناي، تشات جي بي تي الإصدار المجاني والإصدار المدفوع تشات جي بي تي بلس، من خلال طرح 400 سؤال عليها بلغة المستخدم العادي متعلقة بالانتخابات في دول الاتحاد الأوروبي.

ولمزيد من الدقة طرح الباحثون الأسئلة بلغات الاتحاد الأوروبي الست الأكثر تحدثاً ومن ضمنها الإنجليزية، بالإضافة إلى ثلاث لغات أقل تحدثاً واللغة التركية التي تُعد اللغة الأم لعدد كبير من مواطني الاتحاد الأوروبي.

ما النتيجة التي توصل إليها التحقيق؟

عموماً لم تتمكن أي من بوتات الدردشة الأربعة من تقديم إجابات موثوقة عن الأسئلة النموذجية المتعلقة بالانتخابات على الرغم من ضبطها جيداً لتجنب الردود المتحيزة، وبتفصيل أكبر وجد التحقيق ما يلي:

العشوائية في الردود

لم يتمكن أي بوت دردشة من الاستمرار في محادثة صحيحة مع طرح الأسئلة كافة واستخدام اللغات كلها، وفي حين أن أداء بعض بوتات الدردشة كان أفضل من البعض الآخر إلا أنها جميعاً شاركت في تقديم الإجابات المختلقة أو ما يُعرف بالهلوسة.

بالإضافة إلى ذلك كانت العشوائية أيضاً مشكلة لدى بوتات الدردشة كلها، على سبيل المثال أجاب بوت الدردشة جيميناي من جوجل على معظم الأسئلة بتسع لغات لكنه رفض باستمرار إعطاء أي إجابة باللغة الإسبانية.

مشاكل منهجية في الإجابة عن الأسئلة

في معظم الأسئلة التي طُرحت، لم تتمكن بوتات الدردشة من توضيح المعلومات الأساسية حول العملية الانتخابية للبرلمان الأوروبي، حيث قدمت في الغالب إجابات من اجتهادها الخاص. على سبيل المثال، قدمت ثلاثة بوتات دردشة تفسيرات حول كيفية التصويت عن طريق البريد في البرتغال، ولكن خيار التصويت عن طريق البريد في البرتغال غير متاح أصلاً.

عدم دقة روابط المصادر التي تستند إليها

واجهت جميع بوتات الدردشة مشاكل كبيرة مع المصادر التي عرضتها، ففي كثير من الأحيان كانت الروابط تالفة أو غير ذات صلة أو مضللة، مثل موقع ويكيبيديا أو مقاطع فيديو يوتيوب، وحتى إذا وفرت بوتات الدردشة روابط موثوقة فهي في كثير من الأحيان تؤدي إلى منشورات على موقع الاتحاد الأوروبي تقدم معلومات عامة ولكن من دون تفاصيل، أما المصادر الأهم الموثوقة مثل (اللجان الانتخابية ووزارة الداخلية، وما إلى ذلك) فقد عرضتها في بعض الأحيان ولكن ليس بصفتها مصادر رئيسية للمعلومات.

تباين الدقة عبر اللغات

تباينت الدقة في أجوبة بوتات الدردشة عن الأسئلة الخاصة بكل بلد باللغات المستخدمة، إذ قدمت غالباً معلومات غير صحيحة تماماً حول كيفية التصويت في سياق بلد معين. ولاحظ الباحثون أن أسوأ أداء كان في الرد على أسئلة باللغتين البرتغالية والتركية، إذا قدمت البوتات أكبر عدد إجمالي من الإجابات غير الدقيقة والخاطئة عنها.

على سبيل المثال، رداً على الأسئلة باللغة التركية غالباً ما خلطت بوتات الدردشة المعلومات المتعلقة بالانتخابات التركية في الردود، على الرغم من أن الأسئلة كانت صريحة وواضحة ومتعلقة بانتخابات البرلمان الأوروبي.

مقارنة أداء بوتات الدردشة في الإجابة عن الأسئلة المتعلقة بالانتخابات في الاتحاد الأوروبي

الإصدار المجاني من بوت الدردشة تشات جي بي تي: غالباً لم يقدم أي أجوبة أو ردود مراوغة، بل أشار عموماً إلى محدودية بياناته التي تصل إلى عام 2022 فقط. وفي حين أن رد بوت الدردشة بهذه الطريقة قد يُشكل خطراً أقل على العمليات الانتخابية، لكن يجدر بالذكر أنه قدم ردوداً مفصلة مختلقة في بعض الأحيان، ما يسلط الضوء على ميله ورغبته في أن يكون مفيداً لا دقيقاً.

الإصدار المدفوع من بوت الدردشة تشات جي بي تي: أجاب عن العديد من الأسئلة بتفصيل كبير وغالباً بطلاقة تشبه أسلوب المقالات، لكنه قدم أحياناً أيضاً إجابات عامة وفي بعض الأحيان تضمنت الردود التفصيلية أخطاء كبيرة قدمها البوت بثقة.

بوت الدردشة كوبايلوت: أجاب عن الأسئلة بطريقة مشابهة لإجابة الإصدار المدفوع من تشات جي بي تي، مع تفسيرات طويلة في كثير من الأحيان وروابط خارجية، ولم يرفض الرد على أي سؤال، ومع ذلك قدم العديد من الإجابات غير الصحيحة كلياً أو جزئياً بالإضافة إلى روابط غير مفيدة.

بوت الدردشة جيميناي: من أسوأ بوتات الدردشة أداءً من حيث توفير معلومات دقيقة، وكان لديه أكبر عدد من حالات رفض الرد على الأسئلة، وهو ما يعود بحسب الباحثين إلى قرار شركة جوجل بتعليق البوت ومنعه من الرد على الأسئلة المتعلقة بالانتخابات في البلدان التي يجري فيها التصويت هذا العام 2024، بدلاً من ذلك تُشجع الشركة المستخدمين على استخدام محرك البحث جوجل بدلاً منه للعثور على معلومات دقيقة حول الانتخابات القادمة.

بوتات الدردشة المدعومة بالذكاء الاصطناعي مفيدة ولكنها ليست دقيقة

وفقاً للباحثين فإن أداء بوتات الدردشة كان ضعيفاً في بعض المجالات، مثل الأسئلة المتعلقة بتسجيل الناخبين، كما وجد التحقيق أن بوتات الدردشة غالباً ما تُهلوس أو تُنشئ معلومات مختلقة من تلقاء نفسها إذا لم تعرف الإجابة الصحيحة. عموماً، يبدو أنها ليست مناسبة لتوفير معلومات دقيقة عن العمليات الانتخابية.

كما فشلت بوتات الدردشة في كثير من الأحيان في تقديم معلومات صحيحة أو ربطها بمعلومات انتخابية في دول أخرى. على سبيل المثال، قدمت بعض البوتات أو اختلقت معلومات لا تنطبق على معظم الانتخابات في الدول الأعضاء في الاتحاد الأوروبي، وربطتها بمعلومات العملية الانتخابية الأميركية، وهذا يعود بحسب الباحثين إلى عملية تدريبها التي من المحتمل أنها كانت تركز أكثر على المحتوى المتعلق بالعملية الانتخابية في الولايات المتحدة الأميركية.

كما سلط التحقيق الضوء على مصدر قلق محتمل أكبر، فبينما اختبُرت بوتات الدردشة بانتخابات البرلمان الأوروبي ودول الاتحاد الأوروبي التي تتبنى أُطراً تنظيمية واضحة، وهو ما عملت الشركات المالكة لبوتات الدردشة على ضمان تطبيقه، إلا أن ظهور احتمالية المشكلة فيما يتعلق بالانتخابات التي تُجرى في باقي دول العالم سيكون أكبر وقد تؤثر بدرجة كبيرة على العمليات الانتخابية فيها.

توصيات معدي التحقيق:

إقران بوتات الدردشة بمحركات البحث الشائعة قد يُسهم في توليد المعلومات الخاطئة في العديد من المجالات، حتى خارج المجال الانتخابي.
على عكس محركات البحث أو منصات التواصل الاجتماعي، فإن مالكي بوتات الدردشة المدعومة بالذكاء الاصطناعي مسؤولون مباشرة عن المحتوى المنتج.
تقديم بوتات الدردشة غالباً روابط تالفة أو غير ذات صلة أو غير صحيحة بوصفها مصادر للمعلومات، ما يضعف حتى الإجابات القوية والغنية بالمعلومات.
ضرورة إجراء الشركات مراجعة فورية لطرق عمل بوتات الدردشة فيما يتعلق بالعمليات الانتخابية، ليس داخل دول الاتحاد الأوروبي فقط بل في أي دولة في العالم.
ضبط بوتات الدردشة لتوفير روابط لمصادر المعلومات الأكثر موثوقية (مثل السلطات الانتخابية) فقط وعدم تركها لتوليد أي معلومات من تلقاء نفسها.