يقول الخبر
قامت شركة مايكروسوفت ببناء نظام آلي لكشف المعتدين على الأطفال الذين يحاولون اجتذاب الأطفال على الإنترنت. تحمل الأداة الاسم الرمزي (مشروع أرتميس)، وهي مصممة لكشف أنماط عينة من التواصل في الدردشة.
طريقة العمل
يعتمد النظام على أساس الكلمات وأنماط الحديث لتحديد احتمال كون أحد المشاركين يحاول اجتذاب الآخر. ويمكن للشركات التي تطبق هذا النظام أن تحدد عتبة (8 من 10 مثلاً)، بحيث يتم إرسال أي حوار يتجاوزها إلى مدقق بشري لدراسته، ليتم تحديد الخطر عند وجوده وإبلاغ السلطات المعنية. ويمكن لهذا النظام أيضاً أن يقدم إلى خبراء حماية الأطفال المزيد من المعلومات حول كيفية عمل المعتدين على الأطفال على الإنترنت. لقد كانت مايكروسوفت تستخدم أساليب مشابهة في العديد من منتجاتها الخاصة، بما فيها منصة إكس بوكس وسكايب، وذلك وفقاً لمنشور من كورتني جريجوار، المسؤولة الأساسية للحماية الرقمية في الشركة.
كيف يعمل النظام؟
لم تحدد مايكروسوفت بالضبط الكلمات أو الأنماط التي تقوم الأداة بتتبعها، فقد يؤدي هذا إلى تنبيه المعتدين وقيامهم بتعديل سلوكهم في محاولة لإخفاء نشاطاتهم. وهذه الأداة متاحة مجاناً للشركات التي تقدم خدمات الدردشة على الإنترنت، وذلك عبر منظمة لا ربحية تحمل اسم ثورن، تقوم ببناء منتجات تكنولوجية للدفاع عن الأطفال ضد الاستغلال الجنسي.
سجل في نشرة الخوارزمية
المخاطر
من المرجح أن يطلق النظام الكثير من الإنذارات الخاطئة، بما أن الأنظمة الآلية ما زالت تواجه صعوبات في فهم معنى وسياق اللغة. وهذا يعني أن شركات التواصل الاجتماعي يجب أن تستثمر أموالاً إضافية لتوظيف المدققين إذا كانت ملتزمة فعلاً بتتبع محاولات اجتذاب الأطفال على الإنترنت (ويقول الضحايا إن التزام هذه الشركات ليس واضحاً). كما أن النظام يفترض أيضاً أن الرسائل ليست مشفرة، وأن المستخدمين موافقون على قراءة رسائلهم الخاصة، وهو ما ليس صحيحاً على الدوام.
