هل الذكاء الاصطناعي لديه كعب أخيل؟ ينتصر على المحترفين لكنه قد يُهزم بسهولة أمام الهواة

تاريخ النشرة : 15-11-2022
يكتبها هذا الأسبوع: عمرو عوض

تتنبأ الكثير من قصص الخيال العلمي الكلاسيكية بأن الروبوتات المدعومة بالذكاء الاصطناعي ستصل يوماً ما إلى مرحلة تمكنها من التفوق على البشر وستحاول السيطرة عليهم. كذلك، يتوقع العديد من الخبراء، بما فيهم ستيفن هوكينج وإيلون ماسك، أن الوصول إلى ما يطلق عليه "الذكاء الاصطناعي العام" (AGI) قد يعني نهاية الجنس البشري.
ومع التطورات السريعة التي نشهدها اليوم، فإن الوصول إلى هذا النوع من الذكاء قد يكون أمراً مفروغاً منه، ويمكننا أن نختلف فقط حول التوقيت الذي سيحدث فيه الأمر.

لكن هل أنظمة الذكاء الاصطناعي العام منيعة تماماً؟
على الرغم من صعوبة الإجابة على هذا السؤال في الوقت الحالي (لأننا لم نطور بعد أنظمة ذكاء اصطناعي عام)، إلا أن هناك بعض البرامج التي قد تقدم لنا لمحة عن قدرات الأنظمة التي تتفوق بشكل ساحق على البشر في مجالات محددة.

أول ما يتبادر إلى أذهان المتخصصين في الذكاء الاصطناعي عند الحديث عن مثل هذه الأنظمة هو برنامج ألفا غو (AlphaGo) المتخصص -كما يوحي الاسم- في لعبة غو (Go). هذه اللعبة هي لعبة لوحية تعتمد على الذكاء يتنافس فيها لاعبان، وتحظى بشعبية كبيرة في دول شرق آسيا لاسيما اليابان، ويعتقد أنها أقدم لعبة لوحية في التاريخ. ونظراً لمستوى التعقيد الذي تتميز به، تمثل هذه اللعبة -مع لعبة الشطرنج- مقياساً مهماً يستخدمه باحثو الذكاء الاصطناعي لتقدير مدى تطور أنظمة التعلم الآلي، خاصة أنها إحدى أولى الألعاب التي تمكن الذكاء الاصطناعي من التفوق على أفضل محترفيها.

تصف شركة الذكاء الاصطناعي "ديب مايند" برنامجها "ألفا غو" بأنه "أول برنامج حاسوبي يهزم بطل العالم في لعبة غو، وأقوى لاعب غو في التاريخ". وفي الآونة الأخيرة، ظهر برنامج ذكاء اصطناعي يسمى كاتا غو (KataGo) اشتهر بأنه أول برنامج مفتوح المصدر يمكن أن يتفوق على لاعبي "غو" البشريين رفيعي المستوى، وأصبح يُعد على نطاق واسع أقوى نظام ذكاء اصطناعي متاح للعموم يلعب هذه اللعبة.

تقنيات عدائية تهاجم أنظمة الذكاء الاصطناعي
نشر مجموعة من باحثي الذكاء الاصطناعي، في بداية الشهر الجاري، ورقة بحثية تصف طريقة لهزيمة "كاتا غو" باستخدام تقنيات عدائية (Adversarial Techniques) تستفيد من البقع العمياء لديه. من خلال لعب حركات غير متوقعة من خارج مجموعة التدريب، تمكنت نسخة مبسطة من البرنامج (يستطيع حتى الهواة هزيمتها) أن تنتصر في 99% من المباريات على أحدث نسخ "كاتا غو". لم يحتج الباحثون سوى إلى 0.3% فقط من قوة الحوسبة المستخدمة لتدريب النظام لشن "أول هجوم شامل ناجح ضد نظام ذكاء اصطناعي يلعب "غو" على مستوى الاحتراف البشري"، على حد تعبير الباحثين.

تعتمد تقنية التعلم الآلي التنافسي التي استخدمها الباحثون على خداع أو تضليل النماذج بالاعتماد على مدخلات خبيثة تُعرف باسم الأمثلة التنافسية أو العدائية (Adversarial Examples). وأكثر استخدامات هذا النوع من التعلم الآلي شيوعاً هو تنفيذ هجمات هادفة إلى تخريب وتعطيل أنظمة التعلم الآلي عن العمل.

يبسط آدم جليف، طالب الدكتوراه في جامعة كاليفورنيا في بيركلي وأحد المشاركين في الدراسة، الفكرة قائلاً إن استخدام التقنيات العدائية يخدع "كاتا غو" ويجعله يثق ثقة مفرطة بأنه على وشك الفوز فيلجأ لإنهاء المباراة، ليتكشف عند احتساب النقاط أنه قد هُزم.

يضيف جليف: "يُظهر البحث أن أنظمة الذكاء الاصطناعي التي يبدو أنها تتمتع بنفس مستوى البشر تفعل ذلك غالباً بطريقة غريبة للغاية، وبالتالي فإنها يمكن أن تفشل بطرق تثير دهشة البشر. هذه النتيجة مسلية في غو، لكن الإخفاقات المماثلة في أنظمة السلامة الحرجة قد تكون خطيرة".

كعب أخيل الذكاء الاصطناعي
على غرار أخيل، البطل الإغريقي الذي تمتع بجسد منيع باستثناء العقب (الكعب) الذي تسبب في قتله في النهاية، تمتلك أنظمة الذكاء الاصطناعي المتقدمة نقاط ضعف مخفية قد تقضي على فاعليتها بطرق بسيطة، مثل الأمثلة العدائية. وتضيف هذه التجربة الأخيرة إلى كم متزايد من الأدلة حول مدى سهولة ممارسة الحيل على الخوارزميات الذكية وخداعها لارتكاب الأخطاء.

أحد الأمثلة الشهيرة في هذا الإطار هو تمكن اثنان من الباحثين من التلاعب بعدة سيارات تسلا لجعلها تزيد سرعتها بمقدار 80 كيلومتراً في الساعة، بعدما خدعا نظام الكاميرا من نوع (Mobileye EyeQ3) الذي تستخدمه سيارات تسلا، عن طريق وضع ملصقٍ صغير جداً بالكاد يمكن رؤيته على لوحة تحديد السرعة القصوى على جانب الطريق. والنتيجة أن الكاميرا قرأت الرقم 85 (136 كيلومتر) على اللوحة عوضاً عن الرقم 35 (56 كيلومتر).

وفي تجربة أخرى، تمكن برنامج يسمى تيكست فولر (TextFooler)، طوره فريق في جامعة إم آي تي عام 2020، من خداع أنظمة معالجة اللغة الطبيعية وجعلها تخطئ في فهم النص عن طريق استبدال كلمات معينة في الجملة بمرادفاتها وحسب. وفي التجارب، تمكن البرنامج من تخفيض دقة ثلاثة من أحدث أنظمة معالجة اللغة الطبيعية إلى حد كبير.
وقبل ذلك، اكتشف باحثان بجامعة لويسفيل في كنتاكي أن الشبكات العصبونية لا يمكنها استيعاب الخداع البصري الذي يمكن للعين البشرية أن تكتشفه.

نقطة قوة بشرية
تؤكد هذه التجارب وغيرها أنه حتى الأنظمة ذات القدرات العالية يمكن أن تحتوي على نقاط ضعف خطيرة. ويرى الباحثون أن الهجمات القائمة على التعلم، مثل تلك التي تم تطويرها للتغلب على "كاتا غو"، قد تكون أداة مهمة للكشف عن نقاط الضعف التي يصعب اكتشافها في أنظمة الذكاء الاصطناعي، والتي يمكن أن تتسبب في عواقب وخيمة.

لكن على صعيد أخر، تبرهن هذه الثغرات على أن البشر سيظلون قادرين على هزيمة الذكاء الاصطناعي متى استدعت الحاجة، وأنه حتى لو صدقت التوقعات ووصل الذكاء الاصطناعي إلى مستوى الذكاء العام في أي وقت قريباً، ستظل لدينا دائماً خصائص غير قابلة للفهم أو القياس بالنسبة لهذه الأنظمة، مثل روح الفكاهة والمرح والحماقة.

نظراً لأن الكثير التصرفات التي تصدر من البشر، وحتى الحيوانات، قد تولد لحظياً وبغرض المتعة المطلقة فقط، دون أسباب منطقية، فإنها لا تكون دائماً رشيدة أو عقلانية ولا يمكن لأي نظام توقعها بنسبة 100%. وربما تكون هذه المميزات مستقبلاً وسيلتنا الفريدة للتغلب على أنظمة الذكاء الاصطناعي فائقة الذكاء.

منصات مجرة

تواصل معنا

الاستمرار بالحساب الحالي