ويكمن الفرق بين هذه المقاربة وسابقاتها في أن ديب مايند يأمل في استخدام "الحوار على المدى الطويل من أجل السلامة"، كما يقول باحث السلامة في ديب مايند جيفري إرفينغ.
"وهذا يعني أننا لا نتوقع أن المشكلات التي نواجهها في هذه النماذج، مثل المعلومات المزيفة أو التنميط أو غيرها، أن تكون واضحة منذ الوهلة الأولى، وأننا نريد معالجتها بالتفصيل. وهذا يعني التنسيق بين الآلات والبشر أيضاً"، كما يقول.
ليست فكرة ديب مايند في استخدام المعايير البشرية لتحسين تعلم نموذج الذكاء الاصطناعي بالفكرة الجديدة، كما تقول سارة هوكر التي تقود المختبر اللاربحي لأبحاث الذكاء الاصطناعي كوهير فور أيه آي (Cohere for AI).
اقرأ أيضاً: بتعابير وجه دقيقة: الإعلان عن تطوير «أميكا» الروبوت الأقرب إلى البشر حتى الآن
تقول هوكر: "ولكن هذه التحسينات مقنعة وتبين بوضوح فوائد التحسين الذي يعتمد على التوجيه البشري للبرمجيات الحوارية في إطار النماذج اللغوية الكبيرة".
ويقول الباحث في شركة الذكاء الاصطناعي الناشئة هاغينغ فيس (Hugging Face)، داوي كيلا، إن سبارو "خطوة جديدة حسنة تتبع التوجه العام في الذكاء الاصطناعي، والذي يقوم على محاولات جدية لتحسين جوانب الأمان في استخدام النماذج اللغوية الكبيرة". ولكن ما زال أمامنا طريق طويل قبل أن يصبح من الممكن استخدام هذه النماذج الحوارية التي تعتمد على الذكاء الاصطناعي بشكل عملي.
فما زال سبارو يرتكب الأخطاء. حيث إنه يبتعد عن الموضوع أو يطلق إجابات عشوائية في بعض الحالات. كما تمكن بعض المشاركين المثابرين من دفع النموذج إلى انتهاك القواعد المفروضة عليه بنسبة 8%. (ولكن هذا لا يزال أفضل من أداء النماذج الأقدم: فقد كانت النماذج الأقدم في ديب مايند تنتهك القواعد أكثر من سبارو بثلاثة أضعاف).
اقرأ أيضاً: ما الذي يجعل اعتماد بوتات الدردشة بدلاً من محركات البحث فكرة سيئة؟
تقول هوكر: "بالنسبة للمجالات التي يكون فيها الضرر البشري مرتفعاً في إجابات البرنامج، مثل تقديم النصائح الطبية أو المالية، قد تبدو نسبة الفشل هذه كبيرة بدرجة غير مقبولة للكثيرين". إضافة إلى ذلك، فإن العمل يتركز على نموذج يعتمد على اللغة الإنجليزية، "في حين أننا نعيش في عالم يجب أن تقدم التكنولوجيا خدماتها فيه بشكل آمن ومسؤول بجميع اللغات المختلفة"، كما تضيف هوكر.
ويشير كيلا إلى مشكلة أخرى: "إن الاعتماد على جوجل للبحث عن المعلومات قد يؤدي إلى تحيزات غير معروفة ويصعب كشفها، بما أن كل شيء مغلق المصدر".
