نموذج لغوي مقنّع Masked Language Model

1 دقيقة

ما هو النموذج اللغوي المقنّع؟

هو نموذج لغوي مدرب على التنبؤ بالكلمات المفقودة في جملة بناءً على سياق الكلمات المحيطة. ويتم ذلك عن طريق إخفاء بعض الكلمات في نص المدخلات وتدريب النموذج للتنبؤ بالكلمات بناءً على السياق.

أهمية النموذج اللغوي المقنّع

تعد النماذج اللغوية المقنّعة أداة قوية في معالجة اللغة الطبيعية كونها تستطيع تعلم كيفية التقاط الارتباطات غير المباشرة بين الكلمات في الجملة، ما يجعلها مناسبة لمهام مثل الترجمة الآلية وتلخيص النصوص والإجابة عن الأسئلة. 

كيف يعمل النموذج اللغوي المقنّع؟

تُدرَّب هذه النماذج على مجموعة كبيرة من النصوص باستخدام التعلم غير الموجه، إذ تختفي نسبة من نصوص المدخلات بشكل عشوائي ومن ثم يبدأ النموذج المقنع بالتعلم بناءً على السياق الذي توفره الكلمات المتبقية. 

من خلال التدريب على هذه المهمة، تتعلم النماذج اللغوية المقنعة التمثيلات السياقية للكلمات، ويمكن ضبطها بدقة لمهام فهم اللغة الطبيعية المختلفة، مثل تحليل المشاعر، والتعرف إلى الأشياء وتطبيقات الإجابة عن الأسئلة.