content_cookies111:string(1899) "{"id":35259,"content_cookies":null,"user_header":{"SERVER_SOFTWARE":"Apache\/2.4.52 (Debian)","REQUEST_URI":"\/%D8%A8%D9%88%D8%AA-%D8%AF%D8%B1%D8%AF%D8%B4%D8%A9-%D9%8A%D8%B9%D8%AA%D9%85%D8%AF-%D8%B9%D9%84%D9%89-%D8%BA%D9%88%D8%BA%D9%84-%D9%84%D9%86%D8%AA%D8%A7%D8%A6%D8%AC-%D8%A3%D9%81%D8%B6%D9%84\/","REDIRECT_STATUS":"200","HTTP_X_FORWARDED_PROTO":"https","HTTP_CONNECTION":"upgrade","HTTP_HOST":"technologyreview.ae","HTTP_CF_CONNECTING_IP":"44.201.72.250","HTTP_CF_IPCOUNTRY":"US","HTTP_ACCEPT_ENCODING":"gzip","HTTP_CF_RAY":"810c4eae8d489c5a-IAD","HTTP_CF_VISITOR":"{\\\"scheme\\\":\\\"https\\\"}","HTTP_USER_AGENT":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)","HTTP_ACCEPT":"text\/html,application\/xhtml+xml,application\/xml;q=0.9,*\/*;q=0.8","HTTP_ACCEPT_LANGUAGE":"en-US,en;q=0.5","HTTP_CDN_LOOP":"cloudflare","PATH":"\/usr\/local\/sbin:\/usr\/local\/bin:\/usr\/sbin:\/usr\/bin:\/sbin:\/bin","SERVER_SIGNATURE":"Apache\/2.4.52 (Debian) Server at technologyreview.ae Port 80<\/address>\n","SERVER_NAME":"technologyreview.ae","SERVER_ADDR":"172.18.0.20","SERVER_PORT":"80","REMOTE_ADDR":"44.201.72.250","DOCUMENT_ROOT":"\/var\/www\/html","REQUEST_SCHEME":"http","CONTEXT_PREFIX":"","CONTEXT_DOCUMENT_ROOT":"\/var\/www\/html","SERVER_ADMIN":"webmaster@localhost","SCRIPT_FILENAME":"\/var\/www\/html\/index.php","REMOTE_PORT":"50234","REDIRECT_URL":"\/\u0628\u0648\u062a-\u062f\u0631\u062f\u0634\u0629-\u064a\u0639\u062a\u0645\u062f-\u0639\u0644\u0649-\u063a\u0648\u063a\u0644-\u0644\u0646\u062a\u0627\u0626\u062c-\u0623\u0641\u0636\u0644\/","GATEWAY_INTERFACE":"CGI\/1.1","SERVER_PROTOCOL":"HTTP\/1.1","REQUEST_METHOD":"GET","QUERY_STRING":"","SCRIPT_NAME":"\/index.php","PHP_SELF":"\/index.php","REQUEST_TIME_FLOAT":1696410790.397132,"REQUEST_TIME":1696410790,"argv":[],"argc":0,"HTTPS":"on"},"user_ip":"44.201.72.250","user_agent":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)"}"
هذه الميزة مخصصة للمشتركين يمكنهم مشاركة المواضيع بحد اقصى 10 مواد من كافة مواقع مجرة
إذا أردنا وضع تصميم ممتاز لبوت دردشة يعتمد على الذكاء الاصطناعي، فقد تكمن الحيلة في ضبط سلوكه وفقاً لتعليمات البشر، ودفعه إلى دعم ادعاءاته باستخدام الإنترنت، وذلك وفقاً لورقة بحثية جديدة من مختبر الذكاء الاصطناعي ديب مايند (DeepMind) الذي تمتلكه شركة ألفابت (Alphabet).
سبارو: بوت الدردشة الجديد
ففي بحث غير محكّم نشره فريق المختبر حديثاً، تم الكشف عن بوت الدردشة سبارو (Sparrow) الذي تم تدريبه على النموذج اللغوي الكبير تشينتشيلا (Chinchilla) من ديب مايند.
وقد تم تصميم سبارو حتى يتحدث مع البشر ويجيب عن الأسئلة، وذلك باستخدام عمليات بحث مباشرة على جوجل (Google) أو المعلومات الموجودة لديه. وبناءً على تقييم المستخدمين لهذه الأجوبة من حيث فائدتها، يتم تدريبه باستخدام خوارزمية تعلم معزز، والتي تعتمد على التجربة والخطأ لتحقيق هدف معين. ويهدف هذا النظام إلى أن يمثل خطوة نحو الأمام في عملية تطوير أنظمة الذكاء الاصطناعي التي تستطيع أن تتحدث مع البشر دون عواقب وخيمة، مثل تشجيع الناس على إيذاء أنفسهم أو الآخرين.
سجل في نشرة الخوارزمية
ابق مواكباً لأحدث أخبار وتطبيقات الذكاء الاصطناعي في قطاعك، وتأثيراته المستقبلية على مجال عملك.
تم الإشتراك بنجاح !هناك خطأ ما, حاول مجدداً
تقوم النماذج اللغوية الكبيرة بتوليد نصوص تبدو كأنها من تأليف البشر. وقد أصبحت جزءاً متزايد الأهمية من البنية التحتية للإنترنت، حيث تستخدم لتلخيص النصوص، وبناء أدوات أكثر فاعلية للبحث على الإنترنت، كما تستخدم كبوتات دردشة لخدمة العملاء.
ولكن تدريبها يعتمد على تجميع كميات هائلة من البيانات والنصوص من الإنترنت، والتي تعكس لا محالة الكثير من التحيزات المؤذية. ولا يتطلب الأمر سوى بضع تجارب وتعديلات حتى تبدأ هذه النماذج بتوليد المحتوى المسيء والتمييزي. وبالنسبة لنظام ذكاء اصطناعي مبني لإجراء حوارات مع البشر، يمكن أن تكون النتائج مدمرة في هذه الحال. فإذا لم يكن نظام الذكاء الاصطناعي المخصص للحوار مزوداً بإجراءات السلامة المناسبة، فقد يقول أشياء مسيئة حول الأقليات العرقية، أو يقترح على المستخدمين شرب مبيض الغسيل، على سبيل المثال.
وقد حاولت شركات الذكاء الاصطناعي التي تأمل بتوليد أنظمة ذكاء اصطناعي للحوار بعدة أساليب لجعل نماذجها أكثر أماناً.
وعلى سبيل المثال، فقد استخدمت أوبن أيه آي التي صممت النموذج اللغوي الشهير "جي بي تي 3" (GPT-3)، وشركة الذكاء الاصطناعي الناشئة أنثروبيك (Anthropic)، باستخدام التعلم المعزز لإدماج المعايير البشرية في نماذجها. كما أن بوت الدردشة بليندربوت (BlenderBot) الذي يعتمد على الذكاء الاصطناعي من فيسبوك (Facebook) يستخدم البحث على الإنترنت لدعم إجاباته.
أما سبارو من ديب مايند فيجمع كل هذه الأساليب في نموذج واحد.
تحسين نموذج سبارو
فقد قام مختبر ديب مايند بتقديم عدة إجابات قام النموذج بتوليدها لنفس السؤال إلى مجموعة من المشتركين البشر، وطلب منهم تحديد الإجابة الأفضل. ومن ثم طلب منهم أيضاً تحديد وجهة نظرهم من حيث صحة الإجابات، وما إذا كان سبارو قد دعم الإجابة بالأدلة المناسبة، مثل الروابط التي تشير إلى المصادر. وقد تمكن النموذج من تقديم إجابات منطقية عن أسئلة واقعية، وذلك باستخدام أدلة تم جلبها من الإنترنت، بنسبة 78%.
وعند صياغة هذه الإجابات، اتبع 23 قاعدة حددها الباحثون، مثل عدم تقديم نصائح مالية، أو إطلاق التهديدات، أو الادعاء بأنه شخص.
ويكمن الفرق بين هذه المقاربة وسابقاتها في أن ديب مايند يأمل في استخدام "الحوار على المدى الطويل من أجل السلامة"، كما يقول باحث السلامة في ديب مايند جيفري إرفينغ.
"وهذا يعني أننا لا نتوقع أن المشكلات التي نواجهها في هذه النماذج، مثل المعلومات المزيفة أو التنميط أو غيرها، أن تكون واضحة منذ الوهلة الأولى، وأننا نريد معالجتها بالتفصيل. وهذا يعني التنسيق بين الآلات والبشر أيضاً"، كما يقول.
ليست فكرة ديب مايند في استخدام المعايير البشرية لتحسين تعلم نموذج الذكاء الاصطناعي بالفكرة الجديدة، كما تقول سارة هوكر التي تقود المختبر اللاربحي لأبحاث الذكاء الاصطناعي كوهير فور أيه آي (Cohere for AI).
تقول هوكر: "ولكن هذه التحسينات مقنعة وتبين بوضوح فوائد التحسين الذي يعتمد على التوجيه البشري للبرمجيات الحوارية في إطار النماذج اللغوية الكبيرة".
ويقول الباحث في شركة الذكاء الاصطناعي الناشئة هاغينغ فيس (Hugging Face)، داوي كيلا، إن سبارو "خطوة جديدة حسنة تتبع التوجه العام في الذكاء الاصطناعي، والذي يقوم على محاولات جدية لتحسين جوانب الأمان في استخدام النماذج اللغوية الكبيرة". ولكن ما زال أمامنا طريق طويل قبل أن يصبح من الممكن استخدام هذه النماذج الحوارية التي تعتمد على الذكاء الاصطناعي بشكل عملي.
فما زال سبارو يرتكب الأخطاء. حيث إنه يبتعد عن الموضوع أو يطلق إجابات عشوائية في بعض الحالات. كما تمكن بعض المشاركين المثابرين من دفع النموذج إلى انتهاك القواعد المفروضة عليه بنسبة 8%. (ولكن هذا لا يزال أفضل من أداء النماذج الأقدم: فقد كانت النماذج الأقدم في ديب مايند تنتهك القواعد أكثر من سبارو بثلاثة أضعاف).
تقول هوكر: "بالنسبة للمجالات التي يكون فيها الضرر البشري مرتفعاً في إجابات البرنامج، مثل تقديم النصائح الطبية أو المالية، قد تبدو نسبة الفشل هذه كبيرة بدرجة غير مقبولة للكثيرين". إضافة إلى ذلك، فإن العمل يتركز على نموذج يعتمد على اللغة الإنجليزية، "في حين أننا نعيش في عالم يجب أن تقدم التكنولوجيا خدماتها فيه بشكل آمن ومسؤول بجميع اللغات المختلفة"، كما تضيف هوكر.
ويشير كيلا إلى مشكلة أخرى: "إن الاعتماد على جوجل للبحث عن المعلومات قد يؤدي إلى تحيزات غير معروفة ويصعب كشفها، بما أن كل شيء مغلق المصدر".
ميليسا هيكيلا من كبار مراسلي مجلة إم آي تي تكنولوجي ريفيو، حيث تغطي مواضيع الذكاء الاصطناعي وتأثيره على المجتمع. كتبت سابقاً عن السياسات العامة وسياسة الذكاء الاصطناعي في صحيفة "بوليتيكو" (POLITICO). عملت أيضاً في مجلة "ذي إيكونومست" (The Economist) … المزيد وكانت مذيعة أخبار. صنّفتها مجلة فوربس كواحدة من بين 30 شخصية تقل أعمارهم عن 30 عاماً في قائمة المبدعين في وسائل الإعلام الأوروبية في عام 2020.
نستخدم ملفات تعريف الارتباط لتحسين تجربتك، استمرار استخدامك للموقع يعني موافقتك على ذلك. سياسة الخصوصيةأوافقX
Privacy & Cookies Policy
Privacy Overview
This website uses cookies to improve your experience while you navigate through the website. Out of these cookies, the cookies that are categorized as necessary are stored on your browser as they are essential for the working of basic functionalities of the website. We also use third-party cookies that help us analyze and understand how you use this website. These cookies will be stored in your browser only with your consent. You also have the option to opt-out of these cookies. But opting out of some of these cookies may have an effect on your browsing experience.
Necessary cookies are absolutely essential for the website to function properly. This category only includes cookies that ensures basic functionalities and security features of the website. These cookies do not store any personal information.
Any cookies that may not be particularly necessary for the website to function and is used specifically to collect user personal data via analytics, ads, other embedded contents are termed as non-necessary cookies. It is mandatory to procure user consent prior to running these cookies on your website.
