وفّر 50٪ من خلال الاشتراك السنوي في مجرة واحصل على تصفح لا محدود لأفضل محتوى عربي على الإنترنت.

مجرة
هارفارد بزنس ريفيو
إم آي تي تكنولوجي
العلوم للعموم
نفسيتي
ستانفورد للابتكار الاجتماعي
اشترك
اشترك
اشترك

تواصل معنا

الاستمرار بالحساب الحالي

content_cookies111:string(1927) "{"id":7417,"content_cookies":null,"user_header":{"SERVER_SOFTWARE":"Apache\/2.4.52 (Debian)","REQUEST_URI":"\/%d9%86%d9%85%d8%a7%d8%b0%d8%ac-%d8%b0%d9%83%d8%a7%d8%a1-%d8%a7%d8%b5%d8%b7%d9%86%d8%a7%d8%b9%d9%8a-%d9%85%d8%b5%d8%ba%d9%91%d8%b1%d8%a9-%d9%82%d8%af-%d8%aa%d8%ba%d9%8a%d8%b1-%d9%88%d8%ac%d9%87-%d8%a7\/","REDIRECT_STATUS":"200","HTTP_X_FORWARDED_PROTO":"https","HTTP_CONNECTION":"upgrade","HTTP_HOST":"technologyreview.ae","HTTP_CF_CONNECTING_IP":"44.197.111.121","HTTP_CF_IPCOUNTRY":"US","HTTP_ACCEPT_ENCODING":"gzip","HTTP_CF_RAY":"80f707a62b8457ac-IAD","HTTP_CF_VISITOR":"{\\\"scheme\\\":\\\"https\\\"}","HTTP_USER_AGENT":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)","HTTP_ACCEPT":"text\/html,application\/xhtml+xml,application\/xml;q=0.9,*\/*;q=0.8","HTTP_ACCEPT_LANGUAGE":"en-US,en;q=0.5","HTTP_CDN_LOOP":"cloudflare","PATH":"\/usr\/local\/sbin:\/usr\/local\/bin:\/usr\/sbin:\/usr\/bin:\/sbin:\/bin","SERVER_SIGNATURE":"
Apache\/2.4.52 (Debian) Server at technologyreview.ae Port 80<\/address>\n","SERVER_NAME":"technologyreview.ae","SERVER_ADDR":"172.18.0.13","SERVER_PORT":"80","REMOTE_ADDR":"44.197.111.121","DOCUMENT_ROOT":"\/var\/www\/html","REQUEST_SCHEME":"http","CONTEXT_PREFIX":"","CONTEXT_DOCUMENT_ROOT":"\/var\/www\/html","SERVER_ADMIN":"webmaster@localhost","SCRIPT_FILENAME":"\/var\/www\/html\/index.php","REMOTE_PORT":"42146","REDIRECT_URL":"\/\u0646\u0645\u0627\u0630\u062c-\u0630\u0643\u0627\u0621-\u0627\u0635\u0637\u0646\u0627\u0639\u064a-\u0645\u0635\u063a\u0651\u0631\u0629-\u0642\u062f-\u062a\u063a\u064a\u0631-\u0648\u062c\u0647-\u0627\/","GATEWAY_INTERFACE":"CGI\/1.1","SERVER_PROTOCOL":"HTTP\/1.1","REQUEST_METHOD":"GET","QUERY_STRING":"","SCRIPT_NAME":"\/index.php","PHP_SELF":"\/index.php","REQUEST_TIME_FLOAT":1696187679.937633,"REQUEST_TIME":1696187679,"argv":[],"argc":0,"HTTPS":"on"},"user_ip":"44.197.111.121","user_agent":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)"}"

check_post_to_show:object(stdClass)#27970 (13) {
  ["is_valid"]=>
  int(1)
  ["global_remaining_posts_to_view"]=>
  int(0)
  ["remaining_posts_to_view"]=>
  int(0)
  ["number_all_post"]=>
  int(0)
  ["number_post_read"]=>
  int(0)
  ["exceeded_daily_limit"]=>
  int(0)
  ["is_watched_before"]=>
  int(0)
  ["user_agent"]=>
  string(40) "CCBot/2.0 (https://commoncrawl.org/faq/)"
  ["user_ip"]=>
  string(14) "44.197.111.121"
  ["user_header"]=>
  object(stdClass)#29293 (40) {
    ["SERVER_SOFTWARE"]=>
    string(22) "Apache/2.4.52 (Debian)"
    ["REQUEST_URI"]=>
    string(201) "/%d9%86%d9%85%d8%a7%d8%b0%d8%ac-%d8%b0%d9%83%d8%a7%d8%a1-%d8%a7%d8%b5%d8%b7%d9%86%d8%a7%d8%b9%d9%8a-%d9%85%d8%b5%d8%ba%d9%91%d8%b1%d8%a9-%d9%82%d8%af-%d8%aa%d8%ba%d9%8a%d8%b1-%d9%88%d8%ac%d9%87-%d8%a7/"
    ["REDIRECT_STATUS"]=>
    string(3) "200"
    ["HTTP_X_FORWARDED_PROTO"]=>
    string(5) "https"
    ["HTTP_CONNECTION"]=>
    string(7) "upgrade"
    ["HTTP_HOST"]=>
    string(19) "technologyreview.ae"
    ["HTTP_CF_CONNECTING_IP"]=>
    string(14) "44.197.111.121"
    ["HTTP_CF_IPCOUNTRY"]=>
    string(2) "US"
    ["HTTP_ACCEPT_ENCODING"]=>
    string(4) "gzip"
    ["HTTP_CF_RAY"]=>
    string(20) "80f707a62b8457ac-IAD"
    ["HTTP_CF_VISITOR"]=>
    string(22) "{\"scheme\":\"https\"}"
    ["HTTP_USER_AGENT"]=>
    string(40) "CCBot/2.0 (https://commoncrawl.org/faq/)"
    ["HTTP_ACCEPT"]=>
    string(63) "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8"
    ["HTTP_ACCEPT_LANGUAGE"]=>
    string(14) "en-US,en;q=0.5"
    ["HTTP_CDN_LOOP"]=>
    string(10) "cloudflare"
    ["PATH"]=>
    string(60) "/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin"
    ["SERVER_SIGNATURE"]=>
    string(79) "
Apache/2.4.52 (Debian) Server at technologyreview.ae Port 80
"
    ["SERVER_NAME"]=>
    string(19) "technologyreview.ae"
    ["SERVER_ADDR"]=>
    string(11) "172.18.0.13"
    ["SERVER_PORT"]=>
    string(2) "80"
    ["REMOTE_ADDR"]=>
    string(14) "44.197.111.121"
    ["DOCUMENT_ROOT"]=>
    string(13) "/var/www/html"
    ["REQUEST_SCHEME"]=>
    string(4) "http"
    ["CONTEXT_PREFIX"]=>
    NULL
    ["CONTEXT_DOCUMENT_ROOT"]=>
    string(13) "/var/www/html"
    ["SERVER_ADMIN"]=>
    string(19) "webmaster@localhost"
    ["SCRIPT_FILENAME"]=>
    string(23) "/var/www/html/index.php"
    ["REMOTE_PORT"]=>
    string(5) "42146"
    ["REDIRECT_URL"]=>
    string(73) "/نماذج-ذكاء-اصطناعي-مصغّرة-قد-تغير-وجه-ا/"
    ["GATEWAY_INTERFACE"]=>
    string(7) "CGI/1.1"
    ["SERVER_PROTOCOL"]=>
    string(8) "HTTP/1.1"
    ["REQUEST_METHOD"]=>
    string(3) "GET"
    ["QUERY_STRING"]=>
    NULL
    ["SCRIPT_NAME"]=>
    string(10) "/index.php"
    ["PHP_SELF"]=>
    string(10) "/index.php"
    ["REQUEST_TIME_FLOAT"]=>
    float(1696187679.9376)
    ["REQUEST_TIME"]=>
    int(1696187679)
    ["argv"]=>
    array(0) {
    }
    ["argc"]=>
    int(0)
    ["HTTPS"]=>
    string(2) "on"
  }
  ["content_user_category"]=>
  string(4) "paid"
  ["content_cookies"]=>
  object(stdClass)#29292 (3) {
    ["status"]=>
    int(0)
    ["sso"]=>
    object(stdClass)#29363 (2) {
      ["content_id"]=>
      int(18678)
      ["client_id"]=>
      string(36) "1d1883f4-87d0-4156-8903-e6ceb0cb4224"
    }
    ["count_read"]=>
    NULL
  }
  ["is_agent_bot"]=>
  int(1)
}
شارك
شارك
whatsapp
linkedin
Article image
مصدر الصورة: إم إس تك

الذكاء الاصطناعي

نجح الباحثون في تصغير نموذج لغويٍّ ضخم بحيث يمكن استخدامه في التطبيقات التجارية.

بقلم كارين هاو

2019-10-07 21:33:16

2019-10-07 21:35:26

07 أكتوبر 2019
إهداء هذه المقالة

هذه الميزة مخصصة للمشتركين يمكنهم مشاركة المواضيع بحد اقصى 10 مواد من كافة مواقع مجرة

من يكترث بما يجري؟
طوّرت شركة جوجل في شهر أكتوبر من العام الماضي نموذجاً لغوياً يُسمى بيرت، حيث نجح في اجتياز اختبار معياري لفهم القراءة تم اعتماده منذ فترة طويلة في هذا المجال. حيث ضم الإصدار الأكبر حجماً منه 340 مليوناً من الثوابت الوسيطة، مما أدى إلى استهلاكه من الطاقة الكهربائية كميةً تكفي لإنارة منزلٍ أميركي لمدة 50 يوماً، وذلك عند تدريبه مرةً واحدة فقط.

وبعد أربعة أشهر، تخطّت شركة أوبن إيه آي ذلك النموذج عندما قامت بإطلاق نموذجها المُسمى جي بي تي-2. وقد أظهر هذا النموذج براعةً مذهلة في إنشاء نصوص نثرية مقنعة؛ حيث استخدم 1.5 مليار ثابت وسيطي. أما الآن فقد قامت شركة إنفيديا بتطوير أحدث وأكبر نموذج لها، والمُسمّى ميجاترون إل إم، حيث يضم 8.3 مليار من الثوابت الوسيطية. (هذا صحيح؛ بدأت الأمور تخرج عن السيطرة!).

كلما ازداد الحجم، ازداد الأمر سوءاً
بدأ باحثو الذكاء الاصطناعى يقلقون من عواقب هذه النزعة في تطوير النماذج، حيث أظهر مجموعة من الباحثين في جامعة ماساتشوستس، أمهيرست، في يونيو الماضي العواقبَ البيئيّة الناجمة عن تطوير نماذج تمتلك حجوماً هائلة بهذا القدر. كما قام الباحثون بحساب كميات الانبعاثات الكربونية الناجمة عن تدريب بيرت، ووجدوا أنها تُقارب ما ينبعث عن رحلة جوية بين نيويورك وسان فرانسيسكو ذهاباً وإياباً معاً. وإذا ما استقرأنا هذه المقادير، فإن الانبعاثات الناجمة عن جي بي تي-2 و ميجاترون إل إم ستكون أكبر بكثير.

سجل في نشرة الخوارزمية

ابق مواكباً لأحدث أخبار وتطبيقات الذكاء الاصطناعي في قطاعك، وتأثيراته المستقبلية على مجال عملك.

كما أن هذه النزعة في التطوير قد تسرّع من حصر أبحاث الذكاء الاصطناعي في مجموعة صغيرة من الشركات التكنولوجية العملاقة؛ حيث لا تمتلك المُختبرات التي تُعاني من نقص في الموارد في الأوساط الأكاديمية أو البلدان ذات الموارد المحدودة الوسائلَ اللازمة لاستخدام أو تطوير مثل هذه النماذج المُكلفة من الناحية الحسابية.

ردات فعل ناجحة
استجابةً لما سلف، بدأ العديد من الباحثين يركزون على تقليص حجوم النماذج الموجودة دون الإخلال في قدراتها. والآن، وخلال يومين متتالين، قَدَّمت ورقتان بحثيتان جديدتان تجربتين ناجحتين على النسخة الأصغر من بيرت،والتي تحوي 100 مليون من الثوابت الوسيطية.

وتُقدِّم الورقة البحثية الأولى -التي أنجزها باحثان من شركة هواوي- نموذجاً يُسمى بيرت الصغير "تايني بيرت" بحجم يبلغ أقل من سُبع حجم النموذج الأصلي، وأسرع منه بنحو 10 مرات تقريباً، كما أن قدرته على الفهم اللغوي تقارب قدرة بيرت الأصلي. أما الورقة البحثية الثانية -والتي أنجزها باحثان من شركة جوجل- فهي تُقدِّم نموذجاً أصغر بأكثر من 60 مرة عن حجم النموذج الأصليّ، ولكن قدرته على الفهم اللغويّ أسوأ بقليل من نموذج هواوي.

كيف نجحوا في ذلك؟
تستخدم كلتا الورقتين البحثيتين نسخاً مختلفةً من التقنية الشائعة لضغط النماذج والمعروفة باسم "تقطير المعرفة Knowledge distillation"؛ حيث تنطوي هذه التقنية على استخدام نموذج الذكاء الاصطناعى الكبير الذي نريد تصغيره، والذي سنسميه اصطلاحاً "المُعلّم" لتدريب نموذج أصغر بكثير نسميه "التلميذ" ليصبح على شاكلته. وللقيام بذلك، يُمكننا تلقيم كلا النموذجين بنفس المُدخلات، ثم نقوم بتعديل النموذج التلميذ حتى تتطابق مُخرجاته مع مُخرجات النموذج المُعلّم.

خارج المختبر
بالإضافة إلى تحسين الوصول إلى أحدث تقنيات الذكاء الاصطناعي، فإن هذه النماذج الصغيرة ستساعد في توفير أحدث تطورات الذكاء الاصطناعي في الأجهزة التجاريّة. فهي ستتيح تجنّب إرسال بيانات المستهلكين إلى وسائط التخزين السحابي، مما يُحسّن مستوى كل من السرعة والخصوصية.

أما بالنسبة لنماذج اللغات الطبيعية على وجه الخصوص، فإن زيادة القدرة والفعالية على التنبؤ بالنصوص وتوليد اللغات، يمكنها أن تحسن أداء عدد لا يحصى من التطبيقات، مثل ميزة الإكمال التلقائي على هاتفك الذكي، والمُساعِدات الصوتية مثل أليكسا وجوجل أسيستانت.

اخترنا لك للقراءة
كارين هاو

كارين هاو

مراسلة الذكاء الاصطناعي ، إم آي تي تكنولوجي ريفيو

كارين هاو هي مراسلة الذكاء الاصطناعي في إم آي تي تكنولوجي ريفيو. وهي تقوم على وجه الخصوص بتغطية التأثيرات الأخلاقية والاجتماعية لهذه التكنولوجيا، بالإضافة إلى تطبيقاتها في خدمة الصالح … المزيد الاجتماعي.

المزيد من المقالات حول الذكاء الاصطناعي

اخترنا لك

01

حصاد الذكاء الاصطناعي

حصاد الذكاء الاصطناعي اليوم 1 أكتوبر 2023

إليكم أحدث أخبار الذكاء الاصطناعي كما وردت في نشرة الخوارزمية اليوم.

02

مستقبل الرعاية الصحية

هل تنجح مبادرة مارك زوكربيرغ وزوجته في استخدام الذكاء الاصطناعي للقضاء على الأمراض؟

تمثل الخلايا أصغر الوحدات الحية، ولهذا، فإنها مهمة للغاية في فهم الأمراض، لكن معلوماتنا عنها ما زالت ناقصة إلى حد كبير.

03

حصاد الذكاء الاصطناعي

حصاد الذكاء الاصطناعي اليوم 28 سبتمبر 2023

إليكم أحدث أخبار الذكاء الاصطناعي كما وردت في نشرة الخوارزمية اليوم.