يجب أن تعلم | في صلب الموضوع | للاطلاع | رقم اليوم | شخصية اليوم | مصطلح اليوم
ديب مايند تستخدم أسلوب "لا يفل الحديد إلا الحديد" لمواجهة النماذج اللغوية الضارة
أصبحت النماذج اللغوية الكبيرة رائجة هذه الأيام. والسبب أنه يمكنها إنجاز مجموعة من المهام التجارية باستخدام تقنيات معالجة اللغات الطبيعية، كالتلخيص والإجابة على الأسئلة والترجمة، وكل هذا باستخدام خوارزمية واحدة تتلقى القليل من التدريب الخاص بالمهمة. لكن هذه النماذج اللغوية الكبيرة -مثل جي بي تي-3 (GPT-3) التي طورتها شركة أوبن إيه آي، أو بيرت (BERT) من جوجل، أو جوفر من ديب مايند- تعاني من مشكلة معروفة.
نظراً لأن هذه النماذج تم تدريبها في البداية على كمية هائلة من البيانات المستقاة من الإنترنت، فإنها أيضاً تكتسب الكثير من أسوأ لغة بشرية: خطاب الكراهية والعنصرية والتمييز على أساس الجنس وكراهية النساء. كما يمكنها أيضاً أن تحتوي على الكثير من المعلومات الشخصية (مثل أرقام الهواتف والعناوين ورسائل البريد الإلكتروني وما إلى ذلك) ثم تقوم بتسريب هذه المعلومات إلى العالم الخارجي عن طريق الخطأ استجابةً للأوامر. ليس من السهل إجراء اختبارات للكشف عن كل هذه التحيزات والمشكلات المحتملة. حتى الآن، كان الأسلوب الوحيد هو توظيف فرق بشرية لإجراء الاختبارات، وهي طريقة عشوائية إلى حد ما ويصعب توسيع نطاقها.
لذلك، اقترحت مجموعة من الباحثين في شركة ديب مايند، هذا الأسبوع، استخدام نظام لغوي كبير ليلعب دور "الفريق الأحمر" (أي دور العدو أو المنافس) والتدقيق في أنظمة الذكاء الاصطناعي اللغوية الكبيرة الأخرى بحثاً عن التحيزات. وفي هذه الحالة، يتم تدريب نموذج لغوي كبير باستخدام التعلم المعزز لتوليد موجهات حوارية من المرجح أن تلتمس وجود اللغة الضارة أو الكشف غير المقصود عن بيانات التدريب -بما في ذلك المعلومات الشخصية للأشخاص- في نموذج الذكاء الاصطناعي الذي يتم اختباره.
وقال الباحثون إن "لعب دور العدو مع النماذج اللغوية مفيد للاكتشاف الاستباقي لمجموعة متنوعة من سلوكيات النماذج الضارة: إهانات للمستخدمين، أو إنشاء محتوى جنسي، أو تمييز ضد مجموعات معينة من الأشخاص، أو تسريب بيانات خاصة، وأكثر من ذلك. ومع ذلك، يشير عملنا أيضاً إلى طريقة مثيرة للقلق قد يسيء من خلالها الخصوم استخدام النماذج اللغوية لمهاجمة النماذج اللغوية التجارية بطريقة مؤتمتة واسعة النطاق".
الرابط (إنجليزي)
سماعة طبية جديدة تعمل بالذكاء الاصطناعي يمكنها تشخيص قصور القلب في 15 ثانية
طور خبراء من الكلية الملكية في لندن، وهيئة الخدمات الصحية الوطنية في المملكة المتحدة، وشركة إيكو الأميركية لتجهيزات رعاية القلب، سماعة طبية تعتمد على الذكاء الاصطناعي، يمكنها تشخيص قصور القلب خلال 15 ثانية.
في بعض الحالات يكون قصور القلب مهدداً للحياة أكثر من السرطان، وربما يحتاج بعض المرضى إلى الخضوع لعملية زرع قلب. في الفحص السريري، يستخدم الطبيب عادةً سماعة طبية لفحص الرئتين والتحقق من عدم وجود علامات تدل على تراكم السوائل، وفحص القلب للتحقق من عدم وجود أصوات الأزيز التي تشير إلى قصور القلب. ويمكن للتشخيص المبكر أن يجنب المريض مخاطر الإصابة بقصور القلب والوفاة، ويزيد من فعالية العلاج، لكن عادةً يحتاج الطبيب لعدة أسابيع لتأكيد التشخيص، وذلك بعد إجراء الاختبارات الدموية والصور وغيرها. وغالباً (80% من الحالات في بريطانيا)، لا يتم التشخيص إلا في مرحلة متأخرة من الإصابة.
أصبح الآن بالإمكان تقليص مدة التشخيص إلى 15 ثانية فقط مع تطوير السماعة الطبية الجديدة التي تعمل بالذكاء الاصطناعي. بالإضافة إلى السرعة، تتميز السماعة برخص ثمنها، وبأنها قد تكون أكثر موثوقية بكثير من الاختبارات الحالية، التي تكون فيها احتمالية الخلط بين الأمراض الأخرى واردة لكون الأعراض، مثل ضيق التنفس، متشابهة.
ولاختبار السماعة، أجرى المطورون دراسة في بريطانيا، نُشرت نتائجها في دورية "ذا لانست ديجيتال هيلث" العلمية، شملت 1050 مريضاً يبلغ متوسط أعمارهم 62 عاماً، في 7 مستشفيات وعيادات عامة في لندن. وأظهرت التجارب أن السماعة قادرة على تحديد الأشخاص الذين يعانون من قصور القلب بنسبة 91%. وبدأت مؤخراً المرحلة الثانية من الاختبارات على نطاق أوسع في جميع أنحاء المملكة المتحدة.
ويؤكد الأطباء أن السماعة ستتمكن من تشخيص 50 ألف حالة مرضية سنوياً في مرحلة مبكرة في بريطانيا، قبل دخولهم المستشفى في حالة طوارئ، وذلك لأن الأطباء العامين قد يتمكنوا من استخدامها لفحص المرضى في عياداتهم، واستبعاد الأصحاء، دون الحاجة لإخضاعهم للاختبارات الكثيرة والمكلفة، وأيضاً، دون الحاجة لزيارة أخصائي القلب.
للمزيد حول هذه السماعة الجديد، تابع قراءة المقال على موقعنا عبر هذا الرابط
تطوير شريحة تعيد تنظيم وظائفها مثل الدماغ لمساعدة الذكاء الاصطناعي على التعلم باستمرار
تتمتع الجهود المبذولة لمحاكاة الدماغ باستخدام السيليكون -وهو مجال يُعرف باسم الحوسبة العصبية- بتاريخ طويل، وقد استثمرت مراكز الحوسبة القوية مثل إنتل وآي بي إم فيها بشكل كبير. ولكن حتى الآن، ركزت معظم الأبحاث على استنساخ القدرات الوظيفية والتواصلية للخلايا العصبية البيولوجية والمشابك العصبية، على أمل استنساخ كفاءة الدماغ الهائلة في التعلم.
إحدى ميزات الخلايا العصبية التي حظيت باهتمام أقل هي الطريقة التي تستطيع بها إعادة تنظيم نفسها استجابة للتجربة. تسمح هذه القدرة القوية للدماغ بتغيير هيكله ووظيفته أثناء التعلم، وتحسين أدواته الأساسية لمواجهة التحديات الجديدة سريعاً.
لذلك قام فريق بقيادة مهندسين من جامعة بيرديو بولاية إنديانا الأميركية باختبار مكونات دائرة جديدة يمكن إعادة تشكيل وظائفها بنبضات إلكترونية بسيطة. وتسمح هذه الطريقة للشريحة بالتبديل بسلاسة بين العمل كمقاومات كهربائية (Resistors) ومكثفات ذاكرة وخلايا عصبونية اصطناعية ومشابك عصبونية اصطناعية. ويفتح هذا الاختراق الباب أمام إنشاء شبكات عصبونية ديناميكية في عتاد يمكنه إعادة تنظيم نفسه أثناء التعلم، تماماً مثلما يفعل الدماغ.
الشرائح الجديدة، التي تمت الإشارة إليها الأسبوع الماضي في دورية ساينس، مصنوعة من مادة تسمى (Perovskite Nickelate)، والتي يمكن تغيير خصائصها الكهربائية عن طريق إضافة أيونات الهيدروجين في مواقع معينة في هيكلها الشبيه بالشبكة. وجد الباحثون أن هناك تشكيلات معينة من أيونات الهيدروجين يمكن أن تخلق أنماط تواصل تحاكي مجموعة متنوعة من المكونات الإلكترونية المختلفة.
والأهم من ذلك، أن الباحثين وجدوا أن بإمكانهم التنقل حول مواقع أيونات الهيدروجين عن طريق إرسال نبضات كهربائية بجهد مختلف، وهو ما يجعل من الممكن التحول من تشكيل إلى آخر عند الطلب، ما يسمح لجهاز واحد بأخذ سمات مجموعة واسعة من المكونات الإلكترونية.
كما أن الأجهزة أيضاً مستقرة للغاية، حيث أظهر البحث أن ذرات الهيدروجين بقيت لمدة ستة أشهر على الأقل دون أي خسارة في المقاومة، وأن عملية التبديل لا تزال تعمل بشكل موثوق بعد ملايين الدورات. علاوة على ذلك، يمكن تصنيع الأجهزة باستخدام تقنية تصنيع الشرائح التقليدية.
الرابط (إنجليزي)
|
