وفر 50٪ من خلال الاشتراك السنوي في مجرة واحصل على تصفح لا محدود لأفضل محتوى عربي على الإنترنت.

اشترك
check_post_to_show: string(2202) "{"is_valid":1,"global_remaining_posts_to_view":0,"remaining_posts_to_view":0,"number_all_post":0,"number_post_read":0,"exceeded_daily_limit":0,"is_watched_before":0,"sso_id":46710,"user_agent":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)","user_ip":"44.212.96.86","user_header":{"SERVER_SOFTWARE":"Apache\/2.4.52 (Debian)","REQUEST_URI":"\/%D8%A7%D9%84%D9%81%D9%86%D8%A7%D9%86%D9%8A%D9%86-%D9%88-%D8%A3%D8%AF%D9%88%D8%A7%D8%AA-%D8%A7%D9%84%D8%B0%D9%83%D8%A7%D8%A1-%D8%A7%D9%84%D8%A7%D8%B5%D8%B7%D9%86%D8%A7%D8%B9%D9%8A\/","REDIRECT_STATUS":"200","HTTP_X_FORWARDED_PROTO":"https","HTTP_CONNECTION":"upgrade","HTTP_HOST":"technologyreview.ae","HTTP_CDN_LOOP":"cloudflare","HTTP_CF_IPCOUNTRY":"US","HTTP_ACCEPT_ENCODING":"gzip","HTTP_CF_RAY":"83300167fc7c8260-IAD","HTTP_CF_VISITOR":"{\\\"scheme\\\":\\\"https\\\"}","HTTP_USER_AGENT":"CCBot\/2.0 (https:\/\/commoncrawl.org\/faq\/)","HTTP_ACCEPT":"text\/html,application\/xhtml+xml,application\/xml;q=0.9,*\/*;q=0.8","HTTP_ACCEPT_LANGUAGE":"en-US,en;q=0.5","HTTP_CF_CONNECTING_IP":"44.212.96.86","PATH":"\/usr\/local\/sbin:\/usr\/local\/bin:\/usr\/sbin:\/usr\/bin:\/sbin:\/bin","SERVER_SIGNATURE":"
Apache\/2.4.52 (Debian) Server at technologyreview.ae Port 80<\/address>","SERVER_NAME":"technologyreview.ae","SERVER_ADDR":"172.18.0.17","SERVER_PORT":"80","REMOTE_ADDR":"44.212.96.86","DOCUMENT_ROOT":"\/var\/www\/html","REQUEST_SCHEME":"http","CONTEXT_PREFIX":null,"CONTEXT_DOCUMENT_ROOT":"\/var\/www\/html","SERVER_ADMIN":"webmaster@localhost","SCRIPT_FILENAME":"\/var\/www\/html\/index.php","REMOTE_PORT":"37086","REDIRECT_URL":"\/\u0627\u0644\u0641\u0646\u0627\u0646\u064a\u0646-\u0648-\u0623\u062f\u0648\u0627\u062a-\u0627\u0644\u0630\u0643\u0627\u0621-\u0627\u0644\u0627\u0635\u0637\u0646\u0627\u0639\u064a\/","GATEWAY_INTERFACE":"CGI\/1.1","SERVER_PROTOCOL":"HTTP\/1.1","REQUEST_METHOD":"GET","QUERY_STRING":null,"SCRIPT_NAME":"\/index.php","PHP_SELF":"\/index.php","REQUEST_TIME_FLOAT":1702153821.672556,"REQUEST_TIME":1702153821,"argv":[],"argc":0,"HTTPS":"on"},"content_user_category":"paid","content_cookies":{"status":0,"sso":{"content_id":46710,"client_id":"1d1883f4-87d0-4156-8903-e6ceb0cb4224"},"count_read":null},"is_agent_bot":1}"
get_post_type: string(4) "post"
شارك
شارك


تعمل الأداة نايت شيد على "دس السم" في الصور المستخدمة في تدريب نماذج الذكاء الاصطناعي الضخمة، وتتسبب بتعطيل عمل النموذج.

2023-10-30 07:05:37

2023-12-06 11:40:08

30 أكتوبر 2023
Article image
مصدر الصورة: ستيفاني آرنيت. إم آي تي تي آر. إنفاتو

بدأت حركة الفنانين المناهضة للذكاء الاصطناعي تكتسب زخماً واضحاً. وعلى الرغم من أن الكثيرين ما يزالون يستمتعون بإطلاق العنان لمخيلتهم من خلال استخدام النماذج الواسعة الانتشار لتحويل النصوص إلى صور؛ مثل دال-إي 2 (DALL-E 2) وميدجورني (Midjourney) وستيبل ديفيوجن (Stable Diffusion)، فإن الفنانين ضاقوا ذرعاً وبصورة متزايدة بسبب الوضع الراهن الجديد.

اختلال توازن بين الفنانين والتكنولوجيا

ولهذا؛ قرر بعضهم الاتحاد فيما بينهم للاعتراض على طريقة العمل الشائعة في القطاع التكنولوجي، التي تعتمد على جمع أعمالهم الفنية البصرية من الإنترنت عشوائياً لتدريب نماذج الذكاء الاصطناعي. وقد نظم الفنانون مظاهرات على المنصات الفنية المعروفة؛ مثل ديفيان آرت (DevianArt) وآرت ستيشن (Art Station)، أو هجروا تلك المنصات بالكامل. وقد وصل الأمر بالبعض إلى رفع دعاوى قضائية بشأن حقوق التأليف والنشر.

حالياً، ثمة اختلال كبير في توازن النفوذ بين شركات التكنولوجيا الثرية والمؤثرة من جهة، والفنانين من جهة أخرى، على حد تعبير أستاذ علم الحاسوب في جامعة شيكاغو، بين جاو. يقول جاو: "تستطيع شركات تدريب النماذج أن تفعل ما تشاء دون أي رادع".

سجل في نشرة الخوارزمية

ابق مواكباً لأحدث أخبار وتطبيقات الذكاء الاصطناعي في قطاعك، وتأثيراته المستقبلية على مجال عملك.

اقرأ أيضاً: باحثون سعوديون يبتكرون نظام ذكاء اصطناعي يعلق على اللوحات الفنية كما يفعل البشر

نايت شيد: أداة جديدة قد تغير توازن القوى

لكن الأداة الجديدة التي طورها مختبر جاو قد تؤدي إلى تغيير توازن القوى. تحمل هذه الأداة اسم "نايت شيد" (Nightshade)، ويعتمد عملها على إحداث تغييرات طفيفة في بيكسلات الصورة، وهي تغييرات غير مرئية بالنسبة إلى العين البشرية؛ لكنها كافية لخداع نماذج التعلم الآلي ودفعها إلى الاعتقاد بأن الصورة تتضمن شيئاً مختلفاً عن محتواها الحقيقي. عندما يطبق الفنانون هذه الأداة على أعمالهم، وتُجمع هذه الأعمال لاحقاً حتى تصبح بيانات للتدريب، تصل هذه "البيكسلات المسمومة" إلى مجموعة بيانات نموذج الذكاء الاصطناعي، وتؤدي إلى تعطيل عمل النموذج. وهكذا؛ تتحول صور الكلاب إلى صور قطط، وتصبح القبعات محامص خبز، وتنقلب السيارات أبقاراً. قدمت هذه الأداة نتائج ممتازة للغاية، ولا توجد طريقة معروفة لمواجهة تأثيرها في الوقت الحالي. تُمكنك قراءة المزيد من مقالي هنا.

قدمت شركات مثل أوبن أيه آي (OpenAI) وستابيليتي أيه آي (Stability AI)، خياراً للفنانين بالسماح لهم بالخروج من مجموعات التدريب، أو قالت إنها ستلبي طلباتهم بعدم جمع أعمالهم؛ غير أنه لا توجد حالياً أي آلية تفرض على الشركات الالتزام بوعودها، ويقول جاو إن هذه الآلية قد تكون نايت شيد. يتطلب بناء نماذج الذكاء الاصطناعي التوليدية وتدريبها مبالغَ طائلة، وقد يشكّل استخراج البيانات التي يمكن أن تؤدي إلى تعطيل أهم إنجازاتها خياراً محفوفاً بمخاطر مرتفعة.

اقرأ أيضاً: الرؤية الحاسوبية تتمكن من اكتشاف صلات مجهولة بين الأعمال الفنية الكلاسيكية

تقول الفنانة أوتومن بيفرلي، التي تنوي استخدام نايت شيد، إنها اكتشفت أن أعمالها ضُمَّت إلى مجموعة البيانات الضخمة لايون-5 بي (LAION-5B)، وكان ذلك "انتهاكاً" شديداً.

وتقول: "لم أكن لأوافق على هذا مطلقاً؛ غير أن شركات الذكاء الاصطناعي أخذت أعمالي ببساطة دون أي موافقة أو إخطار أو أي شيء".

طلب الموافقة من الفنانين لا استثناء أعمالهم من بيانات التدريب

قبل ظهور أدوات مثل نايت شيد، لم تكن بيفرلي مرتاحة إزاء مشاركة أعمالها عبر الإنترنت. تدعو بيفرلي وغيرها من الفنانين شركات التكنولوجيا إلى الانتقال من آليات الاستثناء من مجموعات البيانات إلى آلية طلب الموافقة أولاً، والبدء بدفع التعويضات للفنانين لقاء إسهاماتهم. قد تنطوي هذه المطالب على تغييرات ثورية للغاية في طريقة العمل المعتادة للقطاع التكنولوجي؛ غير أنها لا تزال تحتفظ بشيء من الأمل.

تقول بيفرلي: "آمل أن نصل إلى مرحلة العمل من خلال الحصول على الموافقات؛ وإلا فإننا سنجد نفسنا في بيئة يحكمها نظام مختل. هذا هو الهدف بأكمله بالنسبة إليّ".

لكن المشكلات التي يعانيها الفنانون ليست سوى نذير شؤم للمشكلات التي سنعانيها جميعاً. في الواقع، يصب كفاحهم في مصلحة أي شخص نشر شيئاً يهمه على الإنترنت. فكل شيء متاح مجاناً على الإنترنت؛ بما فيه بياناتنا الشخصية، ومنشوراتنا على وسائل التواصل الاجتماعي، وكلمات الأغاني، والمقالات الجديدة، والقصص، وحتى وجوهنا، قد يصبح في نهاية المطاف جزءاً من نموذج ذكاء اصطناعي دون أن ندرك ما حدث على الإطلاق.

اقرأ أيضاً: جولة داخل عالم الذكاء الاصطناعي ورؤية إبداعه الفني والمرعب

وقد تكون الأدوات مثل نايت شيد الخطوة الأولى نحو تغيير توازن النفوذ واستعادتنا جزءاً منه.