نظام ميدجورني لتوليد الصور يحظر المحتوى الإباحي

حظر الكلمات المتعلقة بالجهاز التناسلي البشري

فإذا حاول المستخدم تلقيم نظام ميدجورني بكلمات مثل “placenta” (مشيمة) أو “fallopian tubes” (أنابيب فالوب) أو “mammary glands” (غدد لبنية أو ثديية) أو “sperm” (سائل منوي أو نطاف) أو “uterine” (رحم أو كلمة مشتقة من رحم) أو “urethra” (إحليل) أو “cervix” (عنق الرحم) أو “hymen” (غشاء البكارة) أو “vulva” (مهبل)، فسوف يقوم النظام بكشف الكلمة وتصنيفها ككلمة محظورة ضمن المدخلات، ويمنع استخدامها. وفي بعض الأحيان، يتعرض المستخدمون الذين يجربون استخدام إحدى هذه الكلمات لحظر مؤقت بسبب محاولتهم توليد محتوى محظور. ولكن النظام يسمح باستخدام بعض الكلمات الأخرى المتعلقة بالجسم البشري، مثل “liver” (كبد) أو “kidney” (كلية).

اقرأ أيضاً: كيف تسعى أوبن أيه آي إلى جعل تشات جي بي تي أكثر أماناً وأقل تحيزاً؟

يقول مؤسس ميدجورني، ديفيد هولز، إن الشركة تحظر هذه الكلمات كإجراء مؤقت لمنع الناس من توليد محتوى صادم أو دموي، وذلك بالتوازي مع عمل الشركة على “تحسين قدرات نظام الذكاء الاصطناعي”، وإن المراقبين يراقبون كيفية استخدام الكلمات وأنواع الصور التي يتم توليدها، ويعدلون معايير الحظر بصورة دورية. وقد نشرت الشركة صفحة معايير لمجتمع المستخدمين، وتتضمن أنواع المحتوى الذي تقوم بحظره بهذه الطريقة، مثل الصور الجنسية، والصور الدموية، وحتى بعض رموز الإيموجي التي يتم استخدامها للإشارة إلى أجزاء حساسة من الجسم البشري.

نماذج تتعلم التحيزات من البيانات

يتم تدريب نماذج الذكاء الاصطناعي، مثل ميدجورني ودال-إي 2 (DALL-E 2) وستيبل ديفيوجن (Stable Diffusion) على المليارات من الصور التي تم جمعها من الإنترنت، وقد وجد بحث أجراه فريق من جامعة واشنطن أن هذه النماذج تتعلم التحيزات التي تختزل المرأة بنظرة جنسية ضيقة، وهو ما ينعكس على الصور التي تولدها.

إن الحجم الهائل لمجموعة البيانات يجعل من المستحيل تقريباً إزالة الصور غير المرغوب بها، مثل الصور التي تتضمن محتوى جنسياً أو عنيفاً، أو التي يمكن أن تؤدي إلى نتائج متحيزة. وكلما تكرر ظهور شيء ما في مجموعة البيانات، أصبحت العلاقة أكثر قوة بالنسبة لنموذج الذكاء الاصطناعي، ما يعني زيادة احتمال ظهوره في الصور التي يولدها،

ويمثل حظر الكلمات في ميدجورني محاولة جزئية وأولية للتعامل مع هذه المشكلة. ويحظر النظام أيضاً بعض الكلمات المتعلقة بالجهاز التناسلي الذكري، مثل “sperm” (سائل منوي أو نطاف) و”testicles” (خصيتان)، ولكن يبدو أن قائمة الكلمات مؤلفة في معظمها من كلمات تتعلق بالإناث.

اكتشفت هذا الحظر على التعليمات النصية لأول مرة خبيرة تحليل البيانات السريرية في شركة داتافاي كلينيكال (Datafy Clinical)، جوليا روكويل، وصديقتها المختصة ببيولوجيا الخلايا في جامعة نورث كارولاينا في مدينة تشابيل هيل، مادلين كينين. حاولت روكويل استخدام ميدجورني لتوليد صورة طريفة للمشيمة لأجل صديقتها كينين التي تدرسها، ففوجئت بحظر استخدام كلمة “مشيمة” ضمن التعليمات النصية. وبعد هذا، بدأت بتجريب كلمات أخرى متعلقة بالجهاز التناسلي البشري، وحصلت على النتيجة نفسها.

اقرأ أيضاً: صور جميلة ولدها الذكاء الاصطناعي تخفي سراً خطيراً

الالتفاف ممكن

ولكنهما بينتا أيضاً إمكانية الالتفاف على هذا الحظر لتشكيل صور جنسية المحتوى باستخدام تهجئة مختلفة للكلمات، أو تعابير أخرى لتوصيف المحتوى الجنسي أو الدموي.

وفي النتائج التي شاركتاها مع إم آي تي تكنولوجي ريفيو، وجدتا أن التعليمة النصية “امتحان الطب النسائي” -باستخدام التهجئة البريطانية- أدت إلى توليد صور مرعبة حقاً، مثل امرأتين عاريتين في مكتب طبيب، أو شخص حليق الرأس بثلاثة أطراف يقومون بتشريح معداتهم.

تبين عملية الحظر البدائية التي يطبقها ميدجورني على التعليمات النصية المتعلقة بالجهاز التناسلي البشري مدى صعوبة مراقبة المحتوى في أنظمة الذكاء الاصطناعي التوليدية، كما تبين أن ميل أنظمة الذكاء الاصطناعي إلى اختزال المرأة بنظرة جنسية ضيقة يمتد وصولاً إلى أعضاء المرأة الداخلية، كما تقول روكويل.

حظر مفردات على حساب الدقة في المخرجات