لطالما كانت الفنانة ستيفاني دينكينز رائدة في الجمع بين الفن والتكنولوجيا في ممارستها في بروكلين. في مايو ، حصلت على 100000 دولار من متحف غوغنهايم نظير ابتكاراتها الرائدة ، بما في ذلك سلسلة من المقابلات المستمرة مع Bina48 ، وهو إنسان آلي.
على مدى السنوات السبع الماضية ، جربت قدرة الذكاء الاصطناعي على تصوير النساء السود بشكل واقعي ، يبتسمن ويبكين ، باستخدام مجموعة متنوعة من الكلمات المحفزة. كانت النتائج الأولى باهتة إن لم تكن مثيرة للقلق: أنتجت الخوارزمية الخاصة بها جسمًا بشريًا مظللًا باللون الوردي محاطًا بعباءة سوداء.
قالت: “كنت أتوقع شيئًا يشبه الأنوثة السوداء أكثر قليلاً”. وعلى الرغم من أن التكنولوجيا قد تحسنت منذ تجاربها الأولى ، وجدت Dinkins نفسها تستخدم مصطلحات متداخلة في مطالبات النص لمساعدة مولدات الصور التي تعمل بالذكاء الاصطناعي على تحقيق الصورة التي تريدها ، “لمنح الآلة فرصة لإعطائي ما أريد.” ولكن سواء استخدمت مصطلح “امرأة أمريكية من أصل أفريقي” أو “امرأة سوداء” ، فإن التشوهات الآلية التي تشوه ملامح الوجه وقوام الشعر تحدث بمعدلات عالية.
قال دينكينز: “تحجب التحسينات بعض الأسئلة الأعمق التي يجب أن نطرحها حول التمييز”. وأضاف الفنان الأسود ، “التحيزات متأصلة بعمق في هذه الأنظمة ، لذا فهي متأصلة وتلقائية. إذا كنت أعمل ضمن نظام يستخدم الأنظمة البيئية الخوارزمية ، فعندئذ أريد أن يعرف هذا النظام من هم السود بطرق دقيقة ، حتى نشعر بدعم أفضل “.
إنها ليست وحدها التي تطرح أسئلة صعبة حول العلاقة المزعجة بين الذكاء الاصطناعي والعرق. يجد العديد من الفنانين السود أدلة على التحيز العنصري في الذكاء الاصطناعي ، سواء في مجموعات البيانات الكبيرة التي تعلم الآلات كيفية إنشاء الصور وفي البرامج الأساسية التي تدير الخوارزميات. في بعض الحالات ، يبدو أن تقنيات الذكاء الاصطناعي تتجاهل أو تشوه المطالبات النصية للفنانين ، مما يؤثر على كيفية تصوير السود في الصور ، وفي حالات أخرى ، يبدو أنهم يصورون أو يفرضون رقابة على تاريخ وثقافة السود.
تصاعدت مناقشة التحيز العنصري في الذكاء الاصطناعي في السنوات الأخيرة ، حيث أظهرت الدراسات أن تقنيات التعرف على الوجه والمساعدين الرقميين يواجهون مشكلة في تحديد الصور وأنماط الكلام للأشخاص غير البيض. أثارت الدراسات أسئلة أوسع حول الإنصاف والتحيز.
تعهدت الشركات الكبرى التي تقف وراء مولدات الصور بالذكاء الاصطناعي – بما في ذلك OpenAI و Stability AI و Midjourney – بتحسين أدواتها. قالت أليكس بيك ، المتحدثة باسم شركة أوبن إيه آي ، في مقابلة عبر البريد الإلكتروني: “التحيز مشكلة مهمة على مستوى الصناعة” ، مضيفة أن الشركة تحاول باستمرار “تحسين الأداء وتقليل التحيز وتخفيف النواتج الضارة”. رفضت تحديد عدد الموظفين الذين يعملون على التحيز العنصري ، أو مقدار الأموال التي خصصتها الشركة لحل المشكلة.
كتبت الفنانة السنغالية ليندا دونيا ريبيز في مقدمة لمعرضها “غير مرئي” لـ Feral File ، أحد أسواق NFT: “لقد اعتاد السود على عدم رؤيتهم”. “عندما يُنظر إلينا ، فإننا معتادون على إساءة تمثيلنا”.
لإثبات وجهة نظرها خلال مقابلة مع أحد المراسلين ، طلبت Rebeiz ، 28 عامًا ، من مولد الصور الخاص بـ OpenAI ، DALL-E 2 ، تخيل المباني في مسقط رأسها ، داكار. أنتجت الخوارزمية مناظر طبيعية صحراوية مطلوبة ومباني مدمرة قال ريبيز إنها لا تشبه البيوت الساحلية في العاصمة السنغالية.
قال ريبيز: “إنه أمر محبط”. تميل الخوارزمية نحو الصورة الثقافية لأفريقيا التي خلقها الغرب. يتم تعيينه افتراضيًا وفقًا لأسوأ الصور النمطية الموجودة بالفعل على الإنترنت “.
في العام الماضي ، قالت شركة OpenAI إنها تقوم بإنشاء تقنيات جديدة لتنويع الصور التي تنتجها DALL-E 2 ، بحيث تولد الأداة صورًا للأشخاص تعكس بشكل أكثر دقة تنوع سكان العالم.
فنانة ظهرت في معرض Rebeiz ، Minne Atairu حاصلة على دكتوراه. مرشح في كلية المعلمين بجامعة كولومبيا الذي خطط لاستخدام مولدات الصور مع الطلاب الصغار الملونين في جنوب برونكس. وأوضحت أتايرو أنها تخشى الآن أن “قد يتسبب ذلك في قيام الطلاب بتوليد صور مسيئة”.
يتضمن معرض Feral File صورًا من “دراسات الضفائر الشقراء” ، والتي تستكشف حدود خوارزمية Midjourney لإنتاج صور لنساء سوداوات بشعر أشقر طبيعي. عندما طلب الفنان صورة لتوأم أسود متطابق بشعر أشقر ، أنتج البرنامج بدلاً من ذلك شقيقًا ببشرة أفتح.
قال أتايرو: “هذا يخبرنا من أين تقوم الخوارزمية بتجميع الصور”. “ليس بالضرورة انسحابًا من مجموعة من السود ، بل هو شخص موجه نحو الأشخاص البيض.”
قالت إنها قلقة من أن الأطفال السود الصغار قد يحاولون تكوين صور لأنفسهم ورؤية الأطفال الذين تم تفتيح بشرتهم. استدعت أتيرو بعض تجاربها السابقة مع Midjourney قبل أن تحسن التحديثات الأخيرة من قدراتها. وقالت: “من شأنه أن يولد صورًا تشبه الوجه الأسود”. “كنت سترى أنفًا ، لكنه لم يكن أنفًا بشريًا. بدا وكأنه أنف كلب “.
ردًا على طلب للتعليق ، قال David Holz ، مؤسس Midjourney ، في رسالة بريد إلكتروني ، “إذا وجد شخص ما مشكلة في أنظمتنا ، فنحن نطلب منه إرسال أمثلة محددة إلينا حتى نتمكن من التحقيق.”
قالت منظمة Stability AI ، التي توفر خدمات توليد الصور ، إنها تخطط للتعاون مع صناعة الذكاء الاصطناعي لتحسين تقنيات تقييم التحيز مع تنوع أكبر في البلدان والثقافات. قالت شركة الذكاء الاصطناعي إن التحيز ناتج عن “التمثيل المفرط” في مجموعات البيانات العامة الخاصة بها ، على الرغم من أنها لم تحدد ما إذا كان التمثيل الزائد للبيض هو المشكلة هنا.
في وقت سابق من هذا الشهر ، قامت بلومبرج بتحليل أكثر من 5000 صورة تم إنشاؤها بواسطة Stability AI ، ووجدت أن برنامجها ضخّم الصور النمطية حول العرق والجنس ، حيث يصور عادةً الأشخاص ذوي البشرة الفاتحة على أنهم يشغلون وظائف ذات رواتب عالية بينما تم تصنيف الأشخاص ذوي البشرة الداكنة على أنهم “غسالة أطباق” . ” و “مدبرة المنزل”.
هذه المشاكل لم توقف جنون الاستثمارات في صناعة التكنولوجيا. تنبأ تقرير وردي حديث صادر عن شركة الاستشارات McKinsey بأن الذكاء الاصطناعي التوليدي سيضيف 4.4 تريليون دولار إلى الاقتصاد العالمي سنويًا. في العام الماضي ، حصل ما يقرب من 3200 شركة ناشئة على تمويل بقيمة 52.1 مليار دولار ، وفقًا لقاعدة بيانات GlobalData Deals.
كافحت شركات التكنولوجيا ضد تهم التحيز في تصوير البشرة الداكنة منذ الأيام الأولى للتصوير الفوتوغرافي الملون في الخمسينيات من القرن الماضي ، عندما استخدمت شركات مثل كوداك نماذج بيضاء في تطوير ألوانها. قبل ثماني سنوات ، عطلت Google قدرة برنامج الذكاء الاصطناعي الخاص بها على السماح للأشخاص بالبحث عن الغوريلا والقرود من خلال تطبيق الصور الخاص بها لأن الخوارزمية كانت تصنف الأشخاص السود بشكل غير صحيح في تلك الفئات. في الآونة الأخيرة في مايو من هذا العام ، لم يتم حل المشكلة حتى الآن. قال اثنان من الموظفين السابقين الذين عملوا في التكنولوجيا لصحيفة نيويورك تايمز إن Google لم تدرب نظام الذكاء الاصطناعي بالصور الكافية للسود.
قال خبراء آخرون يدرسون الذكاء الاصطناعي إن التحيز أعمق من مجموعات البيانات ، في إشارة إلى التطور المبكر لهذه التكنولوجيا في الستينيات.
قال جيمس إي دوبسون ، المؤرخ الثقافي في كلية دارتموث ومؤلف كتاب حديث عن ولادة رؤية الكمبيوتر: “القضية أكثر تعقيدًا من تحيز البيانات”. كان هناك القليل من النقاش حول العرق خلال الأيام الأولى للتعلم الآلي ، وفقًا لأبحاثه ، وكان معظم العلماء الذين يعملون على التكنولوجيا من الرجال البيض.
قال دوبسون: “من الصعب فصل خوارزميات اليوم عن ذلك التاريخ ، لأن المهندسين يبنون على تلك الإصدارات السابقة”.
لتقليل ظهور التحيز العنصري والصور البغيضة ، حظرت بعض الشركات كلمات معينة من المطالبات النصية التي يرسلها المستخدمون إلى المولدات ، مثل “العبد” و “الفاشية”.
لكن دوبسون قال إن الشركات التي تأمل في حل بسيط ، مثل فرض الرقابة على نوع المطالبات التي يمكن للمستخدمين إرسالها ، تتجنب القضايا الأكثر جوهرية المتمثلة في التحيز في التكنولوجيا الأساسية.
إنه وقت مقلق حيث تصبح هذه الخوارزميات أكثر تعقيدًا. وأضاف الأستاذ: “عندما ترى القمامة تخرج ، عليك أن تتساءل عن نوع عملية القمامة التي لا تزال موجودة داخل النموذج”.
أوريا هارفي ، الفنانة المدرجة في المعرض الأخير لمتحف ويتني “إعادة التشكيل” حول الهويات الرقمية ، اصطدمت بهذا الحظر لمشروع حديث باستخدام Midjourney. قالت: “أردت أن أسأل قاعدة البيانات حول ما تعرفه عن سفن الرقيق”. “تلقيت رسالة تفيد بأن Midjourney سيعلق حسابي إذا واصلت”.
واجهت Dinkins مشاكل مماثلة مع NFTs التي صنعتها وبيعتها لتظهر كيف تم جلب البامية إلى أمريكا الشمالية من قبل العبيد والمستوطنين. تعرضت للرقابة عندما حاولت استخدام برنامج توليد ، Replicate ، لالتقاط صور لسفن العبيد. تعلمت في النهاية أن تخدع الرقيب باستخدام مصطلح “سفينة القراصنة”. كانت الصورة التي تلقتها تقريبية لما تريده ، لكنها أثارت أيضًا أسئلة مقلقة للفنانة.
ماذا تفعل هذه التكنولوجيا للتاريخ؟ سأل دينكينز. “يمكنك أن ترى أن شخصًا ما يحاول تصحيح التحيز ، ولكن في نفس الوقت يمحو هذا جزءًا من التاريخ. أجد أن عمليات المحو خطيرة مثل أي تحيز ، لأننا سننسى فقط كيف وصلنا إلى هنا “.
ناعومي بيكويث ، كبير أمناء متحف غوغنهايم ، عزت الفضل في نهج دينكينز الدقيق لقضايا التمثيل والتكنولوجيا كأحد أسباب حصول الفنان على جائزة الفن والتكنولوجيا الأولى في المتحف.
قال بيكويث: “أصبحت ستيفاني جزءًا من تقليد الفنانين والعاملين في المجال الثقافي الذين يقومون بإحداث ثغرات في هذه النظريات الشاملة والشاملة حول كيفية عمل الأشياء”. وأضافت المنسقة أن جنون الارتياب الأولي لديها بشأن برامج الذكاء الاصطناعي التي تحل محل الإبداع البشري قد انخفض بشكل كبير عندما أدركت أن هذه الخوارزميات لا تعرف شيئًا عن الثقافة السوداء.
لكن Dinkins ليس مستعدًا تمامًا للتخلي عن التكنولوجيا. وهي تواصل توظيفها في مشاريعها الفنية – مع الشك. “بمجرد أن يتمكن النظام من إنشاء صورة عالية الدقة حقًا لامرأة سوداء تبكي أو تبتسم ، هل يمكننا الراحة؟”
