تم تضخيم هذا المنشور على وسائل التواصل الاجتماعي وغيره من قبل مالك X، إيلون موسك، وعالم النفس ومستخدم YouTube جوردان بيترسون، الذين اتهموا Google بدفع التحيز المؤيد للتنوع إلى منتجها. ونشرت صحيفة نيويورك بوست إحدى الصور على الصفحة الأولى من جريدتها المطبوعة يوم الخميس.
يعد الغضب بشأن الجوزاء أحدث مثال على منتجات الذكاء الاصطناعي غير المثبتة لشركات التكنولوجيا التي تقع في فخ الذكاء الاصطناعي حروب ثقافية على التنوعوالإشراف على المحتوى والتمثيل. منذ إصدار ChatGPT في أواخر عام 2022، اتهم المحافظون شركات التكنولوجيا باستخدامه أدوات الذكاء الاصطناعي التوليدية مثل روبوتات الدردشة لإنتاج نتائج ليبرالية، بنفس الطريقة التي اتهموا بها منصات التواصل الاجتماعي بتفضيل وجهات النظر الليبرالية.
رداً على ذلك، قالت جوجل يوم الأربعاء أن قدرة جيميني على “تكوين مجموعة واسعة من الأشخاص” كانت “أمرًا جيدًا بشكل عام” لأن Google لديها مستخدمين في جميع أنحاء العالم. وقالت الشركة في منشور على X: “لكنها تفتقد العلامة هنا”.
من غير الواضح مدى انتشار المشكلة بالفعل. قبل أن تحجب جوجل ميزة إنشاء الصور صباح الخميس، أنتجت شركة جيميني أشخاصًا بيضًا لمطالبات مراسل صحيفة واشنطن بوست بطلب إظهار امرأة جميلة، ورجل وسيم، ومؤثر على وسائل التواصل الاجتماعي، ومهندس، ومعلم، وزوجين مثليين.
ما الذي يمكن أن يجعل الجوزاء “يخطئ العلامة”
رفضت Google الرد على أسئلة The Post.
قالت مارغريت ميتشل، الرئيسة المشاركة السابقة للذكاء الاصطناعي الأخلاقي في جوجل وكبيرة علماء الأخلاقيات في شركة Hugging Face الناشئة للذكاء الاصطناعي، إن أمثلة الجوزاء غير المتوقعة يمكن أن تكون ناجمة عن نوعين من التدخلات. وقال ميتشل إن جوجل ربما كانت تضيف مصطلحات التنوع العرقي إلى مطالبات المستخدم “تحت الغطاء”. في هذه الحالة، يمكن أن تصبح المطالبة مثل “صورة طاهٍ” “صورة طاهٍ من السكان الأصليين”. في هذا السيناريو، قد يتم اختيار المصطلحات الملحقة بشكل عشوائي وقد تحتوي الموجهات أيضًا على مصطلحات متعددة ملحقة.
وقال ميتشل إن جوجل قد تعطي أيضًا أولوية أعلى لعرض الصور التي تم إنشاؤها بناءً على لون البشرة الداكن. على سبيل المثال، إذا قام Gemini بإنشاء 10 صور لكل مطالبة، فسيطلب Google من النظام تحليل لون بشرة الأشخاص الذين تم تصويرهم في الصور ودفع صور الأشخاص ذوي البشرة الداكنة إلى أعلى في قائمة الانتظار. وقالت إنه إذا عرض برج الجوزاء أفضل 4 صور فقط، فمن المرجح أن يتم رؤية الأمثلة ذات البشرة الداكنة.
وأضاف ميتشل أنه في كلتا الحالتين، تعالج هذه الإصلاحات التحيز من خلال التغييرات التي تم إجراؤها بعد تدريب نظام الذكاء الاصطناعي.
“بدلاً من التركيز على هذه الحلول اللاحقة، يجب أن نركز على البيانات. وقالت: “ليس من الضروري أن تكون لدينا أنظمة عنصرية إذا قمنا بتنظيم البيانات بشكل جيد منذ البداية”.
جوجل ليست أول من حاول إصلاح مشكلات التنوع في الذكاء الاصطناعي
استخدم OpenAI تقنية مماثلة في يوليو 2022 على إصدار سابق من أداة الصور AI الخاصة بها. إذا طلب المستخدمون صورة لشخص ما ولم يحددوا العرق أو الجنس، فإن OpenAI قامت بإجراء تغيير “يتم تطبيقه على مستوى النظام” بحيث يقوم DALL-E بإنشاء صور “تعكس بشكل أكثر دقة تنوع سكان العالم”، كما كتبت الشركة. .
هذه القواعد على مستوى النظام، والتي يتم وضعها عادةً استجابةً للعلاقات العامة السيئة، تكون أقل تكلفة وأكثر إرهاقًا من التدخلات الأخرى، مثل تصفية مجموعات البيانات الضخمة المكونة من مليارات أزواج الصور والتعليقات التوضيحية المستخدمة لتدريب النموذج بالإضافة إلى الضبط الدقيق للنموذج. النموذج قرب نهاية دورة التطوير الخاصة به، وأحيانًا باستخدام ردود الفعل البشرية.
لماذا يعاني الذكاء الاصطناعي من قضايا التنوع والتحيز
حققت الجهود المبذولة للتخفيف من التحيز تقدمًا محدودًا إلى حد كبير لأن أدوات صور الذكاء الاصطناعي يتم تدريبها عادةً على البيانات المستخرجة من الإنترنت. تقتصر هذه القصاصات على شبكة الإنترنت في المقام الأول على الولايات المتحدة وأوروبا، مما يوفر منظورًا محدودًا للعالم. مثلما تعمل نماذج اللغات الكبيرة مثل آلات الاحتمال التي تتنبأ بالكلمة التالية في الجملة، فإن مولدات الصور التي تعمل بالذكاء الاصطناعي معرضة لذلك النمطية، مما يعكس الصور الأكثر شيوعًا المرتبطة بالكلمة، وفقًا لمستخدمي الإنترنت الأمريكيين والأوروبيين.
وقالت صفية أوموجا نوبل، المشاركة في المشروع: “لقد تم تدريبهم على الكثير من الصور والمحتويات التمييزية والعنصرية والجنسية من جميع أنحاء الويب، لذا فليس من المفاجئ ألا تتمكن من جعل الذكاء الاصطناعي التوليدي يفعل كل ما تريده”. مؤسس ومدير هيئة التدريس في مركز جامعة كاليفورنيا للاستعلام النقدي عبر الإنترنت ومؤلف كتاب “خوارزميات القمع”.
وجد تحقيق أجرته صحيفة Post مؤخرًا أن أداة الذكاء الاصطناعي مفتوحة المصدر Stable Diffusion XL، والتي تحسنت من سابقاتها، لا تزال تولد فوارق عنصرية أكثر تطرفًا مما كانت عليه في العالم الحقيقي، مثل إظهار الأشخاص غير البيض فقط وذوي البشرة الداكنة فقط في صور الأشخاص. شخص يتلقى الخدمات الاجتماعية، على الرغم من أحدث البيانات من مكتب الإحصاء مسح الدخل والمشاركة في البرامجمما يوضح أن 63 بالمائة من متلقي قسائم الطعام كانوا من البيض و 27 بالمائة كانوا من السود.
في المقابل، فإن بعض الأمثلة التي استشهد بها منتقدو برج الجوزاء باعتبارها غير دقيقة تاريخيًا قد لا تكون صحيحة في الحياة الواقعية. أظهرت التغريدة الفيروسية من حسابEndofWokeness أيضًا مطالبة بـ “صورة الفايكنج” مما أدى إلى ظهور صورة لرجل غير أبيض وامرأة سوداء، ثم أظهرت امرأة هندية ورجل أسود لـ “صورة لرجل غير أبيض وامرأة سوداء”. بابا الفاتيكان.”
وتمنع الكنيسة الكاثوليكية النساء من أن يصبحن باباوات. لكن العديد من الكرادلة الكاثوليك الذين يعتبرون منافسين في حالة وفاة البابا فرانسيس أو تنازله عن العرش، هم رجال سود من دول أفريقية. امتدت طرق تجارة الفايكنج إلى تركيا وشمال أفريقيا وهناك الأدلة الأثرية من السود الذين يعيشون في بريطانيا في عصر الفايكنج.