عثر الملايين على صور جنسية مزيفة وصريحة تم إنشاؤها بواسطة الذكاء الاصطناعي تايلور سويفت على وسائل التواصل الاجتماعي هذا الأسبوع، مما يؤكد للكثيرين الحاجة إلى تنظيم الاستخدامات الشائنة المحتملة لـ تكنولوجيا الذكاء الاصطناعي.
صرح السكرتير الصحفي للبيت الأبيض لشبكة ABC News يوم الجمعة أنهم “منزعجون” مما حدث لسويفت على الإنترنت وأنه يتعين على الكونجرس “اتخاذ إجراء تشريعي”.
وقالت كارين جان بيير، السكرتيرة الصحفية للبيت الأبيض، لمراسلة البيت الأبيض في شبكة ABC الإخبارية كارين ل. ترافرز.
وأضافت: “بينما تتخذ شركات وسائل التواصل الاجتماعي قراراتها المستقلة بشأن إدارة المحتوى، نعتقد أن لديها دورًا مهمًا تلعبه في إنفاذ قواعدها الخاصة لمنع انتشار المعلومات المضللة والصور الحميمة غير التوافقية لأشخاص حقيقيين”.
سلط جان بيير الضوء على بعض الإجراءات التي اتخذتها الإدارة مؤخرًا بشأن هذه القضايا بما في ذلك: إطلاق فريق عمل لمعالجة التحرش والإساءة عبر الإنترنت وإطلاق وزارة العدل أول خط مساعدة وطني على مدار الساعة طوال أيام الأسبوع للناجين من الاعتداء الجنسي على الصور.
والبيت الأبيض ليس وحده، فقد تفاجأ المعجبون الغاضبون عندما اكتشفوا أنه لا يوجد قانون فيدرالي في الولايات المتحدة يمنع أو يردع أي شخص عن إنشاء ومشاركة صور مزيفة عميقة بدون موافقة.
لكن في الأسبوع الماضي فقط، جدد النائب جو موريل محاولته لتمرير مشروع قانون من شأنه أن يجعل المشاركة غير التوافقية للصور الفاضحة المعدلة رقميًا جريمة فيدرالية، مع عقوبة السجن والغرامات.
وقال متحدث باسم موريل لـ ABC News: “نأمل بالتأكيد أن تساعد أخبار تايلور سويفت في إثارة الزخم وزيادة الدعم لمشروع قانوننا، والذي كما تعلمون، سيعالج وضعها بالتحديد بعقوبات جنائية ومدنية”.
عضو الكونجرس، وهو ديمقراطي من نيويورك، قام بتأليف مشروع “قانون منع التزييف العميق للصور الحميمة” الذي وافق عليه الحزبان، والذي تتم إحالته حاليًا إلى لجنة مجلس النواب المعنية بالسلطة القضائية.
غالبًا ما توصف المواد الإباحية المزيفة بعمق بأنها اعتداء جنسي قائم على الصور – وهو مصطلح يشمل أيضًا إنشاء ومشاركة صور حميمة غير ملفقة.
قبل بضع سنوات، كان المستخدم بحاجة إلى مستوى معين من المهارات التقنية لإنشاء محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي مع تقدم سريع في تكنولوجيا الذكاء الاصطناعي، ولكن الآن أصبح الأمر يتعلق بتنزيل تطبيق أو النقر على بضعة أزرار.
الآن يقول الخبراء أن هناك صناعة تجارية بأكملها تزدهر على إنشاء ومشاركة المحتوى المُصنّع رقميًا والذي يبدو أنه يعرض الاعتداء الجنسي. بعض المواقع التي تبث هذه المنتجات المزيفة تضم آلاف الأعضاء الذين يدفعون رسومًا.
في العام الماضي، أصبحت مدينة في إسبانيا عالمية العناوين الرئيسية بعد أن قال عدد من التلميذات الصغيرات إنهن حصلن على صور عارية ملفقة لأنفسهن تم إنشاؤها باستخدام “تطبيق خلع الملابس” الذي يمكن الوصول إليه بسهولة والمدعوم بالذكاء الاصطناعي، مما أثار نقاشًا أكبر حول الضرر الذي يمكن أن تسببه هذه الأدوات.
من المحتمل أن تكون صور سويفت ذات المحتوى الجنسي الصريح ملفقة باستخدام أداة تحويل النص إلى صورة بواسطة الذكاء الاصطناعي. وتمت مشاركة بعض الصور على منصة التواصل الاجتماعي X، المعروفة سابقًا باسم Twitter.
وبحسب ما ورد تمت مشاهدة لقطات شاشة للصور الملفقة من إحدى المشاركات التي شاركت فيها أكثر من 45 مليون مرة قبل تعليق الحساب يوم الخميس.
في وقت مبكر من صباح الجمعة، قال فريق السلامة في X إنه “يعمل بشكل نشط على إزالة جميع الصور التي تم تحديدها” و”يتخذ الإجراءات المناسبة ضد الحسابات المسؤولة عن نشرها”.
وجاء في نص الرسالة: “إن نشر صور العري غير التوافقي (NCN) محظور تمامًا على X ولدينا سياسة عدم التسامح مطلقًا تجاه مثل هذا المحتوى”. إفادة. “نحن نراقب الوضع عن كثب للتأكد من معالجة أي انتهاكات أخرى على الفور، وإزالة المحتوى. نحن ملتزمون بالحفاظ على بيئة آمنة ومحترمة لجميع المستخدمين.”
قال ستيفان توركهايمر، نائب رئيس RAINN للسياسة العامة، وهي منظمة غير ربحية مناهضة للاعتداء الجنسي، إنه يتم يوميًا “أكثر من 100.000 صورة ومقطع فيديو كهذا تنتشر عبر الويب، وهو فيروس في حد ذاته. نحن غاضبون نيابة عن تايلور سويفت، وغاضبون أكثر من ذلك بالنسبة لملايين الأشخاص الذين ليس لديهم الموارد اللازمة لاستعادة الاستقلالية في صورهم”.