فيديوهات AI لنساء سوداء جنسياً تم حذفها من TikTok بعد تحقيق BBC

منذ يوم واحد

مشاركة حفظ

شريهان الأخرسبي بي بي سي نيوز العربية

مشاركة حفظ

ريا أولان (يسار) / إنستغرام (يمين)

لاحظت ريا أولان (يسار) أن فيديوها تم التلاعب به لعرض شخصية رقمية مولدة بواسطة AI (يمين)

حظرت TikTok 20 حسابًا بعد أن سلطت BBC الضوء على استخدام مؤثرات سوداء مولدة بواسطة AI لجذب المستخدمين إلى مواقع تروج لمحتوى جنسي صريح.

وهي جزء من اتجاه متزايد للحسابات على إنستغرام وTikTok التي تعرضت لانتقادات باعتبارها عنصرية واستغلالية ومضللة بسبب الصور النمطية العرقية واللغة المستخدمة.

وجدت BBC وباحثون من منشور AI المستقل Riddance العشرات من الحسابات على المنصتين تحتوي على شخصيات أو صور رمزية رقمية سوداء ذات طابع جنسي مرتفع.

تم توليد الصور والفيديوهات بواسطة AI ولكن لم يتم تصنيفها على أنها كذلك، مما يخالف على ما يبدو إرشادات المنصات.

تقريبًا جميع الحسابات كانت على إنستغرام، وثلثها تقريبًا كان لديه نسخ على TikTok. أخبرت شركة Meta، مالكة إنستغرام، BBC بأنها تحقق في الأمر، لكنها لم تذكر أنها اتخذت أي إجراء.

غالبًا ما تظهر الصور الرمزية مرتدية ملابس سباحة ضيقة أو ملابس مكشوفة أخرى، وتُصوّر بأشكال جسم مبالغ فيها.

بعضها يمتلك درجات لون بشرة داكنة جدًا تم التلاعب بها رقميًا، مما يمنحها مظهرًا اصطناعيًا.

تشمل أسماء الحسابات كلمات مثل “أسود”، “نوار”، “مظلم” و"إيبوني". وتحتوي العديد منها على تعليقات حول الرجال البيض في منشوراتها، مثل “يحب الرجال البيض” و"لماذا أحتاج إلى رجل أبيض في حياتي". يتابع العديد من الحسابات أو يعجب بها بعضها البعض.

عملت BBC بالتعاون مع المحللين جيريمي كاراسكو وأنجيل نولاني من Riddance، على تحديد 60 حسابًا من هذا النوع، معظمها على إنستغرام، تحتوي على روابط أو سلاسل روابط لمحتوى جنسي صريح مدفوع على مواقع طرف ثالث. ووصفت المواقع الصور بأنها مولدة بواسطة AI، لكن حسابات إنستغرام لم تفعل.

كما حددت الدراسة العديد من الحسابات الأخرى على كل من إنستغرام وTikTok تحتوي على صور رمزية مولدة بواسطة AI مماثلة ولم ترتبط بمحتوى مدفوع.

‘كنت غاضبة’

واحد من الحسابات التي أغلقتها TikTok - على الرغم من أنه لا يزال يعمل على إنستغرام وقت النشر - أثار المزيد من الغضب بسرقته لمقاطع فيديو من أشخاص حقيقيين.

يُقدم على أنه حساب شخصية مولدة بواسطة AI لافتة، وحقق ثلاثة ملايين متابع خلال أسابيع قليلة من إنشائه في ديسمبر.

لكنها عدلت ونشرت مقاطع فيديو من منشئ محتوى حقيقي، ريا أولان، عارضة أزياء مقرها ماليزيا.

وجه الشخصية الرمزية، التي تمتلك لون بشرة داكن جدًا تم إنشاؤه رقميًا، على جسم ريا، وتحاكي حركاتها وملابسها وخلفيتها.

قالت ريا لـ BBC: “كنت غاضبة”. “بالطبع مقاطع الفيديو الخاصة بي موجودة هناك… هذا لا يعني أنه يمكنك فقط أخذها وسرقتها ونشرها على أنها ملكك.”

إنستغرام

بعض الحسابات - بما في ذلك الحساب الذي سرق محتوى ريا - تنكر أنها مولدة بواسطة AI

وصل أحد الفيديوهات المعدلة إلى أكثر من 35 مليون مشاهدة على TikTok و173 مليون على إنستغرام، أي حوالي 47 مرة من المشاهدات على منشور ريا الأصلي.

بينما لا تتطابق الثلاثة فيديوهات التي تتطابق بوضوح مع محتوى ريا مع المحتوى الجنسي، تظهر فيديوهات أخرى على حساب AI باستخدام نفس الشخصية الرقمية في ملابس مكشوفة أو تؤدي أفعالًا مثيرة. تؤدي سلسلة روابط من الحساب إلى محتوى للبالغين مدفوع.

قالت: “لست متأكدة إذا كنت أكثر قلقًا من أنهم أخذوا فيديوي للترويج لمحتواهم الصريح أو أن الناس يصدقون ذلك فعلاً”.

يصبح من الصعب على المستخدمين التمييز بين المحتوى الحقيقي والمزيف، وتقول إن “الناس يستمرون في الوقوع في فخ نماذج AI هذه”.

يبدو أن العديد من المشاهدين يعاملون الشخصيات الرمزية على أنها حقيقية، رغم ميزاتها غير الواقعية. في منشورات أو قصص إنستغرام، تنكر بعض الحسابات استخدام AI، بما في ذلك الحساب الذي سرق محتوى ريا.

قالت ريا إنها أبلغت كلا المنصتين عدة مرات، لكن في ذلك الوقت لم يُحذف المحتوى. حظرته TikTok بعد أن تواصلت BBC معه للحصول على تعليق.

‘تصوير غير واقعي’

قالت نولاني، إحدى الباحثات، إن “هذه الحسابات عنصرية لأنها تكرس تاريخًا طويلًا من استغلال السود”. وأضافت: “استخدامهم للكاريكاتيرات، مصطلحات اللعب بالعرق، والتصوير غير الواقعي للنساء السوداء يثبت أنهم غير مهتمين بسلامتنا أو رفاهيتنا، بل بقدرتنا على أن نكون جزءًا من آلة الإباحية على الإنترنت”.

قال كاراسكو، الذي ينتقد اتجاهات وتقنيات AI على حساباته على وسائل التواصل الاجتماعي، إن “الشيء الجديد هو كمية التصويرات العنصرية والجريئة للأشخاص السوداء جدًا”.

بينما “كان هذا الشذوذ موجودًا في الماضي”، يقول إن AI “يعطيه زخمًا جديدًا”. يوضح أن AI يسهل إزالة الظلال في الصور والفيديوهات لإنشاء درجات لون بشرة داكنة غير طبيعية، وخلق تأثيرات كانت تتطلب سابقًا الرسوم المتحركة أو تلوين البشرة.

ويضيف أن لا عواقب اجتماعية على الشخصية الرمزية: “لا يوجد خجل… هذا شيء يستغله AI بشكل فريد”.

هودة فونون / BOCHIC

تقول منشئة المحتوى هودة فونون إنها تخشى أن يتم استبدال الانعكاسات الحية للخبرة الشخصية بصور اصطناعية على الإنترنت.

تقول هودة، عارضة أزياء ومبدعة محتوى مغربية تدعو لتمثيل أكثر أصالة للنساء السود، إن الاتجاه هو “الإلغاء”.

“الشعر الحريري، الأجسام النحيلة جدًا والبشرة الخالية من العيوب بشكل مستحيل… كأنه لا يمكن قبول جمال السود إلا عندما يكون ‘مُصقلًا’”.

وتقول إن ذلك يهدد بتعزيز الصور النمطية بينما “تُستبدل قصصنا وتجاربنا الحياتية بصورة اصطناعية”.

أرسلت BBC أمثلة عن الحسابات التي حددناها إلى Meta وTikTok، وطلبت ردودهما.

بعد يومين، أخبر متحدث باسم TikTok BBC أن الشركة “أزالت المحتوى وحظرت الحسابات التي تنتهك قواعدنا”.

خلال أيام قليلة، تم تصنيف 20 حسابًا على التطبيق على أنها “محظورة”.

قال المتحدث: “تمنع TikTok المحتوى المولد بواسطة AI للأشخاص المستخدمين بدون إذنهم، ولدينا سياسة صارمة ضد المحتوى الذي يروج للخدمات الجنسية خارج المنصة”.

وأضاف أن الشركة تمنع وتزيل المحتوى المولد بواسطة AI الذي يكون ضارًا أو مضللًا، وتطلب من المستخدمين تصنيف المحتوى AI الحقيقي. وقالت إنها طبقت تصنيفات صحيحة لعدد من الفيديوهات.

قالت Meta إنها تحقق في المحتوى الذي أُبلغت عنه.

وتؤكد أنها تريد من المستخدمين معرفة متى يشاهدون منشورات تم إنشاؤها بواسطة AI، وأن لديها سياسات لتصنيف المحتوى المولد بواسطة AI. ويبدو أن تسعة حسابات على إنستغرام التي تتبعها BBC لم تعد موجودة.

لم تقدم أي من المنصتين تفاصيل حول ردودهما على تقارير ريا الأولية.

TikTok

الذكاء الاصطناعي

النساء السود

إنستغرام

الاهتمام بالعرق