تيك توك يحذف مقاطع جنسية لنساء سوداوات مولّدة بالذكاء الاصطناعي بعد تحقيق لبي بي سي

حدّدت بي بي سي، بالتعاون مع المحللين جيريمي كاراسكو وأنجل نولاني من “ريدانس”، 60 حساباً من هذا النوع، معظمها على إنستغرام، تنشر روابط مباشرة أو متسلسلة تقود إلى محتوى جنسي مدفوع على مواقع خارجية.

وترفق تلك المواقع المواد المنشروة بوسم “مولّد بالذكاء الاصطناعي”، في حين لا تشير حسابات إنستغرام إلى ذلك.

كما رصد البحث عدداً أكبر من الحسابات على إنستغرام وتيك توك تستخدم شخصيات مماثلة مولّدة بالذكاء الاصطناعي، من دون الارتباط بمحتوى مدفوع.

أثار أحد الحسابات التي حظرها تيك توك، مع استمراره على إنستغرام وقت النشر، غضباً بعد نشره مقاطع فيديو مسروقة من أشخاص حقيقيين.

ويُقدَّم الحساب على أنه يعود إلى شخصية مولّدة بالذكاء الاصطناعي، وقد جمع ثلاثة ملايين متابع خلال أسابيع من إنشائه في ديسمبر/كانون الأول.

إلا أنه أعاد نشر مقاطع لصانعة محتوى حقيقية، ريا أولان، وهي عارضة أزياء مقيمة في ماليزيا، بعد تعديلها.

ويتمّ تركيب وجه الشخصية الافتراضية ببشرة داكنة جداً مولّدة رقمياً، على جسد ريا، مع محاكاة حركاتها وملابسها وخلفيتها.

وقالت ريا لـ”بي بي سي”: “كنت غاضبة. صحيح أن مقاطع الفيديو الخاصة بي متاحة… لكن هذا لا يعني أنه يمكن أخذها وسرقتها ونشرها على أنها لكم.”

حقق أحد المقاطع المعدّلة أكثر من 35 مليون مشاهدة على تيك توك و173 مليوناً على إنستغرام، أي نحو 47 ضعف مشاهدات منشور ريا الأصلي.

وبينما لا تحمل المقاطع الثلاثة المطابقة لمحتوى ريا طابعاً جنسياً، تُظهر مقاطع أخرى على الحساب نفسه، باستخدام الشخصية الرقمية ذاتها، بملابس كاشفة أو في أوضاع إيحائية. كما تقود روابط مرتبطة بالحساب إلى محتوى مدفوع للبالغين.

وقالت ريا: “لا أعرف إن كان ما يقلقني أكثر هو استخدام مقاطعي للترويج لمحتواهم الصريح، أم أن الناس يصدقون ذلك فعلاً”.

وأضافت أن التمييز بين الحقيقي والمضلل يزداد صعوبة، وأن “الناس ما زالوا ينخدعون بهذه النماذج”.

ويبدو أن كثيرين يتعاملون مع هذه الشخصيات على أنها حقيقية، رغم ملامحها غير الواقعية. وفي منشورات أو قصص على إنستغرام، تنكر بعض الحسابات استخدام الذكاء الاصطناعي، بما في ذلك الحساب الذي نشر محتوى ريا.

وقالت ريا إنها أبلغت عن الحساب على المنصتين مرات عدة، لكن المحتوى لم يُحذف حينها. وقد حظرته تيك توك بعد أن تواصلت معه بي بي سي للتعليق.

تقول الباحثة أنجل نولاني: “أعتقد أن هذه الحسابات عنصرية، لأن وجودها يكرّس تاريخاً طويلاً من استغلال السود”.

وتضيف: “استخدامها للرسوم الكاريكاتورية، ومصطلحات لعب الأدوار العرقية، والصور غير الواقعية للنساء السوداوات، يظهر أنها لا تهتم بسلامتنا أو رفاهنا، بل بقدرتنا على أن نُستغل ضمن صناعة المواد الإباحية على الإنترنت”.

ويقول الباحث جيريمي كاراسكو، الذي ينتقد اتجاهات وتقنيات الذكاء الاصطناعي عبر حساباته على وسائل التواصل، إن “الجديد هو حجم الصور العنصرية الصريحة التي تُظهر أشخاصاً ببشرة شديدة السواد”.

ويضيف: “قد يكون هذا الهوس موجوداً سابقاً، لكن الذكاء الاصطناعي يمنحه زخماً جديداً”. ويوضح أن الذكاء الاصطناعي يسهّل إزالة التدرجات الطبيعية في الصور والفيديوهات لإنتاج درجات لون بشرة غير طبيعية، وكذلك إنشاء تأثيرات كانت تتطلب سابقاً رسوماً متحركة أو تلويناً للبشرة.

ويضيف أنه لا تترتب تبعات اجتماعية على استخدام الشخصيات الافتراضية: “لا يوجد شعور بالخجل… وهذا ما يستغله الذكاء الاصطناعي بشكل فريد”.

تقول هدى فونو، عارضة أزياء وصانعة محتوى مغربية تدعو إلى تمثيل أكثر واقعية للنساء السوداوات، إن هذا التوجّه يتعلق بـ”المحو”.

وتضيف: “شعر ناعم كالحرير، وأجساد نحيلة للغاية، وبشرة مثالية بشكل مستحيل… كأن الجمال الأسود لا يقبل إلا إذا جرى تهذيبه”.

وترى أن ذلك قد يعزّز الصور النمطية، بينما “تستبدل قصصنا وتجاربنا الحياتية بصورة مصطنعة”.

وأرسلت بي بي سي إلى ميتا وتيك توك أمثلة على الحسابات التي رصدتها، وطلبت ردّهما.

وبعد يومين، قال متحدث باسم تيك توك لـبي بي سي إن الشركة “أزالت محتوى وحظرت حسابات تنتهك قواعدنا”.

وخلال أيام، أدرج 20 حساباً ضمن الحسابات المحظورة على التطبيق.

وأضاف المتحدث: “تحظر تيك توك المحتوى المولّد بالذكاء الاصطناعي لأفراد من دون إذنهم، ولدينا سياسة عدم تسامح مطلق مع المحتوى الذي يروّج لخدمات جنسية خارج المنصة”.

وقالت الشركة إنها تحظر وتزيل المحتوى المولّد بالذكاء الاصطناعي إذا كان ضاراً أو مضلّلاً، وتلزم المستخدمين بوضع وسم على المحتوى الواقعي المولّد بالذكاء الاصطناعي، مشيرة إلى أنها أضافت الوسم الصحيح إلى عدد من المقاطع.

أما ميتا فقالت إنها تحقق في المحتوى الذي أبلغت به.

وأضافت أنها تسعى إلى تمكين المستخدمين من معرفة متى يكون المحتوى مولّد بالذكاء الاصطناعي، وأن لديها سياسات قائمة لوسم هذا النوع من المحتوى. ويبدو أن تسعة حسابات على إنستغرام كانت بي بي سي تتبّعها لم تعد موجودة.

ولم تقدّم أي من المنصتين تفاصيل بشأن استجابتهما لبلاغات ريا الأولية.