تجربة صادمة: خوارزميات إنستغرام تساعد المهتمين بالمحتوى الفاضح للأطفال

ميزة الريلز من إنستغرام، مصممة لتعرض للمستخدمين مجموعات من مقاطع الفيديو حول موضوعات تقرر خوارزميات التطبيق أنها تهمهم، مثل الرياضة أو الفن أو الكوميديا أو غيرها من الموضوعات.

لكن جاءت نتيجة اختبار أجرته صحيفة وول ستريت، صادمة، حيث إنها وجدت أن تطبيق التواصل الاجتماعي المملوك لشركة ميتا يفعل نفس الشيء بالنسبة للمستخدمين الذين تقرر خوارزميتهم أنه قد يكون لديهم اهتمام شهواني بالأطفال.

سعت الصحيفة إلى تحديد ما توصي به خوارزمية ريلز إنستغرام لاختبار الحسابات التي تم إعدادها لمتابعة حسابات صغار السن من المؤثرين النشطين على المنصة. وجاءت النتيجة مفاجئة، حيث إن خوارزميات إنستغرام، قدمت جرعات متناقضة من المحتوى البذيء لتلك الحسابات التجريبية، بما في ذلك لقطات فاضحة للأطفال بالإضافة إلى مقاطع فيديو جنسية صريحة للبالغين وإعلانات لبعض كبرى الشركات الأمريكية.

وأنشأت الصحيفة هذه الحسابات التجريبية بعد أن لاحظت أن آلاف المتابعين لحسابات صغار السن، غالبا ما تضم أعدادا كبيرة من الرجال البالغين، وأن العديد من الحسابات التي تابعت هؤلاء الأطفال أبدت أيضا اهتماما بالمحتوى الجنسي المتعلق بالأطفال والكبار على حد سواء.

واختبرت الصحيفة أيضًا ما ستوصي به الخوارزمية بعد أن تابعت حساباتها بعض هؤلاء المستخدمين، مما أدى إلى عرض محتوى أكثر إزعاجًا تتخلله الإعلانات.

في سلسلة من مقاطع الفيديو التي أوصى بها إنستغرام، ظهر إعلان لتطبيق المواعدة "بامبل" بين مقطع فيديو لشخص يمسح على وجه دمية ومقطع فيديو لفتاة صغيرة ذات وجه محجوب ترفع قميصها لتكشف عن جزء من جسدها. وفي مقطع آخر، أعقب إعلان تجارياً لبيتزا هت مقطع فيديو لرجل يرقد على سرير ويضع ذراعه حول ما قال التعليق إنه فتاة تبلغ من العمر 10 سنوات.

وأجرى أيضاً المركز الكندي لحماية الطفل، اختبارات مماثلة بشكل منفصل، وكانت النتائج مماثلة.

وقالت ميتا في الرد على هذه النتائج، إن اختبارات المجلة أنتجت تجربة مصطنعة لا تمثل ما يراه مليارات المستخدمين. ورفضت الشركة التعليق على سبب قيام الخوارزميات بتجميع تدفقات من مقاطع الفيديو التي تظهر محتوى جنسياً يظهر فيه أطفال، لكن متحدثًا باسمها قال إنها قدمت في أكتوبر أدوات جديدة لسلامة العلامة التجارية تمنح المعلنين تحكمًا أكبر في مكان ظهور إعلاناتهم، وأن إنستغرام إما يزيل أو يقلل من ظهور أربعة ملايين مقطع فيديو كل شهر، يشتبه في أنه ينتهك المعايير.

وذكرت صحيفة وول ستريت، أن الخوارزميات التي تديرها شركة ميتا، تربط مجتمعات كبيرة من المستخدمين المهتمين بالمحتوى الجنسي للأطفال. وقال المتحدث باسم ميتا إن فريق العمل الذي تم تشكيله بعد مقال المجلة قام بتوسيع أنظمته الآلية للكشف عن المستخدمين الذين يتصرفون بشكل مريب، وإزالة عشرات الآلاف من هذه الحسابات كل شهر.

ومن بين الشركات التي ظهرت إعلاناتها بجانب محتوى غير لائق في اختبارات وول ستريت: ديزني وول مارت وصحيفة وول ستريت جورنال نفسها.

وبعد تواصل الصحيفة بالشركات التي ظهرت إعلاناتها في الاختبار بجوار مقاطع فيديو غير لائقة، قال العديد منها إن شركة ميتا أخبرتهم أنها تجري تحقيقًا في ذلك.

وبعد ما وصفته باستجابة ميتا غير المرضية لشكواها، بدأت بعض العلامات التجارية في إلغاء إعلاناتها على ميتا، حيث ألغت شركة "ماتش" إعلاناتها لبعض تطبيقاتها، مثل تندر، في أكتوبر. وقالت جوستين ساكو المتحدثة باسم ماتش "ليس لدينا رغبة في دفع أموال لشركة ميتا لتسويق علاماتنا التجارية للمحتالين أو وضع إعلاناتنا في أي مكان بالقرب من مثل هذا المحتوى".

وقال روبي ماكاي، المتحدث باسم شركة بامبل، إنها "لن تعلن عن عمد أبدًا بجوار محتوى غير لائق"، وأن الشركة ستعلق إعلاناتها عبر منصات ميتا.

وفي تحليل تم إجراؤه قبل وقت قصير من طرح ميزة ريلز، أشار موظفو السلامة في ميتا إلى خطر قيام المنتج بربط مقاطع فيديو للأطفال والمحتوى غير اللائق، وفقًا لاثنين من الموظفين السابقين.