صفارات إنذار تكشف: خوارزميات ميتا وتيك توك تضخم المحتوى الضار عمداً

كشفت شهادات مثيرة للجدل لموظفين سابقين، عُرفوا باسم “صفارات الإنذار”، عن ممارسات داخل شركتي ميتا (الشركة الأم لفيسبوك وإنستغرام) وتيك توك، ادّعوا فيها أن خوارزميات هذه المنصات تُصمم عمداً لتضخيم المحتوى الضار والمثير للغضب بهدف زيادة تفاعل المستخدمين. هذه الادعاءات، التي عرضتها هيئة الإذاعة البريطانية (BBC)، تشير إلى أن دراسات داخلية أظهرت وعياً من قبل الشركات بالتأثيرات السلبية، إلا أنها اختارت تجاهل هذه النتائج لمصالح تجارية.

خلفية الحدث

لطالما واجهت شركات وسائل التواصل الاجتماعي تدقيقاً مكثفاً بشأن مسؤوليتها عن المحتوى الذي تستضيفه وتنشره خوارزمياتها. تتزايد المخاوف بشأن تأثير هذه المنصات على الصحة العقلية للمستخدمين، خاصة الشباب، وانتشار خطاب الكراهية والمعلومات المضللة. يأتي هذا الكشف في سياق جدل أوسع حول الشفافية والمساءلة في صناعة التكنولوجيا، وكيفية موازنة الشركات بين الربح وسلامة المستخدمين. الادعاءات التي أوردتها BBC News تسلط الضوء على بُعد جديد في هذه المعضلة، حيث لا يقتصر الأمر على المحتوى الذي يتم رفعه، بل على كيفية اختيار الخوارزميات تضخيمه وتوزيعه.

تفاصيل ما حدث

وفقاً للتقرير الذي نشرته BBC News، تحدث العديد من الموظفين السابقين من ميتا وتيك توك، كاشفين عن تفاصيل داخلية تُفيد بأن القرارات المتعمدة لتعزيز التفاعل أدت إلى تضخيم المحتوى الضار. تشمل أنواع المحتوى المذكورة الترويج لإيذاء الذات، اضطرابات الأكل، إساءة معاملة الأطفال جنسياً، كراهية النساء، خطاب الكراهية، والتطرف العنيف.

أحد هؤلاء الموظفين السابقين في تيك توك ادعى أن المنصة أصبحت “غير حساسة” لمواد إساءة معاملة الأطفال. وأشار إلى أن الشركة كانت تتجاهل في البداية التقارير الداخلية حول هذا المحتوى، واضعةً النمو والتفاعل قبل سلامة المستخدمين.

من جهتها، ذكر موظف سابق آخر في ميتا أن تغييراً في خوارزمية فيسبوك عام 2018 جعل موجز الأخبار “أكثر إثارة للانقسام” وأكثر ربحية للشركة. وزعم أن الأبحاث الداخلية في ميتا أظهرت أن الخوارزمية “تعلمت بشكل فعال وروّجت” للمحتوى المثير للجدل والانقسام لأنه يحقق تفاعلاً أعلى.

تؤكد شهادات صفارات الإنذار أن الشركات كانت على دراية تامة بالآثار السلبية لهذه التصميمات الخوارزمية، لكنها اختارت المضي قدماً فيها. يُقال إن التركيز على “الغضب” و”السخط” كقوى دافعة للتفاعل كان جزءاً أساسياً من استراتيجيات التصميم الخوارزمي، مما أدى إلى انتشار أسرع وأوسع للمحتوى ذي الطبيعة التحريضية.

كيف غطت وسائل الإعلام الحدث

تولت هيئة الإذاعة البريطانية (BBC) مهمة الكشف عن هذه الادعاءات من خلال تقريرها الشامل، مستندةً إلى شهادات حصرية من صفارات الإنذار. وقد أورد التقرير تفاصيل دقيقة حول كيفية عمل الخوارزميات، والنتائج الداخلية التي تم تجاهلها، وأنواع المحتوى الضار الذي تم تضخيمه.

وردت شركتا ميتا وتيك توك على هذه المزاعم. حيث نفت ميتا هذه الادعاءات بشدة، مؤكدة أنها تستثمر “بكثافة” في السلامة والأمن وتستخدم أكثر من 40 ألف شخص يعملون في هذا المجال. وصرح متحدث باسم ميتا بأنهم “لا يستفيدون من المحتوى الضار” وأنهم يستمرون في مكافحته.

أما تيك توك، فقد ذكرت أنها ملتزمة بحماية مستخدميها وتتخذ إجراءات صارمة ضد المحتوى الذي ينتهك إرشاداتها. وأضافت أنها تستخدم مزيجًا من التقنيات والاعتدال البشري لتحديد وإزالة المحتوى الضار.

وقد سلطت BBC News الضوء على التحدي الذي يواجهه هؤلاء الموظفون السابقون في البحث عن حماية قانونية من دعاوى قضائية محتملة من الشركات، مما يؤكد على جدية المخاطر التي يتحملونها للكشف عن هذه المعلومات.

التداعيات المحتملة

إذا ثبتت صحة هذه الادعاءات، فقد تكون التداعيات واسعة النطاق على شركات وسائل التواصل الاجتماعي والمشهد الرقمي ككل. من المتوقع أن تزداد الضغوط التنظيمية والتشريعية على هذه الشركات، مما قد يؤدي إلى فرض قوانين أكثر صرامة تتعلق بالشفافية والخوارزميات والمسؤولية عن المحتوى. قد يؤثر هذا أيضاً على ثقة الجمهور في هذه المنصات، ويدفع المستخدمين والجهات الفاعلة المدنية للمطالبة بضوابط أكبر على المحتوى الذي يتعرضون له.

على المدى الطويل، قد تجبر هذه الكشوفات الشركات على إعادة تقييم نماذج أعمالها التي تعتمد بشكل كبير على التفاعل، بغض النظر عن طبيعة المحتوى. كما يمكن أن تفتح الباب أمام المزيد من صفارات الإنذار للكشف عن ممارسات مماثلة في شركات تكنولوجية أخرى. القضية تثير تساؤلات جوهرية حول أخلاقيات التصميم في العصر الرقمي ودور التكنولوجيا في تشكيل الرأي العام والسلوك المجتمعي.

الخلاصة

تُمثل ادعاءات صفارات الإنذار هذه نقطة تحول محتملة في الجدل الدائر حول تأثير وسائل التواصل الاجتماعي. بينما تنفي كل من ميتا وتيك توك هذه المزاعم وتؤكدان التزامهما بالسلامة، فإن طبيعة الشهادات المباشرة من داخل الشركات تضفي عليها وزناً كبيراً. تظل المساءلة عن تصميم الخوارزميات وتأثيرها على المستخدمين قضية محورية، ومن المرجح أن تستمر في تصدر النقاشات القانونية والأخلاقية والتكنولوجية حول مستقبل الفضاء الرقمي. الأمر يتطلب تحقيقاً مستقلاً وشفافية أكبر لضمان أن التكنولوجيا تخدم مصلحة البشرية بدلاً من أن تُستغل لتضخيم المحتوى الضار.