كشفت دراسة جديدة بحسب موقع theguardian البريطانى، عن أن ميتا تساعد بشكل نشط على انتشار محتوى إيذاء النفس على إنستجرام من خلال الفشل في إزالة الصور الصريحة وتشجيع أولئك الذين يتفاعلون مع مثل هذا المحتوى على تكوين صداقات مع بعضهم البعض.

وأنشأ باحثون دنماركيون شبكة خاصة لإيذاء النفس على منصة التواصل الاجتماعي، بما في ذلك ملفات تعريف مزيفة لأشخاص لا يتجاوز عمرهم 13 عامًا، حيث شاركوا 85 قطعة من المحتوى المتعلق بإيذاء النفس والتي تزداد شدتها تدريجيًا، بما في ذلك الدم وشفرات الحلاقة وتشجيع إيذاء النفس.

وكان الهدف من الدراسة اختبار ادعاء Meta بأنها حسنت بشكل كبير عملياتها لإزالة المحتوى الضار، والتي تقول إنها تستخدم الآن الذكاء الاصطناعي، وتدعي شركة التكنولوجيا إزالة حوالي 99٪ من المحتوى الضار قبل الإبلاغ عنه.

لكن Digitalt Ansvar (المساءلة الرقمية)، وهي منظمة تروج للتنمية الرقمية المسؤولة، وجدت أنه في التجربة التي استمرت شهرًا لم تتم إزالة صورة واحدة، وعندما أنشأت أداة الذكاء الاصطناعي البسيطة الخاصة بها لتحليل المحتوى، تمكنت من تحديد 38٪ من صور إيذاء النفس و88٪ من الصور الأكثر خطورة تلقائيًا.

وقالت الشركة إن هذا أظهر أن Instagram كان لديه إمكانية الوصول إلى التكنولوجيا القادرة على معالجة المشكلة ولكنه "اختار عدم تنفيذها بشكل فعال"، وقالت شركة Digitalt Ansvar إن الاعتدال غير الكافي للمنصة يشير إلى أنها لم تكن تمتثل لقانون الاتحاد الأوروبي.

ووجد استطلاع أجرته مؤسسة Stem4 الخيرية للصحة العقلية للشباب أن ما يقرب من نصف الأطفال والشباب الذين تم استجوابهم أصبحوا منعزلين، وبدأوا في ممارسة الرياضة بشكل مفرط، وتوقفوا عن التواصل الاجتماعي تمامًا أو أذوا أنفسهم استجابة للتنمر عبر الإنترنت والتصيد حول مظهرهم الجسدي.

تقول الدراسة إن وسائل التواصل الاجتماعي تحفز الأطفال على كره أجسادهم، وقال متحدث باسم Meta: "المحتوى الذي يشجع على إيذاء النفس يتعارض مع سياساتنا ونقوم بإزالة هذا المحتوى عندما نكتشفه. في النصف الأول من عام 2024، قمنا بإزالة أكثر من 12 مليون مقالة تتعلق بالانتحار وإيذاء النفس على Instagram، 99٪ منها قمنا بإزالتها بشكل استباقي.

"في وقت سابق من هذا العام، أطلقنا حسابات Instagram Teen Accounts، والتي ستضع المراهقين في أشد إعدادات التحكم في المحتوى الحساس لدينا، لذلك من غير المرجح أن يتم التوصية لهم بمحتوى حساس وفي كثير من الحالات نقوم بإخفاء هذا المحتوى تمامًا."

ومع ذلك، وجدت الدراسة الدنماركية أنه بدلاً من محاولة إغلاق شبكة إيذاء النفس، كانت خوارزمية Instagram تساعدها بنشاط على التوسع. اقترح البحث أن الأطفال في سن 13 عامًا يصبحون أصدقاء مع جميع أعضاء مجموعة إيذاء النفس بعد اتصالهم بأحد أعضائها.

وقالت الدراسة إن هذا "يشير إلى أن خوارزمية Instagram تساهم بنشاط في تشكيل وانتشار شبكات إيذاء النفس"، وفي حديثه لصحيفة "أوبزرفر"، قال الرئيس التنفيذي لشركة ديجيتال أنسفار، آسك هيسبي هولم، إن الشركة صُدمت بالنتائج، بعد أن اعتقدت أنه مع زيادة حدة الصور التي تشاركها، فإنها ستدق ناقوس الخطر على المنصة.

وقال: "اعتقدنا أنه عندما نفعل هذا تدريجيًا، سنصل إلى الحد الذي ستتعرف فيه الذكاء الاصطناعي أو الأدوات الأخرى على هذه الصور أو تحددها. لكن المفاجأة الكبرى - لم يفعلوا ذلك"، وأضاف: "كان هذا مقلقًا لأننا اعتقدنا أن لديهم نوعًا من الآلات التي تحاول معرفة وتحديد هذا المحتوى".

وقال إن الفشل في تعديل صور إيذاء النفس يمكن أن يؤدي إلى "عواقب وخيمة"، "يرتبط هذا ارتباطًا وثيقًا بالانتحار. لذلك إذا لم يكن هناك من يقوم بالإبلاغ عن هذه المجموعات أو يفعل أي شيء بشأنها، فإنها تظل غير معروفة للآباء والسلطات وأولئك الذين يمكنهم المساعدة في الدعم"، ويعتقد أن ميتا لا تدير مجموعات خاصة صغيرة، مثل تلك التي أنشأتها شركته، من أجل الحفاظ على حركة المرور والمشاركة العالية، "نحن لا نعرف ما إذا كانوا يديرون مجموعات أكبر، لكن المشكلة هي أن مجموعات إيذاء النفس صغيرة"

وقالت لوتي روبيك، عالمة النفس الرائدة التي غادرت مجموعة الخبراء العالمية في ميتا حول الوقاية من الانتحار في مارس بعد اتهامها "بغض الطرف" عن المحتوى الضار على انستجرام، في حين أنها لم تفاجأ بالنتائج الإجمالية، إلا أنها صُدمت لرؤية أنهم لم يزيلوا المحتوى الأكثر صراحة.

وقالت: "لم أكن لأتصور أنه سيكون صفرًا من أصل 85 منشورًا أزالوها". "كنت آمل أن يكون الأمر أفضل، وقالت روبيك إن فشل ميتا في إزالة صور إيذاء النفس من منصاتها "يحفز" الشابات والفتيات المعرضات للخطر على المزيد من إيذاء أنفسهن ويساهم في ارتفاع أرقام الانتحار.

وقالت إن قضية إيذاء النفس على انستجرام هي مسألة حياة أو موت بالنسبة للأطفال الصغار والمراهقين. "وبطريقة ما، هذا مجرد ضرر جانبي لهم في طريقهم إلى جني الأموال والربح على منصاتهم".