تعهد المسك بتنظيف تويتر من محتوى إساءة معاملة الأطفال. إنه يعمل؟

أكثر من 120 ألف مشاهدة لفيديو يظهر صبيًا يتعرض لاعتداء جنسي. محرك توصيات يقترح أن يتابع المستخدم المحتوى المتعلق بالأطفال الذين تم استغلالهم. يقوم المستخدمون باستمرار بنشر مواد مسيئة ، والتأخير في إزالتها عند اكتشافها والخلاف مع المنظمات التي تراقبها.

كل ذلك منذ أن أعلن إيلون ماسك أن “إزالة استغلال الأطفال هي الأولوية رقم 1” في أ سقسقة في أواخر نوفمبر.

تحت ملكية السيد ماسك ، قالت إيلا إروين ، رئيسة السلامة في تويتر ، إنها كانت تتحرك بسرعة لمكافحة مواد الاعتداء الجنسي على الأطفال ، والتي كانت سائدة على الموقع – كما هو الحال في معظم منصات التكنولوجيا – تحت المالكين السابقين. وعدت الشركة أن Twitter 2.0 سيكون مختلفًا.

لكن مراجعة أجرتها صحيفة نيويورك تايمز وجدت أن الصور ، المعروفة باسم المواد الإباحية للأطفال ، استمرت على المنصة ، بما في ذلك المواد المنتشرة على نطاق واسع والتي اعتبرتها السلطات أسهل في الكشف عنها والقضاء عليها.

تظهر المراجعة أنه بعد أن تولى السيد ماسك زمام الأمور في أواخر أكتوبر / تشرين الأول ، قضى تويتر إلى حد كبير أو فقد الموظفين ذوي الخبرة بالمشكلة وفشل في منع انتشار الصور المسيئة التي حددتها السلطات سابقًا. توقف Twitter أيضًا عن الدفع مقابل بعض برامج الكشف التي تعتبر أساسية لجهودها.

طوال الوقت ، يناقش الأشخاص في منتديات الويب المظلم كيف يظل Twitter منصة حيث يمكنهم بسهولة العثور على المواد مع تجنب الاكتشاف ، وفقًا لنصوص تلك المنتديات من مجموعة مكافحة إساءة الاستخدام التي تراقبهم.

قالت جولي إنمان جرانت ، مفوضة السلامة على الإنترنت الأسترالية ، “إذا سمحت لجرذان المجاري بالدخول ، فأنت تعلم أن الوباء سيأتي.”

في محادثة صوتية على Twitter مع السيدة إيروين في أوائل ديسمبر ، باحثة مستقلة تعمل مع Twitter قال كان المحتوى غير القانوني متاحًا للجمهور على المنصة لسنوات وحصد ملايين المشاهدات. لكن قال إروين وآخرون على تويتر إن جهودهم تحت قيادة السيد ماسك كانت تؤتي ثمارها. خلال الشهر الأول الكامل للملكية الجديدة ، علقت الشركة ما يقرب من 300000 حساب لانتهاك سياسات “الاستغلال الجنسي للأطفال” ، بزيادة قدرها 57 في المائة عن المعتاد ، قالت الشركة.

وقال موقع تويتر إن الجهود تسارعت في يناير / كانون الثاني عندما علقت 404 آلاف حساب. “نهجنا الأخير هو أكثر عدوانية” ، أعلنت الشركة في سلسلة التغريدات يوم الأربعاء ، قالت إنها قامت أيضًا بقمع الأشخاص الذين بحثوا عن المواد الاستغلالية وخفضت عمليات البحث الناجحة بنسبة 99 في المائة منذ ديسمبر.

قالت السيدة إروين ، في مقابلة ، إن الجزء الأكبر من حالات التعليق تضمنت حسابات تعاملت مع المواد أو كانت تدعي بيعها أو توزيعها ، وليس تلك التي نشرتها. لم تجادل في أن محتوى الاعتداء الجنسي على الأطفال لا يزال متاحًا بشكل علني على المنصة ، قائلة “نحن نعلم تمامًا أننا ما زلنا نفتقد بعض الأشياء التي نحتاج إلى اكتشافها بشكل أفضل”.

وأضافت أن تويتر كان يعين موظفين وينشر “آليات جديدة” لمحاربة المشكلة. قالت: “لقد عملنا على هذا دون توقف”.

قامت Wired و NBC وغيرهما بتفصيل صراعات تويتر المستمرة مع صور إساءة معاملة الأطفال تحت قيادة السيد ماسك. يوم الثلاثاء ، طلب السناتور ريتشارد جيه دوربين ، الديمقراطي عن ولاية إلينوي ، من وزارة العدل مراجعة سجل تويتر في معالجة المشكلة.

لتقييم مزاعم الشركة بشأن التقدم ، أنشأت The Times حسابًا فرديًا على Twitter وكتبت برنامج كمبيوتر آليًا يمكنه البحث في النظام الأساسي عن المحتوى دون عرض الصور الفعلية ، والتي تعتبر غير قانونية للعرض. لم يكن من الصعب العثور على المواد. في الواقع ، ساعد Twitter في الترويج له من خلال خوارزمية التوصية الخاصة به – وهي ميزة تقترح متابعة الحسابات بناءً على نشاط المستخدم.

كان من بين التوصيات حساب يحتوي على صورة ملف شخصي لصبي بلا قميص. الطفل في الصورة هو ضحية معروفة للاعتداء الجنسي ، وفقًا للمركز الكندي لحماية الطفل ، والذي ساعد في تحديد المواد الاستغلالية على منصة The Times من خلال مطابقتها مع قاعدة بيانات للصور التي تم تحديدها مسبقًا.

هذا المستخدم نفسه تابع حسابات أخرى مشبوهة ، بما في ذلك حساب “أحب” مقطع فيديو لصبيان يعتدون جنسيًا على صبي آخر. بحلول 19 كانون الثاني (يناير) ، حصد الفيديو ، الذي ظل على تويتر لأكثر من شهر ، أكثر من 122 ألف مشاهدة ، وحوالي 300 إعادة تغريد وأكثر من 2600 إعجاب. قام Twitter في وقت لاحق بإزالة الفيديو بعد أن أبلغ المركز الكندي عنه للشركة.

في الساعات القليلة الأولى من البحث ، وجد برنامج الكمبيوتر عددًا من الصور التي تم تحديدها سابقًا على أنها مسيئة – وعرضت الحسابات بيع المزيد. قامت The Times بوضع علامة على المنشورات دون عرض أي صور ، وإرسال عناوين الويب إلى الخدمات التي تديرها Microsoft والمركز الكندي.

عرض أحد الحسابات في أواخر كانون الأول (ديسمبر) “حزمة عيد الميلاد” المخفضة للصور ومقاطع الفيديو. قام هذا المستخدم بتغريد صورة غامضة جزئيًا لطفل تعرض للإيذاء منذ حوالي 8 سنوات حتى المراهقة. حذف Twitter المنشور بعد خمسة أيام ، ولكن فقط بعد أن أرسل المركز الكندي للشركة إشعارات متكررة.

بشكل عام ، وجد برنامج الكمبيوتر صورًا لـ 10 ضحايا ظهرت أكثر من 150 مرة عبر حسابات متعددة ، كان آخرها يوم الخميس. غالبًا ما أعلنت التغريدات المصاحبة عن مقاطع فيديو اغتصاب أطفال وتضمنت روابط لمنصات مشفرة.

وجد أليكس ستاموس ، مدير مرصد ستانفورد للإنترنت والمدير التنفيذي السابق للأمن في Facebook ، النتائج مثيرة للقلق. قال: “بالنظر إلى التركيز الذي وضعه ماسك على سلامة الأطفال ، فمن المدهش أنهم لا يقومون بالأساسيات”.

بشكل منفصل ، لتأكيد نتائج The Times ، أجرى المركز الكندي اختبارًا لتحديد عدد مرات ظهور سلسلة فيديو واحدة تضم ضحايا معروفين على Twitter. وجد المحللون 31 مقطع فيديو مختلفًا تمت مشاركتها من قبل أكثر من 40 حسابًا ، تم إعادة تغريد بعضها وأعجب بها آلاف المرات. صورت مقاطع الفيديو مراهقًا صغيرًا تعرض للابتزاز عبر الإنترنت لممارسة الجنس مع طفل لم يبلغ سن البلوغ على مدى أشهر.

كما أجرى المركز مسحًا أوسع لمقاطع الفيديو الأكثر وضوحًا في قاعدة بياناته. كان هناك أكثر من 260 زيارة ، مع أكثر من 174000 إعجاب و 63000 إعادة تغريد.

قال لويد ريتشاردسون ، مدير التكنولوجيا في المركز الكندي: “الحجم الذي يمكننا العثور عليه بأقل قدر من الجهد مهم جدًا”. “لا ينبغي أن تكون مهمة الأشخاص الخارجيين هي العثور على هذا النوع من المحتوى الموجود على نظامهم.”

في عام 2019 ، ذكرت صحيفة The Times أن العديد من شركات التكنولوجيا لديها ثغرات خطيرة في مراقبة استغلال الأطفال على منصاتهم. في كانون الأول (ديسمبر) الماضي ، أجرت السيدة إنمان جرانت ، مسؤولة السلامة على الإنترنت الأسترالية ، تدقيقًا وجد أن العديد من المشكلات نفسها لا تزال موجودة في عينات من شركات التكنولوجيا.

لم تتضمن المراجعة الأسترالية Twitter ، لكن بعض صعوبات المنصة تشبه تلك التي تواجه شركات التكنولوجيا الأخرى وتسبق وصول السيد Musk ، وفقًا للعديد من الموظفين الحاليين والسابقين.

بدأ موقع Twitter ، الذي تأسس في عام 2006 ، في استخدام أداة أكثر شمولاً للبحث عن مقاطع الفيديو الخاصة بالاعتداء الجنسي على الأطفال في الخريف الماضي ، على حد قولهم ، وتم تشكيل الفريق الهندسي المخصص للعثور على الصور ومقاطع الفيديو غير القانونية قبل 10 أشهر فقط. بالإضافة إلى ذلك ، تعاني فرق الثقة والسلامة بالشركة من نقص دائم في الموظفين ، على الرغم من أن الشركة واصلت توسيعها حتى وسط تجميد التوظيف الواسع الذي بدأ في أبريل الماضي ، على حد قول أربعة موظفين سابقين.

على مر السنين ، قامت الشركة ببناء أدوات داخلية للعثور على بعض الصور وإزالتها ، وغالبًا ما أشاد المركز الوطني بالشركة على دقة تقاريرها.

واجهت المنصة في الأشهر الأخيرة أيضًا مشاكل مع نظام الإبلاغ عن إساءة الاستخدام ، والذي يسمح للمستخدمين بإخطار الشركة عندما يواجهون مواد تتعلق باستغلال الأطفال. (يقدم تويتر ملف مرشد للإبلاغ عن محتوى مسيء على نظامها الأساسي.)

استخدمت The Times حسابها البحثي للإبلاغ عن ملفات تعريف متعددة تدعي بيع المحتوى أو تداوله في ديسمبر ويناير. ظلت العديد من الحسابات نشطة وحتى ظهرت كتوصيات لاتباعها على حساب التايمز الخاص. وقالت الشركة إن الأمر سيستغرق المزيد من الوقت لكشف سبب ظهور مثل هذه التوصيات.

للعثور على المادة ، يعتمد Twitter على برنامج أنشأته منظمة مكافحة الاتجار بالبشر المسماة Thorn. لم يدفع Twitter للمنظمة منذ أن تولى السيد Musk المسؤولية ، وفقًا لأشخاص مطلعين على العلاقة ، ويُفترض أن يكون جزءًا من جهوده الأكبر لخفض التكاليف. توقف Twitter أيضًا عن العمل مع Thorn لتحسين التكنولوجيا. كان للتعاون فوائد على مستوى الصناعة لأن الشركات الأخرى تستخدم البرنامج.

رفضت السيدة إيروين التعليق على أعمال Twitter مع بائعين محددين.

كما تأثرت علاقة تويتر بالمركز الوطني للأطفال المفقودين والمستغلين ، وفقًا لأشخاص يعملون هناك.

قال جون شيهان ، المدير التنفيذي في المركز ، إنه قلق بشأن “المستوى المرتفع لدوران الأعمال” في تويتر وحيث تقف الشركة “في الثقة والأمان والتزامها بالتعرف على مواد الاعتداء الجنسي على الأطفال وإزالتها من منصتها”.

بعد الانتقال إلى ملكية السيد ماسك ، كان رد فعل تويتر في البداية أكثر بطئًا على إشعارات المركز بشأن محتوى الاعتداء الجنسي ، وفقًا لبيانات المركز ، وهو تأخير ذو أهمية كبيرة للناجين من الإساءة ، الذين يتعرضون للإيذاء مع كل مشاركة جديدة. Twitter ، مثل مواقع التواصل الاجتماعي الأخرى ، لديه علاقة ثنائية الاتجاه مع المركز. يقوم الموقع بإخطار المركز (الذي يمكنه بعد ذلك إخطار سلطات إنفاذ القانون) عندما يتم إعلامه بوجود محتوى غير قانوني. وعندما يعلم المركز بوجود محتوى غير قانوني على تويتر ، فإنه ينبه الموقع حتى يمكن إزالة الصور والحسابات.

في أواخر العام الماضي ، كان وقت استجابة الشركة أكثر من ضعف ما كان عليه خلال نفس الفترة قبل عام تحت الملكية السابقة ، على الرغم من أن المركز أرسل لها تنبيهات أقل. في كانون الأول (ديسمبر) 2021 ، استغرق تويتر 1.6 يومًا في المتوسط ​​للرد على 98 إشعارًا ؛ في كانون الأول (ديسمبر) الماضي ، بعد أن تولى السيد ماسك إدارة الشركة ، استغرق الرد على 55 يومًا 3.5 يومًا. وبحلول يناير ، تحسنت الشركة بشكل كبير ، واستغرقت 1.3 يومًا للرد على 82.

وقال المركز الكندي ، الذي يؤدي نفس الوظيفة في ذلك البلد ، إنه شهد تأخيرات لمدة تصل إلى أسبوع. في إحدى الحالات ، اكتشف المركز الكندي مقطع فيديو في 6 يناير يصور إساءة معاملة فتاة عارية ، تتراوح أعمارها بين 8 و 10 سنوات. وقالت المنظمة إنها أرسلت إخطارات يومية لمدة أسبوع تقريبًا قبل إزالة Twitter للفيديو.

بالإضافة إلى ذلك ، يبدو أن تويتر والمركز القومي الأمريكي يختلفان حول التزام تويتر بالإبلاغ عن الحسابات التي تدعي بيع مواد غير قانونية دون نشرها مباشرة.

لم تبلغ الشركة المركز الوطني بمئات الآلاف من الحسابات التي علقتها لأن القواعد تتطلب أن يكون لديهم “ثقة كبيرة في أن الشخص ينقل عن عمد” الصور غير القانونية وأن هذه الحسابات لم تفي بهذا الحد ، السيدة إروين قال.

عارض السيد شيهان من المركز الوطني هذا التفسير للقواعد ، مشيرًا إلى أن شركات التكنولوجيا ملزمة قانونًا أيضًا بالإبلاغ عن المستخدمين حتى لو ادعوا فقط بيع المواد أو طلبها. حتى الآن ، تُظهر بيانات المركز الوطني ، أن تويتر قدم حوالي 8000 تقرير شهريًا ، وهو جزء صغير من الحسابات التي علّقها.

قالت السيدة إنمان جرانت ، الجهة التنظيمية الأسترالية ، إنها لم تتمكن من التواصل مع الممثلين المحليين للشركة لأن جهات اتصال وكالتها في أستراليا قد استقالوا أو تم فصلهم منذ أن تولى السيد ماسك منصبه. وقالت إنها تخشى أن تؤدي التخفيضات في عدد الموظفين إلى مزيد من الاتجار بالصور الاستغلالية.

“تلعب جهات الاتصال المحلية هذه دورًا حيويًا في معالجة المسائل الحساسة للوقت” ، قالت السيدة إنمان جرانت ، التي كانت سابقًا مديرة تنفيذية للسلامة في كل من Twitter و Microsoft.

قالت السيدة إيروين إن الشركة استمرت في التواصل مع الوكالة الأسترالية ، وأعربت بشكل عام عن ثقتها في أن Twitter “يتحسن كثيرًا” مع الاعتراف بالتحديات المقبلة.

قالت السيدة إروين: “نحن لا نربت على ظهورنا بأي شكل من الأشكال ونقول ،” يا رجل ، لقد حصلنا على هذا مسمر “.

يواصل المخالفون تداول النصائح في منتديات الويب المظلم حول كيفية العثور على المواد على Twitter ، وفقًا لمنشورات وجدها المركز الكندي.

في 12 كانون الثاني (يناير) ، وصف أحد المستخدمين متابعة المئات من حسابات Twitter “الشرعية” التي باعت مقاطع فيديو لصبية صغار تم خداعهم لإرسال تسجيلات صريحة لأنفسهم. وصف مستخدم آخر موقع تويتر بأنه مكان سهل لمشاهدة مقاطع فيديو الاعتداء الجنسي بجميع أنواعها. كتب المستخدم “الناس يشاركون الكثير”.

ريان ماك و تشانغ تشي ساهم في إعداد التقارير.