أخبار التكنولوجيا

أطلقت Meta منصة لمعالجة “الانتقام الإباحي” بشكل أكثر استباقية في الهند


تعد “الانتقام الإباحي” أو مشاركة الصور الحميمة غير التوافقية للنساء مشكلة مستمرة في النمو. والآن تأمل Meta في معالجة هذا الأمر بطريقة أكثر استباقية من خلال منصة جديدة في الهند تسمى StopNCII.org. ستسمح المنصة ، بالشراكة مع خط المساعدة “Revenge Porn” ، ومقرها المملكة المتحدة ، بالاقتراب من الصور ومقاطع الفيديو الحميمة المحتملة والإبلاغ عنها والتي يمكن تحميلها على Facebook و Instagram دون موافقة النساء.

قال كارونا ناين ، مدير سياسة السلامة العالمية في Meta ، لموقع Indianexpress.com ، لإبراز كيف كانت هناك حالات مؤسفة لأشخاص “واجهوا هذا النوع من الإساءة” يتخذون “خطوات صارمة للغاية”: “… الحياة لأنك تدور حول التفاعل في المواقف الاجتماعية لأنك قلق بشأن ما إذا كان الشخص الآخر قد رأى صورتي هناك “.

يعمل موقع StopNCII.org كبنك من نوع ما حيث يمكن للضحايا مشاركة “تجزئات” صورهم ومقاطع الفيديو التي يتعرضون لها أو تم الكشف عنها. التجزئة عبارة عن بصمة رقمية فريدة يتم إرفاقها بكل صورة أو مقطع فيديو تتم مشاركته.

ثم تتم مشاركة التجزئة مع Facebook و Instagram وإذا حاول شخص ما تحميل مقطع فيديو أو صورة تتطابق فيها التجزئة ، فسيتم وضع علامة على هذا التحميل على أنه من المحتمل أن ينتهك سياسة محتوى الشركة.

تقول Meta إن الصور أو مقاطع الفيديو لا تغادر الجهاز عندما تقوم الضحية بتحميلها. بدلاً من ذلك يتم تحميل التجزئة المذكورة فقط. الطريقة التي يراها Meta أن النظام الأساسي الجديد يمكن أن يكون بمثابة تنبيه لهم ومساعدتهم على التعامل مع إساءة استخدام الصور الحميمة بشكل أفضل.

يجب أن يؤخذ في الاعتبار أن موقع StopNCII.org على الويب ينص بوضوح على أن الصور المعنية يجب أن تكون تلك الموجودة في بيئة حميمة. يمكن أن تكون هذه الصور ومقاطع الفيديو حيث تكون الضحية عارية ، أو تُظهر أعضائها التناسلية ، أو تمارس نشاطًا جنسيًا أو أوضاعًا ، أو ترتدي ملابس داخلية في أوضاع مهينة.

كما أنه يقتصر على النساء البالغات اللائي تزيد أعمارهن عن 18 عامًا ، مما يعني أن ضحايا استغلال الأطفال في المواد الإباحية لا يمكنهم الاقتراب من هذه المنصة أو الاعتماد عليها. وفقًا لـ Nain ، بالنسبة لصور الاعتداء الجنسي على الأطفال ، لا يمكنهم العمل إلا مع منظمات غير حكومية محددة مرخص لها ولديها غطاء قانوني للقيام بذلك. هذا هو السبب في أن StopNCII مقصور على النساء فوق سن 18.

لكن هل ستكون التجزئة دقيقة إذا قام شخص ما بتغيير أو تغيير الصورة الحميمة قبل تحميلها؟ لسوء الحظ ، هذا هو المكان الذي يكمن فيه التحدي حقًا. تعمل التقنية التي تستخدمها Meta – وهي تقنية مستخدمة على نطاق واسع في جميع أنحاء الصناعة – على المطابقات الدقيقة أو القريبة.

“لذا إذا كان هناك شخص ما أجرى بعض التغييرات الشديدة على تلك الصورة أو مقطع الفيديو ، فلن تكون مطابقة تامة للتجزئة التي تلقيناها. وبالتالي ، سيحتاج الشخص إلى المراقبة وربما يرغب في استخدام النظام مرة أخرى لتحميل هذا التجزئة من هذا الجزء المعدَّل من المحتوى ، “اعترف نين.

وتجدر الإشارة أيضًا إلى أن تحميل التجزئة في حد ذاته لن يضمن تلقائيًا أن المحتوى لا ينتهي على Facebook أو Instagram. أو أنه سيتم إيقافه تلقائيًا.

وفقًا لـ Nain ، ستستمر فرق المراجعة في Facebook أو Instagram في الاطلاع على المحتوى ومعرفة ما إذا كان ينتهك سياساتهم عندما يتطابق أي محتوى مع التجزئة. ولا تعد Meta بإطار زمني محدد أو مدة لحل هذه الحالات.

في حين أن فرق المراجعة تعطي الأولوية لهذا المحتوى نظرًا للخطورة الشديدة المرتبطة بهذا الشكل ، لا يمكنهم ضمان حل المشكلة في وقت محدود. يرى Meta ثلاثة سيناريوهات محتملة لما يحدث عند التعامل مع مثل هذا المحتوى.

في البداية ، تمت مشاركة المحتوى بالفعل والإبلاغ عنه على النظام الأساسي وبمجرد استلام التجزئة ، يصبح النظام آليًا من الآن فصاعدًا. لذلك إذا حاول شخص ما تحميله مرة أخرى ، فسيتم تمييزه وحظره بشكل أسرع.

في الحالة الثانية والأكثر إشكالية قليلاً ، تم تحميل المحتوى على Facebook أو Instagram ولم يتم الإبلاغ عنه بواسطة أنظمة الكشف الآلي.

أوضح ناين: “نظرًا لأن هذا المحتوى المطابق إما لم يتم الإبلاغ عنه مطلقًا أو اكتشافه بشكل استباقي من قبلنا ، فسنحتاج إلى إرساله إلى فرق المراجعة لدينا للتحقق مما يحدث” ، مضيفًا أنه بمجرد أن يقرر فريق المراجعة أنه يعد انتهاكًا يتم إزالتها. لذلك ، لا يعد إنشاء التجزئة من تلقاء نفسه ضمانًا للإزالة.

ومع ذلك ، بمجرد وضع علامة على جزء من المحتوى على أنه انتهاك ، تتم العملية تلقائيًا من الآن فصاعدًا.

ثم هناك سيناريو ثالث حيث لم يشارك شخص ما المحتوى المجزأ على المنصة على الإطلاق أو أن ما يقوله Facebook هو انتظار ومشاهدة. وشددت على أنه “فقط عندما يحاول شخص ما تحميل هذا المحتوى سيتم اكتشافه وسنكون قادرين على أخذ هذا المحتوى المطابق وإرساله إلى فرق المراجعة لدينا للتحقق مما يحدث”.

في الوقت الحالي ، يقتصر موقع StopNCII.org على Facebook و Instagram. تأمل Meta أن ينضم لاعبون تقنيون آخرون إلى المنصة من أجل تسهيل الأمر على الضحايا لأن المسؤولية تقع على عاتقهم الآن للتأكد من أن الصورة لا تنتهي على منصات متعددة.



مقالات ذات صلة

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني.

زر الذهاب إلى الأعلى