سيقوم Meta بتمويه العري تلقائيًا في رسائل Instagram DMs في أحدث خطوة لسلامة المراهقين

أعلنت شركة Meta أنها تختبر ميزات جديدة على Instagram تهدف إلى المساعدة في حماية الشباب من العري غير المرغوب فيه أو عمليات الاحتيال الجنسي. يتضمن ذلك ميزة تسمى Nudity Protection in DMs، والتي تقوم تلقائيًا بطمس الصور التي يتم اكتشافها على أنها تحتوي على عُري.

ستقوم شركة التكنولوجيا العملاقة أيضًا بدفع المراهقين إلى حماية أنفسهم من خلال تقديم تحذير يشجعهم على التفكير مرتين قبل مشاركة الصور الحميمة. وتقول Meta إنها تأمل أن يؤدي هذا إلى تعزيز الحماية ضد المحتالين الذين قد يرسلون صورًا عارية لخداع الأشخاص لإرسال صورهم الخاصة في المقابل.

انها أيضا إجراء تغييرات يقترح الإرادة تجعل من الصعب على المحتالين والمجرمين المحتملين العثور على المراهقين والتفاعل معهم. تقول Meta إنها تعمل على تطوير تقنية جديدة لتحديد الحسابات التي “يحتمل” أن تكون متورطة في عمليات الاحتيال الجنسي وتطبق بعض القيود على كيفية تفاعل هذه الحسابات المشبوهة مع المستخدمين الآخرين.

وفي خطوة أخرى تم الإعلان عنها يوم الخميس، قالت ميتا إنها زادت البيانات التي تشاركها مع برنامج سلامة الأطفال عبر الإنترنت Lantern – لتشمل المزيد من “الإشارات الخاصة بالابتزاز الجنسي”.

لدى عملاق الشبكات الاجتماعية سياسات طويلة الأمد تحظر إرسال العراة غير المرغوب فيها أو تسعى إلى إجبار المستخدمين الآخرين على إرسال صور حميمة. ومع ذلك، فإن هذا لا يمنع انتشار هذه المشكلات عبر الإنترنت – والتسبب في البؤس لعشرات المراهقين والشباب، مما يؤدي في بعض الأحيان إلى نتائج مأساوية للغاية.

لقد قمنا بتجميع أحدث مجموعة من التغييرات بمزيد من التفاصيل أدناه.

شاشات العري

تهدف حماية العري في الرسائل المباشرة إلى حماية مستخدمي Instagram المراهقين من الوميض السيبراني عن طريق وضع صور عارية خلف شاشة الأمان. سيتمكن المستخدمون بعد ذلك من اختيار ما إذا كانوا يريدون مشاهدته أم لا.

قال ميتا: “سنظهر لهم أيضًا رسالة تشجعهم على عدم الشعور بالضغط للرد، مع خيار حظر المرسل والإبلاغ عن الدردشة”.

سيتم تشغيل شاشة أمان العري افتراضيًا لمن هم أقل من 18 عامًا على مستوى العالم. سيرى المستخدمون الأكبر سنًا إشعارًا يشجعهم على تشغيله.

وأضافت: “عند تشغيل ميزة الحماية من العري، سيرى الأشخاص الذين يرسلون صورًا تحتوي على عُري رسالة تذكرهم بتوخي الحذر عند إرسال صور حساسة، وأنه يمكنهم إلغاء إرسال هذه الصور إذا غيروا رأيهم”.

وأي شخص يحاول إعادة توجيه صورة عارية سيرى نفس التحذير الذي يشجعه على إعادة النظر.

يتم تشغيل هذه الميزة من خلال التعلم الآلي على الجهاز، لذا قالت Meta إنها ستعمل ضمن محادثات مشفرة من طرف إلى طرف لأن تحليل الصور يتم على جهاز المستخدم الخاص.

نصائح السلامة

وفي إجراء وقائي آخر، سيتم توجيه مستخدمي إنستغرام الذين يرسلون أو يتلقون صورًا عارية إلى نصائح السلامة – مع معلومات حول المخاطر المحتملة التي تنطوي عليها – والتي قال ميتا إنها تم تطويرها بتوجيه من الخبراء.

وكتبت: “تتضمن هذه النصائح تذكيرًا بأن الأشخاص قد يقومون بالتقاط لقطة شاشة للصور أو إعادة توجيهها دون علمك، وأن علاقتك بالشخص قد تتغير في المستقبل، وأنه يجب عليك مراجعة الملفات الشخصية بعناية في حالة عدم تطابقهم مع ما يقولونه”. . “إنها ترتبط أيضًا بمجموعة من الموارد، بما في ذلك مركز Meta’s للسلامة، وخطوط المساعدة للدعم، وStopNCII.org لمن هم فوق 18 عامًا، وTake It Down لمن هم أقل من 18 عامًا.

كما أنه يختبر أيضًا الرسائل المنبثقة للأشخاص الذين ربما تفاعلوا مع حساب أزالته Meta بسبب الابتزاز الجنسي والذي سيوجههم أيضًا إلى موارد الخبراء ذات الصلة.

“إننا نضيف أيضًا خطوط مساعدة جديدة لسلامة الأطفال من جميع أنحاء العالم إلى تدفقات التقارير داخل التطبيق لدينا. وأضافت: “هذا يعني أنه عندما يبلغ المراهقون عن مشكلات ذات صلة – مثل العري أو التهديدات بمشاركة الصور الخاصة أو الاستغلال الجنسي أو الإغراء – فسنوجههم إلى خطوط المساعدة المحلية لسلامة الأطفال حيثما كان ذلك متاحًا”.

التكنولوجيا لاكتشاف الابتزاز الجنسي

بينما تقول Meta إنها تزيل حسابات المبتزين جنسيًا عندما تصبح على علم بها، فإنها تحتاج أولاً إلى اكتشاف الجهات الفاعلة السيئة لإغلاقها. لذا تحاول شركة Meta الذهاب إلى أبعد من ذلك: فهي تقول إنها “تقوم بتطوير التكنولوجيا للمساعدة في تحديد الأماكن التي يمكن أن تكون فيها الحسابات يحتمل الانخراط في عمليات احتيال للابتزاز الجنسي، بناءً على مجموعة من الإشارات التي يمكن أن تشير إلى سلوك الابتزاز الجنسي”.

“على الرغم من أن هذه الإشارات ليست بالضرورة دليلاً على أن أحد الحسابات قد انتهك قواعدنا، إلا أننا نتخذ خطوات احترازية للمساعدة في منع هذه الحسابات من العثور على حسابات المراهقين والتفاعل معها”، مضيفًا: “هذا يعتمد على العمل الذي قمنا به”. نقوم به بالفعل لمنع الحسابات الأخرى التي يحتمل أن تكون مشبوهة من العثور على المراهقين والتفاعل معهم.

ليس من الواضح بالضبط ما هي التكنولوجيا التي تستخدمها Meta لهذا الغرض، ولا الإشارات التي قد تشير إلى وجود شخص محتمل للابتزاز الجنسي (لقد طلبنا المزيد) – ولكن من المفترض أنها قد تحلل أنماط الاتصال لمحاولة اكتشاف الجهات الفاعلة السيئة.

ستواجه الحسابات التي تم وضع علامة عليها بواسطة Meta على أنها مبتزون جنسيًا محتملين قيودًا على كيفية إرسال الرسائل أو التفاعل مع المستخدمين الآخرين.

“[A]وكتبت أن أي رسالة تطلبها حسابات ابتزاز جنسي محتملة ستنتقل مباشرة إلى مجلد الطلبات المخفية للمستلم، مما يعني أنه لن يتم إخطاره بالرسالة ولن يضطر إلى رؤيتها أبدًا.

لن يتم إغلاق محادثات المستخدمين الذين يقومون بالفعل بالدردشة مع حسابات احتيال أو ابتزاز جنسي محتملة، ولكن سيتم عرض إشعارات السلامة “لتشجيعهم على الإبلاغ عن أي تهديدات لمشاركة صورهم الخاصة، وتذكيرهم بأنه يمكنهم قول لا لأي شيء يجعل إنهم يشعرون بعدم الارتياح “، لكل ميتا.

يتمتع المستخدمون المراهقون بالفعل بالحماية من تلقي الرسائل المباشرة من البالغين غير المتصلين بهم على Instagram (وأيضًا من المراهقين الآخرين في بعض الحالات). لكن Meta تتخذ خطوة أخرى تتمثل في عدم إظهار زر “الرسالة” الموجود في الملف الشخصي للمراهقين لحسابات الابتزاز الجنسي المحتملة، أي حتى لو كانوا متصلين.

وأضافت: “إننا نختبر أيضًا إخفاء المراهقين من هذه الحسابات في قوائم المتابعين والإعجابات، ونجعل من الصعب عليهم العثور على حسابات المراهقين في نتائج البحث”.

تجدر الإشارة إلى أن الشركة تخضع لتدقيق متزايد في أوروبا بشأن مخاطر سلامة الأطفال على إنستغرام، حيث يطرح القائمون على التنفيذ أسئلة حول نهجها منذ دخول قانون الخدمات الرقمية (DSA) الخاص بالكتلة حيز التنفيذ في الصيف الماضي.

زحف طويل وبطيء نحو الأمان

أعلنت ميتا عن تدابير لمكافحة الابتزاز الجنسي من قبل – وكان آخرها في فبراير عندما قامت بتوسيع نطاق الوصول إلى Take It Down.

تتيح أداة الطرف الثالث للأشخاص إنشاء تجزئة لصورة حميمة محليًا على أجهزتهم الخاصة ومشاركتها مع المركز الوطني للأطفال المفقودين والمستغلين – مما يؤدي إلى إنشاء مستودع لتجزئة الصور غير التوافقية التي يمكن للشركات استخدامها للبحث عن الانتقام وإزالته إباحية.

تعرضت الأساليب السابقة التي اتبعتها شركة Meta لانتقادات لأنها طلبت من الشباب تحميل صورهم العارية. في غياب القوانين الصارمة التي تنظم كيفية حماية الشبكات الاجتماعية للأطفال، تُركت ميتا للتنظيم الذاتي لسنوات – مع نتائج غير مكتملة.

ولكن مع وصول بعض المتطلبات إلى المنصات في السنوات الأخيرة، مثل قانون الأطفال في المملكة المتحدة، الذي دخل حيز التنفيذ في عام 2021 – ومؤخرًا قانون الإقامة اليومي في الاتحاد الأوروبي – يتعين على عمالقة التكنولوجيا مثل ميتا أخيرًا إيلاء المزيد من الاهتمام لحماية القاصرين.

على سبيل المثال، في يوليو 2021، تحولت Meta إلى تحويل حسابات Instagram الخاصة بالشباب إلى حسابات خاصة قبل الموعد النهائي للامتثال في المملكة المتحدة. تم اتباع إعدادات خصوصية أكثر صرامة للمراهقين على Instagram وFacebook في نوفمبر 2022.

أعلنت Meta أيضًا في شهر يناير من هذا العام أنها ستضع المراهقين على Facebook وInstagram في إعدادات رسائل أكثر صرامة مع فرض قيود على المراهقين الذين يرسلون رسائل إلى مراهقين ليسوا على اتصال بهم بالفعل، قبل وقت قصير من بدء الموعد النهائي للامتثال الكامل لـ DSA في فبراير.

يثير زحف ميزة Meta البطيئة والمتكررة عندما يتعلق الأمر بتدابير الحماية للمستخدمين الصغار تساؤلات حول ما استغرقه تطبيق ضمانات أقوى لفترة طويلة – مما يشير إلى أنها اختارت الحد الأدنى الساخر من الحماية في محاولة لإدارة التأثير على الاستخدام وإعطاء الأولوية للمشاركة على أمان. (وهذا هو بالضبط ما نددت به فرانسيس هاوجين، المبلغة عن مخالفات ميتا، مرارًا وتكرارًا لصاحب عملها السابق).

عند سؤالها عن سبب عدم طرح أحدث وسائل الحماية التي تم الإعلان عنها لمستخدمي Instagram على Facebook، قالت متحدثة باسم Meta لـ TechCrunch: “نريد الرد على المكان الذي نرى فيه أكبر حاجة وأهميتها – والتي، عندما يتعلق الأمر بالعري غير المرغوب فيه والتثقيف المراهقين حول مخاطر مشاركة الصور الحساسة – نعتقد أن ذلك يتم عبر الرسائل المباشرة على Instagram، لذلك هذا هو المكان الذي نركز عليه أولاً.