وجد تقرير Ofcom أن 1 من كل 5 نتائج بحث عن محتوى ضار كانت عبارة عن “بوابات بنقرة واحدة” لمزيد من السمية

تحرك يا تيك توك. تستعد Ofcom، الجهة التنظيمية في المملكة المتحدة التي تطبق قانون السلامة عبر الإنترنت الرسمي الآن، لتحديد حجم هدف أكبر: محركات البحث مثل Google وBing والدور الذي تلعبه في تقديم إيذاء النفس والانتحار وغير ذلك من المحتويات الضارة عند النقر. زر، وخاصة للمستخدمين دون السن القانونية.

وجد تقرير بتكليف من Ofcom وأنتجه معهد أبحاث عدوى الشبكات أن محركات البحث الرئيسية بما في ذلك Google وMicrosoft Bing وDuckDuckGo وYahoo وAOL أصبحت “بوابات بنقرة واحدة” لمثل هذا المحتوى من خلال تسهيل الوصول السهل والسريع إلى صفحات الويب والصور. ومقاطع الفيديو – حيث تدور واحدة من كل خمس نتائج بحث حول المصطلحات الأساسية التي تلحق الأذى بالنفس وترتبط بمزيد من المحتوى الضار.

يأتي البحث في الوقت المناسب وهو مهم لأن الكثير من التركيز على المحتوى الضار عبر الإنترنت في الآونة الأخيرة كان حول تأثير واستخدام مواقع التواصل الاجتماعي المسورة مثل Instagram و TikTok. يعد هذا البحث الجديد، إلى حد كبير، خطوة أولى في مساعدة Ofcom على فهم وجمع الأدلة حول ما إذا كان هناك تهديد محتمل أكبر بكثير، حيث تجتذب المواقع المفتوحة مثل Google.com أكثر من 80 مليار زيارة شهريًا، مقارنة بـ TikTok النشط شهريًا. المستخدمين حوالي 1.7 مليار.

قالت ألمودينا لارا، مديرة تطوير سياسات السلامة على الإنترنت في Ofcom، في تقرير لها: “إن محركات البحث غالبًا ما تكون نقطة البداية لتجربة الأشخاص عبر الإنترنت، ونحن قلقون من أنها يمكن أن تكون بمثابة بوابات بنقرة واحدة لمحتوى ضار للغاية يلحق الضرر بالنفس”. إفادة. “تحتاج خدمات البحث إلى فهم مخاطرها المحتملة وفعالية تدابير الحماية الخاصة بها – خاصة للحفاظ على سلامة الأطفال على الإنترنت – قبل مشاورتنا واسعة النطاق المقرر عقدها في الربيع.”

وقالت أوفكوم إن الباحثين قاموا بتحليل حوالي 37 ألف رابط نتيجة عبر محركات البحث الخمسة هذه من أجل التقرير. باستخدام مصطلحات البحث الشائعة والأكثر تشفيرًا (مبهمة لمحاولة التهرب من الفحص الأساسي)، أجروا عمليات بحث عمدًا لإيقاف أدوات الفحص الأبوي “البحث الآمن”، لتقليد الطرق الأساسية التي قد يتفاعل بها الأشخاص مع محركات البحث بالإضافة إلى أسوأ الطرق. -سيناريوهات الحالة.

وكانت النتائج في كثير من النواحي سيئة ومدمرة كما قد تتخيل.

لم يقتصر الأمر على أن 22% من نتائج البحث أنتجت روابط بنقرة واحدة لمحتوى ضار (بما في ذلك تعليمات حول أشكال مختلفة من إيذاء النفس)، ولكن هذا المحتوى يمثل 19% من الروابط الأعلى في النتائج (و 22 % من الروابط أسفل الصفحات الأولى من النتائج).

ووجد الباحثون أن عمليات البحث عن الصور كانت فظيعة بشكل خاص، حيث أعادت 50% منها محتوى ضارًا لعمليات البحث، تليها صفحات الويب بنسبة 28% والفيديو بنسبة 22%. ويخلص التقرير إلى أن أحد أسباب عدم فحص محركات البحث لبعض هذه العناصر بشكل أفضل هو أن الخوارزميات قد تخلط بين صور إيذاء النفس والوسائط الطبية وغيرها من الوسائط المشروعة.

وكانت مصطلحات البحث المبهمة أيضًا أفضل في تجنب خوارزميات الفحص: مما أدى إلى زيادة احتمال وصول المستخدم إلى محتوى ضار بمقدار ستة أضعاف.

الشيء الوحيد الذي لم يتم التطرق إليه في التقرير، ولكن من المرجح أن يصبح مشكلة أكبر بمرور الوقت، هو الدور الذي قد تلعبه عمليات البحث التوليدية للذكاء الاصطناعي في هذا المجال. حتى الآن، يبدو أنه تم وضع المزيد من الضوابط لمنع إساءة استخدام منصات مثل ChatGPT لأغراض سامة. سيكون السؤال هو ما إذا كان المستخدمون سيكتشفون كيفية اللعب بذلك، وما قد يؤدي إليه ذلك.

“إننا نعمل بالفعل على بناء فهم متعمق للفرص والمخاطر التي تنطوي عليها التقنيات الجديدة والناشئة، حتى يتمكن الابتكار من الازدهار، مع حماية سلامة المستخدمين. من المحتمل أن تكون بعض تطبيقات الذكاء الاصطناعي التوليدي ضمن نطاق قانون السلامة عبر الإنترنت ونتوقع أن تقوم الخدمات بتقييم المخاطر المتعلقة باستخدامها عند إجراء تقييم المخاطر الخاصة بها، “قال متحدث باسم Ofcom لـ TechCrunch.

ولا يعد الأمر بمثابة كابوس: فقد تم أيضًا وضع علامة على حوالي 22% من نتائج البحث لكونها مفيدة بطريقة إيجابية.

ربما يتم استخدام التقرير من قبل Ofcom للحصول على فكرة أفضل عن المشكلة المطروحة، ولكنه أيضًا إشارة مبكرة لموفري محركات البحث حول ما سيحتاجون إلى الاستعداد للعمل عليه. لقد كانت Ofcom واضحة بالفعل عندما قالت إن الأطفال سيكونون محور تركيزها الأول في تطبيق قانون السلامة عبر الإنترنت. وفي الربيع، تخطط أوفكوم لفتح مشاورة حول قواعد ممارسة حماية الأطفال، والتي تهدف إلى تحديد “الخطوات العملية التي يمكن لخدمات البحث أن تتخذها لحماية الأطفال بشكل مناسب”.

وسيتضمن ذلك اتخاذ خطوات لتقليل فرص تعرض الأطفال لمحتوى ضار حول موضوعات حساسة مثل الانتحار أو اضطرابات الأكل عبر الإنترنت بالكامل، بما في ذلك محركات البحث.

وقال المتحدث باسم Ofcom: “يمكن لشركات التكنولوجيا التي لا تأخذ هذا الأمر على محمل الجد أن تتوقع من Ofcom اتخاذ الإجراء المناسب ضدها في المستقبل”. وسيشمل ذلك الغرامات (التي قالت Ofcom إنها ستستخدمها فقط كملاذ أخير) وفي أسوأ السيناريوهات، أوامر المحكمة التي تطلب من مزودي خدمات الإنترنت منع الوصول إلى الخدمات التي لا تمتثل للقواعد. من المحتمل أيضًا أن تكون هناك مسؤولية جنائية للمديرين التنفيذيين الذين يشرفون على الخدمات التي تنتهك القواعد.

حتى الآن، اعترضت جوجل على بعض نتائج التقرير وكيفية وصف جهودها، مدعية أن أدوات الرقابة الأبوية لديها تقوم بالكثير من العمل المهم الذي يبطل بعض هذه النتائج.

وقال متحدث باسم الشركة في بيان لموقع TechCrunch: “نحن ملتزمون تمامًا بالحفاظ على أمان الأشخاص عبر الإنترنت”. “لا تعكس دراسة Ofcom الضمانات التي نطبقها على بحث Google والمصطلحات المرجعية التي نادرًا ما تُستخدم في البحث. يتم تشغيل ميزة البحث الآمن لدينا، والتي تعمل على تصفية نتائج البحث الضارة والصادمة، افتراضيًا للمستخدمين الذين تقل أعمارهم عن 18 عامًا، في حين يتم تشغيل إعداد تمويه البحث الآمن – وهي ميزة تعمل على تشويش الصور الفاضحة، مثل محتوى إيذاء النفس – بشكل افتراضي لجميع الحسابات. نحن نعمل أيضًا بشكل وثيق مع المنظمات المتخصصة والجمعيات الخيرية للتأكد من أنه عندما يأتي الأشخاص إلى بحث Google للحصول على معلومات حول الانتحار أو إيذاء النفس أو اضطرابات الأكل، تظهر لوحات موارد دعم الأزمات في أعلى الصفحة. ولم تستجب Microsoft وDuckDuckGo حتى الآن لطلب التعليق.