تضع هيئة تنظيم السلامة عبر الإنترنت في المملكة المتحدة مسودة إرشادات بشأن المحتوى غير القانوني، قائلة إن سلامة الأطفال هي الأولوية
نشرت هيئة تنظيم محتوى الإنترنت التي تم تمكينها حديثًا في المملكة المتحدة المجموعة الأولى من مسودة قواعد الممارسة بموجب قانون السلامة على الإنترنت (OSA) الذي أصبح قانونًا في أواخر الشهر الماضي.
سيتبع ذلك المزيد من الرموز، لكن هذه المجموعة الأولى – التي تركز على كيفية توقع استجابة خدمات المستخدم إلى المستخدم (U2U) لأنواع مختلفة من المحتوى غير القانوني – تقدم توجيهًا حول كيفية تفكير Ofcom في تشكيل وتنفيذ الإجراءات الكاسحة في المملكة المتحدة كتاب قواعد الإنترنت الجديد في مجال رئيسي.
تقول Ofcom إن أولويتها الأولى باعتبارها “منظم السلامة عبر الإنترنت” ستكون حماية الأطفال.
تتضمن مسودة التوصيات بشأن المحتوى غير القانوني اقتراحات مفادها أنه يجب على المنصات الأكبر والأكثر خطورة أن تتجنب تقديم قوائم الأصدقاء المقترحين للأطفال؛ يجب ألا يظهر المستخدمون الأطفال في قوائم الاتصال الخاصة بالآخرين؛ ويجب ألا تجعل قوائم اتصال الأطفال مرئية للآخرين.
ويقترح أيضًا ألا تتمكن الحسابات الموجودة خارج قائمة اتصال الطفل من إرسال رسائل مباشرة إليه؛ ويجب ألا تكون معلومات موقع الأطفال مرئية للمستخدمين الآخرين، من بين عدد من إجراءات تخفيف المخاطر الموصى بها والتي تهدف إلى الحفاظ على أمان الأطفال عبر الإنترنت.
“لقد أصبحت القواعد التنظيمية موجودة، ونحن لا نضيع أي وقت في تحديد الكيفية التي نتوقع بها من شركات التكنولوجيا أن تحمي الأشخاص من الأذى غير القانوني عبر الإنترنت، مع الحفاظ على حرية التعبير. وقالت السيدة ميلاني دوز، الرئيسة التنفيذية لأوفكوم، في بيان: “لقد أخبرنا الأطفال عن المخاطر التي يواجهونها، ونحن مصممون على خلق حياة أكثر أمانًا عبر الإنترنت للشباب على وجه الخصوص”.
“تظهر أرقامنا أن معظم أطفال المدارس الثانوية تم الاتصال بهم عبر الإنترنت بطريقة قد تجعلهم يشعرون بعدم الارتياح. بالنسبة للكثيرين، يحدث ذلك بشكل متكرر. إذا حدثت هذه الأساليب غير المرغوب فيها كثيرًا في العالم الخارجي، فلن يرغب معظم الآباء في مغادرة أطفالهم المنزل. ومع ذلك، بطريقة أو بأخرى، في الفضاء الإلكتروني، أصبحت هذه الأمور روتينية تقريبًا. وهذا لا يمكن أن يستمر.”
يفرض OSA واجبًا قانونيًا على الخدمات الرقمية، الكبيرة والصغيرة، لحماية المستخدمين من المخاطر التي يشكلها المحتوى غير القانوني، مثل CSAM (مواد الاعتداء الجنسي على الأطفال)، والإرهاب والاحتيال. على الرغم من أن قائمة الجرائم ذات الأولوية في التشريع طويلة – بما في ذلك أيضًا إساءة استخدام الصور الحميمة؛ المطاردة والمضايقة؛ والوميض الإلكتروني، على سبيل المثال لا الحصر.
الخطوات الدقيقة التي يتعين على الخدمات والمنصات ضمن النطاق اتخاذها للامتثال غير منصوص عليها في التشريع. كما أن Ofcom لا تحدد كيفية تعامل الشركات الرقمية مع كل أنواع مخاطر المحتوى غير القانوني. لكن قواعد الممارسة التفصيلية التي تعمل على تطويرها تهدف إلى تقديم توصيات لمساعدة الشركات على اتخاذ قرارات بشأن كيفية تكييف خدماتها لتجنب خطر اكتشاف أنها تنتهك نظامًا يمكّنها من فرض غرامات تصل إلى 10٪ من حجم الأعمال السنوي العالمي على الشركات. الانتهاكات.
تتجنب Ofcom اتباع نهج واحد يناسب الجميع – مع اقتراح بعض التوصيات الأكثر تكلفة في مسودة الكود للخدمات الأكبر و/أو الأكثر خطورة فقط.
ويذكر أيضًا أنه “من المرجح أن يكون لديها أقرب العلاقات الإشرافية” مع “أكبر الخدمات وأكثرها خطورة” – وهو خط من شأنه أن يجلب درجة من الراحة للشركات الناشئة (التي لن يُتوقع منها عمومًا تنفيذ العديد من التوصيات الموصى بها). التخفيف كخدمات أكثر رسوخًا). إنها تحدد الخدمات “الكبيرة” في سياق OSA بأنها تلك التي تضم أكثر من 7 ملايين مستخدم شهريًا (أو حوالي 10% من سكان المملكة المتحدة).
“سيُطلب من الشركات تقييم مخاطر تعرض المستخدمين للأذى بسبب المحتوى غير القانوني على منصاتهم، واتخاذ الخطوات المناسبة لحمايتهم منه. هناك تركيز خاص على “الجرائم ذات الأولوية” المنصوص عليها في التشريع، مثل إساءة معاملة الأطفال والاستمالة والتشجيع على الانتحار؛ “ولكن يمكن أن يكون أي محتوى غير قانوني”، كما جاء في بيان صحفي، مضيفة: “نظرًا لنطاق الخدمات وتنوعها في نطاق القوانين الجديدة، فإننا لا نتبع نهجًا “مقاسًا واحدًا يناسب الجميع”. نحن نقترح بعض التدابير لجميع الخدمات في النطاق، وغيرها من التدابير التي تعتمد على المخاطر التي حددتها الخدمة في تقييم مخاطر المحتوى غير القانوني وحجم الخدمة.
يبدو أن الهيئة التنظيمية تتحرك بحذر نسبيًا في الاضطلاع بمسؤولياتها الجديدة، حيث تشير مسودة القانون الخاص بالمحتوى غير القانوني في كثير من الأحيان إلى نقص البيانات أو الأدلة لتبرير القرارات الأولية لحظر المحتوى غير القانوني. لا التوصية بأنواع معينة من وسائل تخفيف المخاطر – مثل عدم اقتراح Ofcom لمطابقة التجزئة لاكتشاف محتوى الإرهاب؛ ولا التوصية باستخدام الذكاء الاصطناعي للكشف عن محتوى غير قانوني لم يكن معروفًا من قبل.
على الرغم من أنها تشير إلى أن مثل هذه القرارات يمكن أن تتغير في المستقبل مع جمع المزيد من الأدلة (وبلا شك، مع تغير التقنيات المتاحة).
كما أنها تعترف بحداثة المسعى، أي محاولة تنظيم شيء شامل وذاتي مثل السلامة/الضرر عبر الإنترنت، قائلة إنها تريد أن تكون رموزها الأولى أساسًا تبني عليه، بما في ذلك من خلال عملية مراجعة منتظمة – مما يشير إلى أن التوجيهات سوف التحول والتطور مع نضوج عملية الرقابة.
“مع إدراك أننا نعمل على تطوير مجموعة جديدة ومبتكرة من اللوائح التنظيمية لقطاع دون تنظيم مباشر سابق من هذا النوع، وأن قاعدة الأدلة الحالية لدينا محدودة حاليًا في بعض المجالات، فإن هذه القواعد الأولى تمثل أساسًا يمكن البناء عليه، من خلال كل من “التكرارات اللاحقة لمدوناتنا ومشاورتنا القادمة بشأن حماية الأطفال”، كتبت Ofcom. “وفي هذا السياق، تتضمن قواعدنا المقترحة الأولى تدابير تهدف إلى الحوكمة السليمة والمساءلة عن السلامة عبر الإنترنت، والتي تهدف إلى دمج ثقافة السلامة في التصميم التنظيمي وتكرار أنظمة وعمليات السلامة وتحسينها بمرور الوقت.”
بشكل عام، تبدو هذه الخطوة الأولى من التوصيات غير مثيرة للجدل إلى حد معقول – على سبيل المثال، تميل Ofcom نحو التوصية بأن جميع خدمات U2U يجب أن يكون لديها “أنظمة أو عمليات مصممة لإزالة المحتوى غير القانوني الذي تكون على علم به بسرعة” (لاحظ التحذيرات)؛ في حين يتم تقديم خدمات U2U “متعددة المخاطر” و/أو “الكبيرة” بقائمة أكثر شمولاً وتحديدًا من المتطلبات التي تهدف إلى ضمان أن يكون لديها نظام فعال وموارد كافية لإدارة المحتوى.
هناك اقتراح آخر تتشاور بشأنه وهو أن جميع خدمات البحث العامة يجب أن تضمن إلغاء فهرسة عناوين URL التي تم تحديدها على أنها تستضيف CSAM. لكنها لا تجعل التوصية رسمية بحظر المستخدمين الذين يشاركون مواد CSAM حتى الآن – مشيرة إلى نقص الأدلة (وسياسات النظام الأساسي الحالية غير المتسقة بشأن حظر المستخدم) لعدم اقتراح ذلك في هذه المرحلة. على الرغم من أن المسودة تقول إنها “تهدف إلى استكشاف توصية حول حظر المستخدم المتعلق بـ CSAM في أوائل العام المقبل”.
تقترح Ofcom أيضًا أن الخدمات التي يتم تحديدها على أنها متوسطة أو عالية الخطورة يجب أن تزود المستخدمين بأدوات تسمح لهم بحظر أو كتم الحسابات الأخرى على الخدمة. (وهو ما ينبغي أن يكون غير مثير للجدل بالنسبة للجميع تقريبًا – ربما باستثناء مالك شركة X، إيلون ماسك.)
كما أنها تبتعد أيضًا عن التوصية بتقنيات معينة أكثر تجريبية و/أو غير دقيقة (و/أو تدخلية) – لذلك في حين أنها توصي بأن تقوم خدمات أكبر و/أو ذات خطورة CSAM باكتشاف عنوان URL لالتقاط الروابط إلى مواقع CSAM المعروفة وحظرها، فإنها لا يقترح عليهم اكتشاف الكلمات الرئيسية لـ CSAM، على سبيل المثال.
وتشمل التوصيات الأولية الأخرى أن تعرض محركات البحث الرئيسية تحذيرات تنبؤية بشأن عمليات البحث التي قد تكون مرتبطة بـ CSAM؛ وتقديم معلومات منع الأزمات لعمليات البحث المتعلقة بالانتحار.
تقترح Ofcom أيضًا أن تستخدم الخدمات الكشف الآلي عن الكلمات الرئيسية للعثور على المنشورات المرتبطة ببيع بيانات الاعتماد المسروقة وإزالتها، مثل بطاقات الائتمان – مستهدفة الأضرار التي لا تعد ولا تحصى الناتجة عن الاحتيال عبر الإنترنت. ومع ذلك، فهي توصي بعدم استخدام نفس التقنية للكشف عن عمليات الاحتيال الخاصة بالترويج المالي على وجه التحديد، حيث إنها تشعر بالقلق من أن هذا قد يؤدي إلى التقاط الكثير من المحتوى المشروع (مثل المحتوى الترويجي للاستثمارات المالية الحقيقية).
يجب على مراقبي الخصوصية والأمن أن يتنفسوا الصعداء عند قراءة مسودة التوجيه حيث يبدو أن Ofcom تبتعد عن العنصر الأكثر إثارة للجدل في OSA – أي تأثيره المحتمل على التشفير الشامل (E2EE).
لقد كان هذا سببًا رئيسيًا للخلاف مع تشريعات السلامة عبر الإنترنت في المملكة المتحدة، مع معارضة كبيرة – بما في ذلك من عدد من عمالقة التكنولوجيا وشركات المراسلة الآمنة. ولكن على الرغم من الانتقادات العامة الصاخبة، لم تقم الحكومة بتعديل مشروع القانون لإزالة E2EE من نطاق إجراءات اكتشاف CSAM – وبدلاً من ذلك قدم أحد الوزراء ضمانًا شفهيًا، قرب نهاية إقرار مشروع القانون عبر البرلمان، قائلاً إنه لا يمكن مطالبة Ofcom بإصدار أمر المسح ما لم تكن هناك “التكنولوجيا المناسبة”.
في مسودة الكود، تتجنب توصية Ofcom بأن تستخدم الخدمات الأكبر والأكثر خطورة تقنية تسمى مطابقة التجزئة لاكتشاف CSAM الجدل لأنها تنطبق فقط “فيما يتعلق بالمحتوى الذي يتم إرساله علانية على U2U [user-to-user] الخدمات، حيثما يكون تنفيذها ممكنًا من الناحية الفنية” (التأكيد عليه).
وينص القانون أيضًا على أنه “تماشيًا مع القيود الواردة في القانون، فإنها لا تنطبق على الاتصالات الخاصة أو الاتصالات المشفرة من طرف إلى طرف”.
ستقوم Ofcom الآن بالتشاور بشأن مسودة الرموز التي تم إصدارها اليوم، ودعوة التعليقات على مقترحاتها.
لن يتم الانتهاء من إرشاداتها للشركات الرقمية حول كيفية التخفيف من مخاطر المحتوى غير القانوني حتى الخريف المقبل – ومن غير المتوقع الالتزام بهذه العناصر إلا بعد ثلاثة أشهر على الأقل. لذلك هناك فترة تمهيدية سخية إلى حد ما من أجل منح الخدمات والمنصات الرقمية الوقت للتكيف مع النظام الجديد.
ومن الواضح أيضًا أن تأثير القانون سيكون متدرجًا حيث تقوم Ofcom بالمزيد من هذا “التظليل” لتفاصيل محددة (وعند تقديم أي تشريع ثانوي مطلوب).
على الرغم من أن بعض عناصر OSA – مثل إشعارات المعلومات التي يمكن لـ Ofcom إصدارها بشأن الخدمة داخل النطاق – هي بالفعل واجبات قابلة للتنفيذ. والخدمات التي لا تلتزم بإشعارات معلومات Ofcom يمكن أن تواجه عقوبات.
يوجد أيضًا إطار زمني محدد في OSA للخدمات داخل النطاق لإجراء أول تقييم للمخاطر على الأطفال، وهي خطوة أساسية ستساعد في تحديد نوع عمليات التخفيف التي قد يحتاجون إلى تنفيذها. لذا، هناك الكثير من العمل الذي يجب على الشركات الرقمية القيام به بالفعل لتمهيد الطريق للنظام الكامل القادم.
وقال متحدث باسم Ofcom لـ TechCrunch: “نريد أن نرى الخدمات تتخذ إجراءات لحماية الأشخاص في أقرب وقت ممكن، ولا نرى أي سبب يدفعهم إلى تأخير اتخاذ الإجراءات”. “نعتقد أن مقترحاتنا اليوم تمثل مجموعة جيدة من الخطوات العملية التي يمكن أن تتخذها الخدمات لتحسين سلامة المستخدم. ومع ذلك، فإننا نتشاور بشأن هذه المقترحات ونلاحظ أنه من الممكن أن تتغير بعض عناصرها استجابة للأدلة المقدمة خلال عملية التشاور.
وردًا على سؤال حول كيفية تحديد مخاطر الخدمة، قال المتحدث: “ستحدد Ofcom الخدمات التي نشرف عليها، بناءً على وجهة نظرنا الخاصة حول حجم قاعدة مستخدميها والمخاطر المحتملة المرتبطة بوظائفها ونموذج أعمالها”. لقد قلنا أننا سنبلغ هذه الخدمات خلال أول 100 يوم بعد الموافقة الملكية، وسنبقي ذلك أيضًا قيد المراجعة مع تطور فهمنا للصناعة وتوافر أدلة جديدة.
وفيما يتعلق بالجدول الزمني لرمز المحتوى غير القانوني، أخبرتنا الهيئة التنظيمية أيضًا: “بعد الانتهاء من وضع القواعد الخاصة بنا في بياننا التنظيمي (المقرر حاليًا في الخريف المقبل، مع مراعاة الردود التشاورية)، سنقدمها إلى وزير الخارجية لوضعها في البرلمان. ستدخل حيز التنفيذ بعد 21 يومًا من مرورها عبر البرلمان وسنكون قادرين على اتخاذ إجراءات التنفيذ منذ ذلك الحين ونتوقع أن تبدأ الخدمات في اتخاذ الإجراءات اللازمة للامتثال لها في موعد لا يتجاوز ذلك الحين. ومع ذلك، قد يستغرق تنفيذ بعض إجراءات التخفيف بعض الوقت. سوف نتبع نهجًا معقولًا ومتناسبًا تجاه القرارات المتعلقة بموعد اتخاذ إجراءات الإنفاذ مع مراعاة القيود العملية التي تضع إجراءات التخفيف.
وكتبت Ofcom أيضًا في المشاورة: “سوف نتبع نهجًا معقولًا ومتناسبًا في ممارسة سلطاتنا التنفيذية، بما يتماشى مع نهجنا العام في التنفيذ والاعتراف بالتحديات التي تواجه الخدمات أثناء تكيفها مع واجباتها الجديدة”.
“بالنسبة للمحتوى غير القانوني وواجبات سلامة الأطفال، نتوقع إعطاء الأولوية فقط للانتهاكات الخطيرة لإجراءات الإنفاذ في المراحل المبكرة جدًا من النظام، للسماح للخدمات بفرصة معقولة للامتثال. على سبيل المثال، قد يشمل ذلك الحالات التي يبدو فيها أن هناك خطرًا كبيرًا جدًا بحدوث ضرر جسيم ومستمر للمستخدمين في المملكة المتحدة، وللأطفال على وجه الخصوص. وبينما سننظر في ما هو معقول على أساس كل حالة على حدة، يجب أن تتوقع جميع الخدمات الالتزام الكامل في غضون ستة أشهر من دخول واجب السلامة ذي الصلة حيز التنفيذ.
