برنامج Jigsaw من Google مفتوح المصدر لمساعدة منصات الإنترنت على التخلص من المحتوى المتطرف
قامت شركة Jigsaw التابعة لشركة Google بفتح المصدر لأداة لمكافحة الإرهاب مصممة لمساعدة الشركات الصغيرة على معالجة المحتوى المتطرف الذي يتم مشاركته عبر منصاتها عبر الإنترنت.
في حين أن معظم شركات التكنولوجيا الكبرى بما في ذلك Meta وX وGoogle نفسها على دراية جيدة بإدارة المحتوى للتخلص من المحتوى غير القانوني أو السام، فإن الموارد المطلوبة للقيام بذلك تتجاوز إمكانيات العديد من الشركات الرقمية الصغيرة. وهذا يمثل مشكلة بشكل خاص في الوقت الذي وضعت فيه تشريعات مثل قانون الخدمات الرقمية الأوروبي (DSA) وقواعد المحتوى الخاصة بالإرهاب، الشركات تحت ضغوط متزايدة لإزالة المحتوى غير المشروع بعد التسرع.
تركز Jigsaw، المعروفة سابقًا باسم Google Ideas قبل تغيير علامتها التجارية في عام 2016، على تطوير وتجربة منتجات جديدة تعالج القضايا المجتمعية مثل المعلومات المضللة والرقابة وانتشار المحتوى السام والمتطرف عبر الإنترنت. في نوفمبر الماضي، أعلنت شركة Jigsaw عن أداة جديدة للإشراف على المحتوى عبر الإنترنت تسمى Altitude، والتي تساعد المشرفين على التحقق مما إذا كان المحتوى الموجود على منصاتهم يتطابق مع المحتوى الذي تم وضع علامة عليه في قواعد بيانات الطرف الثالث، بدلاً من الاضطرار إلى التحقق من كل مصدر على حدة.
تم تطوير Altitude بالشراكة مع Tech against Terrorism، وهي مبادرة أطلقتها المديرية التنفيذية للجنة مكافحة الإرهاب التابعة للأمم المتحدة (CTED) في عام 2017. تتمثل مهمة التكنولوجيا ضد الإرهاب في دعم صناعة التكنولوجيا في تطوير أدوات أكثر فعالية لمعالجة استخدام الإرهابيين للإنترنت لنشر المحتوى الضار. وتم تطوير الأداة أيضًا بالشراكة مع منتدى الإنترنت العالمي لمكافحة الإرهاب (GIFCT) الذي تقوده الصناعة، والذي يضم معظم شركات التكنولوجيا الكبرى كأعضاء.
وبعد مرور تسعة أشهر، تقوم شركة Jigsaw الآن بتسليم Altitude رسميًا إلى شركة Tech against Terrorism، التي ستواصل تطويرها وصيانتها. الكود متاح الآن أيضًا على GitHub بموجب ترخيص Apache 2.0، مما يعني أن الشركات قادرة على استضافة الأداة ذاتيًا، ويمكن للأطراف الثالثة فحص الكود.
كيف يعمل الارتفاع
يعتمد Altitude على مصادر البيانات “الموثوقة” التي توفرها أمثال GIFCT، التي يجمع أعضاؤها معلومات الملكية الخاصة بهم بغرض تشغيل أدوات الإشراف الآلي على المحتوى (مثل Altitude)، بالإضافة إلى منصة تحليلات المحتوى الإرهابي الخاصة بشركة Tech against Terrorism، وهي قاعدة بيانات. المحتوى الإرهابي الذي تم التحقق منه في الوقت الحقيقي. تحدد المصادر الموثوقة هذا النوع من المحتوى وتضع علامة عليه باستخدام طرقها الخاصة.
من خلال التحويل إلى قواعد البيانات هذه، تقوم Altitude بدمج ما تسميه “المحتوى المتطرف الإرهابي والعنيف” (TVEC) في عرض واحد، مع قدرة المشرفين على عرض المحتوى ومراجعته وإزالته بسرعة والالتزام بالتزاماتهم بموجب أي ولاية قضائية يعملون ضمنها. تجدر الإشارة إلى أنه لا تتم إزالة أي محتوى تلقائيًا، بل يتعلق الأمر كله بالإبلاغ عن المحتوى المتطرف المحتمل وتقديم تنبيهات ليقوم البشر بتقييمه.
لم تكشف Jigsaw أو Tech against Terrorism عن أي من المنصات التي استخدمت Altitude خلال فترة الاختبار الأولية، ولكن أنواع التطبيقات التي من المرجح أن تستخدمها تشمل تطبيقات المراسلة، وخدمات تقصير عناوين URL، ومواقع استضافة الفيديو، والمنتديات عبر الإنترنت. والشبكات الاجتماعية، وpastebins.
كتب Jigsaw في تدوينة يوم الاثنين:
على مدار عام، أجرت Jigsaw مقابلات مع المؤسسين وقادة الثقة والسلامة ومراجعي محتوى TVEC في أحد عشر منصة، تتراوح أحجامها. وتضمنت المنصات منصات مشاركة الصور ومواقع التواصل الاجتماعي وخدمات اختصار عناوين URL ومواقع تخزين الملفات والنصوص. لقد وجدنا أن المنصات موجودة على نطاق واسع من الموارد والجاهزية لإدارة TVEC، وأن هذا المستوى من الاستعداد لم يكن مرتبطًا بشكل دقيق بحجم المؤسسة أو قاعدة المستخدمين. حتى الخدمات الناضجة نسبيًا لا تزال تفتقر في بعض الأحيان إلى إشارات لتحديد الأضرار على منصتها بشكل استباقي. لقد رأينا أيضًا أنه على الرغم من أنهم قد يفضلون في النهاية دمج جميع الأدوات في منصة داخلية، إلا أن واجهة منفصلة للأضرار المخصصة يمكن أن توفر طريقة للبدء في بيئة تعاني من نقص الموارد.
وباعتباره مشروعًا مفتوح المصدر، يمكن لأي شركة دمج Altitude في منصاتها الخاصة، أو يمكنها العمل مع Tech against Terrorism للوصول إلى “دعم الإعداد المخصص”.
في المستقبل، تقول شركتا Jigsaw وTech against Terrorism إنهما قد تضيفان “قواعد بيانات متخصصة” إلى مصادر البيانات في المستقبل، وتخططان لتوسيع الأداة إلى ما هو أبعد من اللغة الإنجليزية.
