تم تغريم TikTok في إيطاليا بعد أن أدى تحدي “الندبة الفرنسية” إلى التحقيق في سلامة المستهلك

فرضت هيئة المنافسة والمستهلك الإيطالية، AGCM، غرامة قدرها 10 ملايين يورو (حوالي 11 مليون دولار) على TikTok بعد تحقيق في مخاوف تتعلق بالسلامة الخوارزمية.

وفتحت الهيئة تحقيقا العام الماضي في ما يسمى بتحدي “الندبة الفرنسية” حيث ورد أن مستخدمي المنصة شاركوا مقاطع فيديو لعلامات على وجوههم تم إجراؤها عن طريق قرص جلدهم.

وفي بيان صحفي يوم الخميس، قال AGCM إن ثلاث شركات إقليمية في مجموعة ByteDance، وهي TikTok Technology Limited ومقرها أيرلندا، وTikTok Information Technologies UK Limited وTikTok Italy Srl، قد تم فرض عقوبات عليها بسبب ما تم تلخيصه على أنه “ممارسة تجارية غير عادلة”.

“لقد فشلت الشركة في تنفيذ الآليات المناسبة لمراقبة المحتوى المنشور على المنصة، وخاصة تلك التي قد تهدد سلامة القاصرين والأفراد الضعفاء. علاوة على ذلك، يتم إعادة اقتراح هذا المحتوى بشكل منهجي للمستخدمين نتيجة لتصنيفهم الخوارزمي، مما يحفز الاستخدام المتزايد باستمرار للشبكة الاجتماعية.

وقالت الهيئة إن تحقيقاتها أكدت مسؤولية TikTok في نشر محتوى “من المحتمل أن يهدد السلامة النفسية والجسدية للمستخدمين، خاصة إذا كانوا قاصرين وضعفاء”، مثل مقاطع الفيديو المتعلقة بتحدي “الندبة الفرنسية”. ووجدت أيضًا أن المنصة لم تتخذ الإجراءات الكافية لمنع انتشار مثل هذا المحتوى وقالت إنها فشلت في الامتثال الكامل لإرشادات النظام الأساسي الخاصة بها.

انتقد AGCM أيضًا كيفية تطبيق TikTok للمبادئ التوجيهية – التي يقول إنها يتم تطبيقها “دون مراعاة نقاط الضعف المحددة لدى المراهقين بشكل مناسب”. وأشارت، على سبيل المثال، إلى أن أدمغة المراهقين لا تزال في طور النمو وأن الشباب قد يكونون معرضين للخطر بشكل خاص لأنهم يمكن أن يكونوا عرضة لضغط الأقران لمحاكاة سلوك المجموعة لمحاولة التأقلم اجتماعيا.

وتسلط ملاحظات الهيئة الضوء بشكل خاص على دور نظام توصيات TikTok في نشر محتوى “يحتمل أن يكون خطيرًا”، مشيرة إلى حافز النظام الأساسي لزيادة المشاركة وزيادة تفاعلات المستخدم والوقت الذي يقضيه في الخدمة لتعزيز إيرادات الإعلانات. يقوم النظام بتشغيل خلاصات “For You” و”Followed” الخاصة بـ TikTok، ويعتمد افتراضيًا على التصنيف الخوارزمي للمستخدمين، وتتبع نشاطهم الرقمي لتحديد المحتوى الذي سيتم عرضه لهم.

“يتسبب هذا في تكييف غير مبرر للمستخدمين الذين يتم تحفيزهم لاستخدام المنصة بشكل متزايد،” اقترح AGCM في ملاحظة أخرى جديرة بالملاحظة لكونها تنتقد المشاركة المدفوعة بموجزات المحتوى القائمة على ملفات التعريف.

لقد تواصلنا مع السلطة مع الأسئلة. لكن تقييمها السلبي لمخاطر التنميط الخوارزمي يبدو مثيرا للاهتمام في ضوء الدعوات المتجددة من قبل بعض المشرعين في أوروبا لإيقاف خلاصات المحتوى القائمة على التنميط بشكل افتراضي.

تجادل مجموعات المجتمع المدني، مثل ICCL، أيضًا بأن هذا من شأنه أن يغلق صنبور الغضب الذي تستثمره منصات وسائل التواصل الاجتماعي الممولة بالإعلانات من خلال أنظمة التوصية التي تركز على المشاركة والتي لها تأثير ثانوي في تضخيم الانقسام وتقويض التماسك المجتمعي من أجل الربح.

يعترض TikTok على قرار AGCM بإصدار عقوبة.

سعت المنصة في بيان لها إلى التقليل من تقييمها للمخاطر الخوارزمية التي يتعرض لها القُصّر والأفراد الضعفاء من خلال تأطير التدخل على أنه مرتبط بتحدي واحد مثير للجدل ولكنه صغير النطاق. إليك ما أخبرنا به TikTok:

نحن لا نتفق مع هذا القرار. بلغ متوسط ​​ما يسمى بمحتوى “الندبة الفرنسية” 100 عملية بحث يومية فقط في إيطاليا قبل إعلان AGCM العام الماضي، وقد قمنا منذ فترة طويلة بتقييد رؤية هذا المحتوى على الأشخاص تحت 18 عامًا، وجعلناه أيضًا غير مؤهل لخلاصة For You.

في حين أن التنفيذ الإيطالي يقتصر على دولة واحدة عضو في الاتحاد الأوروبي، فإن المفوضية الأوروبية مسؤولة عن الإشراف على امتثال TikTok لأحكام المساءلة الخوارزمية والشفافية في قانون الخدمات الرقمية لعموم الاتحاد الأوروبي (DSA) – حيث يمكن أن تصل عقوبات عدم الامتثال إلى 6 عقوبات. % من حجم الأعمال السنوي العالمي. تم تصنيف TikTok كمنصة كبيرة جدًا بموجب DSA في أبريل من العام الماضي، ومن المتوقع الامتثال بحلول أواخر الصيف.

أحد التغييرات الملحوظة نتيجة DSA هو أن TikTok يقدم للمستخدمين خلاصات لا تعتمد على ملفات التعريف. ومع ذلك، يتم إيقاف تشغيل هذه الخلاصات البديلة افتراضيًا، مما يعني أن المستخدمين يظلون خاضعين للتتبع والتوصيف القائم على الذكاء الاصطناعي ما لم يتخذوا الإجراء بأنفسهم لإيقاف تشغيلها.

وفي الشهر الماضي، فتح الاتحاد الأوروبي تحقيقًا رسميًا في TikTok، مشيرًا إلى التصميم الذي يسبب الإدمان والمحتوى الضار وحماية القاصرين من بين مجالات تركيزه. ولا يزال هذا الإجراء مستمرا.

وقالت TikTok إنها تتطلع إلى فرصة تزويد اللجنة بشرح مفصل لنهجها في حماية القاصرين.

ومع ذلك، كان لدى الشركة عدد من الخلافات السابقة مع جهات التنفيذ الإقليمية المعنية بسلامة الأطفال في السنوات الأخيرة، بما في ذلك التدخل لحماية الطفل من قبل هيئة حماية البيانات الإيطالية؛ غرامة قدرها 345 مليون يورو في الخريف الماضي بسبب فشل حماية البيانات المتعلقة بالقاصرين أيضًا؛ والشكاوى طويلة الأمد من مجموعات حماية المستهلك التي تشعر بالقلق بشأن السلامة البسيطة والتنميط.

تواجه TikTok أيضًا إمكانية زيادة التنظيم من قبل الوكالات على مستوى الدول الأعضاء التي تطبق توجيهات خدمات الوسائط السمعية والبصرية الخاصة بالكتلة. مثل أيرلندا Coimisiún na Meán التي كانت تفكر في تطبيق القواعد على منصات مشاركة الفيديو التي قد تتطلب إيقاف تشغيل خوارزميات التوصية المستندة إلى ملفات التعريف افتراضيًا.

الصورة ليست أكثر إشراقًا بالنسبة للمنصة في الولايات المتحدة أيضًا، حيث اقترح المشرعون للتو مشروع قانون لحظر TikTok ما لم تقطع العلاقات مع الشركة الأم الصينية ByteDance، مشيرين إلى الأمن القومي وإمكانية تتبع المنصة وتوصيف المستخدمين لتوفير المعلومات. طريق لحكومة أجنبية للتلاعب بالأمريكيين.