يتخذ موقع YouTube إجراءات صارمة ضد المحتوى الذي ينشئه الذكاء الاصطناعي والذي “يحاكي بشكل واقعي” الأطفال المتوفين أو ضحايا الجرائم

يقوم موقع YouTube بتحديث سياسات المضايقات والتسلط عبر الإنترنت الخاصة به لتضييق الخناق على المحتوى الذي “يحاكي بشكل واقعي” القاصرين المتوفين أو ضحايا الأحداث المميتة أو العنيفة التي تصف وفاتهم. وتقول المنصة المملوكة لشركة Google إنها ستبدأ في ضرب مثل هذا المحتوى بدءًا من 16 يناير.

يأتي تغيير السياسة في الوقت الذي يستخدم فيه بعض منشئي محتوى الجرائم الحقيقية الذكاء الاصطناعي لإعادة إنشاء صور الأطفال المتوفين أو المفقودين. في هذه الحالات المزعجة، يستخدم الناس الذكاء الاصطناعي لإعطاء هؤلاء الأطفال ضحايا القضايا البارزة “صوتًا” طفوليًا لوصف وفاتهم.

في الأشهر الأخيرة، قام منشئو المحتوى بذلك استخدم الذكاء الاصطناعي لسرد العديد من الحالات البارزة بما في ذلك اختطاف ومقتل الطفل البريطاني جيمس بولجر البالغ من العمر عامين، كما ذكرت صحيفة The Guardian. واشنطن بوست. هناك أيضًا روايات مماثلة لمنظمة العفو الدولية حول مادلين ماكان، طفلة بريطانية تبلغ من العمر ثلاث سنوات اختفت من أحد المنتجعات، و غابرييل فرنانديز، صبي يبلغ من العمر ثماني سنوات للتعذيب وقتل على يد والدته وصديقها في كاليفورنيا.

سيقوم YouTube بإزالة المحتوى الذي ينتهك السياسات الجديدة، ولن يتمكن المستخدمون الذين يتلقون مخالفة من تحميل مقاطع الفيديو أو البث المباشر أو القصص لمدة أسبوع واحد. وبعد ثلاث مخالفات، ستتم إزالة قناة المستخدم نهائيًا من YouTube.

وتأتي التغييرات الجديدة بعد شهرين تقريبًا من تقديم يوتيوب لسياسات جديدة تحيط بالإفصاح المسؤول عن محتوى الذكاء الاصطناعي، إلى جانب أدوات جديدة لطلب إزالة التزييف العميق. يتطلب أحد التغييرات من المستخدمين الكشف عن الوقت الذي قاموا فيه بإنشاء محتوى معدل أو اصطناعي يبدو واقعيًا. وحذرت الشركة من أن المستخدمين الذين فشلوا في الكشف بشكل صحيح عن استخدامهم للذكاء الاصطناعي سيخضعون “لإزالة المحتوى، أو التعليق من برنامج شركاء YouTube، أو عقوبات أخرى”.

بالإضافة إلى ذلك، أشار يوتيوب في ذلك الوقت إلى أنه قد تتم إزالة بعض محتوى الذكاء الاصطناعي إذا تم استخدامه لإظهار “عنف واقعي”، حتى لو تم تصنيفه.

في سبتمبر 2023، أطلقت TikTok أداة للسماح للمبدعين بتسمية المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بعد أن قام تطبيق التواصل الاجتماعي بتحديث إرشاداته لمطالبة المبدعين بالكشف عن وقت نشر الوسائط الاصطناعية أو التي تم التلاعب بها والتي تعرض مشاهد واقعية. تسمح سياسة TikTok بإزالة صور الذكاء الاصطناعي الواقعية التي لم يتم الكشف عنها.