يعمل تحديث سياسة Google Play على اتخاذ إجراءات صارمة ضد تطبيقات الذكاء الاصطناعي “الهجومية” والإشعارات التخريبية

تستهدف Google تطبيقات الذكاء الاصطناعي التي قد تسبب مشكلات من خلال سياسة جديدة، سيتم تطبيقها بدءًا من أوائل العام المقبل، والتي ستتطلب من مطوري تطبيقات Android المنشورة على متجر Play الخاص بها تقديم القدرة على الإبلاغ عن المحتوى المسيء الذي تم إنشاؤه بواسطة الذكاء الاصطناعي أو الإبلاغ عنه. وتقول الشركة إن السياسة الجديدة ستصر على أن الإبلاغ وإعداد التقارير يمكن أن يتم داخل التطبيق، ويجب على المطورين استخدام التقرير لإرشاد أساليبهم الخاصة في التصفية والإشراف.

يأتي التغيير في السياسة في أعقاب انتشار التطبيقات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، والتي قام المستخدمون في بعضها بخداع التطبيقات لإنشاء صور NSFW، كما حدث مع Lensa العام الماضي. وفي الوقت نفسه، يواجه آخرون مشكلات أكثر دقة. على سبيل المثال، تبين أن التطبيق الذي انتشر هذا الصيف لالتقاط صور للرأس باستخدام الذكاء الاصطناعي، Remini، يعمل على تحسين حجم الثدي أو فتحة الصدر لدى بعض النساء بشكل كبير، وتخفيف حجمه. ثم كانت هناك المشكلات الأحدث المتعلقة بأدوات الذكاء الاصطناعي الخاصة بشركة Microsoft وMeta، حيث وجد الأشخاص طرقًا لتجاوز حواجز الحماية لإنشاء صور مثل Sonic the Hedgehog وهي حامل أو شخصيات خيالية تقوم بأحداث 11 سبتمبر.

بالطبع، هناك مخاوف أكثر جدية بشأن استخدام مولدات صور الذكاء الاصطناعي، حيث تم اكتشاف المتحرشين بالأطفال باستخدام أدوات الذكاء الاصطناعي مفتوحة المصدر لإنشاء مواد الاعتداء الجنسي على الأطفال (CSAM) على نطاق واسع. ومع الانتخابات المقبلة، هناك أيضًا مخاوف بشأن استخدام الذكاء الاصطناعي لإنشاء صور مزيفة، تُعرف أيضًا باسم Deepfakes، لتضليل جمهور الناخبين أو تضليلهم.

يشير نص السياسة الجديدة إلى أن أمثلة المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي تتضمن “روبوتات الدردشة المولدة للذكاء الاصطناعي من نص إلى نص، حيث يعد التفاعل مع روبوت الدردشة ميزة مركزية للتطبيق”، والتي تشمل تطبيقات مثل ChatGPT، بالإضافة إلى التطبيقات التي يتم فيها إنشاء الصور بواسطة الذكاء الاصطناعي استنادًا إلى النص أو الصورة أو المطالبات الصوتية.

وذكّرت جوجل، في إعلانها، المطورين بأن جميع التطبيقات، بما في ذلك مولدات محتوى الذكاء الاصطناعي، يجب أن تمتثل لسياسات المطورين الحالية، والتي تحظر المحتوى المقيد مثل CSAM وغيرها التي تتيح السلوك الخادع.

بالإضافة إلى تغيير سياستها للقضاء على تطبيقات محتوى الذكاء الاصطناعي، تقول جوجل إن بعض أذونات التطبيقات ستتلقى أيضًا مراجعة إضافية من قبل فريق جوجل بلاي، بما في ذلك تلك التطبيقات التي تطلب أذونات واسعة النطاق للصور والفيديو. وبموجب سياستها الجديدة، لن تتمكن التطبيقات من الوصول إلى الصور ومقاطع الفيديو إلا إذا كان ذلك مرتبطًا بشكل مباشر بوظائفها. إذا كانت لديهم حاجة لمرة واحدة أو غير متكررة – مثل تطبيقات الذكاء الاصطناعي التي تطلب من المستخدمين تحميل مجموعة من صور السيلفي، ربما – تحتاج التطبيقات إلى استخدام منتقي النظام، مثل منتقي الصور الجديد لنظام Android.

اعتمادات الصورة: جوجل

ستعمل السياسة الجديدة أيضًا على قصر الإشعارات التخريبية بملء الشاشة على تلك الأوقات التي تكون فيها الحاجة ذات أولوية عالية فقط. تم إساءة استخدام القدرة على عرض إشعارات بملء الشاشة من قبل العديد من التطبيقات في محاولة لبيع المستخدمين إلى اشتراكات مدفوعة أو عروض أخرى، في حين يجب أن تقتصر الوظيفة على حالات الاستخدام ذات الأولوية في العالم الحقيقي، مثل تلقي مكالمة هاتفية أو فيديو يتصل. تقول Google إنها ستغير الآن القيود وتتطلب إذنًا خاصًا للوصول إلى التطبيق. لن يتم منح “إذن غرض ملء الشاشة” هذا إلا للتطبيقات التي تستهدف Android 14 والإصدارات الأحدث والتي تتطلب بالفعل وظيفة ملء الشاشة.

من المثير للدهشة أن نرى أن Google هي أول من خرج من البوابة بسياسة بشأن تطبيقات الذكاء الاصطناعي وروبوتات الدردشة، فتاريخيًا، كانت Apple هي التي تصدر قواعد جديدة للقضاء على السلوك غير المرغوب فيه من التطبيقات، والذي تحاكيه Google بعد ذلك. لكن Apple ليس لديها سياسة رسمية للذكاء الاصطناعي أو chatbot في إرشادات متجر التطبيقات الخاصة بها حتى الآن، على الرغم من أنها شددت في مجالات أخرى، مثل طلب التطبيقات للبيانات بغرض تحديد المستخدم أو الجهاز، وهي طريقة تعرف باسم “بصمات الأصابع”. “، وكذلك على التطبيقات التي تحاول نسخ الآخرين.

يتم طرح تحديثات سياسة Google Play اليوم، على الرغم من أن مطوري تطبيقات الذكاء الاصطناعي لديهم مهلة حتى أوائل عام 2024 لتنفيذ عملية الإبلاغ والإبلاغ عن التغييرات في تطبيقاتهم.