يثير برنامج الدردشة الآلي الخاص بشركة Snap Snap التدقيق في المملكة المتحدة بشأن مخاوف خصوصية الأطفال

لقد وضع برنامج الدردشة الآلي الخاص بشركة Snap، الشركة على رادار هيئة مراقبة حماية البيانات في المملكة المتحدة، مما أثار مخاوف من أن الأداة قد تشكل خطراً على خصوصية الأطفال.

أعلن مكتب مفوض المعلومات (ICO) اليوم أنه أصدر إشعارًا تنفيذيًا أوليًا بشأن شركة Snap بشأن ما وصفه بـ “الفشل المحتمل في تقييم مخاطر الخصوصية التي يشكلها برنامج الدردشة الآلي المولد بتقنية الذكاء الاصطناعي “My AI” بشكل صحيح”.

إن إجراء ICO ليس اكتشافًا للانتهاك. لكن الإشعار يشير إلى أن الجهة التنظيمية في المملكة المتحدة لديها مخاوف من أن Snap ربما لم تتخذ خطوات لضمان امتثال المنتج لقواعد حماية البيانات، والتي – منذ عام 2021 – تم طلبها لتشمل رمز تصميم الأطفال.

وكتبت الهيئة التنظيمية في بيان صحفي: “توصل تحقيق ICO مؤقتًا إلى أن تقييم المخاطر الذي أجرته شركة Snap قبل إطلاق My AI لم يقيم بشكل مناسب مخاطر حماية البيانات التي تشكلها تكنولوجيا الذكاء الاصطناعي التوليدية، وخاصة بالنسبة للأطفال”. “إن تقييم مخاطر حماية البيانات له أهمية خاصة في هذا السياق الذي يتضمن استخدام التكنولوجيا المبتكرة ومعالجة البيانات الشخصية للأطفال الذين تتراوح أعمارهم بين 13 إلى 17 عامًا.”

ستتاح لشركة Snap الآن فرصة للرد على مخاوف الجهة التنظيمية قبل أن يتخذ ICO قرارًا نهائيًا بشأن ما إذا كانت الشركة قد خرقت القواعد.

وأضاف مفوض المعلومات، جون إدواردز، في بيان: “تشير النتائج الأولية لتحقيقنا إلى فشل مثير للقلق من جانب شركة Snap في تحديد وتقييم مخاطر الخصوصية للأطفال والمستخدمين الآخرين بشكل مناسب قبل إطلاق My AI”. “لقد أوضحنا أنه يجب على المؤسسات أن تأخذ في الاعتبار المخاطر المرتبطة بالذكاء الاصطناعي، إلى جانب الفوائد. يُظهر إشعار التنفيذ الأولي اليوم أننا سنتخذ إجراءات لحماية حقوق الخصوصية للمستهلكين في المملكة المتحدة.

أطلقت شركة Snap روبوت المحادثة المولد بالذكاء الاصطناعي في فبراير – على الرغم من أنه لم يصل إلى المملكة المتحدة حتى أبريل – مستفيدة من تقنية نموذج اللغة الكبيرة ChatGPT الخاصة بـ OpenAI لتشغيل روبوت تم تثبيته في الجزء العلوي من موجز المستخدمين ليكون بمثابة صديق افتراضي يمكن طلب النصيحة أو إرسال اللقطات.

في البداية، كانت الميزة متاحة فقط لمشتركي Snapchat+، وهو إصدار متميز من منصة المراسلة المؤقتة. ولكن بسرعة كبيرة، فتح Snap إمكانية الوصول إلى “My AI” للمستخدمين المجانيين أيضًا – مما أضاف أيضًا قدرة الذكاء الاصطناعي على إرسال اللقطات مرة أخرى إلى المستخدمين الذين تفاعلوا معها (يتم إنشاء هذه اللقطات باستخدام الذكاء الاصطناعي التوليدي).

وقالت الشركة إن برنامج الدردشة الآلي تم تطويره بميزات إضافية للإشراف والحماية، بما في ذلك اعتبار العمر كإعداد افتراضي – بهدف ضمان أن المحتوى الذي تم إنشاؤه مناسب للمستخدم. تمت برمجة الروبوت أيضًا لتجنب الاستجابات العنيفة أو البغيضة أو الجنسية الصريحة أو المسيئة بأي شكل من الأشكال. بالإضافة إلى ذلك، تتيح أدوات الحماية الأبوية من Snap للآباء معرفة ما إذا كان أطفالهم يتواصلون مع الروبوت في الأيام السبعة الماضية – عبر ميزة Family Center.

ولكن على الرغم من حواجز الحماية المزعومة، فقد وردت تقارير عن خروج الروبوت عن القضبان. في تقييم مبكر في شهر مارس، ذكرت صحيفة واشنطن بوست أن برنامج الدردشة الآلي أوصى بطرق لإخفاء رائحة الكحول بعد أن قيل له أن المستخدم يبلغ من العمر 15 عامًا. وفي حالة أخرى، عندما تم إخبار المستخدم أن المستخدم يبلغ من العمر 13 عامًا وتم سؤاله عن كيفية الاستعداد لممارسة الجنس لأول مرة، استجاب الروبوت باقتراحات “لجعل الأمر مميزًا” من خلال ضبط الحالة المزاجية بالشموع والموسيقى.

تم الإبلاغ أيضًا عن قيام مستخدمي Snapchat بالتنمر على الروبوت – مع إحباط البعض أيضًا من حقن الذكاء الاصطناعي في خلاصاتهم في المقام الأول.

تم الوصول للتعليق على إشعار ICO، وقال متحدث باسم Snap لـ TechCrunch:

نحن نراجع عن كثب القرار المؤقت لـ ICO. مثل ICO، نحن ملتزمون بحماية خصوصية مستخدمينا. تماشيًا مع نهجنا القياسي في تطوير المنتجات، خضع My AI لعملية مراجعة قانونية ومراجعة خصوصية قوية قبل إتاحته للجمهور. سنواصل العمل بشكل بناء مع ICO للتأكد من أنهم مرتاحون لإجراءات تقييم المخاطر لدينا.

ليست هذه هي المرة الأولى التي يتم فيها وضع برنامج chatbot يعمل بالذكاء الاصطناعي على رادار منظمي الخصوصية الأوروبيين. في فبراير إيطاليا جارانت أمرت شركة Replika، التي تتخذ من سان فرانسيسكو مقرًا لها، بتقديم “خدمة الصداقة الافتراضية” بأمر بالتوقف عن معالجة بيانات المستخدمين المحليين – مشيرة أيضًا إلى المخاوف بشأن المخاطر التي يتعرض لها القُصَّر.

كما أصدرت السلطات الإيطالية أيضًا أمرًا مماثلاً بإيقاف المعالجة على أداة ChatGPT الخاصة بشركة OpenAI في الشهر التالي. تم رفع الحظر بعد ذلك في أبريل، ولكن فقط بعد أن أضافت OpenAI إفصاحات خصوصية أكثر تفصيلاً وبعض عناصر التحكم الجديدة للمستخدم – بما في ذلك السماح للمستخدمين بطلب عدم استخدام بياناتهم لتدريب الذكاء الاصطناعي الخاص بها و/أو حذفها.

كما تم تأجيل الإطلاق الإقليمي لبرنامج Bard chatbot من Google بعد أن أثارت مخاوف من قبل منظم الخصوصية الإقليمي الرئيسي، لجنة حماية البيانات الأيرلندية. تم إطلاقه لاحقًا في الاتحاد الأوروبي في يوليو، أيضًا بعد إضافة المزيد من الإفصاحات والضوابط – لكن فريق العمل التنظيمي الذي تم تشكيله داخل المجلس الأوروبي لحماية البيانات لا يزال يركز على تقييم كيفية تطبيق اللائحة العامة لحماية البيانات (GDPR) للكتلة على روبوتات الدردشة المولدة للذكاء الاصطناعي. بما في ذلك ChatGPT وBard.

وأكدت هيئة حماية البيانات البولندية الشهر الماضي أيضًا أنها تحقق في شكوى ضد ChatGPT.