هيئة مراقبة حماية البيانات في المملكة المتحدة تنهي تحقيق الخصوصية الخاص ببرنامج الدردشة GenAI من Snap، لكنها تحذر الصناعة

أغلقت هيئة مراقبة حماية البيانات في المملكة المتحدة تحقيقًا استمر لمدة عام تقريبًا في برنامج الدردشة الآلي My AI التابع لشركة Snap، قائلة إنها راضية عن أن شركة وسائل التواصل الاجتماعي قد عالجت المخاوف بشأن المخاطر التي تهدد خصوصية الأطفال. وفي الوقت نفسه، أصدر مكتب مفوض المعلومات (ICO) تحذيرًا عامًا للصناعة لكي تكون استباقية بشأن تقييم المخاطر التي تهدد حقوق الأشخاص قبل طرح أدوات الذكاء الاصطناعي التوليدية في السوق.

يشير GenAI إلى نكهة الذكاء الاصطناعي التي غالبًا ما تكون في المقدمة لإنشاء المحتوى. في حالة Snap، تعمل التقنية على تشغيل برنامج الدردشة الآلي الذي يمكنه الاستجابة للمستخدمين بطريقة تشبه الإنسان، مثل إرسال رسائل نصية ولقطات، مما يمكّن النظام الأساسي من توفير التفاعل الآلي.

يتم تشغيل Chatbot AI من Snap بواسطة ChatGPT من OpenAI، لكن شركة التواصل الاجتماعي تقول إنها تطبق ضمانات مختلفة على التطبيق، بما في ذلك البرمجة التوجيهية ومراعاة العمر افتراضيًا، والتي تهدف إلى منع الأطفال من رؤية محتوى غير مناسب للعمر. كما أنه يخبز في الضوابط الأبوية.

كتب ستيفن ألموند، المدير التنفيذي للمخاطر التنظيمية في ICO، في بيان يوم الثلاثاء: “إن تحقيقنا في My AI يجب أن يكون بمثابة طلقة تحذيرية للصناعة”. “يجب على المؤسسات التي تطور أو تستخدم الذكاء الاصطناعي التوليدي أن تأخذ بعين الاعتبار حماية البيانات منذ البداية، بما في ذلك التقييم الدقيق للمخاطر التي تهدد حقوق الأشخاص وحرياتهم وتخفيفها قبل طرح المنتجات في السوق.”

وأضاف: “سنواصل مراقبة تقييمات المخاطر الخاصة بالمنظمات واستخدام النطاق الكامل لسلطاتنا التنفيذية – بما في ذلك الغرامات – لحماية الجمهور من الأذى”.

في أكتوبر الماضي، أرسل الطرح الأولي للعملة (ICO) إلى شركة Snap إشعارًا تنفيذيًا أوليًا بشأن ما وصفه حينها بأنه “فشل محتمل في التقييم الصحيح لمخاطر الخصوصية التي يشكلها برنامج الدردشة الآلي المولد بتقنية الذكاء الاصطناعي “My AI”.

يبدو أن هذا الإشعار الأولي في الخريف الماضي كان التوبيخ العلني الوحيد لشركة Snap. من الناحية النظرية، يمكن للنظام فرض غرامات تصل إلى 4% من إجمالي مبيعات الشركة السنوية في حالات حدوث اختراقات مؤكدة للبيانات.

عند إعلان اختتام التحقيق يوم الثلاثاء، اقترح ICO أن الشركة اتخذت “خطوات مهمة لإجراء مراجعة أكثر شمولاً للمخاطر التي يشكلها “My AI””، بعد تدخلها. وقال ICO أيضًا إن شركة Snap تمكنت من إثبات أنها نفذت “عمليات التخفيف المناسبة” استجابةً للمخاوف المثارة – دون تحديد الإجراءات الإضافية (إن وجدت) التي اتخذتها الشركة (لقد طلبنا ذلك).

قد يتم توفير المزيد من التفاصيل عندما يتم نشر القرار النهائي للهيئة التنظيمية في الأسابيع المقبلة.

“إن ICO مقتنعة بأن Snap قد أجرت الآن تقييمًا للمخاطر المتعلقة بـ “My AI” المتوافق مع قانون حماية البيانات. وأضافت الهيئة التنظيمية أن الطرح الأولي للعملة سيستمر في مراقبة إطلاق “My AI” وكيفية معالجة المخاطر الناشئة.

بعد الوصول إلى رد على نتيجة التحقيق، أرسل لنا متحدث باسم Snap بيانًا – كتب فيه: “يسعدنا أن ICO قبلت أننا وضعنا التدابير المناسبة لحماية مجتمعنا عند استخدام My AI. بينما قمنا بتقييم المخاطر التي يشكلها My AI بعناية، فإننا نقبل أنه كان من الممكن توثيق تقييمنا بشكل أكثر وضوحًا وإجراء تغييرات على إجراءاتنا العالمية لتعكس التعليقات البناءة من ICO. نحن نرحب باستنتاج ICO بأن تقييم المخاطر لدينا متوافق تمامًا مع قوانين حماية البيانات في المملكة المتحدة ونتطلع إلى مواصلة شراكتنا البناءة.

رفضت شركة Snap تحديد أي إجراءات تخفيف نفذتها استجابةً لتدخل ICO.

قالت الهيئة التنظيمية في المملكة المتحدة إن الذكاء الاصطناعي التوليدي يظل أولوية تنفيذية. إنه يوجه المطورين إلى الإرشادات التي يتم إنتاجها بشأن قواعد الذكاء الاصطناعي وحماية البيانات. كما أن لديها استشارة مفتوحة تطلب مدخلات حول كيفية تطبيق قانون الخصوصية على تطوير واستخدام نماذج الذكاء الاصطناعي التوليدية.

في حين أن المملكة المتحدة لم تقدم بعد تشريعًا رسميًا للذكاء الاصطناعي، لأن الحكومة اختارت الاعتماد على جهات تنظيمية مثل ICO لتحديد كيفية تطبيق القواعد الحالية المختلفة، فقد وافق المشرعون في الاتحاد الأوروبي للتو على إطار عمل قائم على المخاطر للذكاء الاصطناعي – من المقرر تطبيقه في الأشهر والسنوات المقبلة – والتي تتضمن التزامات الشفافية لروبوتات الدردشة المدعومة بالذكاء الاصطناعي.