تمنع Microsoft أقسام الشرطة الأمريكية من استخدام أداة الذكاء الاصطناعي للمؤسسات

لقد غيرت Microsoft سياستها لمنع أقسام الشرطة الأمريكية من استخدام الذكاء الاصطناعي التوليدي من خلال خدمة Azure OpenAI، وهي خدمة الشركة المدارة بالكامل والتي تركز على المؤسسات حول تقنيات OpenAI.

اللغة المضافة يوم الأربعاء إلى شروط الخدمة الخاصة بخدمة Azure OpenAI Service تحظر استخدام عمليات التكامل مع خدمة Azure OpenAI “بواسطة أو لصالح” أقسام الشرطة في الولايات المتحدة، بما في ذلك عمليات التكامل مع نماذج تحليل النص والكلام الخاصة بـ OpenAI.

هناك نقطة جديدة منفصلة تغطي “أي جهة إنفاذ قانون على مستوى العالم”، وتحظر صراحة استخدام “تقنية التعرف على الوجه في الوقت الفعلي” على كاميرات الهواتف المحمولة، مثل كاميرات الجسم وكاميرات أجهزة القياس، لمحاولة التعرف على شخص ما في “خارج نطاق السيطرة، وفي داخل السيارة”. -البيئات البرية.

تأتي التغييرات في المصطلحات بعد أسبوع من إعلان شركة Axon، الشركة المصنعة لمنتجات التكنولوجيا والأسلحة للجيش وإنفاذ القانون، عن منتج جديد يستفيد من نموذج النص التوليدي GPT-4 الخاص بـ OpenAI لتلخيص الصوت من كاميرات الجسم. سارع النقاد إلى الإشارة إلى المزالق المحتملة، مثل الهلوسة (حتى أفضل نماذج الذكاء الاصطناعي التوليدية اليوم تخترع الحقائق) والتحيزات العنصرية الناتجة عن بيانات التدريب (وهو أمر مثير للقلق بشكل خاص بالنظر إلى أن الأشخاص الملونين هم أكثر عرضة للإيقاف من قبل الشرطة). من أقرانهم البيض).

ليس من الواضح ما إذا كانت Axon تستخدم GPT-4 عبر خدمة Azure OpenAI، وإذا كان الأمر كذلك، ما إذا كانت السياسة المحدثة استجابة لإطلاق منتج Axon. قامت OpenAI سابقًا بتقييد استخدام نماذجها للتعرف على الوجه من خلال واجهات برمجة التطبيقات الخاصة بها. لقد تواصلنا مع Axon وMicrosoft وOpenAI وسنقوم بتحديث هذا المنشور إذا تلقينا ردًا.

تترك الشروط الجديدة مجالًا للمناورة لشركة Microsoft.

الحظر الكامل على استخدام خدمة Azure OpenAI يخص الولايات المتحدة فقط, ليست دولية يا شرطة ولا يشمل التعرف على الوجه الذي يتم إجراؤه ثابت كاميرات في خاضع للسيطرة البيئات، مثل المكتب الخلفي (على الرغم من أن الشروط تحظر أي استخدام التعرف على الوجه من قبل الشرطة الأمريكية).

يتتبع ذلك النهج الأخير الذي اتبعته شركة Microsoft وشريكها المقرب OpenAI فيما يتعلق بعقود إنفاذ القانون والدفاع المتعلقة بالذكاء الاصطناعي.

في يناير، كشفت تقارير بلومبرج أن OpenAI تعمل مع البنتاغون في عدد من المشاريع بما في ذلك قدرات الأمن السيبراني – وهو خروج عن الحظر السابق الذي فرضته الشركة الناشئة على توفير الذكاء الاصطناعي للجيوش. وفي مكان آخر، عرضت مايكروسوفت استخدام أداة إنشاء الصور الخاصة بـ OpenAI، DALL-E، لمساعدة وزارة الدفاع (DoD) في بناء برنامج لتنفيذ العمليات العسكرية، وفقًا لموقع The Intercept.

أصبحت خدمة Azure OpenAI متاحة في منتج Microsoft Azure Government في فبراير، مما أضاف ميزات إضافية للامتثال والإدارة موجهة نحو الوكالات الحكومية بما في ذلك تطبيق القانون. في منشور بالمدونة، تعهدت كانديس لينغ، نائب الرئيس الأول لقسم Microsoft الفيدرالي الذي يركز على الحكومة في Microsoft، بأن خدمة Azure OpenAI “سيتم تقديمها للحصول على ترخيص إضافي” إلى وزارة الدفاع لأعباء العمل التي تدعم مهام وزارة الدفاع.

ولم ترد Microsoft وOpenAI على الفور على طلبات التعليق.