وجدت المحكمة الهولندية أن شركة أوبر لا تزال تتباطأ فيما يتعلق بالشفافية الخوارزمية

تبين أن شركة أوبر فشلت في الامتثال لمتطلبات الشفافية الخوارزمية للاتحاد الأوروبي في تحدٍ قانوني قدمه سائقان تم إنهاء حساباتهما من قبل عملاق خدمات نقل الركاب، بما في ذلك استخدام علامات الحساب الآلية.

فشلت أوبر أيضًا في إقناع المحكمة بوضع حد أقصى للغرامات اليومية المفروضة بقيمة 4 آلاف يورو بسبب عدم الامتثال المستمر – والتي تتجاوز الآن أكثر من نصف مليون يورو (584000 يورو).

قضت محكمة مقاطعة أمستردام لصالح اثنين من السائقين الذين يتقاضون بشأن الوصول إلى البيانات بشأن ما وصفوه بأنه “طرد آلي”. لكن محكمة الاستئناف قررت أن أوبر قدمت معلومات كافية لسائق ثالث فيما يتعلق بأسباب قيام الخوارزمية الخاصة بها بوضع علامة على الحساب بحثًا عن احتيال محتمل.

يقاضي السائقون شركة أوبر للحصول على معلومات يقولون إنهم ملزمون بها قانونًا فيما يتعلق بالقرارات الآلية المهمة المتخذة بشأنهم.

تنص اللائحة العامة لحماية البيانات (GDPR) للاتحاد الأوروبي على حق الأفراد في عدم الخضوع لقرارات آلية فقط ذات تأثير قانوني أو كبير وتلقي معلومات حول عملية اتخاذ القرار الخوارزمية هذه، بما في ذلك تلقي “معلومات ذات معنى” حول المنطق المعني؛ أهميته؛ والعواقب المتوقعة لهذه المعالجة بالنسبة لصاحب البيانات.

لا يتعلق جوهر المشكلة بالاحتيال و/أو مراجعات المخاطر التي يُزعم أنه تم إجراؤها على حسابات السائقين التي تم الإبلاغ عنها من قبل موظفي Uber (البشريين) – ولكن بإشارات الحساب الآلي نفسها التي أدت إلى هذه المراجعات.

في أبريل الماضي، قضت محكمة الاستئناف في هولندا أيضًا إلى حد كبير لصالح عمال المنصة الذين رفعوا دعوى قضائية ضد أوبر ومنصة أخرى لنقل الركاب، Ola، بشأن حقوق الوصول إلى البيانات المتعلقة بإطلاق الروبوتات المزعومة – حيث حكمت بأن المنصات لا يمكنها الاعتماد على إعفاءات الأسرار التجارية ل منع السائقين من الوصول إلى البيانات المتعلقة بهذه الأنواع من القرارات المدعومة بالذكاء الاصطناعي.

وبموجب الحكم الأخير، سعت أوبر إلى إعادة صياغة حجة الأسرار التجارية للمجادلة ضد الكشف عن المزيد من البيانات للسائقين حول أسباب قيام الذكاء الاصطناعي الخاص بها بوضع علامة على حساباتهم. كما أنها تقول عمومًا إن أنظمة مكافحة الاحتيال الخاصة بها لن تعمل إذا تم تقديم التفاصيل الكاملة للسائقين حول كيفية عملهم.

في حالة اثنين من السائقين الذين انتصروا ضد حجج أوبر، تبين أن الشركة لم تقدم أي معلومات على الإطلاق حول الإشارات الآلية “حصريًا” التي أدت إلى مراجعة الحساب. ومن هنا تم اكتشاف الانتهاك المستمر لقواعد الشفافية الخوارزمية للاتحاد الأوروبي.

وتكهن القاضي أيضًا بأن أوبر ربما تحاول “عمدًا” حجب معلومات معينة لأنها لا تريد إعطاء نظرة ثاقبة لنموذج أعمالها وإيراداتها.

وفي حالة السائق الآخر، الذي وجدت المحكمة بالنسبة له – على العكس من ذلك – أن أوبر قد فعلت ذلك قدمت “معلومات واضحة وكافية في الوقت الحالي”، بموجب الحكم، وأوضحت الشركة أن عملية اتخاذ القرار التي أدت إلى رفع العلم بدأت مع قاعدة تلقائية نظرت في (1) عدد الرحلات الملغاة التي تلقى هذا السائق رسوم إلغاء مقابلها؛ (2) عدد الرحلات المنجزة؛ و(3) نسبة عدد رحلات السائق الملغاة والمشاوير التي قام بها في فترة معينة.

“لقد تم توضيح ذلك أيضًا لأنه [this driver] “أجرى عددًا غير متناسب من الرحلات خلال فترة زمنية قصيرة وحصل مقابلها على رسوم إلغاء، أشارت القاعدة الآلية إلى احتيال محتمل في رسوم الإلغاء”، كتبت المحكمة أيضًا في الحكم [which is translated into English using machine translation].

سعى السائق للحصول على مزيد من المعلومات من أوبر، بحجة أن البيانات التي قدمتها لا تزال غير واضحة أو مختصرة للغاية ولم تكن ذات معنى لأنه لا يعرف أين يقع الخط الذي يجب على أوبر أن تصنف فيه السائق على أنه محتال.

ومع ذلك، في هذه القضية، اتفق قاضي الإغاثة المؤقت مع أوبر على أن عملاق خدمات نقل الركاب ليس مضطرًا إلى تقديم هذه المعلومات الإضافية لأن ذلك من شأنه أن يجعل “الاحتيال مع الإفلات من العقاب إلى أقل بقليل من تلك النسبة أمرًا سهلاً بشكل طفولي”، على حد تعبير أوبر.

السؤال الأوسع حول ما إذا كانت أوبر على حق في تصنيف هذا السائق (أو السائقين الآخرين) على أنه محتال لم يتم تقييمه في هذه المرحلة من الدعوى.

يبدو أن الدعاوى القضائية طويلة الأمد في هولندا تعمل على تحديد الخط الفاصل فيما يتعلق بكمية منصات المعلومات التي تنشر الإدارة الخوارزمية على العمال والتي يجب أن توفرها لهم عند الطلب بموجب قواعد حماية البيانات في الاتحاد الأوروبي مقابل مقدار “الصندوق الأسود” من المعلومات. يمكن أن يزعموا أن الذكاء الاصطناعي الخاص بهم ضروري لتشويش التفاصيل بحيث لا يمكن التلاعب بأنظمة مكافحة الاحتيال من خلال الهندسة العكسية للسائق.

بعد الوصول إلى الرد على الحكم، أرسل متحدث باسم Uber إلى TechCrunch هذا البيان:

ويتعلق الحكم بثلاثة سائقين فقدوا إمكانية الوصول إلى حساباتهم منذ عدة سنوات بسبب ظروف محددة للغاية. في الوقت الذي تم فيه وضع علامة على حسابات السائقين هؤلاء، تمت مراجعتها من قبل فرق الثقة والسلامة لدينا، والتي تم تدريبها خصيصًا لاكتشاف أنواع السلوك التي قد تؤثر على سلامة الركاب. وأكدت المحكمة أن عملية المراجعة تمت بواسطة فرقنا البشرية، وهي ممارسة معتادة عندما تكتشف أنظمتنا سلوكًا احتياليًا محتملاً.

يتم افتراض الدوافع في التحدي القانوني من قبل منظمة الدفاع عن حقوق الوصول إلى البيانات، وWorker Info Exchange (WIE)، واتحاد App Drivers & Couriers.

وفي بيان، قال أنطون إيكر، من شركة Ekker law التي تمثل السائقين: “كان السائقون يناضلون من أجل حقهم في الحصول على معلومات حول عمليات التعطيل الآلي لعدة سنوات حتى الآن. وأكدت محكمة الاستئناف في أمستردام هذا الحق في حكمها المبدئي الصادر في 4 أبريل 2023. ومن المثير للاعتراض بشدة أن ترفض أوبر حتى الآن الامتثال لأمر المحكمة. ومع ذلك، أعتقد أن مبدأ الشفافية سينتصر في النهاية”.

وفي بيان تعليقًا على الحكم، أضاف جيمس فارار، مدير WIE: “سواء كان الأمر يتعلق بالمحكمة العليا في المملكة المتحدة لحقوق العمال أو محكمة الاستئناف الهولندية لحقوق حماية البيانات، فإن أوبر تنتهك القانون بشكل معتاد وتتحدى أوامر حتى أعلى المحاكم. لقد استنفد السائقون والسعاة في أوبر سنوات من الاستغلال الخوارزمي القاسي في العمل والتقاضي الطاحن لتحقيق بعض مظاهر العدالة بينما تجلس الحكومة والمنظمون المحليون ولا يفعلون شيئًا لفرض القواعد. وبدلاً من ذلك، فإن حكومة المملكة المتحدة مشغولة بتفكيك تدابير الحماية القليلة التي يتمتع بها العمال ضد اتخاذ القرارات الآلية في مشروع قانون حماية البيانات والمعلومات الرقمية المعروض حالياً على البرلمان. وعلى نحو مماثل، فإن توجيهات عمل منهاج الاتحاد الأوروبي المقترحة سوف تكون نمراً من ورق لا طائل من ورائه ما لم تكن الحكومات جادة في تنفيذ القواعد.