- May 2024
تُعدّ عملية التقاضي المستنيرة أمرًا حيويًا لدعم حقوق المهاجرين الخاضعين لعمليات اتخاذ القرار الآلية. تعرض هذه المقالة قاعدة بيانات نيوتك (NewTech) للتقاضي الجديدة، وهي أداة مخصصة لأي شخص يسعى إلى الطعن في استخدام الأنظمة الآلية في عمليات الهجرة واللجوء.[1]
يُثير استخدام الأدوات الآلية ضمن المجال العام، لتحديد الأفراد وتصنيفهم وتقييمهم، مسائل قانونية مهمة تتعلق بالحقوق الأساسية، ففي السنوات الأخيرة ظهرت تحديات قانونية تتعلق بالأتمتة في القطاع العام بموجب القانون الدولي والوطني لحقوق الإنسان.
تُعالج المحاكم حاليًا أسئلة حرجة مثل كيفية ضمان الامتثال للحقوق الأساسية وما الضمانات التي تتطلبها الأنظمة الآلية عند استخدامها في صنع القرار العام. ويعمل المجتمع المدني على فهم كيفية عمل هذه الأنظمة والطعن في استخدامها. لكن لا تتوفر سوى كمية محدودة من التحاليل المنهجية حول كيفية حدوث هذه النزاعات ومن يشارك في صياغتها وعلى أي أساس تستند.
تُقدم هذه المقالة لمحة عامة عن طرق الطعن المختلفة في هذا المجال، وتعرض أداة جديدة تسمى قاعدة بيانات نيوتك للتقاضي، والتي طورناها كجزء من مشروع الإنصاف الخوارزمي لطالبي اللجوء واللاجئين.[2] تُسهل هذه الأداة، التي أُطلقت في مايو 2024، الوصول إلى السوابق القضائية الحالية واستراتيجيات الطعن المرتبطة بها، مما يساعد منظمات المجتمع المدني على إجراء عمليات البحث والتعلم من الآخرين وإيجاد الإلهام لعملهم.
طرق الطعن
تُستخدم الأدوات الآلية بشكل متزايد في اتخاذ القرارات العامة المتعلقة بالهجرة واللجوء، ولكن المعلومات حول توفر هذه الخوارزميات وتفاصيل وعملها ليست متاحة دائمًا للعامة. ويتسبب الافتقار إلى الشفافية هذا بصعوبة بالنسبة للأشخاص المتأثرين بالتكنولوجيات الجديدة في فهم كيفية عملها وكيفية الطعن فيها. وكشف بحثنا أن الأفراد المتأثرين بهذه التكنولوجيات نادرًا ما يكونون قادرين على الطعن فيها. وفي أي حال، استخدمت منظمات المجتمع المدني والناشطون وأعضاء الأحزاب السياسية أساليب مختلفة لفهم هذه التكنولوجيات وتحديها. تشمل هذه الأساليب المطالبة بالشفافية من خلال طلبات الحصول على المعلومات والاستفسارات البرلمانية، وتقديم الشكاوى إلى سلطات حماية البيانات واتخاذ الإجراءات القانونية في المحاكم.
المطالبة بالشفافية من خلال طلبات الحصول على المعلومات
بهدف الحصول على معلومات حول الأنظمة الآلية، قامت منظمات المجتمع المدني، وبالأخص المنظمات غير الحكومية وغير الربحية العاملة في مجال الحقوق الرقمية وتأثير التكنولوجيا على المجتمعات، بتقديم طلبات للحصول على معلومات من حكوماتها. تهدف منظمة فوكس غلَف (FoxGlove) غير الحكومية، التي تتخذ من المملكة المتحدة مقرًا لها، إلى تعزيز الاستخدام العادل للتكنولوجيا وقد دعمت الجهود المبذولة للحصول على معلومات حول التصنيف الآلي الذي تتبعه وزارة الداخلية وأداة تقييم المخاطر المستخدمة لمعالجة طلبات التأشيرات قصيرة الأجل في المملكة المتحدة. وبالمثل عمل مشروع القانون العام (Public Law Project) على الحصول على معلومات حول التصنيف الآلي لدى وزارة الداخلية وأداة تقييم المخاطر لتحديد حالات الزواج الصوري. في كلتا الحالتين، لم تكشف وزارة الداخلية عن جميع المعلومات وظل الأساس الذي تم تصنيف المتقدمين على أساسه غير واضح. ولكن، وأقله في المثال الأول، ساعدت المعلومات فوكس غلَف في تقديم مراجعة قضائية طعنت في استخدام الخوارزميات بموجب قوانين المساواة في المملكة المتحدة.
في ألمانيا، بذلت جمعية الحقوق المدنية (Gesellschaft für Freiheitsrechte،) وهي منظمة غير ربحية لدعم حقوق الإنسان، جهودًا كبيرة للكشف عن تفاصيل استخدام المكتب الاتحادي للهجرة واللاجئين لعملية الاستخراج الآلي لبيانات الهواتف المحمولة. قبل هذه الجهود، كانت المعلومات المتاحة للعامة حول تفاصيل هذه الممارسة محدودة جدًا. وبهدف جمع المعلومات، تعاونت جمعية الحقوق المدنية مع الصحفية وعالمة الكمبيوتر آنا بيسيلي (Anna Biselli) لإجراء أبحاث مكثفة. وأسهمت المعلومات التي تم جمعها من هذا البحث في رفع هذه الممارسة إلى المحاكم الإدارية وتقديم شكوى إلى المفوض الفيدرالي لحماية البيانات.
استخدمت الأحزاب السياسية المعارضة الاستفسارات البرلمانية للحصول على معلومات حول الأدوات الآلية. على سبيل المثال، قام أعضاء حزب اليسار داي لينكي (Die Linke) في ألمانيا، بمحاولات متعددة للحصول على تفاصيل حول الاستخراج الآلي لبيانات الهواتف المحمولة وأدوات التعرف الآلي على اللهجة المستخدمة في إجراءات اللجوء الألمانية. وعلى مستوى الاتحاد الأوروبي، سعى باتريك براير (Patrick Breyer)، وهو عضو في البرلمان الأوروبي، إلى الحصول على مزيد من المعلومات حول أداة مثيرة للجدل تم تطويرها في سياق مشروع بحثي ممول من الاتحاد الأوروبي يسمى آي بوردر كنترول (iBorderCtrl). يهدف هذا المشروع إلى تطوير أداة تستند إلى الذكاء الاصطناعي يتم استخدامها لكشف الكذب بين الأشخاص المسافرين عند حدود الاتحاد الأوروبي. لكن رفضت الوكالة التنفيذية للبحوث التابعة للمفوضية الأوروبية إتاحة الوصول إلى الوثائق المتعلقة بهذا المشروع على أساس أن الكشف سيقوض حماية المصالح التجارية لاتحاد الشركات المشاركة في تطوير التكنولوجيا للمشروع.
تقديم الشكاوى لدى سلطات حماية البيانات
تُتاح طريقة أخرى للطعن في الأتمتة وهي تقديم الشكاوى إلى سلطات حماية البيانات. تسمح اللائحة العامة لحماية البيانات (General Data Protection Regulation) في الاتحاد الأوروبي بتقديم الشكاوى إلى هيئات حماية البيانات، وهي هيئات مستقلة تتمتع بسلطات محددة. بمجرد تقديم شكوى، يجب على هيئة حماية البيانات التحقيق في الوقائع وتقييم الأسس الموضوعية للقضية وإصدار قرار ملزم قانونًا. في حال تم العثور على مخالفات، يمكن لهيئات حماية البيانات فرض غرامات إدارية وإجراءات تأديبية لتصحيح المخالفة ومنح صاحب البيانات تعويضات عن المخالفات، كما تتمتع بسلطة إيقاف أو حظر تكنولوجيات معينة. على سبيل المثال، وجد المشرف الأوروبي على حماية البيانات في عام 2019، أن مراقبة المكتب الأوروبي لدعم اللجوء (European Asylum Support Office) لطالبي اللجوء واللاجئين من خلال وسائل التواصل الاجتماعي، تجري من دون أساس قانوني وقرر تعليقها مؤقتًا، وخلص إلى أنه يجب أن يمتلك المكتب أساسًا قانونيًا واضحًا لهذه الممارسة في المستقبل وأن يخضع لضمانات مناسبة.
تُعد إجراءات الشكاوى لدى هيئات حماية البيانات مفيدة لأنها أقل رسمية وأقل تعقيدًا وأسرع عمومًا من الإجراءات القضائية، كما أن تقديم شكوى أمام هذه الهيئات هو أقل تكلفة لأنه لا يتطلب التمثيل القانوني. علاوة على ذلك، تتمتع وكالات حماية البيانات بسلطات التحقيق والخبرة اللازمة في قانون حماية البيانات ومسائل تكنولوجيا المعلومات، كما استخدمت منظمات المجتمع المدني هذا المسار الإصلاحي لوقف استخدام التكنولوجيات الجديدة أو الحد منه. على سبيل المثال، قدمت جمعية الحقوق المدنية في ألمانيا شكوى إلى المفوض الفيدرالي لحماية البيانات في مارس 2021. تعلقت الشكوى باستخدام سلطة اللجوء الألمانية للاستخراج الآلي لبيانات الهواتف المحمولة لطالبي اللجوء، بحجة أن تحليل بيانات الهاتف يتجاهل قانون حماية البيانات الأوروبي. إلى جانب هذه الشكوى، نجحت الجمعية أيضًا في اتخاذ إجراءات قانونية في المحاكم الإدارية، كما يظهر في القسم أدناه.
اتخاذ الإجراءات القانونية في المحاكم
طعنت منظمات المجتمع المدني والأفراد أيضًا في شرعية الأدوات الآلية أمام المحاكم، وفي معظم الحالات قُدمت طعون قانونية لأسباب تتعلق بحقوق الإنسان بحجة أن استخدام التكنولوجيات الجديدة لا يتوافق مع الحق في الخصوصية وحماية البيانات وعدم التمييز. هذا وسمح وضع القضايا ضمن إطار قانون حقوق الإنسان للمحاكم بإلغاء بعض الاستخدامات الحكومية للأدوات الآلية أو فرض متطلبات محددة لاستخدامها. ومن الأمثلة على ذلك قضية “مؤشر مخاطر النظام (System Risk Indication)” البارزة في هولندا، حيث تم استخدام هذا النظام لتوصيف الأفراد بناءً على كمية كبيرة من البيانات الشخصية والحساسة التي تم جمعها من الهيئات العامة بهدف الكشف عن الرفاهية المحتملة للفرد والاحتيال الضريبي. جادلت الجهة التي طعنت بهذه الممارسة بأنها تنتهك الاتفاقية الأوروبية لحقوق الإنسان. وفي فبراير 2020 قضت المحكمة الأوروبية لحقوق الإنسان بأن هذه الممارسة غير قانونية لأنها تنتهك الحق في الخصوصية.
في المملكة المتحدة، أعلنت محكمة العدل العليا أن سياسة الحكومة المتمثلة في البحث عن البيانات ومصادرتها واستخراجها من الهواتف المحمولة للمهاجرين هي غير قانونية بموجب القانون المحلي والمادة 8 من الاتفاقية الأوروبية لحقوق الإنسان. كما طعنت جمعية الحقوق المدنية أمام المحكمة في ألمانيا في ممارسات مماثلة تتعلق بالحصول على الهواتف المحمولة واستخراج المعلومات منها آليًا في عمليات اللجوء. لكن على عكس المملكة المتحدة، أصبحت هذه الممارسة ممكنة في ألمانيا عندما تم إدخال تعديلات على قانون اللجوء للسماح بتحليل بيانات الهواتف المحمولة للتعرف على هوية طالبي اللجوء ممن ليس لديهم وثائق. لكن من الناحية العملية كان المكتب الاتحادي للهجرة واللاجئين يعمل بما ينتهك مبدأ التناسب الذي يتطلبه الحق في الخصوصية. في عام 2023، قضت المحكمة الإدارية الاتحادية في ألمانيا بأن التقييم المنتظم لبيانات الهواتف المحمولة من قبل المكتب الاتحادي للهجرة واللاجئين أثناء تسجيل طالبي اللجوء من دون النظر في المعلومات والوثائق المتاحة كان إجراءً غير قانوني، وفي هذه القضية لم تُوقف المحكمة استخدام التكنولوجيات ولكنها فرضت متطلبات صارمة لاستخدامها وحددت تداعيات مهمة تتجاوز القضية الفردية.
يتعلق تحدٍ قانوني مهم آخر بفحص دقة الأنظمة الآلية وتحيزاتها، بما في ذلك الحق في عدم التمييز. فاعترض مثلًا لاجئان في كندا على استخدام نظام التعرف على الوجه لافتقاره إلى الدقة وسوء تصنيفه للنساء ذوات البشرة السوداء أو الملونة. في هذا السياق، سمحت المحكمة بطلب إجراء مراجعة قضائية، وبناءً على ذلك طرحت المسألة لإعادة البت فيها من قبل لجنة أُعيد تشكيلها على أساس مختلف ضمن سلطة اللجوء الألمانية، كما سلطت جمعية الحقوق المدنية الضوء على عدم الدقة والأخطاء في الأنظمة الآلية في قضية تحليل بيانات الهواتف المحمولة الألمانية. ووفقًا لإحصاءات الحكومة لعام 2022، لم تكن النتائج الصادرة عن تقارير تحليل بيانات الهواتف المحمولة قابلة للاستخدام في أكثر من نصف الحالات (67.6%) مما حتّم ضرورة إعادة تقييم موثوقية هذه التكنولوجيات في سياق إجراءات اللجوء.
أخيرًا، اشتكى مقدمو الطلبات أيضًا من الافتقار إلى الشفافية، مما قد يضعف الحقوق الإجرائية للأفراد، وفي قضيتين بارزتين معروضتين على محكمة العدل التابعة للاتحاد الأوروبي، طعنت منظمتان من منظمات المجتمع المدني (رابطة حقوق الإنسان (Ligue de Droit Humains) ورابطة التربيع الشبكي (La Quadrature du Net)) في استخدام بيانات الركاب في الرحلات الجوية خارج الاتحاد الأوروبي لغرض منع الإرهاب وكشفه. فقد سمح قانون الاتحاد الأوروبي بتنفيذ تقييمات آلية للمخاطر بهدف تحديد المسافرين الذين يجب أن يخضعوا لتحقيقات إضافية من قبل السلطات. ولكن وفقًا لمقدمي الطعن، لم تكن هذه الممارسة متوافقة مع ميثاق الاتحاد الأوروبي للحقوق الأساسية. وطالبت المحكمة في حكمها بعدد من الضمانات لاستخدام تكنولوجيات تقييم المخاطر من أجل ضمان الامتثال للحق في الخصوصية وحماية البيانات والانتصاف الفعال. على وجه الخصوص، سلطت الضوء على الحاجة إلى أدوات تقنية موثوقة والالتزام بإجراء مراجعة فردية باستخدام وسائل غير آلية وضمان حقوق الشفافية المشتقة للأفراد، مثل الحق في فهم كيفية عمل البرنامج. كما اعتبرت المحكمة أن استخدام خوارزميات التعلم الذاتي لا يتوافق مع الحق في الانتصاف الفعال لأنها لا توفر اليقين الكافي للمُراجع البشري أو الأفراد.
باختصار ومن خلال وضع الطعن ضمن إطار أسس حقوق الإنسان، يمكن للمحاكم وقف الممارسات غير القانونية أو فرض معايير محددة لاستخدام التكنولوجيا أو استخلاص معايير شفافية عالية للأنظمة الآلية، وقد يحقق ذلك أثرًا مفيدًا يتجاوز الحالة الفردية.
قاعدة بيانات نيوتك للتقاضي التابعة لمشروع الإنصاف الخوارزمي لطالبي اللجوء واللاجئين
نظرًا لأن استخدام الأدوات الآلية لا يزال جديدًا نسبيًا، فإن طرق الاعتراض عليها آخذة في الظهور وتتغير ببطء، وقد طورنا قاعدة بيانات نيوتك للتقاضي بهدف تسجيل مجموعة واسعة من طرق الطعن ونتائجها. وتُعدّ قاعدة البيانات هذه أول مورد يكون متاحًا مجانًا عبر الإنترنت ومتخصصًا في التقاضي ضد استخدام التكنولوجيات الجديدة في جميع أنحاء العالم. في الوقت الحالي، تُخزن السوابق القضائية المتعلقة بالاستخدامات المتنازع عليها للتكنولوجيات الجديدة في قواعد بيانات وطنية أحادية، وغالبًا ما لا تترجم إلى اللغة الإنجليزية. تهدف قاعدة بياناتنا إلى التغلب على حواجز الوصول واللغة هذه من خلال توفير واجهة سهلة الاستخدام وعناصر مرئية وأدوات بحث متقدمة. كما تتضمن قاعدة البيانات التفاصيل الرئيسية وملخصًا لجميع القرارات، وتشمل الأحكام أو القرارات أو الآراء الصادرة عن المحاكم الوطنية والدولية وسلطات حماية البيانات ذات النطاق الجغرافي الواسع (بفضل عمل المقررين الوطنيين في جميع أنحاء العالم).
في وقت كتابة هذا التقرير (فبراير 2024)، كانت قاعدة البيانات تتضمن سجلات تابعة لخمسين قضية تقاضي تتعلق بالاستخدامات المتنازع عليها للتكنولوجيات الجديدة في القطاع العام. وتغطي هذه الحالات العديد من مجالات القانون العام مثل التعليم وتطبيق العدالة وإنفاذ القانون وإدارة الهجرة واللجوء والقبول في المكاتب العامة وإنفاذ الضرائب. ومن بين الحالات المسجلة، تتناول خمس عشرة حالة على وجه التحديد القضايا المتعلقة بالهجرة، بما في ذلك اللجوء. وتوفر قاعدة البيانات ملخصًا مفصلًا لجميع القرارات باللغة الإنجليزية مصنّفة حسب القطاع والبلد والسلطة. كما يُفهرس كل قرار أو حكم وفقًا لنوع التقنية المتنازع عليها (مثل التعرف على الوجه) والمتطلبات القانونية الناشئة (مثل الشفافية) وملكية الأداة المعنية (الخاصة أو العامة) والحقوق المتأثرة. تُعدّ قاعدة البيانات موردًا قيمًا للباحثين والممارسين وواضعي السياسات الذين يعملون على جميع جوانب التكنولوجيات الجديدة وحقوق الإنسان، وتهدف إلى زيادة الوعي وتوفير الشفافية حول مدى انتشار وتأثير التكنولوجيات الجديدة، وإعلام ودعم عمل الجهات الفاعلة القانونية ومنظمات المجتمع المدني.
الخاتمة
يكشف بحثنا في طرق الطعن الحالية أن معظم الإجراءات قد اتخذتها منظمات المجتمع المدني والناشطين، في حين كانت الإجراءات التي اتخذها الأفراد المتأثرون بالأدوات الآلية محدودة، ويعود ذلك ربما إلى نقص المعرفة والموارد. كما وجد تحليلنا أن الجهات الفاعلة حاولت تحدي الأدوات الآلية من خلال وسائل مختلفة. ونظرًا لانعدام الشفافية، قد تضطر هذه الجهات إلى بدء اعتراضها من خلال البحث عن تفاصيل حول عمل الأدوات المعنية من خلال طلبات الحصول على المعلومات. بمجرد حصولها على ما يكفي من المعلومات والأدلة، يمكنها اتخاذ إجراءات قانونية في المحكمة. بدلاً من ذلك، يمكن أيضًا أن يوفر تقديم الشكاوى إلى وكالات حماية البيانات سبل انتصاف سريعة وسهلة لانتهاكات حماية البيانات. نشجع بقوة أي شخص مهتم بتحدي الاستخدامات الضارة للتكنولوجيات الجديدة على البقاء على اطلاع واتخاذ الإجراءات اللازمة باستخدام قاعدة بيانات نيوتك للتقاضي، حيث توفر هذه الأداة معلومات قيّمة عن الاستراتيجيات القانونية الحالية والسوابق القضائية، ويمكنها أن تساعد الأفراد على حماية حقوقهم من انتهاكات من هم في السلطة.
فرانشيسكا بالميوتو (Francesca Palmiotto)
باحثة ما بعد الدكتوراه، مركز الحقوق الأساسية، مدرسة هيرتي
f.palmiotto@hertie-school.org X: @FPalmiotto
ديريا أوزكول (Derya Ozkul)
أستاذة مساعدة، قسم علم الاجتماع، جامعة ووريك
derya.ozkul@warwick.ac.uk X: @DeryaOzkul
[1] تم جمع المعلومات المقدمة في هذه المقالة، بما في ذلك البيانات، من قاعدة بيانات نيوتك للتقاضي ضمن مشروع الإنصاف الخوارزمي لطالبي اللجوء واللاجئين (Algorithmic Fairness for Asylum Seekers and Refugees) الذي تموله مؤسسة فولكسفاجن (Volkswagen Foundation).
[2] في حال الاهتمام بالمشروع، يمكن متابعة العد التنازلي للإطلاق على X: @AFARproject وزيارة موقع مشروع الإنصاف الخوارزمي لطالبي اللجوء واللاجئين للتمكن من الوصول إلى قاعدة البيانات.