- May 2024
Cet article évoque des projets réels utilisant des algorithmes pour mettre les réfugiés en relation avec des groupes d’accueil et des services. Les auteurs soutiennent que, appliqués correctement, les algorithmes peuvent favoriser la réinstallation à plus grande échelle sur la base de données étayées.
Scepticisme et optimisme à l’égard des technologies
La recherche et le plaidoyer portant sur les données et la technologie dans la gestion de la mobilité internationale se divisent en deux camps : les techno-sceptiques et les techno-optimistes. S’il est vrai que cette dichotomie relève de l’heuristique globale, l’existence de ces deux voies parallèles attire l’attention sur la nature ambivalente de l’usage de toute technologie.
La recherche et le plaidoyer techno-sceptiques soulèvent des inquiétudes fondées concernant certains usages, comme la biométrie et la surveillance aux frontières, les décisions automatisées pour les visas, ou l’intelligence artificielle (IA) dans la prédiction des tendances de demandes d’asile ou de déplacements. Ce courant de pensée s’appuie en grande partie sur un engagement en faveur du droit des migrants à se déplacer et à demander une protection. Par exemple, la recherche sceptique attire l’attention sur les implications éthiques de la collecte de données pour la surveillance des migrants, l’absence de recours pour faire appel en cas de décisions automatisées et la menace des biais de codage en dur (hard coding) basés sur le groupe. En résumé, elle se concentre sur l’utilisation de la technologie dans le but de restreindre les migrations « indésirables », plutôt que pour faciliter la mobilité internationale.
L’un des postulats tacites majeurs de la littérature techno-sceptique est l’hypothèse selon laquelle les systèmes de prise de décision existants sont plus justes et plus objectifs que l’utilisation des données ou des technologies. Toutefois, les décisions humaines sont au moins aussi sujettes à l’erreur, aux biais et aux jugements de valeur subjectifs, si ce n’est plus. En appliquant ce principe à la réinstallation des réfugiés, par exemple, les bureaucraties et les organisations de la société civile ne conservent que rarement, voire jamais, des archives consultables des motifs d’affectation des réfugiés à des endroits donnés. Elles ne conservent pas non plus la justification qui sous-tend les décisions de mise en relation de tel individu ou foyer avec tel groupe d’accueil ou endroit spécifique.
Du côté de la recherche techno-optimiste, les travaux expérimentaux qui utilisent des données historiques montrent que les algorithmes peuvent considérablement améliorer les résultats en matière d’intégration des réfugiés récemment réinstallés, en particulier concernant la performance sur le marché du travail. Des études au Royaume-Uni, en Suisse et aux États-Unis indiquent que l’utilisation d’algorithmes pour affecter les réfugiés à certaines destinations pouvait améliorer considérablement les résultats en matière d’emploi. L’inconvénient de cette approche est qu’elle peut souvent réduire le parcours de vie d’individus à de simples indicateurs économiques, s’appuyer sur des hypothèses non vérifiées sur les priorités et les aspirations des réfugiés, et soulever des questions éthiques sur le consentement éclairé.
Ces deux voies de recherche parallèles s’inscrivent dans un contexte d’inquiétude croissante concernant le rôle des algorithmes et de l’IA dans les champs sociaux et politiques. Des pays et des organisations supranationales, en particulier dans l’Union européenne (UE), s’efforcent de suivre le rythme effréné de l’évolution technologique en réglementant l’IA et les algorithmes. Cette précaution s’étend à la politique européenne relative à l’immigration et à l’asile, un domaine considéré « à haut risque » par l’Union européenne en raison de la vulnérabilité des populations touchées et des inquiétudes relatives aux droits fondamentaux.
Une solution intermédiaire : des interventions soutenues par les algorithmes
Si les deux camps de la recherche et du plaidoyer dialoguent rarement entre eux, ils offrent malgré tout un éclairage complémentaire permettant de comprendre en quoi l’application des technologies à la mobilité internationale ne se fait pas forcément au détriment de l’une des parties. Selon notre expérience de mise en relation des réfugiés avec des groupes d’accueil et des services en Amérique du Nord et en Europe, la simple utilisation du terme « algorithme » peut soulever des inquiétudes éthiques immédiates. En outre, les algorithmes vont souvent de pair avec l’IA, ce qui suggère qu’ils utilisent le Big Data ou sont formés à partir de sources intrinsèquement biaisées. Par exemple, dans le programme Re:Match, nos algorithmes suggèrent une répartition optimale pour reloger les Ukrainiens déplacés de la Pologne vers l’Allemagne. Ces affectations sont ensuite approuvées par le personnel du programme. Les journalistes qui nous ont interrogés sur le projet ont commencé par des questions sur les biais et le transfert des décisions aux machines. Si ce questionnement est certes valide et bienvenu, il illustre aussi les idées reçues sur le fonctionnement des algorithmes dans la pratique.
Les algorithmes peuvent être écrits dans l’optique de faciliter la mobilité et d’améliorer les résultats, mais ils peuvent également être formés de façon à rejeter les visas pour certaines nationalités considérées comme « à risque » dans les demandes d’asile. Le plus souvent, les algorithmes appliqués sont de simples outils informatiques destinés à traiter le problème complexe du tri de grandes quantités de données. L’objectif est d’optimiser l’attribution de ressources rares, comme des places dans des programmes communautaires de parrainage, des logements abordables, ou des services pour les réfugiés ayant des besoins particuliers. Une fois qu’ils voient comment les algorithmes alimentés de manière éthique peuvent être utilisés pour faciliter la migration, et non pas la contrôler, les acteurs de la société civile comprennent leur valeur dans le travail de réinstallation.
Au niveau le plus fondamental, la répartition algorithmique peut faciliter la réinstallation à grande échelle, comme l’analyse un article du Migration Policy Institute. Déjà, la technologie libère des ressources humaines qui pourront directement soutenir les réfugiés dans le processus de réinstallation et se consacrer au plaidoyer pour le respect et l’amélioration des lois et normes de protection. Ensuite, elle peut améliorer la réinstallation en utilisant des règles objectives afin d’assurer l’adéquation entre les réfugiés et leur destination, l’objectif final étant leur autonomie dès que possible.
La répartition des réfugiés entre les destinations ou entre des groupes d’accueil au sein de la population implique la collecte, le stockage et l’analyse d’une grande quantité de données. Exécuter ces procédures manuellement demande beaucoup de travail, entrave le déploiement à grande échelle et introduit des biais inhérents, malgré les bonnes intentions. Par exemple, de nombreuses organisations s’imaginent que les réfugiés devraient être placés au sein de populations issues de la diaspora dans un pays d’accueil. D’après les données sur les préférences que nous avons recueillies auprès des réfugiés, une grande partie d’entre eux classent le critère de la diaspora après les critères d’emploi, d’éducation ou d’adéquation avec les structures familiales du groupe d’accueil.
En outre, la plupart des programmes de répartition gérés par des ONG ou l’administration publique se résument à quelques personnes le nez plongé dans des tableurs complexes qui doivent prendre des décisions rapidement. Les biais sont inévitables en raison de l’incapacité à traiter et à comparer de grands volumes de données, ce qui pousse à se reposer sur des idées reçues ou à se concentrer sciemment sur quelques points de données, en fonction des expériences personnelles avec des populations précédentes ou des protocoles prédéterminés. Les algorithmes sont un outil permettant d’atténuer ces difficultés.
Cas où la répartition algorithmique pourrait améliorer les expériences de réinstallation
Nous affirmons que dans certaines circonstances, la répartition algorithmique peut offrir une meilleure adéquation entre les destinations et les caractéristiques, objectifs et préférences des réfugiés.
Le mécanisme volontaire de solidarité de l’UE est conçu pour partager la responsabilité de la protection entre les pays européens. Cependant, il est confronté à des impasses politiques et à l’absence de critères objectifs pour identifier les réfugiés qui pourraient le mieux s’adapter aux différentes destinations. La littérature récente sur les politiques attire l’attention sur le rôle que les données et les algorithmes pourraient jouer dans le partage des responsabilités.
Les divers flux de réinstallation des réfugiés au Canada sont souvent présentés comme une demi-réussite quant à la compatibilité entre les sociétés d’accueil et l’intégration des réfugiés. Un grand nombre de réfugiés récemment arrivés abandonnent leur place d’arrivée dès la première année, en général pour un meilleur emploi, un rapprochement de leur famille ou de meilleures opportunités pour leurs enfants. À plus petite échelle, certains rencontrent des problèmes relationnels avec leurs groupes d’accueil, souvent en raison d’attentes incompatibles. On constate les mêmes tendances avec les réfugiés aux États-Unis.
La migration secondaire et la rupture avec les groupes d’accueil constituent un éternel problème, qui entraîne souvent une interruption de services (par exemple lors du transfert d’allocations sociales entre des juridictions infranationales) et une mauvaise affectation de ressources déjà rares. L’utilisation de critères objectifs pour affecter les réfugiés à des destinations qui correspondent mieux à leurs caractéristiques professionnelles et sociales signifie non seulement que l’allocation des ressources sera meilleure, mais aussi que le parcours d’intégration pourra commencer immédiatement.
De plus, une répartition plus affinée peut favoriser des relations directes et profondes entre les communautés d’accueil et les nouveaux arrivants, contribuant ainsi à renforcer une opinion positive à l’égard des programmes humanitaires d’immigration. La répartition algorithmique offre une opportunité unique et peut-être sans égale de recueillir des données de référence et de véritablement comprendre les relations entre les liens sociaux et les résultats à long terme. Ces hypothèses sous-tendent la recherche sur les effets positifs sur l’intégration du parrainage au sein de la communauté.
En pratique, la répartition algorithmique permet une collecte de données de référence plus robuste (notamment sur les préférences des réfugiés), ainsi que des évaluations des résultats allant au-delà des outils de mesure de base comme l’emploi ou la langue, de façon à inclure la satisfaction des réfugiés à l’égard de leur groupe d’accueil et de leur destination. Des données en plus grand nombre et de meilleure qualité peuvent permettre de décortiquer les divers processus sociaux qui régissent la vie sociale des réfugiés au sein de leur nouvelle communauté. Ces résultats peuvent ensuite être intégrés à leur tour dans les algorithmes de répartition pour améliorer les résultats. Ce type d’apprentissage favorisant l’amélioration constante des programmes n’est pas possible lorsque les réfugiés sont répartis manuellement et que les archives sont incomplètes ou subjectives.
La répartition algorithmique éthique en pratique
Nos projets en Amérique du Nord et en Europe offrent l’opportunité de mener une réflexion sur certaines des leçons transversales de l’utilisation éthique des algorithmes.
1. Veillez à vous appuyer sur l’expertise adéquate
Le personnel chargé de la conceptualisation, de la conception et de l’encodage des algorithmes doit compter des experts en réinstallation des réfugiés, en éthique de la collecte et de l’utilisation de données issues de populations vulnérables, ainsi qu’en cybersécurité.
Les concepteurs d’algorithmes doivent travailler en étroite collaboration avec les organisations partenaires et le personnel sur le terrain pour veiller à l’exactitude et à l’exhaustivité des données administratives des réfugiés. Ils doivent solliciter des données de qualité auprès des groupes d’accueil, des organismes d’accompagnement et des différentes administrations. Veiller à la qualité des données de répartition offrira des résultats plus précis et plus fiables. Les experts en cybersécurité sont tout aussi cruciaux pour la protection des données et la confidentialité des réfugiés et des groupes d’accueil.
La répartition proposée par l’algorithme doit être approuvée par des organisations de réinstallation et acceptée ou rejetée par les participants au programme.
2. Tenez compte des préférences et de la capacité d’action des réfugiés
La répartition algorithmique doit tenir compte de la diversité des préférences des réfugiés et leur laisser la possibilité d’exercer leur capacité d’action.
Se consacrer exclusivement à la productivité économique peut nuire à la qualité des programmes d’immigration humanitaires et économiques ou basés sur les compétences. La collecte de données sur les préférences des réfugiés illustre la diversité des opinions sur les facteurs qui doivent dicter les affectations. À travers l’Europe, nos programmes utilisent des entretiens et des enquêtes de classement des préférences pour intégrer la capacité d’action des réfugiés dans la répartition. Lors de notre travail le plus récent auprès d’Ukrainiens déplacés, leurs préférences ont dicté la pondération des variables de répartition. Beaucoup ont classé la proximité avec la diaspora et la culture ukrainiennes, l’éducation supérieure et les opportunités pour les enfants avant l’emploi. En retour, ceci a permis de mieux répartir les participants qui privilégiaient le travail.
L’introduction de préférences sous forme de données peut permettre de développer des algorithmes limitant les biais et minimisant le recours aux hypothèses non vérifiées et aux stéréotypes. Comme les hypothèses sur le marché du travail, l’hypothèse répandue et supposément inoffensive selon laquelle les réfugiés préfèrent une réinstallation à proximité de compatriotes ou de coreligionnaires peut avoir des répercussions éthiques, en particulier pour ceux qui fuient la discrimination en raison de facteurs identitaires tels que l’origine ethnique, la religion, l’orientation sexuelle ou l’identité de genre. Inclure les préférences des réfugiés dans les algorithmes limite ces écueils potentiels.
Avec les programmes de parrainage, la répartition devrait également tenir compte des préférences de la communauté d’accueil. Les groupes d’accueil fournissent des ressources de réinstallation limitées. Leur satisfaction et leur implication sont essentielles pour la réussite du programme et pour parvenir à un impact politique et social plus large. Dans les meilleurs cas, les préférences des réfugiés devraient être considérées comme aussi importantes que celles des groupes d’accueil. Il est vrai qu’un environnement politique imparfait et des difficultés logistiques dans la communication avec les réfugiés dans le cadre des processus de réinstallation obligent souvent à se reposer sur les données administratives. Pourtant, même des préférences unilatérales permettent d’apporter des points de vue différents aux décisions de réinstallation et ouvrent la porte à un changement de politique.
3. Tenez compte des implications éthiques de la répartition
L’éthique doit être au cœur de la conception de l’algorithme et de la réflexion sur les implications de la répartition.
Même si un algorithme est conçu pour fournir des résultats équitables et de qualité, les potentielles implications éthiques sont toujours là. Voici certaines des questions clés : ne pas recevoir d’affectation ou recevoir une affectation inadaptée (ce qui pourrait signifier le rejet d’une affectation) prive-t-il les personnes déplacées d’une réinstallation ou d’autres services ? Dans quels cas les questions de protection ou de vulnérabilité priment-elles, au point qu’une affectation plus rapide est préférable à une affectation plus adaptée ? Les réfugiés devraient-ils s’engager dans des programmes de parrainage, ou un système basé sur la possibilité de les refuser permettrait-il d’en réinstaller davantage ?
4. Les processus algorithmiques doivent être lisibles pour les organismes externes
Les algorithmes et les affectations qu’ils proposent doivent être lisibles pour les décideurs et les organisations partenaires. Cela signifie que les processus algorithmiques et leurs résultats doivent être accessibles facilement. Si les droits d’auteur des concepteurs d’algorithmes doivent être protégés pour promouvoir l’innovation technique dans les domaines humanitaires, les données de répartition et les résultats doivent être clairs afin d’assurer la transparence.
Les participants, y compris les réfugiés, les parrains, les organes d’exécution et les États, doivent être sensibilisés à la raison d’être et à l’utilisation de leurs données. Leur consentement doit être éclairé et, si possible, les réfugiés doivent pouvoir refuser une affectation et choisir une réinstallation en suivant le processus traditionnel.
5. Indiquez clairement les limites de la répartition algorithmique
Toute organisation ou projet de recherche qui promeut la répartition algorithmique doit communiquer sur ses limites et gérer les attentes.
Les algorithmes sont des outils servant à optimiser l’allocation de ressources, mais leur champ d’application est restreint par la disponibilité de ces ressources. Il est essentiel d’indiquer que les affectations sont limitées par la qualité des destinations de réinstallation proposées et qu’elles reflètent la diversité des groupes d’accueil et des réfugiés. S’il est rarement possible de satisfaire toutes les préférences, les algorithmes peuvent incorporer des pans entiers de données pour proposer les meilleures affectations possibles en fonction des contraintes réelles. Cependant, ils n’ont pas le pouvoir de les faire disparaître.
Conclusion
Malgré le discours divisé sur l’utilisation de la technologie dans la politique migratoire, les solutions algorithmiques alimentées de façon éthique pour la réinstallation des réfugiés proposent un compromis intéressant. Pour en faire la démonstration, il convient de décrire le rôle et le but d’un algorithme. Les solutions algorithmiques peuvent être associées à des plateformes de communication où les réfugiés, les familles d’accueil et les ressources disponibles peuvent donner leur avis, intégré par la suite sous forme de données. C’est ce qui permettra aux personnes les plus concernées par la réinstallation d’influencer les résultats. Ces solutions contribuent aux structures de prise de décision qui intègrent systématiquement des règles éthiques afin de minimiser les biais et d’assurer l’équité. Elles servent également de banques de connaissances capables de stocker et de trier des données précieuses pour les décideurs et les chercheurs, afin de mettre au point des programmes de réinstallation des réfugiés plus efficaces. Les algorithmes ne sont ni la solution miracle, ni la source de tous les maux. Ils constituent un outil parmi d’autres pour élaborer des politiques justes et performantes.
Ahmed Ezzeldin Mohamed
Maître de conférences en sciences politiques à l’Institute for Advanced Study in Toulouse School of Economics et ingénieur en algorithmes et analyste de données chez Pairity
amohamed@pairity.ca linkedin.com/in/ahmed-ezzeldin-mohamed-4b6a07a2/
Craig Damian Smith
Cofondateur et directeur exécutif de Pairity et chercheur affilié au Centre for Refugee Studies, Université de York
csmith@pairity.ca linkedin.com/in/craigdamiansmith/