Este artículo analiza proyectos reales en los que se utilizan algoritmos para poner en contacto a personas refugiadas reasentadas con patrocinadores y servicios. Los autores sostienen que, cuando están bien diseñados, los algoritmos pueden promover un reasentamiento a mayor escala y mejor informado.

Tecnoescepticismo y tecnooptimismo

Los estudios y la labor de promoción de los datos y la tecnología para la gestión de la movilidad internacional pueden dividirse en dos bandos: los tecnoescépticos y los tecnooptimistas. Si bien esta dicotomía es heurística y generalista, estas vías de investigación paralelas ponen de manifiesto el uso dual que, de forma inherente, se puede hacer de cualquier tecnología.

Los estudios y la labor de promoción tecnoescépticos plantean preocupaciones bien fundadas en torno a determinados usos, como la biometría y la vigilancia fronteriza, las decisiones automáticas sobre la concesión de visados o la predicción de las tendencias de asilo o desplazamiento mediante inteligencia artificial. Esta corriente se sustenta principalmente en el compromiso con los derechos de las personas migrantes a desplazarse y a buscar protección. Por ejemplo, los estudios más escépticos subrayan las implicaciones éticas de la recopilación de datos para monitorear a las comunidades migrantes, la imposibilidad de recurrir o apelar las decisiones automatizadas y la amenaza de los sesgos grupales integrados en el código. En resumen, se centran en el uso de la tecnología como mecanismo para frenar la migración «no deseada», en lugar de para facilitar la movilidad internacional.

Una de las principales premisas de las que parten de forma velada las publicaciones tecnoescépticas es la idea de que los sistemas de toma de decisiones existentes son, en cierta forma, más justos y menos sesgados que el empleo de los datos o la tecnología. Sin embargo, las decisiones humanas son igual de propensas (o incluso más) a errores, sesgos y juicios de valor subjetivos. En el contexto del reasentamiento de refugiados, por ejemplo, los sistemas burocráticos y las organizaciones de la sociedad civil rara vez guardan un registro comprobable de las razones por las que se ubica a una persona en un lugar particular, ni los motivos subyacentes a la decisión de emparejar a una persona o a una familia con un patrocinador comunitario concreto o con un destino específico, si es que alguna vez lo hacen.

En la vertiente tecnooptimista, el los estudios experimentales basados en datos históricos han demostrado que los algoritmos pueden mejorar de manera notable los resultados en materia de integración de las personas refugiadas recién asentadas, en particular, su desempeño en el mercado laboral. Un estudio en Reino Unido, Suiza y Estados Unidos indica que el uso de algoritmos para emparejar a los refugiados con sus destinos puede mejorar de manera notable los resultados en materia de empleo. El inconveniente de este enfoque radica en que suele reducir la trayectoria vital de la persona a meros indicadores económicos, basarse en suposiciones no contrastadas sobre las prioridades y aspiraciones de las personas refugiadas y plantear problemas éticos en torno a la autenticidad del consentimiento informado.

Estas sendas de investigación paralelas discurren en un contexto de creciente preocupación sobre el papel de los algoritmos y la inteligencia en los ámbitos social y político. Hay países y organismos supranacionales, en particular, la Unión Europea, que están tratando de mantenerse al día de los rápidos cambios tecnológicos y regular la inteligencia artificial y los algoritmos. Esto incluye su uso en las políticas migratorias y de asilo, un ámbito que la Comisión Europea ha identificado como de «alto riesgo» debido a la vulnerabilidad de las poblaciones afectadas y las preocupaciones sobre los derechos fundamentales.

Una solución intermedia: las intervenciones asistidas por algoritmos

Aunque los campos de la promoción y la investigación rara vez interactúan, ambos ofrecen perspectivas complementarias sobre la manera en la que la aplicación de la tecnología a la movilidad internacional dista mucho de ser algo neutro. Nuestra experiencia en el emparejamiento de poblaciones refugiadas con patrocinadores y servicios en Norteamérica y Europa ha demostrado que el mero uso del término «algoritmo» puede suscitar preocupaciones éticas inmediatas. Asimismo, que se suelen confundir los algoritmos con la inteligencia artificial, lo que sugiere que los algoritmos emplean macrodatos o que se nutren de fuentes inherentemente sesgadas. Por ejemplo, los algoritmos del programa Re:Match sugieren opciones de emparejamiento óptimas para reubicar a la población ucraniana desplazada de Polonia a Alemania. Más tarde, el personal del programa revisa y aprueba las coincidencias. Las entrevistas realizadas sobre el proyecto comenzaron con preguntas sobre los sesgos y las implicaciones de delegar la toma de decisiones a las máquinas. Este cuestionamiento es tan válido como bien recibido, pero también es muestra de las suposiciones que se hacen sobre el funcionamiento de los algoritmos en la práctica.

Los algoritmos pueden programarse para facilitar la movilidad y mejorar los resultados, al igual que pueden entrenarse para denegar visados a aquellas personas cuya nacionalidad se considera «de riesgo» en las solicitudes de asilo. En la mayoría de los casos, los algoritmos aplicados son meras herramientas informáticas empleadas para abordar el complejo reto de clasificar grandes cantidades de datos y optimizar la asignación de recursos escasos, como las plazas de los programas de patrocinio comunitario, las viviendas asequibles o los servicios para refugiados con necesidades específicas. Cuando se les demuestra la manera en la que se pueden utilizar los algoritmos éticos para facilitar la migración y no para controlarla, los actores de la sociedad civil comprenden el interés de emplearnos en el marco de las labores de reasentamiento.

En su acepción más sencilla, el emparejamiento algorítmico puede ayudar a ampliar los reasentamientos, según analizamos en un documento de políticas del Instituto de Política Migratoria. En primer lugar, permite liberar recursos humanos para que puedan dar apoyo directo a las comunidades refugiadas en el proceso de reasentamiento y centrarse en las labores de promoción relacionadas con la defensa y la mejora de las leyes y normas de protección internacionales. En segundo lugar, puede optimizar los reasentamientos, al emplear reglas objetivas que garanticen que existe una consonancia entre la persona refugiada y su destino asignado, a fin de promover su autosuficiencia lo antes posible.

Para emparejar a las personas refugiadas con destinos o patrocinadores comunitarios, es necesario recopilar, almacenar y analizar grandes cantidades de datos. Llevar a cabo estos procedimientos de forma manual es tremendamente laborioso, impide la ampliación de los proyectos e introduce sesgos inherentes, aunque las intenciones sean buenas. Por ejemplo, muchas organizaciones dan por sentado que una persona refugiada debería enviarse a un país receptor con poblaciones en la diáspora. En nuestra experiencia recabando las preferencias de las comunidades refugiadas, el trabajo, la educación o la compatibilidad con las estructuras familiares del grupo de patrocinadores suelen primar por encima del contacto con la comunidad en la diáspora.

Además, la mayoría de los programas de emparejamiento dirigidos por ONG o funcionarios públicos se resumen en un grupo de personas que se dedican a revisar densas hojas de cálculo y a tomar decisiones rápidas. En estos casos, el sesgo es inherente, ya que la capacidad para procesar y comparar grandes cantidades de datos implica confiar en presuposiciones o centrarse de manera consciente en determinados elementos concretos a raíz de las experiencias personales con poblaciones anteriores o de protocolos preestablecidos. Los algoritmos son una herramienta que permite sortear estos obstáculos.

Circunstancias en las que el emparejamiento algorítmico podría mejorar la experiencia de reasentamiento

Sostenemos que, en determinadas circunstancias, el emparejamiento algorítmico podría lograr una mayor compatibilidad entre los destinos y las características, las metas y las preferencias de las personas refugiadas.

El mecanismo de solidaridad voluntaria de la Unión Europea se diseñó para distribuir la responsabilidad de la protección por toda Europa, pero se está viendo marcado por bloqueos políticos y por la ausencia de criterios objetivos para determinar qué personas podrían desenvolverse mejor en cada destino. Las recientes publicaciones sobre políticas subrayan el papel que los datos y los algoritmos pueden desempeñar en la redistribución de responsabilidades.

Los diversos flujos de reasentamiento en Canadá se suelen presentar como un caso de rotundo éxito en términos de compatibilidad entre las sociedades de acogida y de resultados positivos en la integración de las personas refugiadas. Sin embargo, un número significativo de personas refugiadas recién llegadas abandonan sus destinos de acogida durante el primer año, por lo general, en busca de mejores perspectivas laborales, para estar más cerca de sus familias o para ofrecer mejores oportunidades a sus hijos e hijas. A mucha menor escala, algunas personas refugiadas rompen las relaciones con sus patrocinadores, a menudo porque sus expectativas no coinciden. Esta misma tendencia se da en las comunidades refugiadas en Estados Unidos.

La migración secundaria y la ruptura del patrocinio son dificultades constantes que a menudo causan brechas en los servicios (por ejemplo, al transferir las prestaciones sociales de una jurisdicción local a otra) y una mala asignación de los escasos recursos disponibles. Al emplear criterios objetivos para emparejar a las personas refugiadas con los destinos que mejor se ajustan a sus características profesionales y sociales, no solo se logra una mejor asignación de los recursos, sino también un inicio más rápido del proceso de integración.

Además, un emparejamiento más preciso puede fomentar el establecimiento de relaciones directas y significativas entre las comunidades receptoras y las personas recién llegadas, lo que contribuye a generar una opinión pública favorable en torno a los programas de migración humanitaria. El emparejamiento algorítmico ofrece una oportunidad única y, posiblemente, sin parangón para recabar datos de referencia y comprender a fondo las relaciones entre las conexiones sociales y los resultados a largo plazo, unos supuestos en los que se fundamentan los estudios sobre los efectos positivos de los patrocinios en la integración.

En la práctica, el emparejamiento algorítmico garantiza una recopilación de datos de referencia más sólida (inclusive de las preferencias de las personas refugiadas) y una evaluación de los resultados que va más allá de mediciones relativamente simples, como el trabajo o el idioma, para abarcar la satisfacción de las personas con sus patrocinadores y destinos asignados. Una mayor cantidad de datos de mejor calidad podría ayudar a desentrañar los diversos y complejos procesos sociales con los que las comunidades refugiadas se desenvuelven socialmente en sus nuevas comunidades y, posteriormente, esos resultados pueden volcarse en los algoritmos de emparejamiento para mejorar iterativamente los resultados. Este tipo de aprendizaje para desarrollar programas de manera continuada no resulta posible cuando el emparejamiento se realiza de forma manual y los registros son incompletos o subjetivos.

El emparejamiento algorítmico ético en la práctica

Nuestros proyectos en Norteamérica y Europa nos han permitido extraer algunas lecciones generales para el uso ético de los algoritmos.

1. Hay que contar con el conocimiento experto necesario

Las personas encargadas de concebir, diseñar y programar los algoritmos deberían incluir a expertos en el reasentamiento de las comunidades refugiadas, en la recogida y el uso éticos de los datos de poblaciones vulnerables y en la ciberseguridad.

Quienes diseñan los algoritmos deberían colaborar estrechamente con sus organizaciones socias y con el personal de primera línea para garantizar la precisión y la exhaustividad de los datos administrativos de los refugiados. Además, deberían solicitar datos de calidad a los patrocinadores comunitarios, los organismos de apoyo y los distintos niveles del gobierno. Garantizar la calidad de los datos que se introducen en el sistema llevará a conseguir resultados mejores y más fiables. Contar con personal experto en ciberseguridad es también fundamental para proteger los datos y garantizar la privacidad de las personas refugiadas y sus patrocinadores.

Las organizaciones de asentamiento deberían ratificar las coincidencias sugeridas por los algoritmos y quienes participan en el programa deberían aceptarlas o rechazarlas.

2. Hay que tener en cuenta las preferencias y la agencia de las comunidades refugiadas

El emparejamiento algorítmico debe tomar en consideración las diversas preferencias de las personas refugiadas y ofrecerles margen de agencia.

Centrarse exclusivamente en la productividad económica puede desdibujar los programas de migración humanitarios y económicos o los basados en competencias. Recopilar datos sobre las preferencias de las comunidades refugiadas permite acoger opiniones diversas sobre los factores por los que se debería regir el reasentamiento. En nuestros programas en toda Europa, utilizamos entrevistas y encuestas de clasificación de preferencias para incorporar las preferencias de la persona en el proceso de emparejamiento. En nuestro trabajo más reciente con personas desplazadas procedentes de Ucrania, sus preferencias dictaron las ponderaciones asignadas a las distintas variables de emparejamiento. Muchas personas primaron la proximidad a la cultura y la diáspora ucranianas, la educación superior y las oportunidades para sus hijos e hijas por encima de la experiencia laboral. A su vez, esto dejó espacio en el proceso de emparejamiento para quienes mostraron preferencia por las cuestiones relacionadas con el empleo.

Introducir las preferencias como datos permite crear algoritmos que limitan los sesgos y minimizan la dependencia en suposiciones y estereotipos no verificados. Al igual que sucede con las suposiciones sobre el mercado laboral, dar por sentado de manera general y aparentemente inocua que una persona refugiada prefiere que se la reubique cerca de sus compatriotas o de su comunidad religiosa podría tener repercusiones éticas, en particular, para quienes huyen de la discriminación por razones de etnia, credo, orientación sexual o expresión de género. La inclusión de las preferencias de las comunidades refugiadas en los algoritmos limita estos potenciales inconvenientes.

En los programas de patrocinio comunitario, el emparejamiento también debería tener en cuenta las preferencias de la comunidad receptora. Los patrocinadores proporcionan pocos recursos para la reubicación y garantizar su satisfacción y compromiso continuados es fundamental para el éxito de los programas, así como para lograr un impacto social y político más amplio. En el mejor de los casos, las preferencias de las personas refugiadas deberían tener el mismo valor que las de las patrocinadoras. Es cierto que los contextos políticos imperfectos y las dificultades logísticas para comunicarse con los refugiados en los procesos de reasentamiento suelen llevar a depender de los datos administrativos, pero incluso las preferencias unilaterales incorporan una mayor diversidad de opiniones en la toma de decisiones sobre los reasentamientos y, además, abren la puerta a la introducción de cambios en las políticas.

3. Hay que evaluar las implicaciones éticas del emparejamiento

La ética debería ser una cuestión central, tanto a la hora de diseñar los algoritmos como al considerar las implicaciones del emparejamiento.

Aunque un algoritmo esté diseñado para ofrecer resultados justos y de calidad, pueden existir posibles implicaciones éticas. Algunos interrogantes clave son: ¿La falta de emparejamiento o un emparejamiento de baja calidad (que, lógicamente, podría llevar a rechazar el destino asignado) impide que las personas desplazadas accedan a servicios de reasentamiento o de otra naturaleza? ¿En qué casos en los que se teme por la protección o la vulnerabilidad merece la pena hacer un emparejamiento rápido, en vez de esperar a que surja un emparejamiento de mejor calidad? ¿Debería ser la persona refugiada la que elige de manera voluntaria participar en un programa de emparejamiento o es preferible un sistema de exclusión voluntaria si eso permite la reubicación de un mayor número de personas?

4. Hay que garantizar que organismos externos puedan acceder a los procesos de los algoritmos

Los responsables de la formulación de políticas y las organizaciones socias deben poder acceder a los algoritmos y a los emparejamientos que generan. Esto significa que es necesario desentrañar los procesos de los algoritmos y los resultados que arrojan. Si bien es necesario proteger la propiedad intelectual de quienes diseñan los algoritmos para fomentar la innovación técnica en el ámbito humanitario, los datos de entrada y los resultados del emparejamiento deben estar claros para garantizar la transparencia.

Todas las personas que participen, ya sean refugiadas, patrocinadoras, organismos ejecutores o gobiernos, deberían conocer la finalidad y el uso de sus datos. El consentimiento debe ser verdaderamente informado y, cuando sea posible, la persona refugiada debería tener la posibilidad de rechazar el emparejamiento algorítmico y pedir que se la reubique por la vía tradicional.

5. Hay que transmitir de forma clara las limitaciones del emparejamiento algorítmico

Toda organización o proyecto de investigación que abogue por el emparejamiento algorítmico debería exponer sus limitaciones y moderar las expectativas.

Los algoritmos son herramientas destinadas a la optimización de los recursos, pero su alcance está limitado en función de la disponibilidad de dichos recursos. Es fundamental difundir que la calidad del emparejamiento dependerá de la calidad de las ubicaciones disponibles para el reasentamiento y que solo es reflejo de la diversidad de patrocinadores y refugiados. Aunque rara vez se logra satisfacer todas las preferencias, los algoritmos pueden incorporar amplios conjuntos de datos para generar las mejores coincidencias posibles dadas las limitaciones del mundo real, que nunca dejarán de estar presentes.

Conclusiones

A pesar del cisma en los discursos sobre el uso de la tecnología en la política migratoria, las soluciones basadas en algoritmos éticos para el reasentamiento de las comunidades refugiadas podrían considerarse un punto intermedio. Para ello, es necesario describir la función y la finalidad de los algoritmos. Se pueden asemejar a plataformas de comunicación en las que las comunidades refugiadas, las comunidades de acogida y los recursos disponibles pueden expresarse en forma de datos, lo que permitiría que las personas más afectadas por los reasentamientos influyan en los resultados. También contribuyen a las estructuras de toma de decisiones que integran reglas éticas de manera sistemática para minimizar los sesgos y garantizar la justicia. También actúan como bancos de conocimiento que pueden almacenar y clasificar datos útiles para que investigadores y responsables de la formulación de políticas desarrollen programas de reasentamiento de refugiados más eficaces. Los algoritmos no son ni la panacea ni un chivo expiatorio, sino una herramienta entre muchas otras para una formulación de políticas justa y eficaz.

 

Ahmed Ezzeldin Mohamed
Profesor de Ciencias Políticas en el Institute for Advanced Study de la Toulouse School of Economics e ingeniero de algoritmos y analista de datos en Pairity
amohamed@pairity.ca linkedin.com/in/ahmed-ezzeldin-mohamed-4b6a07a2/

Craig Damian Smith
Cofundador y director ejecutivo de Pairity e investigador asociado en el Centre for Refugee Studies de la Universidad de York
csmith@pairity.ca  linkedin.com/in/craigdamiansmith/

READ THE FULL ISSUE