¿Quién vigila a la máquina que vigila? Es la pregunta que, la fundación PorCausa y el Centre Delàs d'Estudis per la Pau se plantean ante el avance del uso de la inteligencia artificial entre fronteras, una inteligencia tecnológica que también llega a España en Ceuta y Melilla.
Ambas entidades se unen para dar su perspectiva acerca de esta transformación que se cuece en los últimos meses, un cambio que tachan de “opaco”. La valoración efectuada señala que, en su mayoría, los contratos dedicados a este sector reflejan una falta de información o un uso del lenguaje “ambiguo”.
La evaluación se basa en la observación de 700 documentos de este tipo. El grueso, un 48%, concentran la mitad del gasto total y están destinados directamente al control fronterizo. La indagación recalca que destacan los que se hacen sin publicidad, es decir, sin concurso público y sin desglosar aspectos técnicos “bajo el argumento de la urgencia o la seguridad nacional”.
Mismas empresas
Asimismo, hacen hincapié que se repiten entre los adjudicatarios las mismas empresas. Los propios investigadores indican que la documentación “es muy difícil de rastrear” y que está “atomizada”. Tras recabar los datos concluyen que el procedimiento merece atención por no ser accesible a la ciudadanía.
Todo ello desemboca “en un ecosistema que realiza un considerable ejercicio de innovación tecnológica y política en el contexto de una preocupante opacidad”. Estos argumentos, que también recaen sobre la frontera de la ciudad, los llevan a preguntarse quién está pendiente de la maquinaria que se encarga de clasificar la situación de una persona.
“La información sobre sus costes, funcionamiento y resultados es escasa o directamente inaccesible”, explican. “Cuando existen pliegos se redactan con un lenguaje deliberadamente ambiguo”, aseveran.
Exponen ejemplos como ‘sistemas de análisis de riesgo’, ‘soluciones de inteligencia aplicada’ y ‘tecnologías de respuesta avanzada’ que no permiten “conocer su alcance real”.
Quién decide
Tras mostrar esta ausencia de datos, en el estudio se reflexiona hasta qué punto se delegan decisiones que atañen a migrantes a un algoritmo. “Si la legitimidad democrática descansa en la transparencia, la participación y el control público, el avance de una gobernanza algorítmica plantea una pregunta fundamental: ¿quién vigila a la máquina que vigila?”, espetan.
“El sueño de la frontera inteligente es, en realidad, una distopía eficiente”, inciden. “Esta opacidad institucional tiene como consecuencia directa: que las tecnologías que afectan a derechos fundamentales escapan al control de quienes las financian y padecen”, expresan.
Debaten sobre cómo puede indicar en los derechos de los implicados que un instrumento programado sea el que decida y remarcan que, finalmente, se elimina “la responsabilidad” en la toma de decisiones de este calado. “La misma se diluye y el poder se vuelve invisible”, puntualiza. La inteligencia en estas zonas limítrofes “termina siendo la negligencia política”, indican.
Alemania
“Cuando una solicitud de asilo, una autorización de entrada o una orden de expulsión se basan en sistemas automáticos, el principio de igualdad ante la ley se sustituye por una lógica de cálculos algorítmicos”, comentan.
La realidad de la IA en las fronteras para procesos migratorios ya se aplica en otros rincones de la Unión Europea. Los investigadores inciden en que, en España, las zonas fronterizas de Ceuta y Melilla “son los laboratorios” de esta práctica ya instalada por el viejo continente.
Defienden su postura con el ejemplo de Alemania. “Utiliza un utiliza un sistema de identificación de dialectos que se basa en inteligencia artificial para verificar el origen de los solicitantes de asilo”, mencionan. “Solo acierta en el 80% de los casos y sus errores pueden llevar a la denegación de peticiones”, agregan.
Millones de euros
“El Estado gasta millones de euros en sistemas que clasifican personas, pero no rinde cuentas sobre sus criterios de decisión. Los algoritmos son tratados como secretos de Estado o, peor aún, como propiedad privada”.
Todas estas conclusiones los lleva a formular “qué democracia puede sobrevivir cuando la frontera se convierte un espacio de excepción permanente”. El informe especifica aún más esa inquietud y alega que si se cataloga a migrantes, también puede hacerse con el ciudadano.
Ante este paradigma, desde las dos entidades contemplan reconsiderar la situación, no como un rechazo o renuncia a la tecnología. Más bien como un método para “gobernar” a esa herramienta. A pesar de los esfuerzos europeos por regular la IA, los autores estiman que “es insuficiente”.
Afirman que “regular la frontera significa imponer transparencia, garantizar control humano, establecer auditorías independientes y devolver la decisión al ámbito político”. Hacen hincapié en que este instrumento puede servir solo si las instituciones y, por ende, el sistema democrático, “conserva la capacidad de decir ‘no’ y ‘cómo’”.
Recalcan que el análisis “no habla solo de migraciones; también lo hace sobre el tipo de sociedad que se está construyendo”, cuentan. “Si el miedo justifica la vigilancia y la eficiencia sustituye al derecho, el precio no lo pagarán solo los migrantes: lo pagaremos todos”.
Un auténtico desastre, estamos peor que antes, más lentitud y eso se traduce en colas, menos mal que la frontera es inteligente, si llega a ser tonta....la que se lía