La ciencia detrás de la espeluznante técnica de la nueva frontera es totalmente defectuosa

Los ensayos en Europa utilizan tecnología de detector de mentiras para examinar a los viajeros, y se han utilizado pruebas de ADN en la frontera entre Estados Unidos y México. Los sistemas plantean cuestiones éticas

Los refugiados que buscan asilo en Europa están sujetos a una burocracia extensa e intensa. A partir del próximo año, podría volverse aún más difícil, ya que varios Estados miembros de la UE están probando una tecnología que pretende analizar las expresiones de los viajeros para indicar que pueden estar mintiendo.

La tecnología se utilizará con fines de aplicación de la ley, pero también como una forma potencial de acelerar el viaje de las personas. Sin embargo, algunos científicos no están convencidos de que sea un uso correcto o moral de la tecnología.

Según un documento publicado por la Comisión Europea, una empresa llamada European Dynamics, con sede en Luxemburgo, ha creado un sistema llamado “IBORDERCTRL” que analizará las expresiones faciales de los que se encuentran en la frontera, buscando “microexpresiones”.

Estos son pequeños tics faciales que duran entre 1/25 y ⅕ de segundo, lo que podría sugerir que las personas no están diciendo la verdad a través de un proceso de dos pasos. La primera es una “preselección” en la que los viajeros utilizan una aplicación en línea para cargar imágenes con sus pasaportes y comprobantes de fondos, antes de responder preguntas que se personalizarán según el “género, etnia e idioma” del viajero a través de la cámara web.

El segundo paso tiene lugar en la frontera. En este punto, el sistema comparará las imágenes de las expresiones faciales del individuo de la preselección con las fotos tomadas durante los cruces fronterizos anteriores. No dice qué pasará con las personas que no hayan cruzado la frontera antes.

Posteriormente, se “recalculará” el “riesgo potencial” por parte del pasajero, que es el punto en el que los guardias fronterizos se harán cargo del sistema automático. En los últimos seis meses, se están llevando a cabo juicios en Hungría, Grecia y Letonia y costarán 4,5 millones de euros (todos financiados por la Unión Europea).

Una vez finalizado el proceso de seis meses, se analizarán sus resultados y se tomarán decisiones adicionales sobre si debe lanzarse de manera más amplia. No hay garantía de que se adopte la tecnología.

El sistema tiene el potencial de acelerar los viajes de los ciudadanos. Sin embargo, el sitio web del juicio dice que se utilizará para “atrapar inmigrantes ilegales” y ayudar a “prevenir el crimen y el terrorismo”.

Leer más: A medida que se acerca el Brexit, queda claro que la tecnología para resolver el problema de la frontera irlandesa no ha sido probada o es imaginaria.

Aunque esto pueda parecer un guión de una novela distópica, el uso de la tecnología y la ciencia para imponer una frontera no es particularmente nuevo. Louise Amoore, profesora de la Universidad de Durham que investiga la ética de los algoritmos, acuñó el término “límite biométrico” en un artículo en 2005, diciendo que la tecnología se utilizará cada vez más para imponer límites, reales o impuestos.

“Los intentos de algoritmos de frontera producirán incluso más datos de entrenamiento y es muy probable que permitan que los errores positivos y las falsedades se vuelvan a incorporar al algoritmo”, dice. “No hay duda en la investigación que yo y otros hemos hecho de que las personas han sido detenidas, interrogadas, detenidas, registradas e incluso deportadas injustamente con base en una tecnología que tiene una gran inclinación por los falsos positivos”.

Si bien el marco técnico del proyecto abarca varias áreas de seguridad fronteriza, los aspectos de evaluación se basan en algoritmos de redes neuronales convolucionales (CNN), que se utilizan comúnmente en el reconocimiento facial. (Una tecnología que no siempre es precisa).

Generan grupos de datos a partir de los videos o imágenes en los que están entrenados, como en la frontera, y luego se les asignará un atributo de grupo, como la probabilidad de decir la verdad. Amoore describe este proceso como un “umbral de veracidad generado por una máquina”, en lugar de una herramienta de “mentira engañosa” similar al polígrafo, que se informó anteriormente (y tiene bases científicas dudosas).

Sin embargo, los videos y las imágenes pueden ser malinterpretados por los automóviles, como Joy Buolamwini explora en su proyecto, “The Coded Gaze”. Esta es una tendencia de las caras que no son blancas a no estar etiquetadas con precisión, especialmente porque pueden estar asociadas con la desconfianza y el engaño.

Chris Frith, colega de la Royal Society y neurólogo de la UCL, dice que la tecnología en sí es probablemente vaga y no muy útil. “Es muy difícil ver cómo estas técnicas pueden distinguir la ‘mentira’ del miedo y la ansiedad generales”, dice. “La gente siempre espera una solución rápida y barata, y también les gusta reclamar la objetividad asociada con la ciencia, por lo que puede haber habido un aumento en las técnicas científicas de selección de cerezas e ignorando la mayoría de las opiniones científicas”.

Un informe de la Royal Society, como parte de su proyecto Brain Waves, que explora la aplicación de la neurociencia en la sociedad, dijo que la policía había identificado previamente este uso de la neurociencia como un área potencial para un mayor desarrollo.

Leer más: Europa utiliza los datos de los teléfonos inteligentes como arma para deportar a los refugiados

La evidencia muestra diferencias en la función cerebral si alguien miente, pero esto no es concluyente. Sin embargo, hay muchas formas de engañar a un sistema: está bien documentado que se puede persuadir a las personas para que digan la verdad si mienten con suficiente frecuencia o adoptan “contramedidas”.

Andrew Balmer, profesor titular de sociología en la Universidad de Manchester, que ha estudiado la detección de mentiras, dice que cualquier intento de encontrar una verdad es intrínsecamente político. “Las mentiras pueden volverse comunes y automáticas, especialmente si las decimos con frecuencia o las practicamos”, dice. “Así que la detección de mentiras es científica y sociológicamente inválida. Cualquier intento de determinar objetivamente si alguien está mintiendo está condenado al fracaso “.

“Hay muchos casos en Estados Unidos, donde el polígrafo es muy utilizado, de graves injusticias derivadas de este tipo de interrogatorios”, agregó. “Lo hemos hecho bien en el Reino Unido y en otras partes de Europa para evitar detectar mentiras fuera de nuestro sistema judicial. No deberíamos permitir que se aplique ahora”.

En una descripción del nuevo estudio europeo, su coordinador dijo que el proyecto está diseñado para ir más allá de las tecnologías biométricas. “Utilizamos tecnologías existentes y probadas, así como nuevas, para capacitar a los agentes fronterizos para aumentar la precisión y eficiencia de los controles fronterizos”, dijo George Boultadakis de European Dynamics en un comunicado de prensa.

Esta no es la primera vez que los gobiernos intentan ampliar los límites de la ciencia y la tecnología. En el Reino Unido, los oficiales de control de fronteras han estado utilizando puertas automáticas de reconocimiento facial durante varios años. Estas puertas de epassort permiten a los pasajeros presentar su pasaporte a un automóvil, y las cámaras coinciden con las imágenes que se muestran en su rostro. Las puertas se utilizan ampliamente.

En una situación diferente, el gobierno británico propuso (y probó durante un corto tiempo) la prueba de isótopos de ADN en su frontera en 2009. Este esquema tenía como objetivo identificar si los solicitantes de asilo y refugiados provenían de áreas de las que decían venir, como Somalia. – aumentar sus posibilidades de refugio seguro. También se utilizó para confirmar que los miembros de la familia estaban relacionados entre sí, lo que podría afectar sus solicitudes de visa. Los científicos en ese momento dijeron que era un precedente peligroso para sentar y el esquema fue descontinuado.

Sin embargo, el secretario de Interior, Sajid Javid, se disculpó a finales de octubre con los posibles inmigrantes cuyo ADN fue secuenciado como condición para solicitar vivir en el Reino Unido con el apoyo de sus familias. Como se informó ampliamente en julio de este año, los niños separados de sus familias en la frontera entre Estados Unidos y México se someterán a pruebas de ADN para encontrar a sus padres, lo que plantea todo tipo de problemas morales.

Sin embargo, aunque este uso de la tecnología podría reemplazarse, las herramientas en sí mismas son útiles en un sentido más amplio; por ejemplo, este tipo de redes neuronales se utilizan de manera eficaz, a menudo con el propósito de salvar vidas, en la detección de tumores. “En ambos casos, se asume que un automóvil puede hacer visible algo que un ser humano no puede ver”, dice Amoore. “Pero en un caso, la ciencia se utiliza de manera poco ética”.

– Por qué el iPad Pro no salvará el mercado de las tabletas en caída de forma gratuita

– Los pequeños robots harán una agricultura eficiente y matarán a los tractores.

– Los científicos explican por qué Hyperloop es tan peligroso y difícil

– China quiere fabricar trenes supersónicos. Ellos no funcionarán

– Dentro de la filosofía intensamente política de los juegos de Fallout.

Lograr lo mejor de DyN Noticias en tu bandeja de entrada todos los sábados con el boletín DyN Noticias Weekender

Todas las noticias de la ciencia de la tierra en un sólo sitio. artículos de Ciencia.