Identificación mejorada por IA: ¿un peligro en Oriente Medio?

En mayo de este año, Khalaf al-Romaithi voló desde Turquía a Jordania para buscar una nueva escuela para su hijo. Pero el disidente emiratí fue detenido allí. por sus ojos. O, para ser más exactos, por la información biométrica que contenían sus ojos.

El hombre de 58 años viajaba con pasaporte turco, pero un escaneo de su iris en el aeropuerto de Ammán indicó que era el mismo Khalaf al-Romaithi condenado previamente a 15 años de prisión en los Emiratos Árabes Unidos. Esto fue como parte de un juicio masivo de 94 críticos del liderazgo de los Emiratos Árabes Unidos en 2013, que las organizaciones de derechos humanos han condenado por tener motivaciones políticas.

“Fue detenido en Ammán después de un escaneo del iris”, confirmó Hamad al-Shamsi, director del Centro de Defensa de los Detenidos de los Emiratos, una organización sin fines de lucro que ayuda a los presos de conciencia en las prisiones de los Emiratos Árabes Unidos. Pero, añade, nadie está seguro de cómo obtuvieron los jordanos los datos biométricos de al-Romaithi. Es posible que la información les haya sido proporcionada por los Emiratos Árabes Unidos, sugirió.

Ni los representantes jordanos ni los emiratíes en Alemania respondieron a las solicitudes de comentarios de JJCC.

Al-Romaithi ha sido enviado (ilegalmente, según sus abogados) desde Jordania a los Emiratos Árabes Unidos, donde se encuentra en prisión.

Señales preocupantes en Oriente Medio

El caso de al-Romaithi es un presagio preocupante en lo que respecta a cómo se utiliza la información biométrica personal en Medio Oriente, explicó Yana Gorokhovskaia, del organismo de vigilancia de la democracia Freedom House, con sede en Estados Unidos.

“Estamos muy preocupados por el uso cada vez mayor de la tecnología biométrica para permitir una cooperación más estrecha entre gobiernos represivos, algo que hemos visto en Medio Oriente y también en Asia Central”, dijo a JJCC.

La información biométrica incluye cualquier marcador único que identifique a una persona. Algunos aspectos no son nuevos: después de todo, se incluyen las huellas dactilares, algo con lo que la policía ha estado trabajando desde finales del siglo XIX. También incluye material genético, o ADN, que se ha utilizado en investigaciones criminales desde finales de los años 1980.

Pero hoy en día, la información biométrica es mucho más variada e incluye todo, desde las huellas de las palmas de las manos hasta la forma de la cara y los escaneos del iris, el aspecto de los lóbulos de las orejas e incluso la forma en que respira y camina. En el futuro, la información biométrica también puede incluir la forma en que escribe, la forma en que firma su nombre y el reconocimiento de voz y gestos.

Por supuesto, utilizar información biométrica para identificar personas no es necesariamente negativo.

Mucha gente ya está familiarizada con lo que se conoce como verificación biométrica.. Esto hace coincidir sus datos únicos, como sus huellas dactilares o iris, con los datos que ya ha proporcionado. Se llama verificación uno a uno. Un ejemplo común es desbloquear su teléfono móvil con un escaneo de huellas dactilares.

Otro uso de este tipo de datos se denomina identificación biométrica remota o RBI. Esto implica que el software compare sus características únicas con una gran base de datos de las características de muchos otros, lo que se conoce como identificación uno a muchos. Es el tipo de cosas que uno podría ver en una película de espías, donde una cámara digital ambulante detecta al culpable entre una multitud, habiendo comparado los ojos de la persona, los lóbulos de las orejas e incluso su forma de andar, y asumiendo que este es el individuo que están buscando.

Más peligroso gracias a la IA

Es el RBI lo que preocupa a los expertos en derechos humanos, especialmente porque se utiliza junto con algoritmos avanzados e inteligencia artificial o IA.

Tiene que ver con la forma en que la tecnología se ha desarrollado en los últimos años, dijo Ella Jakubowska, asesora principal de políticas de la Red Europea de Derechos Digitales (EDRI), con sede en Bruselas, que dirige el trabajo del grupo sobre reconocimiento facial y biometría.

“Hay un par de cosas que parecen un verdadero cambio radical”, señaló. “Una sería la cantidad de formas diferentes en que se puede identificar y rastrear a una persona. La otra sería que el potencial del software para reconocer patrones ha aumentado exponencialmente en los últimos cinco años. Ahora, no solo se puede identificar a alguien basándose en una imagen, pero también conocer el patrón de sus piernas y pies mientras caminan”.

“Estos avances han reducido las barreras; es más rápido y más barato que nunca tener un almacenamiento masivo de datos y procesarlos. Todo eso se suma al potencial de poder reconocer a muchas personas muy rápidamente, a escala”, advirtió. “Lo que amplía el potencial de una vigilancia masiva arbitraria”.

Este es el lado oscuro de la identificación biométrica moderna, algo que podría convertirse en un problema mayor en regímenes autoritarios como los de Oriente Medio.

“El uso generalizado de sistemas de identificación biométrica, junto con leyes de privacidad débiles y un estado de derecho y protecciones de derechos humanos generalmente débiles, abre la puerta a abusos autoritarios, que las herramientas de inteligencia artificial probablemente agravarán”, afirman los autores de un estudio de políticas de 2022. Un estudio sobre la inteligencia artificial en Oriente Medio, publicado por el Instituto Europeo del Mediterráneo, lo confirma.

La transformación digital en marcha

Las naciones más ricas de la región, como los Estados del Golfo, ya están entusiasmadas con la identificación biométrica. “Estas tecnologías son fundamentales a medida que la región, especialmente los países del Golfo, experimentan una transformación digital”, dijo a JJCC Mohammed Soliman, director del programa de tecnologías estratégicas y ciberseguridad del Instituto de Oriente Medio con sede en Washington.

Actualmente, casi todos los países de Medio Oriente utilizan información biométrica con fines de inmigración en aeropuertos y fronteras.

En historias de éxito recientes de Dubai, las autoridades del aeropuerto se jactaban de cómo atraparon a un estafador que había usado tarjetas de crédito falsas disfrazado comprobando la forma de sus orejas. En otro caso, arrestaron a un hombre que vestía una bata de mujer larga y un velo facial debido a su forma de caminar y sus medidas corporales.

Algunos países, incluidos Qatar, Arabia Saudita y los Emiratos Árabes Unidos, han recopilado información biométrica como parte del registro de ciudadanía que permite a los locales acceder a los servicios estatales. Otros, como Irak y Yemen, ya lo han recogido previamente para el registro de votantes.

Pero toda esa información también podría usarse de una manera diferente y más maliciosa, sostienen los expertos.

“Cualquier gobierno podría acumular una base de datos con los datos biométricos de toda su población y permitir que se utilice con imágenes de CCTV en toda una ciudad”, dijo Jakubowska del EDRi. “Entonces tienes una imagen en vivo de las partes más íntimas de la vida de las personas. Puedes ver quién se reunió con un periodista, quién fue a un bar queer, quién fraternizó con un oponente político o un disidente, y eso puede ser muy peligroso.”

Amba Kak, director del AI Now Institute, con sede en Nueva York, estuvo de acuerdo en que la tecnología puede permitir que los gobiernos tengan poder sobre sus ciudadanos.

“Estos sistemas permiten una vigilancia masiva de un tipo que cambia seriamente el equilibrio de poder entre quienes vigilan y quienes son vigilados, con graves efectos paralizadores en las vidas políticas y privadas de los ciudadanos”, afirmó.

¿Se puede detener el mal uso?

Entonces, ¿cómo se puede prevenir esto en Medio Oriente, donde los regímenes autoritarios tal vez todavía no estén haciendo un uso indebido de la información biométrica de manera obvia, pero donde claramente tienen un interés creado en el control social?

“Existe la idea de que el procesamiento de datos biométricos de las personas es útil y beneficioso”, afirmó Jakubowska. “Pero en realidad, estos datos son tan sensibles (no es como una contraseña que se puede restablecer, te identificará durante toda tu vida) que siempre comenzaremos preguntándonos si realmente necesitamos hacer esto”.

La Unión Europea está debatiendo actualmente la que probablemente será la primera ley del mundo sobre inteligencia artificial. Las normas sobre cómo debe usarse la información biométrica, y si debe usarse o no, probablemente sean uno de los temas más polémicos.

“Lo que realmente me preocupa es que si la UE dice que existen casos de uso legítimos para estas tecnologías, lo estemos legitimando para otros países”, dijo Jakubowska, a quien le gustaría que la UE adoptara una línea más dura. “Definitivamente hay poder en toda una jurisdicción que dice: ‘no creemos que esto sea aceptable'”.

El AI Now Institute quiere una prohibición total de la identificación biométrica remota, añadió Kak.

“Nada más tiene sentido”, afirma a JJCC, añadiendo que las leyes de privacidad y otras normas no ayudarán. “Y no sólo en Medio Oriente, sino aquí en Estados Unidos y también en Europa. Los problemas con estos sistemas no se solucionan mágicamente en las democracias liberales occidentales, aunque la distopía de lo que puede salir mal a menudo es inmediatamente palpable bajo regímenes autoritarios. “.