Cada iteración de la innovación digital trae consigo nuevas amenazas para las personas y las instituciones. Uno que está ganando cada vez más atención es el deepfake sexualmente explícito: vídeos e imágenes hiperrealistas generados por IA que representan a personas en escenarios explícitos inventados.

Esta forma de acoso en línea afecta desproporcionadamente a las mujeres. Un estudio realizado a finales de 2023 encontró que el 98 por ciento de los videos deepfake en línea eran pornográficos y que el 99 por ciento de los destinatarios eran mujeres o niñas.

“El software para crear estas imágenes está disponible gratuitamente y es relativamente fácil de usar”, dice a The Parliament Dean Fido, profesor asociado de psicología forense en la Universidad de Derby en el Reino Unido.

Todo lo que se necesita son unas pocas imágenes, a menudo extraídas de redes sociales o eventos públicos, para crear contenido viral diseñado para dañar la reputación de sus objetivos, en su mayoría mujeres. La primera ministra italiana, Giorgia Meloni, la viceprimera ministra del Reino Unido, Angela Rayner, y la ministra de Asuntos Exteriores de Alemania, Annalena Baerbock, se encuentran entre los ejemplos más destacados de mujeres políticas que han sido blanco de campañas de deepfake sexualizadas. Estos suelen coincidir con períodos electorales críticos.

A medida que los generadores de imágenes impulsados ​​por IA se vuelven más disponibles, las mujeres corren un mayor riesgo de ser víctimas de este tipo de ataque, que puede “dañar profundamente su salud mental y su prestigio profesional”, dice Fido.

En muchos casos, añade, las víctimas no son conscientes de que sus imágenes manipuladas circulan en línea, mientras que los creadores de estos deepfakes obtienen ingresos de ellas.

Un ‘efecto paralizador’ sobre la democracia

La UE ha intervenido con políticas destinadas a proteger a las mujeres del abuso en línea. Los esfuerzos legales incluyen la Directiva sobre violencia de género, que penaliza la violencia de género, incluido el acoso en línea. La Ley de Servicios Digitales (DSA) también aborda esta cuestión.

“Es algo que las mujeres llevan mucho tiempo reclamando”, afirma al Parlamento Alexandra Geese, eurodiputada de Los Verdes. “Había una enorme sensación de urgencia, especialmente en lo que respecta a las imágenes deepfake, que están explotando”.

Geese, que dice que no ha sido víctima de deepfakes, ha sido una firme defensora en el PE de una aplicación más estricta contra ellos.

Tanto los políticos como las mujeres enfrentan abusos en línea, pero la naturaleza de estos ataques difiere. Los hombres suelen ser atacados en función de su competencia o políticas, mientras que es más probable que las mujeres sean atacadas de maneras que exploten sus cuerpos y su sexualidad, lo que hace que este tipo de deepfake sea una forma de acoso exclusivamente basada en el género.

“El ataque a las mujeres políticas es particularmente preocupante porque afecta negativamente a nuestra democracia”, dice al Parlamento Clare McGlynn, profesora de derecho en la Universidad de Durham en el Reino Unido. “Más mujeres y niñas se mostrarán reacias a dedicarse a la política. Quienes están en política tienen que cuestionar constantemente lo que ven en línea y preocuparse por cómo incluso las interacciones inocentes podrían ser manipuladas y utilizadas como arma en su contra”.

Sin embargo, la normativa actual no cubre toda la gama de contenidos potencialmente dañinos. Es posible que algunas imágenes manipuladas no sean lo suficientemente explícitas como para cumplir con las pautas de cumplimiento. Además, el criterio legal de “daño grave” puede resultar difícil de probar.

“Cualquier mujer sabe que tener una imagen suya desnuda en cualquier lugar es la definición de daño grave”, dice la eurodiputada Geese. “No debería haber ninguna necesidad de probar esto”.

Se necesita más aplicación de la ley

Los deepfakes sexualmente explícitos están aumentando justo cuando las instituciones de la UE presionan por una mayor paridad de género dentro de sus filas. Al formar su próxima Comisión, la presidenta Ursula von der Leyen solicitó que cada estado miembro nominara un candidato tanto masculino como femenino. Al final, formó una Comisión que, si es aprobada por el PE, estará compuesta aproximadamente por un 40 por ciento de mujeres.

“Si no actuamos pronto, corremos el riesgo de perder una generación de mujeres líderes. Podríamos hacer mucho más incluso con las leyes y regulaciones que tenemos, pero todavía no tenemos empresas de tecnología que hagan lo suficiente al respecto”, dice McGlynn.

Eso es lo que la DSA se propone hacer. El artículo 34 identifica específicamente el daño en línea por motivos de género como un “riesgo sistémico” que las grandes plataformas en línea deben monitorear y abordar. Si no lo hacen, la Comisión Europea puede intervenir, pero la Comisión ha sido criticada por actuar con demasiada lentitud.

Los defensores de una aplicación más estricta también quieren ver herramientas mejoradas de detección de IA, procesos de verificación de identidad más estrictos para la carga de contenido y sanciones más severas para las plataformas que no actúan con rapidez.

“Sin eso, las mujeres seguirán sufriendo y los creadores de estos deepfakes operarán con impunidad”, advierte Geese.