Vídeos falsos de un ministro prometiendo quitarles los derechos a las minorías. Otros muestran estrellas de cine criticando al primer ministro. Arrestos de empleados del partido de oposición, que niegan estar detrás de esto. Cientos de millones de usuarios de Internet no saben en qué pueden confiar.

Todo esto ha tenido lugar durante las elecciones generales de la India, las más grandes jamás celebradas en el mundo, en las que la votación aún está en curso. Los funcionarios de la UE se están apresurando a evitar que algo similar suceda en las elecciones al Parlamento Europeo del próximo mes, pero los expertos advierten que, de todos modos, algo de desinformación seguramente llegará.

La desinformación (engaño estratégico con el objetivo de confundir y abrumar) ha existido durante miles de años. Alrededor del año 44 a. C., Augusto, el primer emperador romano, llevó a cabo una campaña de propaganda contra su rival, Marco Antonio, que incluyó lemas grabados en monedas que manchaban su reputación.

Y la invención de la imprenta alrededor de 1440, que cambió irrevocablemente la producción y el acceso al material impreso, alimentó temores que hoy suenan familiares: “Hoy en día, la innumerable multitud de impresores causa confusión en todas partes”, escribió el erudito holandés Erasmo en 1508.

Más recientemente, en 2016, los medios rusos en Alemania informaron sobre una historia inventada sobre una adolescente violada por inmigrantes, que se volvió viral en las redes sociales y provocó protestas callejeras y violencia contra los refugiados.

Desde entonces, la tecnología ha avanzado exponencialmente, y las fotografías, vídeos y grabaciones generados por IA a menudo son indistinguibles de los reales para el ojo inexperto. Esto podría tener una serie de efectos perjudiciales para las democracias en este excelente año electoral mundial, incluidas las elecciones al Parlamento Europeo del 6 al 9 de junio.

Michael Meyer-Resende, director ejecutivo de la ONG Democracy Reporting International, con sede en Berlín, señala una grabación de audio falsa que pretendía mostrar a un candidato conspirando con un periodista para manipular la votación, causando agitación justo antes de las elecciones nacionales en Eslovaquia a finales del año pasado.

“El contenido generado por IA puede crear mucha confusión porque desacreditarlo adecuadamente lleva tiempo”, afirma. “Crea algo que llamamos el dividendo del mentiroso. De repente, la gente incluso cuestiona las historias reales y sospecha de manipulación”.

Un estudio de agosto de 2023 realizado por la Fundación alemana Bertelsmann reveló que más de la mitad de los ciudadanos europeos dudan de la exactitud de la información en Internet, mientras que un informe del Foro Económico Mundial de principios de este año identificó la desinformación impulsada por la IA como la mayor amenaza a corto plazo del mundo. .

En este contexto, las elecciones europeas del próximo mes serán “una prueba de nuestros sistemas”, dijo en marzo la presidenta del Parlamento Europeo, Roberta Metsola.

Nuevas herramientas

El más nuevo y potente de esos sistemas es la Ley de Servicios Digitales (DSA), vigente desde agosto del año pasado, que responsabiliza a las plataformas por cualquier desinformación que alberguen, así como por discursos de odio en línea, productos falsificados y más.

La DSA se centra en grandes plataformas 'guardianes' con más de 45 millones de usuarios activos mensuales en la UE, incluidas Instagram, YouTube y X. Están obligadas a presentar informes de riesgo periódicos; permitir a los usuarios marcar fácilmente contenidos ilegales y notificarles sus decisiones; y solicitudes de datos de campo de investigadores y consultas de la Comisión Europea.

La Comisión puede multar a estas empresas con hasta el seis por ciento de sus ingresos globales si se determina que infringen la legislación. Tiene investigaciones abiertas contra X, que comprenden varios elementos que incluyen moderación de contenidos; y contra TikTok, con foco en la protección de los datos de los niños.

“Tiene fuerza para hacer cumplir las disposiciones y el comisario no dudará en demostrarlo”, afirma Johannes Bahrke, portavoz de la Comisión para la economía digital. El Parlamento.

El ejecutivo de la UE se está preparando ahora para desplegar el DSA específicamente para salvaguardar las elecciones del próximo mes. El 24 de abril, llevó a cabo una prueba de resistencia electoral con todos los coordinadores de servicios digitales (DSC), agencias designadas por cada estado miembro de la UE para ayudar a los gobiernos a coordinarse entre ellos y con la Comisión.

“En nuestra comunidad existe la sensación de que ahora tenemos muy buenos instrumentos”, afirma Meyer-Resende. Pero se muestra cauto a la hora de montar todo tan rápido: “Hubiera sido fantástico si hubiéramos tenido todas estas cosas hace un año”, añade.

Necesidad de equilibrio

Si bien el DSA cambia las reglas del juego, existen límites a los poderes de la UE. Como revelan los estudios país por país realizados por la ONG EU DisinfoLab, la desinformación a menudo se difunde en idiomas locales y se adapta a especificidades históricas y culturales. En consecuencia, queda mucho trabajo por hacer a nivel nacional, afirma Peter Stano, portavoz de Asuntos Exteriores y Política de Seguridad de la Comisión.

“Podemos dar la alarma, pero la extinción la deben hacer los Estados miembros”, afirma. “Están en primera línea”.

Otro desafío es equilibrar las medidas contra la desinformación con la necesidad de salvaguardar la libertad de expresión, y las autoridades podrían ser demandadas si se equivocan. Después de que la UE sancionara a los medios de comunicación rusos en 2022 tras la invasión de Ucrania, una organización de periodistas holandeses presentó una demanda ante el Tribunal de Justicia de la UE, argumentando que la prohibición violaba la libertad de información de los ciudadanos europeos.

“No podemos combatir el fuego con fuego; entonces dañaríamos nuestros principios”, afirma Stano. “Necesitamos encontrar otras formas”.

Estos otros métodos forman parte de la política de desinformación de la Comisión y se centran en un enfoque “pedagógico”, afirma Stano. Incluyen una sensibilización continua y educación en alfabetización mediática a través de planes de estudios escolares, partes interesadas de la sociedad civil y verificadores de datos independientes.

“Presionamos a los estados miembros para que implementen estas medidas y, si no lo hacen, intentamos trabajar con partes interesadas de la sociedad civil o verificadores de datos independientes”, dice Stano. “Es un esfuerzo a mediano y largo plazo, pero es de esperar que eventualmente funcione”.

Meyer-Resende cree que, a largo plazo, la tecnología podría solucionar los problemas que ha causado. A medida que la fabricación se ha automatizado, también debería hacerlo la detección y señalización de materiales falsos, afirma, con la verificación humana de hechos como “la última línea de defensa”.

Pero desarrollar estas nuevas tecnologías lleva tiempo y constantemente surgen nuevas amenazas. Actualmente, las plataformas siguen teniendo dificultades para identificar audio y vídeo sintéticos. “Hay innovación en el lado de la generación de desinformación y hay innovación en el lado de la detección de desinformación”, afirma.

“Es una carrera armamentista”.