Los deepfakes se están convirtiendo rápidamente en un problema y se utilizan para difundir información errónea en línea mientras India lidia con los traicioneros costos de una tecnología de inteligencia artificial en rápida evolución.
Las preocupaciones surgen después de que una serie de incidentes recientes de deepfake que involucraron a importantes estrellas y personalidades del cine indio llevaron al gobierno a reunirse con plataformas de redes sociales, compañías de inteligencia artificial y organismos de la industria para elaborar un “plan claro y viable” para abordar el problema.
Los deepfakes pueden “crear grandes problemas”: Modi
El primer ministro indio, Narendra Modi, dijo que los deepfakes eran una de las mayores amenazas que enfrenta el país y advirtió a la gente que tenga cuidado con las nuevas tecnologías en medio de un aumento de videos e imágenes generados por IA.
“Tenemos que tener cuidado con las nuevas tecnologías. Si se usan con cuidado, pueden ser muy útiles. Sin embargo, si se usan mal, pueden crear grandes problemas. Debes estar atento a los videos deepfake creados con la ayuda de IA generativa. “, dijo Modi el miércoles.
La proliferación de vídeos deepfakes en línea ha aumentado un 550 %, alcanzando la asombrosa cifra de 95.820, como se revela en el informe State of Deepfakes 2023 de Home Security Heroes, una organización con sede en Estados Unidos.
El informe identifica a la India como el sexto país más susceptible a esta amenaza emergente.
¿Cómo funcionan los deepfakes?
Los ciberdelincuentes utilizan tecnologías de mapeo facial para crear un conjunto de datos de simetría facial preciso. Usan IA para cambiar el rostro de una persona por el rostro de otra persona. Además, se utiliza la tecnología de coincidencia de voz para copiar con precisión la voz del usuario.
Temeroso de los deepfakes y la desinformación generados por la IA, el gobierno emitió el mes pasado un aviso a todas las plataformas de redes sociales recordándoles las obligaciones legales que les exigen identificar y eliminar rápidamente la información errónea.
Los expertos han señalado que India carece de leyes específicas para abordar los deepfakes y los delitos relacionados con la IA, pero las disposiciones de varias leyes de la Ley de TI podrían ofrecer reparación tanto civil como penal.
Otros han señalado que, aunque los deepfakes han desafiado el sistema legal en todo el mundo, existe una solución práctica.
Pranesh Prakash, consultor legal y político, dijo a JJCC que aunque existe un pánico moral sobre los deepfakes que no está relacionado con el daño real que plantea la tecnología, era necesario abordar el problema identificando claramente los daños y las lagunas en la ley existente.
“El ministro de TI ha dicho que las regulaciones se aprobarán urgentemente, pero no está claro qué problema preciso busca resolver ni qué disposición legal propone utilizar para la acción propuesta”, dijo Prakash, quien también es cofundador de la Centro para Internet y Sociedad, una organización sin fines de lucro con sede en Bangalore.
“Claramente, participar en fraude mediante el uso de deepfakes es un problema, pero ya tenemos leyes que cubren el fraude y la suplantación de identidad para cometer fraude. El gobierno necesita aclarar qué lagunas existen en la ley que están tratando de abordar”, dijo.
“Es necesario involucrar a múltiples partes interesadas para trabajar hacia la eliminación de este problema, incluidas las empresas tecnológicas, la sociedad y el gobierno, ya que hay una laguna en la ley”, dijo a JJCC Anushka Jain, investigadora asociada de Digital Futures Lab.
Desafíos que plantean la desinformación y los deepfakes
El experto en derecho cibernético Pavan Duggal dijo que sin una ley específica sobre inteligencia artificial, identificar al creador de los deepfakes y al primer transmisor de los deepfakes es un gran desafío.
“Dado que la mayoría de estos proveedores de servicios en la India no quieren compartir información sobre los creadores de deepfake debido al impacto potencial que podría tener al perder la exención legal de responsabilidad legal, ha llegado el momento de que la India tome medidas más efectivas en términos de disposiciones legales sobre falsificaciones”, dijo Duggal a JJCC.
“Además, tratar de detectar, investigar y procesar delitos falsos implicará la necesidad de adoptar herramientas más efectivas y nuevos enfoques de mentalidad en lo que respecta a los organismos encargados de hacer cumplir la ley, porque la tecnología avanza a un ritmo rápido y también se necesitan marcos legales y voluntad política. para mantener el ritmo”, añadió.
Google, una de las empresas de tecnología más grandes del mundo, ya ha dicho que trabajará con el gobierno indio para abordar los riesgos de seguridad que plantean las campañas de desinformación y deepfake.
“No existe una solución milagrosa para combatir las falsificaciones profundas y la desinformación generada por la IA. Requiere un esfuerzo de colaboración, que implique comunicación abierta, evaluación de riesgos rigurosa y estrategias de mitigación proactivas”, dijo Michaela Browning de Google Asia Pacífico, al frente de la Asociación Global. sobre la Cumbre de Inteligencia Artificial en Nueva Delhi.
Modi inauguró el evento la semana pasada para llegar a un consenso sobre un documento de declaración sobre el uso adecuado de la IA, las barreras de seguridad para la tecnología y cómo se puede democratizar.
Jency Jacob, editor en jefe de BOOM, un sitio web líder en verificación de datos que ha estado estudiando de cerca el tema, dijo que los videos deepfake se están convirtiendo en un motivo de preocupación y que existen preocupaciones válidas, especialmente durante la temporada electoral.
“Los gobiernos de todo el mundo todavía están trabajando en una respuesta política, pero todavía tenemos que ver algo que parezca un plan. El gobierno indio también ha compartido sus preocupaciones y será interesante ver cómo utilizan las leyes existentes y las nuevas disposiciones para proteger víctimas”, explica Jacob a JJCC.
