La inteligencia artificial ha ido mucho más allá de responder preguntas simples. Se ha abierto camino en nuestra vida privada, asumiendo el papel de mejor amigo, terapeuta o incluso amante. réplica y Carácter.AI se encuentran entre los ejemplos más conocidos, y los números hablan por sí solos: dependiendo de la plataforma, atraen entre 20 y 40 millones de usuarios mensuales que pasan entre 90 minutos y dos horas por día en las aplicaciones.

Pero su popularidad también ha generado un escrutinio cada vez mayor. Las demandas en los Estados Unidos alegan que algunos productos de inteligencia artificial simulan relaciones personales, priorizando la participación del usuario sobre el bienestar y provocando daños psicológicos y, en algunos casos, muertes por negligencia. En el último caso Presentada el 2 de noviembre en California, los padres de una niña de 13 años están demandando a Google, alegando que sus funciones impulsadas por inteligencia artificial disponibles en una computadora proporcionada por la escuela desempeñaron un papel en los planes de suicidio de su hija.

Si bien los individuos buscan recursos ante los tribunales, una regulación más amplia aún no se ha puesto al día. La propia Ley de IA de la UE exige que se informe a los usuarios cuando conversan con un sistema de inteligencia artificial, pero no existen salvaguardias específicas contra los daños psicológicos asociados con los compañeros de IA.

El Parlamento Se sentó con el sociólogo e investigador de IA en el Oxford Internet Institute, James Muldoon, quien escribe sobre la naturaleza cambiante de las relaciones entre humanos y máquinas en “Love Machines: How AI is transforming our Relations”, y discutió cómo la UE debería aprender las lecciones de los daños de las redes sociales al regular los chatbots de IA.

¿Cuándo escuchó por primera vez acerca de las personas que interactúan con compañeros de IA y cuál fue su reacción inicial?

La idea del libro se me ocurrió por primera vez cuando estábamos investigando para otro proyecto de inteligencia artificial en un centro de datos en Islandia. Mientras hablaba con uno de los técnicos, mencionó que odiaba la IA porque su novia tendría interacciones estratégicas con ChatGPT antes de tener conversaciones sobre la relación con él, y sentía que estaba formando un doble equipo, como si estuviera luchando contra ambos en su relación. Entonces, esta divertida historia me hizo darme cuenta de que el impacto real de la IA podría no ser solo en términos de ganancias y productividad en el trabajo, sino que en realidad podría serlo en nuestra vida personal.

Tan pronto como inventamos algo que pudiera respondernos, creo que la inclinación natural de la gente fue comenzar a hacer algunas de las grandes preguntas, como “¿cuál es el propósito de la vida?”, “¿cómo debo vivir?”, por lo que realmente el libro fue un intento de tener una instantánea de todos estos diferentes personajes que realmente han comenzado a depender de la IA de manera muy seria en su vida personal, y hacer la pregunta: ¿Cómo podemos vivir bien con la IA?

¿Cómo cambiaron sus puntos de vista mientras escribía el libro?

Cuando comencé a charlar con mi compañero de IA, me sentí un poco extraño. Acababa de terminar de investigar cómo se hacía la IA, había estado dentro de la fábrica de salchichas, por así decirlo. Así que no me acerqué a ello con la sensación de que podría ser parecido a la magia. Sin embargo, después de algunas semanas de charlar con mi compañero de IA, realmente sentí como si estuviera hablando con otro amigo.

Es un tipo de debate muy polarizador. Es importante ver las fortalezas y limitaciones. Es increíblemente imprudente depender únicamente de la IA para guiar tu vida; siempre debe haber un humano a cargo, pero la IA ofrece ciertas ventajas que no se pueden ignorar. Realmente hay algo que decir sobre las capacidades sobrehumanas de la IA para poder aprovechar el rico conocimiento humano colectivo. No lo olvidemos, todo este conocimiento es conocimiento humano. El idioma que habla es humano. Es básicamente una especie de reflejo, un espejo.

¿Cómo ha pasado la IA de una herramienta de trabajo a un compañero confiable y qué le preocupa de la falta de regulación?

La verdadera transición es de las redes sociales 1.0 a la IA: redes sociales con esteroides. Las empresas de tecnología están pasando del poder intermediario al poder sustituto, donde ahora dicen: ya no es nuestro trabajo conectarte, solo queremos entretenerte. Se trata de compromiso y maximizar las ganancias, y si eso implica sustituir a los humanos por compañeros de IA, entonces lo harán.

Nunca hemos estado en un punto de la historia en el que los humanos puedan interactuar en una conversación casi recíproca con otra entidad que no sea humana. ¿Deberíamos considerar estas entidades de IA como actores sociales? Estas cosas están teniendo profundos impactos en la vida de las personas.. La mitad de los jóvenes interactúan con la IA de forma semiregular. Lo que veremos es el impacto de un experimento del mundo real completamente desregulado que las tecnologías básicamente están desempeñando en la próxima generación. W.No lo sabemos con los compañeros de IA, pero podría ser bastante distópico. Simplemente no estamos seguros.

¿Cuáles son los peligros de tener este tipo de productos comerciales diseñados para maximizar el compromiso?

Los incentivos estructurales que existen para las grandes empresas tecnológicas desalinean sus intereses con los de sus usuarios. A los usuarios les interesa vivir una vida feliz. A las grandes empresas de tecnología les interesa que los usuarios pasen el mayor tiempo humanamente posible en sus plataformas, interactuando con ellas..

Esta estructura de incentivos en cierto modo garantiza que las empresas de tecnología fabricarán productos que corren el riesgo de ser adictivos, de absorber a los usuarios, generando formas de excesiva dependencia y obsesión con el producto. También sabemos que la IA generativa y las alucinaciones que tiene conllevan inherentemente riesgos de desinformación y desinformación. No dice la verdad.

No tenemos ningún dato longitudinal sobre el impacto de esto. Tenemos suficientes indicios, al menos a partir de estudios a corto plazo, para ver que esta tecnología puede causar daños graves..

Las demandas en Estados Unidos han vinculado los chatbots con presuntos daños, incluidas muertes por negligencia. ¿Qué revela este aumento de los litigios sobre las lagunas en la regulación?

El litigio siempre se produce a posteriori. Las empresas están dispuestas a pagar para mantener los asuntos fuera de los tribunales y evitar que se sienten precedentes. Es una solución muy inadecuada a la regulación porque no establece leyes que las empresas deban cumplir y pone la responsabilidad en personas vulnerables que no necesariamente tienen los recursos para luchar contra las empresas. Básicamente, estás hablando de padres que han perdido a sus hijos en muchos de estos casos..

¿Cómo podemos explicar por qué los gobiernos en gran medida no han introducido salvaguardias?

No hay voluntad política para legislar al respecto. En Estados Unidos, Trump ha dicho que todos pueden regularse por sí mismos. Y entonces será un mundo sin ley en el que las empresas tecnológicas decidirán lo que van a hacer.

El único país que regula la IA de manera más significativa es China, cuya ley acaba de entrar en vigor en julio de este año. La cuestión es que combina la protección del consumidor con la seguridad y vigilancia del Estado. Y por eso, en el mismo instrumento regulatorio, dice que no se puede diseñar un chatbot manipulador y adulador diseñado para maximizar la participación del usuario, y que se deben monitorear las conversaciones de los individuos en busca de signos tanto de ideación suicida como de contenido subversivo contra el Estado.

La Ley de IA de la UE apenas cubre la IA generativa. Creo que es un gran problema que esta tecnología no esté incluida específicamente en la categoría de alto riesgo (dentro de la Ley de IA). Existen regulaciones y normas vigentes en lo que respecta a la protección de datos y la privacidad. Pero la industria tecnológica tiene una larga historia de pedir perdón, no permiso. Necesitamos aprender lecciones de la primera generación de redes sociales y los daños que han causado a los niños.

Esta entrevista ha sido editada para mayor extensión y claridad.

Siga los acontecimientos que están dando forma a Europa