Puede que la Unión Europea no lidere el mundo en el desarrollo de una IA de vanguardia, pero quiere liderar su regulación. El bloque de 27 miembros está presionando para que se llegue a acuerdos internacionales sobre el desarrollo seguro de la inteligencia artificial, aunque es poco probable que Estados Unidos y China, las mayores potencias de IA del mundo, los firmen.

Los investigadores y ejecutivos de IA han advertido repetidamente sobre la amenaza existencial que podría representar la IA desbocada, y se está generando impulso para las barreras internacionales.

Finlandia y Noruega se recuperaron 30 países detrás de una propuesta en una cumbre de las Naciones Unidas en septiembre para controlar los modelos fronterizos de IA, pidiendo supervisión humana, pruebas obligatorias previas al despliegue y un nuevo organismo de supervisión internacional. El 14 de octubre, Irlanda encabezó que otros 23 miembros de la UE respaldaran la Declaración de Dublín para un desarrollo de IA confiable.

Estos acuerdos son en gran medida simbólicos, y la competencia entre Estados Unidos y China hace que sea poco probable que se llegue a un acuerdo vinculante entre los actores más importantes. Aún así, algunos líderes de importantes empresas de IA con sede en Estados Unidos han respaldado el enfoque de seguridad de la UE y han pedido normas internacionales.

“La presión competitiva es exactamente la razón por la que necesitamos acuerdos internacionales”, dijo Risto Uuk, jefe de investigación y gobernanza de políticas de IA de la UE en el Future of Life Institute. “Ninguna empresa o país puede frenar el ritmo por sí solo”.

¿Qué haría realmente un acuerdo internacional de seguridad?

Los acuerdos internacionales de seguridad de la IA son esfuerzos de varios países para establecer reglas compartidas para desarrollar e implementar modelos de IA de propósito general: la tecnología detrás de chatbots como ChatGPT, Claude y Gemini.

Establecen principios compartidos de seguridad, transparencia y supervisión humana, pero la mayoría carece de mecanismos de aplicación. Aún así, los compromisos voluntarios pueden contribuir a un tratado vinculante o influir en las leyes nacionales sobre IA, según Uuk.

Los últimos esfuerzos regulatorios apuntan a modelos fronterizos capaces de causar daños significativos, en medio de una creciente preocupación acerca de que la IA actúe de manera maliciosa. En septiembre, un modelo OpenAI pirateado el portal Medicare del gobierno australiano y, en julio, otro modelo pirateó un popular sitio web de codificación, abrazando la cara.

La UE, China y algunos estados de EE. UU. tienen algún tipo de regulación de la IA. Pero Uuk dijo que los marcos internacionales siguen siendo importantes porque la competencia en IA es global. Sin uno, dijo, las empresas se apresurarían a lanzar modelos peligrosos sin supervisión.

Alguno propuestas Piden un tratado vinculante y un organismo internacional. Esa organización monitorearía los modelos y podría autorizar pausas en el desarrollo si los riesgos se vuelven demasiado altos. Por ejemplo, el grupo PausaAI ha pedido el establecimiento de una “agencia internacional de seguridad de la IA” para realizar evaluaciones de modelos.

Algunos analistas han propuesto un pacto estilo control de armas, comparándolo con el tratado de No Proliferación Nuclear de 1968 para prevenir la proliferación de armas nucleares. Otros dicen que la analogía no es válida, ya que la IA, a diferencia de las armas nucleares, fue desarrollada en gran medida por empresas privadas, en lugar de naciones, lo que dificulta su regulación mediante el mismo modelo.

¿Qué acuerdos existen ya? — y que requieren?

Lo más cercano a un tratado internacional vinculante es el del Consejo de Europa 2024 Convenio Marco sobre IA y Derechos Humanos que exigía que el derecho internacional de los derechos humanos se aplicara a los sistemas de inteligencia artificial de los firmantes y pedía el establecimiento de juntas de supervisión independientes.

Sin embargo, Estados Unidos tiene no ratificado el acuerdo, lo que significa que no es legalmente vinculante para el país con los mayores proveedores de modelos. Microsoft firmó un acuerdo de cooperación con el Consejo de Europa para trabajar en IA, pero tampoco es legalmente vinculante.

Los acuerdos internacionales podrían aplicarse a los modelos de IA más potentes; por ejemplo, los modelos entrenados utilizando potencia computacional por encima de un cierto umbral estarían bajo una mayor supervisión.

También podrían exigir que grupos independientes evalúen los modelos antes de su lanzamiento. Se podría exigir a las empresas que prueben modelos contra infraestructuras sensibles de ciberseguridad, por ejemplo, para garantizar que actores maliciosos no puedan utilizar el modelo para piratear infraestructuras críticas.

Los defensores de detener el desarrollo de la IA suelen señalar a “p(doom)”, la probabilidad de que modelos de IA cada vez más potentes puedan representar un riesgo existencial para el mundo. Un ejemplo frecuentemente citado es el problema de alineación, o la posibilidad de que los sistemas de IA puedan desalinearse con los intereses humanos.

¿Por qué no se han adherido Estados Unidos o China?

Las empresas estadounidenses y las empresas respaldadas por el Estado chino están liderando la carrera de la IA, pero ninguno de los gobiernos ha mostrado voluntad de adherirse a un acuerdo global vinculante. En cambio, ambos han buscado acuerdos de IA a nivel nacional o estatal, compitiendo efectivamente sobre quién establece las reglas para la gobernanza global de la IA.

A finales de septiembre, el presidente de Estados Unidos, Donald Trump, y los líderes de las principales empresas tecnológicas estadounidenses firmaron un “Acuerdo de la Casa Blanca sobre Superinteligencia”. Pidió asociarse con grupos independientes para auditar modelos y una junta directiva para solucionar los riesgos de seguridad.

Sin embargo, Connor Martin, miembro del Consejo de Relaciones Exteriores, dijo que la acuerdo es desdentado. Trump se ha negado repetidamente a respaldar un acuerdo internacional, argumentando que beneficio Porcelana.

China ha estado más abierta a los acuerdos internacionales sobre IA, pero los ha utilizado en gran medida para marcar una diferencia distintiva y posición centrada en el desarrollo enfatizar la ampliación del acceso a la tecnología para los países del Sur Global, en lugar de priorizar la seguridad.

En julio, China creó la Organización Mundial de Cooperación en Inteligencia Artificial (WAICO, por sus siglas en inglés). con sede en Shangai. Ninguna economía de la UE o del G7 se unió; la organización ha enfatizado el desarrollo y el crecimiento económico.

¿Están divididas las empresas de IA en materia de seguridad?

Los gigantes tecnológicos estadounidenses que lideran la frontera de la IA, como OpenAI, Anthropic, Microsoft y Google, tienen diferentes enfoques en materia de seguridad y acuerdos internacionales.

El cofundador y presidente de Google Deepmind, Demis Hassabis, dijo que los incidentes de piratería informática de este verano fueron “disparos de alerta temprana”. “Parece obvio que necesitamos algún tipo de organismo de normalización internacional”, afirmó.

En septiembre, el CEO de Anthropic, Dario Amodei, también dicho que era necesario “marcar la frontera” del desarrollo de modelos.

OpenAI, sin embargo, adoptó un tono diferente. En su intervención en la cumbre de IA celebrada en Irlanda en octubre, Sarah Friar, directora financiera de OpenAI, dijo que es necesario acelerar la frontera, pero que no debería frenarse tanto que las empresas estadounidenses se vean superadas por quienes utilizan la tecnología con “intenciones maliciosas”.

¿Por qué la UE sigue presionando para llegar a un acuerdo?

Incluso aunque es poco probable que Estados Unidos y China se sumen, la UE sigue presionando, en parte porque el bloque ya ha desarrollado la principal regulación de IA del mundo, según Uuk.

Con empresas de la UE como las de París Mistralmuy por detrás de sus homólogos de EE.UU. y China, Europa tiene poca influencia directa sobre la tecnología y una mayor regulación corre el riesgo de poner a sus empresas tecnológicas en desventaja competitiva.

La UE también ha experimentado los riesgos de primera mano. En mayo, Anthropic, proveedor de modelos fronterizos, excluyó a la UE de sus avanzado modelo, una medida que aumentó la exposición a la ciberseguridad en Europa e inicialmente dejó al bloque incapaz de probar sus propios sistemas en su contra.

Cuando se le preguntó por qué la UE sigue presionando para lograr acuerdos incluso cuando parece poco probable que Estados Unidos y China los firmen, la Comisaria Henna Virkunen dijo que el aumento de los incidentes de seguridad hacía que los acuerdos internacionales fueran más importantes.

“Vemos claramente que la competencia es tan alta a nivel mundial que parece que todas las empresas no están invirtiendo suficiente tiempo y recursos para probar sus modelos”.

Uuk dijo que la Ley de IA y su herramienta de cumplimiento voluntario brindan a Europa el enfoque regulatorio y la experiencia para ayudar a gobernar la IA a nivel mundial.

¿Qué pasa después?

El próximo gran momento para los acuerdos internacionales sobre seguridad de la IA llegará en junio de 2027, en la Convención de Ginebra sobre seguridad de la IA, continuando la serie iniciada en Bletchley Park en 2023. Los legisladores suizos quieren que los estándares mínimos coordinados para modelos de IA riesgosos sean el centro de las discusiones.

Desde el 2 de agosto, la UE comenzó a aplicar la Ley de IA contra los proveedores de modelos más grandes, incluidos OpenAI y Anthropic, y ha solicitado información adicional sobre los modelos de ambas compañías.

Un camino prometedor a seguir, según Zach Meyers, director de investigación de CERRE, es que la UE acuerde normas voluntarias de seguridad y pruebas con otras potencias medias, como Canadá y el Reino Unido.

Como las empresas fronterizas necesitan clientes fuera de Estados Unidos y China, un acuerdo de este tipo podría ayudar a “fijar expectativas” para las principales empresas. “Esto no significa que Washington necesariamente lo siga, pero que al menos podría tolerar este tipo de enfoque sin amenazar con retirar el acceso de terceros países a la IA fronteriza”, dijo.

Incluso sin Estados Unidos y China a bordo, los acuerdos internacionales de seguridad de la IA son importantes. George Colville, analista de políticas de Open Markets Europe, llama a esto una “forma de contrapoder de la IA a través de la colaboración y coordinación de una tercera potencia”. Señala a Brasil y Corea del Sur, que adoptaron reglas similares a la Ley de IA de la UE, como evidencia de una alineación más amplia, una que podría fortalecer el poder de los países más pequeños contra los gigantes de la IA.

Siga los acontecimientos que están dando forma a Europa