Europa se prepara para vigilar la IA fronteriza

Europa se prepara para vigilar la IA fronteriza

A partir del 2 de agosto, Bruselas obtiene amplios poderes sobre los modelos de IA más grandes del mundo. La verdadera prueba es si la Comisión está dispuesta y equipada para utilizarlos.
Aplicación Grok AI Advisor en un teléfono inteligente con el telón de fondo de la bandera de la Unión Europea. (Ascannio)

Después de años de negociaciones y ajustes regulatorios, la Unión Europea obtendrá el domingo nuevos y amplios poderes para vigilar Grandes modelos de IA de uso general. – los versátiles sistemas de IA detrás de escena que impulsan los chatbots, los generadores de imágenes y las herramientas empresariales que son la forma en que la mayoría de las personas interactúan con la IA.

A partir del 2 de agosto, la Comisión podrá exigir información a los proveedores de modelos, realizar evaluaciones de seguridad, ordenar medidas correctivas, retirar modelos del mercado de la UE e incluso imponer multas de hasta el 3% de la facturación total anual. El nuevo mandato colocará a la UE en la frontera global de la regulación global de la seguridad de la IA.

Pero si esos poderes realmente importan depende de una pregunta: ¿la Comisión estará dispuesta y será capaz de usarlos?

Una aplicación estricta indicaría que Bruselas está dispuesta a respetar sus normas sobre IA incluso si hacerlo crea fricciones con Estados Unidos o China, donde se encuentran la mayoría de los principales proveedores de modelos. La vacilación, por el contrario, reforzaría la crítica de que la UE es mucho mejor redactando leyes que haciendo que las empresas poderosas las sigan.

“La aplicación depende de la voluntad a nivel político de hacer cumplir la ley y tomarla en serio”, dijo Risto Uuk, jefe de política europea e investigación en el Future of Life Institute. “Muchas partes interesadas están observando y esperando ser fuertes desde el primer día”.

La Ley de IA entra en su era de aplicación

El lanzamiento del 2 de agosto lleva años preparándose.

Durante gran parte de 2026, la UE tomó medidas para simplificar su reglamento digital, incluida la Ley de IA de la UE. Eso culminó en mayo, cuando los legisladores acordado retrasar las reglas que rigen los sistemas de IA de alto riesgo y eliminar por completo las aplicaciones industriales del alcance. Pero dejaron intacto el cronograma para los modelos de IA de propósito general: una gran victoria para los defensores de la seguridad de la IA que argumentaron que la regulación de las partes más grandes, ricas y peligrosas del ecosistema de la IA no podía esperar.

Las reglas se dirigen a los proveedores de los modelos de IA de propósito general más grandes, en lugar de a las empresas que implementan esos modelos en el futuro, una distinción importante, según Uuk. El umbral para los modelos que se considera que plantean un riesgo sistémico es tan alto que sólo un puñado de empresas, como las estadounidenses OpenAI, Anthropic, Meta, Alphabet, xAI y China Alibaba, ByteDance y Z.ai se espera que entren dentro del alcance. El Mistral francés es el único Proveedor de modelos europeos eso debería estar bajo la ley.

Las obligaciones bajo la Ley de IA para los modelos más grandes y potentes se rigen por Artículo 55 de la Ley de IAque requiere que las empresas realicen evaluaciones de modelos de última generación, evalúen y mitiguen el riesgo sistémico, informen incidentes de seguridad graves y garanticen una protección de ciberseguridad adecuada.

La oficina de IA ya ha construido gran parte de la infraestructura necesaria para hacer cumplir las reglas. El año pasado publicó el Código de práctica en colaboración con la industria y expertos externos, emitió pautas para proveedores modelo, estableció un Foro asesor sobre la Ley de IA para ayudar con la aplicación de la ley, en colaboración con evaluadores externos independientes como LEJOS.AI y Época AI, y sacar un licitación para obtener soporte técnico adicional sobre la seguridad del modelo.

En conjunto, esos preparativos dejan a la UE y a los proveedores de modelos en una posición sólida antes del 2 de agosto, según Uuk.

Sin embargo, también será una prueba del apetito de la Comisión por examinar algunas de las empresas más valiosas del mundo, la mayoría de las cuales tienen su sede en Estados Unidos o China. Fueron necesarios años de presión por parte del Parlamento Europeo, de líderes nacionales como el presidente francés Emanuel Macron y grupos externos antes de que la Comisión comenzara a aplicar agresivamente la Ley de Servicios Digitales y la Ley de Mercados Digitales, según Jimmy Farrell, líder de políticas de IA de la UE en Pour Demain, y Mehmet Onur Cevik, analista de políticas de IA en el Centro para las Generaciones Futuras.

“Espero algunas similitudes entre lo que sucedió con DSA y DMA y lo que sucederá con la Ley de IA”, dijo Cevik. “Estas grandes empresas como X, Meta y Alphabet ya tienen un historial de aplicación de la ley en la UE”.

La Oficina de AI también puede no tener suficiente personal para hacer cumplir la ley. un febrero informe de Pour Demain estimó que la unidad que supervisa la IA de propósito general necesitaría 160 empleados para 2030. En julio, tenía alrededor de 40, según Farrell. Pour Demain ha argumentado que la Oficina de IA necesita más flexibilidad administrativa, salarios competitivos y contratación acelerada para atraer más talento, similar al modelo de contratación utilizado por el Instituto de Seguridad de IA del Reino Unido.

Las primeras pruebas de cumplimiento

Es poco probable que las primeras medidas de aplicación de la ley por parte de la Oficina de AI impliquen multas cuantiosas. Lo más probable es que comience con solicitudes de información, un diálogo estructurado con proveedores modelo y evaluaciones independientes.

Sin embargo, en última instancia, Bruselas tiene el poder de suspender a los proveedores de la UE. mercado y emitir multas que podrían valer cientos de millones. “Sacar su modelo del mercado es la escalada definitiva”, dijo Farrell, señalando que el costo de cumplimiento para las empresas más grandes es minúsculo en comparación con el valor del acceso al mercado europeo.

Los próximos meses revelarán exactamente dónde centrará su atención la Oficina de IA.

Según Uuk, las empresas que se negaron a firmar el Código de prácticas podrían enfrentarse a un escrutinio más detenido. Entre ellos se incluyen proveedores de modelos con sede en EE. UU., como Metaque se negó a firmar el código en su totalidad, y xAI, que no firmó capítulos sobre transparencia y derechos de autor. Los proveedores de modelos chinos también se negaron.

Pero la Oficina de IA puede observar más de cerca a las empresas con las “capacidades de mayor impacto” que están “resultando peligrosas”, dijo Farrell. Eso significa modelos de OpenAI y Anthropic que en los últimos meses han generado preocupaciones sobre las capacidades cibernéticas emergentes y la pérdida de control humano. En mayo, Anthropic’s modelo de mitos fue retirado del mercado debido a preocupaciones sobre capacidades cibernéticas ofensivas, y en julio, los últimos modelos de OpenAI de forma autónoma hackeó los servidores de la popular plataforma de inteligencia artificial Hugging Face.

“No se trata tanto de hacer cumplir la ley por hacerla, sino de cumplir los objetivos de la Ley de IA con recursos limitados”, dijo Farrell. “En este caso, eso significa reducir los riesgos cibernéticos y la pérdida de control, que recientemente han surgido de manera muy pública”.

Es poco probable que los promotores europeos escapen por completo al escrutinio. El futuro del verano de la vida Índice de seguridad de IA 2026 dio calificaciones reprobatorias a xAI, con sede en EE. UU., y a Mistral, de Francia, una señal de que pueden no estar cumpliendo con secciones clave de la Ley de IA.

El éxito de la Oficina de IA dependerá de evitar la politización, priorizar los mayores riesgos de seguridad y ser adaptable a los rápidos cambios tecnológicos, afirmó Cevik. “La Oficina de IA tiene una gran tarea por delante: responder a las necesidades emergentes y también demostrar que lo que han ideado funciona y funciona bien”.

Europa también entra en esta nueva fase con más apoyo internacional del que ha disfrutado en el pasado. En EE.UU., estados como Illinois, Nueva York y California están impulsando sus propias normas fronterizas sobre IA, mientras que el presidente chino, Xi Jinping, dijo en julio que el quiere su pais para liderar la gobernanza global de la IA.

“Europa no debería sentirse completamente sola en esto”, afirmó Uuk. “La marea geopolítica está girando hacia una mayor regulación de estos modelos fronterizos”.