Anthropic excluye a la UE de su modelo de IA cibernética más avanzado

Anthropic excluye a la UE de su modelo de IA cibernética más avanzado

Sin acceso previo a Mythos de Anthropic, Europa podría quedar expuesta a una nueva generación de ciberataques impulsados ​​por IA.
Claude por Anthropic y ChatGPT por OpenAI, mayo de 2024. (Koshiro K)

Anthropic, una empresa de inteligencia artificial con sede en California, ha restringido el acceso de la Unión Europea a Claude Mythos, su modelo de ciberseguridad más avanzado, una medida que podría aumentar los riesgos de ciberseguridad para Europa y profundizar la dependencia de la región de los proveedores de tecnología estadounidenses.

Al limitar Mythos a un grupo selecto de empresas principalmente estadounidenses (incluidas Amazon, Apple y JPMorganChase) y agencias gubernamentales para evaluar sus capacidades de piratería, Anthropic ha dejado a los bancos, empresas de software y gobiernos europeos incapaces de probar sus defensas contra una de las herramientas cibernéticas de IA más sofisticadas.

La decisión se produce en medio de las preocupaciones de la Casa Blanca sobre compartir el modelo Mythos de manera más amplia y apenas unos días después de que OpenAI compartiera su ChatGPT 5.5-Cyber ​​más avanzado con las autoridades de la UE.

El enfrentamiento también subraya una creciente división en el acceso global a la IA, a medida que los sistemas fronterizos se vuelven disponibles para actores clave en Estados Unidos antes que sus contrapartes europeas que operan dentro de un marco regulatorio más estrecho.

“Existe el riesgo de que las vulnerabilidades del software se conviertan en armas”, afirmó Paul Timmers, profesor de la KU Leuven y ex funcionario de la Comisión Europea en la unidad DG CONNECT. “Al distribuir selectivamente estos modelos, también se crea un cuello de botella para el acceso a este poder, y eso puede tener un gran impacto en la soberanía tecnológica en Europa”.

Anthropic bloquea a Europa de Mythos

En abril, Anthropic anunció que su último modelo de inteligencia artificial, Claude Mythos, tenía capacidades de piratería de gran alcance que representaban una amenaza global para la ciberseguridad. En lugar de lanzar el modelo públicamente, la compañía lanzó una versión preliminar a un pequeño grupo de empresas principalmente estadounidenses para solucionar las vulnerabilidades del software antes de una implementación a gran escala.

La Comisión lleva semanas intentando acceder a Mythos, pero sin éxito, según afirmó el lunes el portavoz de la Comisión, Thomas Regnier, en una rueda de prensa. Mientras tanto, OpenAI comparte ChatGPT 5.5-Cyber ​​con la Oficina de IA de la Comisión, empresas y gobiernos a través de un Plan de Acción Cibernética de la UE que también incluirá sesiones informativas de seguridad con ingenieros de OpenAI.

“Los laboratorios de IA como el nuestro no deberían ser los únicos árbitros de la seguridad cibernética, ya que la resiliencia depende de que socios confiables trabajen juntos”, dijo George Osborne, director de OpenAI para países y ex Ministro de Hacienda británico.

“Damos la bienvenida al compromiso de OpenAI”, dijo Regnier el lunes. “Cuando se trata de Mythos, también hay un nivel de compromiso. Ya hemos tenido unas cuatro o cinco reuniones con la empresa. Pero estas dos discusiones se encuentran en etapas diferentes”.

Si bien la Ley de IA de la UE le otorga el poder de considerar ciertos modelos como riesgos sistémicos, la Oficina de IA y la Comisión aún tienen que accionar esa palanca.

El hecho de que Anthropic no haya dado acceso a Mythos a la UE u otras instituciones europeas se debe a una choque importante con el gobierno federal de EE. UU. sobre los usos militares de la IA, después de que la compañía se resistiera a permitir que sus modelos se implementaran en ciertas aplicaciones bélicas. Ahora, la empresa quedó fuera de un acuerdo para utilizar herramientas de inteligencia artificial en .

Después del lanzamiento de Mythos, la Casa Blanca aplicó un enfoque más práctico para controlar el lanzamiento, incluso sopesando una orden ejecutiva que requeriría que el gobierno examinara los modelos antes de su lanzamiento. Hasta ahora, Washington se ha opuesto a que Anthropic amplíe el acceso al modelo debido a preocupaciones de seguridad.

“El enfoque de Anthropic… puede representar un intento de garantizar que sólo los evaluadores externos de mayor calidad tengan acceso al modelo, minimizando al mismo tiempo el riesgo de fugas y la carga burocrática”, dijo Harry Law, investigador de la Universidad de Cambridge. “En este momento, la Oficina de IA de la UE es una incógnita, mientras que el AISI del Reino Unido tiene un historial demostrado”.

Riesgos de ciberseguridad y soberanía tecnológica

La falta de acceso ha enfurecido a los legisladores del Parlamento Europeo, quienes argumentan que la falta de acceso es otra señal de que la UE necesita desarrollar sus propias capacidades tecnológicas de vanguardia. La semana pasada, un comité del Parlamento celebró una reunión sobre seguridad de la IA y ciberseguridad a la que los funcionarios de Anthropic no pudieron asistir con poca antelación.

“No se debe excluir a Europa del acceso a tecnologías estratégicas que se están volviendo esenciales para la ciberseguridad”, afirmó el eurodiputado Sandro Gozi (Renew, FR). “Pero esto también debería ser una lección. Europa no puede depender de empresas privadas o de decisiones tomadas fuera de Europa para comprender y proteger sus propias vulnerabilidades críticas”.

Los bancos europeos se encuentran entre los más alarmados por Mythos debido a la velocidad a la que podría exponer vulnerabilidades de software, lo que aumenta el riesgo de fallas en cascada en un sector financiero altamente conectado que aún depende de una infraestructura de software obsoleta, según Timmers. Los principales bancos estadounidenses ya han obtenido acceso.

La UE tiene sus propias plataformas de ciberseguridad e inteligencia artificial, como la empresa francesa Mistral AI, pero están muy por detrás de las empresas estadounidenses en términos de desarrollo de modelos y el capital necesario para construir nuevos centros de datos.