La prohibición de los modelos de Anthropic en EE. UU. no tuvo que ver con el «jailbreaking» de la IA

Una reciente carta de requerimiento enviada por el Gobierno de EE. UU. a Anthropic, que obligó de hecho a la empresa a retirar de la red sus modelos de IA más recientes justo antes del fin de semana, debería servir de severa advertencia para cualquier empresa tecnológica estadounidense, sea o no un laboratorio de IA.

He aquí un breve resumen: el viernes por la tarde, el Departamento de Comercio de EE. UU. envió a Anthropic una carta en la que se invocaba una norma de control de exportaciones poco conocida que prohibía a los no estadounidenses —incluidos los propios empleados de Anthropic— acceder a Fable 5 y Mythos 5, alegando una preocupación de seguridad nacional no especificada. Anthropic afirmó que cree que la carta está relacionada con una elusión de las medidas de seguridad del modelo, pero no está segura, ya que la carta carece de detalles específicos. La carta no se ha hecho pública.

En respuesta, Anthropic desactivó sus dos modelos estrella para todos los clientes con el fin de garantizar el cumplimiento de la directiva. Como resultado, el Gobierno de EE. UU. obligó con éxito a una empresa tecnológica a retirar sus modelos de la red mediante una acción rápida y unilateral que, al parecer, no requirió autorización judicial.

La intervención del viernes por parte de la Administración Trump demuestra que el sector de la IA no es inmune a la injerencia gubernamental. Además, envía un mensaje más amplio al mundo tecnológico: cumplid con la normativa o podemos cerrar tanto vuestra empresa como vuestros productos.

Citando fuentes, Axios describió una situación tensa durante el fin de semana entre las dos partes principales, sugiriendo que fueron las «diferencias de personalidad» entre Anthropic y la administración Trump —más que un fallo técnico en los productos de IA— lo que desencadenó la directiva de exportación.

Los nuevos detalles que han salido a la luz este fin de semana arrojan ahora aún más dudas sobre el razonamiento del Gobierno, ya de por sí cuestionable.

Katie Moussouris, veterana en ciberseguridad, investigadora y fundadora de Luta Security, escribió en una entrada de blog que Anthropic le había facilitado recientemente una copia privada de un artículo de investigadores de seguridad en el que se describía una supuesta forma de eludir las medidas de seguridad en Fable 5. (Según informa The Wall Street Journal, los autores del artículo son investigadores de seguridad de Amazon.) Moussouris afirmó que Anthropic se puso en contacto con ella para pedirle su opinión sobre el artículo.

En su entrada de blog, Moussouris describió cómo los investigadores activaron la elusión de la barrera de seguridad, pero señaló que la elusión en sí misma «nunca debería haber activado un control de exportación». La diferencia clave radica en pedir a un modelo de IA que «revise el código en busca de problemas de seguridad» frente a pedirle que «corrija este código». El resultado final es prácticamente el mismo, incluso cuando las preguntas se formulan de forma ligeramente diferente.

«El comportamiento descrito en el artículo no puede corregirse de forma significativa, y cualquier intento solo debilitaría el modelo de defensa», afirmó Moussouris, quien criticó la directiva de control de exportaciones por considerarla precipitada, excesivamente estricta y errónea.

Moussouris, junto con docenas de otros investigadores y expertos en seguridad de primer nivel, ha instado desde entonces a la Administración Trump a revocar la orden de control de exportaciones, calificando de «peligrosa» la medida de privar a los defensores de las redes en EE. UU. de capacidades avanzadas de ciberseguridad.

Administraciones anteriores han tomado decisiones radicales basadas en lagunas de conocimiento. Por ejemplo, el lenguaje utilizado por el Gobierno de EE. UU. durante la década de 2010 para modificar las leyes de exportación relativas a herramientas de ciberseguridad que también podían utilizarse para ciberataques era tan amplio que, sin quererlo, casi ilegalizó la investigación legítima sobre seguridad y vulnerabilidades.

Sin embargo, la directiva de la Administración Trump parece tener carácter de represalia.

Justin Hendrix, editor de Tech Policy Press, afirmó que la medida de la administración Trump «probablemente despertará la alarma en las capitales extranjeras sobre la fiabilidad de la IA estadounidense para aplicaciones críticas». El mensaje es que no se puede confiar en que las empresas de IA de Estados Unidos operen sin interferencias del Gobierno estadounidense.

La administración Trump no ha confirmado por qué invocó la directiva de control de exportaciones. ¿Interpretaron mal los funcionarios el informe y reaccionaron de forma exagerada? ¿Dijo el director ejecutivo de Amazon, Andy Jassy, algo a altos cargos del Gobierno que provocó la respuesta, ya fuera por precaución o por rencor? ¿Se perdió algo en la traducción, o fue una forma de presionar a Anthropic, con quien la administración ya mantiene una relación tensa? Es posible que la Casa Blanca no fuera consciente de las consecuencias de largo alcance de la exigencia contenida en la carta y que los funcionarios estén ahora tratando a toda prisa de reparar el daño causado.

En palabras de Hendrix, «el ambiente está cargado de sospechas de que los altos funcionarios están tomando partido basándose en factores personales y políticos». La consecuencia es que el Gobierno ha sentado un peligroso precedente en cuanto al grado de control que pretende ejercer sobre el lanzamiento de software de fabricación estadounidense.

Esta vez, el Gobierno se ha enfrentado a Anthropic; mañana podría ser cualquier otro.