¿Está Anthropic restringiendo el acceso a Mythos para proteger Internet o para protegerse a sí misma?

Esta semana, Anthropic ha anunciado que ha restringido el lanzamiento de su modelo más reciente, denominado Mythos, alegando su excepcional capacidad para detectar fallos de seguridad en el software utilizado a nivel mundial.

En lugar de poner Mythos a disposición del público, el laboratorio de vanguardia tiene previsto compartirlo con un grupo selecto de grandes empresas y organizaciones que gestionan infraestructuras críticas en línea, desde Amazon Web Services hasta JPMorgan Chase. Según se informa, OpenAI está barajando un enfoque similar para su próxima herramienta de ciberseguridad. La justificación es permitir que estas grandes empresas se mantengan un paso por delante de los actores maliciosos que podrían utilizar modelos de lenguaje grandes (LLM) avanzados para infiltrarse en software seguro.

Sin embargo, la palabra «empresa» en la frase anterior sugiere que esta estrategia de lanzamiento podría implicar algo más que la simple ciberseguridad —o el bombo publicitario en torno a las capacidades del modelo—.

Dan Lahav, director ejecutivo del laboratorio de ciberseguridad basado en IA Irregular, declaró a TechCrunch en marzo, antes de que se presentara Mythos, que, si bien es importante que las herramientas de IA descubran vulnerabilidades, el valor real de cualquier punto débil para un atacante depende de muchos factores, entre ellos cómo se pueden combinar.

«La pregunta que siempre me hago», dijo Lahav, «es si han encontrado algo que se pueda explotar de una forma realmente significativa, ya sea por sí solo o como parte de una cadena».

Anthropic afirma que Mythos puede explotar vulnerabilidades de forma mucho más eficaz que su modelo anterior, Opus. Sin embargo, aún no está claro si Mythos representa realmente el modelo definitivo de ciberseguridad. Aisle, una startup de ciberseguridad basada en IA, afirma haber replicado gran parte de lo que, según Anthropic, Mythos ha logrado utilizando modelos más pequeños y de peso abierto. El equipo de Aisle sostiene que estos resultados demuestran que no existe un único modelo de aprendizaje profundo para la ciberseguridad; más bien, la eficacia depende de la tarea específica.

Dado que Opus ya se consideraba un punto de inflexión para la ciberseguridad, los laboratorios de vanguardia podrían tener otra razón para limitar los lanzamientos a las grandes organizaciones: esto genera un efecto de inercia para los contratos con grandes empresas, al tiempo que dificulta que los competidores copien sus modelos mediante la destilación —una técnica que utiliza modelos de vanguardia para entrenar nuevos LLM a bajo coste—.

«Esto es una excusa de marketing para ocultar el hecho de que los modelos de primer nivel ahora están restringidos por acuerdos empresariales y ya no están disponibles para que los pequeños laboratorios los destilen», sugirió David Crawshaw, ingeniero de software y director ejecutivo de la startup exe.dev, en una publicación en redes sociales. «Para cuando tú y yo podamos usar Mythos, habrá una nueva versión de primer nivel exclusiva para empresas. Esa dinámica ayuda a mantener el flujo de ingresos de las empresas (que es la mayor parte de los ingresos) al relegar a las empresas de destilación a un segundo plano», afirmó Crawshaw.

Ese análisis coincide con lo que estamos observando en el ecosistema de la IA: una carrera entre los laboratorios pioneros que construyen los modelos más grandes y potentes, y empresas como Aisle que se basan en múltiples modelos y ven en los LLM de código abierto —a menudo procedentes de China y, según se afirma, desarrollados mediante destilación— una vía hacia la ventaja económica.

Los laboratorios de vanguardia han adoptado una postura más dura respecto a la destilación este año. Anthropic ha revelado públicamente lo que califica como intentos de empresas chinas de copiar sus modelos, y tres laboratorios líderes —Anthropic, Google y OpenAI— se han unido para identificar a los «destiladores» y bloquearlos, según un informe de Bloomberg.

La destilación amenaza el modelo de negocio de los laboratorios pioneros, ya que elimina las ventajas obtenidas al invertir capital masivo para escalar. Bloquear la destilación ya es un esfuerzo que merece la pena, pero el enfoque de lanzamiento selectivo también ofrece a los laboratorios una forma de diferenciar sus ofertas empresariales, ya que esta categoría se está convirtiendo en clave para un despliegue rentable.

Queda por ver si Mythos o cualquier otro modelo nuevo pone realmente en peligro la seguridad de Internet, y un despliegue cauteloso de la tecnología es la forma responsable de avanzar.

En el momento de redactar esta noticia, Anthropic no había respondido a nuestras preguntas sobre si la decisión también está relacionada con las preocupaciones sobre la «destilación», pero es posible que la empresa haya encontrado una forma ingeniosa de proteger Internet… y sus resultados financieros.