OpenAI teme a los modelos de peso abierto. ¿Debería preocuparse Estados Unidos?

El lanzamiento de Kimi K3, el modelo de lenguaje grande de peso abierto más grande del laboratorio chino Moonshot, ha encendido un debate que confunde dos cuestiones distintas: las estrategias económicas de los gigantes estadounidenses de IA y la trayectoria tecnológica de los LLM.

Dean W. Ball, director de futuros estratégicos de OpenAI, sugirió que el gobierno de EE. UU. debería generar miedo e incertidumbre regulatorios en torno a los nuevos modelos, argumentando que las arquitecturas de peso abierto desalientan inevitablemente el gasto de capital por parte de los laboratorios de vanguardia.

La reacción fue rápida, con líderes tecnológicos como Yann LeCun y Martin Casado que sostienen que el software de código abierto acelera la innovación y puede coexistir con proyectos propietarios. Ball retractó posteriormente sus afirmaciones de que una represión regulatoria era la «mejor estrategia» de la Casa Blanca y que los modelos de peso abierto obstaculizan necesariamente el progreso tecnológico.

Sin embargo, Axios informa que la administración Trump está considerando prohibir K3 y otros modelos chinos avanzados ante la insistencia de los laboratorios de vanguardia estadounidenses. Por el contrario, un informe de Politico indica que el Departamento de Comercio no planea tomar tal acción en el futuro cercano.

La ventaja para las principales empresas de IA es clara: los modelos de peso abierto, que pueden ejecutarse en infraestructura independiente o dentro de las empresas, proporcionan inteligencia más barata que las ofertas propietarias de Anthropic u OpenAI. Si los usuarios gastan cada vez más fuera de los laboratorios cerrados, el retorno de las enormes inversiones en entrenamiento de los laboratorios de vanguardia disminuye.

Esta perspectiva va más allá de OpenAI. «Los modelos de código abierto sólidos y de nivel de vanguardia reducirán los márgenes y bajarán los precios para las empresas de vanguardia», dijo Braden Hancock, cofundador de Snorkel AI y socio de investigación del Instituto Laude, a TechCrunch. «No necesariamente reducirá el uso de IA; es más probable que ocurra lo contrario».

Para aquellos que no tienen participación en Anthropic u OpenAI, esto no es un problema. La IA continuará proliferando. Entonces, ¿qué justifica que el gobierno bloquee a los estadounidenses para comprar productos en mercados ostensiblemente libres?

Las preocupaciones respecto a los modelos chinos varían. Un argumento implica proteger los datos de EE. UU. del gobierno chino, similar a la prohibición de los vehículos eléctricos modernos chinos debido a preocupaciones sobre la privacidad de los datos. Sin embargo, los expertos creen que es poco probable que los modelos de peso abierto alojados en servidores de EE. UU. filtren datos de vuelta a China, aunque sigue siendo una posibilidad.

Otra preocupación es que estos modelos puedan albergar un sesgo implícito hacia la RPC, aunque las implicaciones para tareas como la programación siguen sin estar claras.

Una tercera preocupación común es que los modelos chinos carecen de las salvaguardas exigidas por el gobierno de EE. UU. (a través de un proceso opaco) para prevenir la explotación de sistemas cerrados o la creación de armas. Sin embargo, estas mismas salvaguardas pueden hacer que las empresas estadounidenses sean más vulnerables: David Sacks, un capitalista de riesgo y asesor de Trump, ha destacado casos en los que las empresas estadounidenses recurren a LLM chinos para eludir las restricciones de seguridad impuestas por los modelos de vanguardia estadounidenses.

La motivación más significativa para restringir estos modelos, sin embargo, es el temor a que China supere a EE. UU. si los laboratorios de vanguardia ralentizan su desarrollo.

Sam Bresnick, investigador especializado en China en el Centro de Seguridad y Tecnologías Emergentes de la Universidad de Georgetown, argumenta que la creciente importancia de la IA para las operaciones militares de EE. UU. justifica la inversión continua en laboratorios de vanguardia. No obstante, señala que toda la cuestión está plagada de complejidad.

«¿Por qué debería el peso del gobierno de EE. UU. estar dirigido a proteger a estas empresas de competidores que están excluidos del mercado de EE. UU. basándose en su origen?», pregunta Bresnick.

Los defensores de la IA abierta argumentan que las empresas de vanguardia están creando una falsa dicotomía entre innovación y modelos cerrados.

«El impacto más grande de tener estos modelos de código abierto provenientes de China no es que se filtren por puertas traseras, sino más bien que están poseyendo la innovación», dijo Hancock a TechCrunch. «Terminas teniendo, efectivamente, una fuerza laboral ampliada en tu modelo. PyTorch se convirtió en el estándar de la industria porque era de código abierto, y toda la comunidad podía contribuir a él en lugar de solo una empresa, y creció y creció, y todas las demás bibliotecas de aprendizaje profundo murieron en comparación».

Hancock y otros defensores temen que los LLM chinos se conviertan en el centro de la investigación internacional. Ya, los programas de posgrado de EE. UU. se basan principalmente en modelos chinos de peso abierto, y Hancock afirma que la mitad de los artículos que estudian los estudiantes provienen de instituciones chinas, ya que los laboratorios de vanguardia estadounidenses dudan cada vez más en compartir su trabajo ampliamente.

«Restringir los modelos abiertos no haría que la IA fuera más segura», dijo Clem Delangue, CEO de Hugging Face, una plataforma para la colaboración de IA abierta. «Simplemente ocultaría los riesgos, concentraría el poder en manos de unos pocos y dificultaría que la próxima generación de constructores, investigadores, academia, organizaciones sin fines de lucro y gobiernos participen en hacer que la IA sea más segura y beneficiosa para todos».

Bresnick sugiere que la verdadera forma de frenar el progreso de China es centrarse en los controles de exportación de chips. Una estrategia mejor para preservar el liderazgo de EE. UU. en IA sería dejar de vender procesadores Nvidia H200 a China. «Eso», dice, «potencialmente podría mantenernos fuera de este debatido espinoso sobre la prohibición de tecnologías de código abierto que un gran número de empresas estadounidenses quieren utilizar».

Parte del problema radica en la incertidumbre en torno a la economía de la IA. «El modelo de negocio abierto, el modelo de negocio propietario: ninguno está resuelto. Las empresas de IA están luchando por averiguar cómo ganar dinero con sus herramientas, especialmente a medida que los costos de entrenamiento necesitan aumentar una y otra vez», señala Bresnick.

Los mismos desafíos que se desarrollan en EE. UU. también son evidentes en China, donde las empresas de IA luchan por generar ingresos y acceder a la capacidad de cómputo. El gobierno chino fomenta las publicaciones abiertas por razones de política, a pesar de las dificultades para capitalizarlas.

Algunas empresas estadounidenses, incluyendo Thinking Machines Lab y Nvidia, están intentando construir un negocio alrededor del lanzamiento de modelos abiertos. Hancock señala que Nvidia se beneficiaría más «si hay docenas o cientos de empresas construyendo IA en lugar de dos o tres que están suficientemente bien capitalizadas para fabricar sus propios chips», lo que explica su inversión en Nemotron, una colección de modelos abiertos.

«El punto principal es que EE. UU. se beneficiaría mucho al tener sus propios modelos abiertos muy capaces y mucho más baratos», dijo Bresnick. «Simplemente choca con el enfoque que han tomado los laboratorios de vanguardia».

Con informes adicionales de Rebecca Bellan.