El RSI se convierte en el nuevo AGI, igual de difícil de definir

El término «recursión» se ha convertido en la última palabra de moda en el ámbito de la inteligencia artificial. Dos startups distintas lo han adoptado como nombre, y muchas otras hacen ahora referencia a la «mejora recursiva autónoma» (RSI) en sus planes de desarrollo. Al igual que ocurrió anteriormente con la «inteligencia artificial general» (AGI), RSI se ha convertido en una abreviatura de tres letras que designa un avance espectacular en el campo de la IA, aunque su definición exacta siga suscitando cierto debate.

En esencia, la RSI describe un sistema de IA capaz de actualizarse continuamente por sí mismo. Una vez que estos sistemas puedan gestionar el ciclo de mejora de forma más eficaz que los humanos, el proceso se convertirá en un bucle cerrado, limitado únicamente por la potencia de cálculo disponible, y la intervención humana pasará a ser innecesaria o incluso contraproducente.

Resulte inquietante o no, esa visión es la que muchos laboratorios de IA están deseosos de perseguir.

A principios de este mes, el reconocido investigador en IA Richard Socher fundó una empresa llamada, muy acertadamente, Recursive Superintelligence, cuya misión explícita es la RSI. «Nuestro objetivo principal es crear una superinteligencia verdaderamente recursiva y capaz de mejorarse a sí misma a gran escala», declaró Socher a TechCrunch durante la presentación. «Esto significa que todo el proceso de generación, implementación y validación de ideas de investigación estaría automatizado».

Otros investigadores destacados persiguen el mismo objetivo, con la esperanza de lograr un avance que haga realidad la superación recursiva.

Uno de los más destacados es Alex Karpathy, una figura legendaria de Tesla y OpenAI, que está utilizando enjambres de agentes para entrenar modelos de lenguaje grande (LLM) en tareas sencillas para un proyecto llamado Auto-Research. Karpathy se ha mostrado inusualmente transparente sobre el proyecto, tuiteando regularmente los hitos alcanzados y poniendo a disposición los componentes básicos a través de un repositorio público de GitHub. Hasta ahora, el trabajo se ha centrado principalmente en introducir pequeñas mejoras en un modelo a escala de GPT-2 —como señaló Karpathy en marzo: «No es una “investigación” novedosa ni revolucionaria (todavía)»—, pero ha sido suficiente para convencer a muchos otros investigadores de que persigan el sueño de la RSI. Ahora que Karpathy trabaja en el preentrenamiento en Anthropic, tendrá amplias oportunidades para aplicar el concepto a mayor escala.

Adaption —fundada por Sara Hooker, antigua empleada de Cohere y Google— ha lanzado recientemente una herramienta similar llamada AutoScientist para automatizar el entrenamiento de vanguardia. Al igual que los «autoinvestigadores» de Karpathy, el sistema entrena a los agentes para que realicen mejoras incrementales, pero en el caso de Adaption el objetivo es simplificar el entrenamiento de un modelo de vanguardia a gran escala. Si esos mismos investigadores comienzan a ampliar los límites, el sistema podría evolucionar rápidamente hasta convertirse en algo muy parecido a la RSI.

La fundadora de Disarray, Doris Xin, despertó un interés más específico por el RSI cuando su agente de aprendizaje automático autoentrenado se llevó 28 medallas en una reciente competición de Kaggle, superando a muchos agentes entrenados por humanos. Desde su punto de vista, el principal reto es la fiabilidad.

«Yo diría que, con recursos computacionales ilimitados y un horizonte temporal infinito, ya lo hemos conseguido», me comentó Xin. «Quiero dejar claro que esto no es realmente una labor creativa. Se trata, sobre todo, de un trabajo de ingeniería sólido».

Aún no hemos llegado

También hay numerosas pruebas de que el sector de la IA está lejos de alcanzar sistemas recursivos significativos —y sigue teniendo dificultades para comunicar sus avances a un público receloso—. El director ejecutivo de Google, Sundar Pichai, lo admitió en esencia en una reciente entrevista en un podcast.

«Es un proceso continuo, y sin duda todos estamos avanzando», afirmó Pichai. «Pero tal y como la gente describe la IA recursiva (R.S.I.), eso representaría un nuevo nivel de aceleración con muchas implicaciones, y aún no hemos llegado a ese punto».

Sin embargo, ese proceso continuo incluye un gran número de sistemas de IA que se mejoran a sí mismos. En enero, uno de los programadores principales de Anthropic para Claude Code estimó que «casi el 100 %» del código de su equipo lo había escrito la propia herramienta —una franca admisión de que Claude Code, literalmente, se escribía a sí mismo—.

El mero hecho de que los ingenieros utilicen una herramienta de IA no significa que esta pueda sustituirlos, pero Anthropic parece estar acercándose también a la sustitución de los ingenieros. En una encuesta reciente relacionada con la versión preliminar de Mythos, cinco de los 18 ingenieros de Anthropic creían que, con las mejoras en el sistema, esta versión de Mythos podría sustituir pronto a un ingeniero de nivel 4 —un programador de nivel medio capaz de gestionar proyectos complejos sin supervisión—.

Aun así, persistían algunas debilidades previstas.

«Algunas de las principales debilidades señaladas de Claude en comparación con un L4 incluyen: la autogestión de tareas ambiguas de una semana de duración, la comprensión de las prioridades de la organización, el buen gusto, la verificación, el seguimiento de instrucciones y la epistemología», reza el informe.

En otras palabras, sus debilidades abarcan todo lo relacionado con la autodirección, que es la base de la RSI. Pero para todo lo demás, Claude está listo para entrar en acción.

Al igual que ocurrió anteriormente con el término «IA general» (AGI), la industria de la IA tampoco puede indicarnos a qué distancia se encuentra de demostrar un sistema recursivo significativo. Cuando el Centro de Seguridad y Tecnologías Emergentes de Georgetown reunió el año pasado a un grupo de expertos para estudiar la RSI, el grupo observó una gran división en las valoraciones: algunos predijeron una inminente explosión de la «superinteligencia», mientras que otros esperaban un progreso más lento y un eventual estancamiento. Pero todos coincidieron en que la recursividad hacía que el futuro fuera especialmente difícil de predecir.

Helen Toner, directora del CSET y antigua miembro del consejo de administración de OpenAI, declaró a TechCrunch que el mero uso de herramientas de IA para llevar a cabo investigación en IA no es suficiente para que se considere RSI. «Simplemente están utilizando la IA tanto como pueden», explica Toner a TechCrunch. «Y creo que eso difiere de la definición clásica de RSI, que realmente implica que no se necesitan seres humanos».

Toner se remite a una publicación reciente de Ajeya Cotra, de METR, que distingue diferentes hitos en el camino hacia la toma de control de la investigación en IA por parte de esta. Un paso, que Cotra denomina «adecuación», se daría cuando el sistema pudiera seguir realizando investigación tras la eliminación de todos los humanos —aunque la investigación resultante fuera menos valiosa o eficiente—. La «paridad» se alcanza cuando un sistema basado exclusivamente en IA es tan eficaz en la investigación como un sistema formado únicamente por humanos. La «supremacía», la etapa final, se alcanza cuando un sistema basado exclusivamente en IA supera en rendimiento a un sistema colaborativo formado por humanos e IA.

En última instancia, Cotra concluye que la IA está muy cerca del umbral de adecuación que le permitiría producir cierto trabajo por sí misma —de forma similar a los cambios incrementales realizados por el sistema Auto-Research de Karpathy—. «No me sorprendería del todo que me dijeras que este hito ya se ha superado, y espero que ocurra en los próximos dos años», escribe Cotra.

No está tan segura de cuándo se alcanzará la paridad, pero, una vez que ocurra, cree que «aceleraría enormemente el ritmo del progreso de la IA, lo que llevaría a la supremacía de la investigación en IA en el plazo de un año».

Obstáculos en el camino

Dado que gran parte de la IA se basa en leyes de escalabilidad, existe una fuerte tendencia a suponer que la RSI seguirá la misma curva. Toner cree que muchos de los que se dedican a la investigación y el desarrollo de la IA a través de la RSI «la ven como una escalera bastante suave, en la que simplemente se puede seguir subiendo».

Pero incluso si los investigadores en IA pueden lograr mejoras incrementales, como los «investigadores automáticos» de Karpathy, siguen existiendo grandes retos a la hora de delegar todo el proceso de investigación. Toner lo enmarca en la historia de la informática, donde los humanos han ido delegando cada vez más partes del proceso sin dejar de dirigir las cosas desde arriba.

«Pasamos de los lenguajes máquina al lenguaje ensamblador y a los lenguajes compilados; cada vez nos alejamos más de las entrañas del ordenador», afirma Toner. «Pero el ser humano sigue, en cierto sentido intuitivo, llevando las riendas».

Superar ese paradigma supondrá importantes retos, tanto en ingeniería como en alineación. Pero incluso con inversiones masivas, no se dispone de capacidad de cálculo infinita, y la disyuntiva fundamental entre el trabajo humano y la inteligencia artificial será difícil de superar.

¿Y qué hay de un sistema de IA totalmente recursivo como el de las visiones apocalípticas? Lo único en lo que los investigadores coinciden en gran medida es en que, al igual que la IGA, aún no existe.