La IA empieza a construirse a sí misma

Richard Socher es desde hace tiempo una figura destacada en el ámbito de la IA, ampliamente reconocido por haber fundado You.com, una de las primeras startups dedicadas a los chatbots, y, anteriormente, por su trabajo en ImageNet. Ahora se suma a una nueva ola de startups de IA impulsadas por la investigación con Recursive Superintelligence, una empresa con sede en San Francisco que salió del anonimato el miércoles con una financiación de 650 millones de dólares.

A Socher se une en esta nueva aventura un grupo de destacados investigadores en IA, entre los que se encuentran Peter Norvig y el cofundador de Cresta, Tim Shi. Juntos, su objetivo es crear un modelo de IA que se mejore a sí mismo de forma recursiva, capaz de detectar de forma autónoma sus propias deficiencias y rediseñarse para subsanarlas, sin intervención humana. Este objetivo se ha considerado durante mucho tiempo el santo grial de la investigación moderna en IA.

Hablé con él por Zoom tras el lanzamiento, profundizando en el enfoque técnico distintivo de Recursive y en por qué no considera este nuevo proyecto un «neolab» —un término informal para referirse a una nueva generación de startups de IA que priorizan la investigación sobre el desarrollo de productos—.

Esta entrevista se ha resumido y editado para mayor claridad.

Últimamente se habla mucho de la recursividad; parece un objetivo muy extendido en muchos laboratorios. ¿Qué hace que vuestro enfoque sea único?

Nuestro enfoque único se basa en la apertura para lograr la superación recursiva —algo que nadie ha conseguido todavía—. Es un objetivo difícil de alcanzar para muchos. Mucha gente da por sentado que ocurre de forma natural con la «investigación automática»: puedes pedirle a una IA que mejore otra cosa, como un sistema de aprendizaje automático o una carta que hayas escrito, y así sucesivamente. Pero eso no es mejora recursiva; es simplemente mejora.

Nuestro objetivo principal es construir una superinteligencia verdaderamente recursiva y capaz de mejorarse a sí misma a gran escala, lo que significa que todo el proceso de generar, implementar y validar ideas de investigación estaría automatizado.

En primer lugar, [automatizaría] las ideas de investigación en IA y, con el tiempo, cualquier tipo de idea de investigación, incluidas las del ámbito físico. Pero resulta especialmente potente cuando la IA trabaja sobre sí misma, desarrollando una nueva forma de autoconciencia respecto a sus propias limitaciones.

Has mencionado el término «de fin abierto»: ¿tiene algún significado técnico específico?

Sí, lo tiene. De hecho, Tim Rocktäschel, uno de nuestros cofundadores, dirigió los equipos de «abierto» y «automejora» en Google DeepMind y trabajó específicamente en el modelo del mundo Genie 3, que es un gran ejemplo de «abierto». Puedes introducirle cualquier concepto, cualquier mundo, cualquier agente, y genera una versión interactiva.

En la evolución biológica, los animales se adaptan a su entorno y otros se contraadaptan a esas adaptaciones. Es un proceso que puede prolongarse durante miles de millones de años, con desarrollos interesantes que surgen constantemente. Así es como desarrollamos los ojos en nuestras [cabezas].

Otro ejemplo es el «rainbow teaming», de otro artículo de Tim. ¿Has oído hablar del «red teaming»?

En ciberseguridad, significa…

Así pues, el «red teaming» también se aplica en el contexto de los LLM. Básicamente, intentas que el LLM te diga cómo fabricar una bomba y quieres asegurarte de que se niegue a hacerlo.

Los humanos podemos pasar mucho tiempo ideando ejemplos de lo que la IA no debería decir. Pero, ¿y si se pone a prueba la primera IA con una segunda IA, y la tarea de esa segunda IA es hacer que la primera [intente] decir todas las cosas dañinas posibles? Entonces pueden intercambiar intentos durante millones de iteraciones.

De hecho, se puede dejar que dos IA coevolucionen. Una ataca continuamente a la otra, explorando no solo un ángulo, sino muchos diferentes —de ahí la analogía del arcoíris—. Así, se puede «inocular» a la primera IA, haciéndola cada vez más segura. Esta idea surgió de Tim Rocktäschel y ahora se emplea en todos los principales laboratorios.

¿Cómo se sabe cuándo está terminada? Supongo que nunca se termina del todo.

Algunas de estas cosas nunca se completarán. Siempre se puede llegar a ser más inteligente, mejorar constantemente en programación, matemáticas, etcétera. Existen límites teóricos para la inteligencia —de hecho, ahora mismo estoy intentando formalizarlos—, pero son astronómicos. Estamos muy lejos de esos límites.

Como «neolab», parece que se espera que persigáis algo que los grandes laboratorios no persiguen. Por lo tanto, se deduce que no creéis que los grandes laboratorios vayan a lograr la RSI [automejora recursiva] mediante sus enfoques actuales. ¿Es esa una valoración acertada?

No puedo opinar realmente sobre lo que están haciendo, pero sí creo que lo abordamos de forma diferente. Abrazamos plenamente el concepto de «abierto a todo», y nuestro equipo está totalmente dedicado a esa visión. El equipo lleva una década investigando y publicando en este ámbito, con un historial de avances en el campo y de lanzamiento de productos reales. Tim Shi, por ejemplo, convirtió Cresta en una empresa «unicornio». Josh Tobin fue uno de los primeros miembros de OpenAI y acabó dirigiendo sus equipos de Codex y de investigación avanzada.

La verdad es que a veces me cuesta un poco aceptar esta etiqueta de «neolab». Siento que no somos solo un laboratorio. Quiero que nos convirtamos en una empresa verdaderamente viable, con productos increíbles que a la gente le encante usar y que tengan un impacto positivo en la humanidad.

¿Cuándo tenéis previsto lanzar vuestro primer producto?

He pensado mucho en ello. El equipo ha avanzado tanto que es posible que aceleremos los plazos que habíamos previsto inicialmente. Pero sí, habrá productos —y tendrás que esperar unos trimestres, no años—.

Una de las ideas que subyace a la superación recursiva es que, una vez que tengamos un sistema así, la potencia de cálculo se convierte en el único recurso crítico. Cuanto más rápido se ejecute el sistema, más rápido mejora, y ninguna actividad humana externa puede marcar realmente la diferencia. Así que la carrera se reduce a: ¿cuánta potencia de procesamiento podemos dedicarle? ¿Crees que ese es el mundo hacia el que nos dirigimos?

No hay que subestimar la potencia de cálculo. Creo que, en el futuro, una pregunta clave será: ¿cuánta potencia de cálculo quiere la humanidad destinar a resolver qué problemas? Aquí está este cáncer y aquí está ese virus: ¿cuál quieres abordar primero? ¿Cuánta capacidad de cálculo estás dispuesto a destinar? Al final, se convierte en una cuestión de asignación de recursos. Va a ser una de las preguntas más importantes del mundo.