Le RSI devient le nouvel AGI, tout aussi difficile à définir

Le terme « récursivité » est devenu le dernier mot à la mode dans le domaine de l’intelligence artificielle. Deux start-ups distinctes l’ont adopté comme nom, et de nombreuses autres font désormais référence à l’« auto-amélioration récursive » (RSI) dans leurs plans de développement. Tout comme l’AGI avant elle, la RSI est devenue un acronyme de trois lettres désignant une avancée spectaculaire en matière d’IA — même si sa définition exacte suscite encore quelques débats.

À la base, le RSI désigne un système d’IA capable de s’améliorer en continu. Une fois que ces systèmes seront capables de gérer le cycle d’amélioration plus efficacement que les humains, le processus deviendra une boucle fermée, limitée uniquement par la puissance de calcul disponible, l’intervention humaine devenant alors superflue, voire contre-productive.

Qu’elle soit dérangeante ou non, cette vision est celle que de nombreux laboratoires d’IA sont impatients de concrétiser.

Au début du mois, Richard Socher, chercheur de renom dans le domaine de l’IA, a lancé une entreprise baptisée à juste titre « Recursive Superintelligence », dont la mission explicite est précisément la RSI. « Notre objectif principal est de créer une superintelligence véritablement récursive et capable de s’améliorer d’elle-même à grande échelle », a déclaré Socher à TechCrunch lors du lancement. « Cela signifie que l’ensemble du processus de génération, de mise en œuvre et de validation des idées de recherche serait automatisé. »

Plusieurs autres chercheurs de renom poursuivent le même objectif, dans l’espoir d’une percée qui ferait de l’auto-amélioration récursive une réalité.

L’un des plus remarquables est Alex Karpathy, figure légendaire de Tesla et d’OpenAI, qui utilise des essaims d’agents pour entraîner des modèles de langage (LLM) à effectuer des tâches simples dans le cadre d’un projet appelé Auto-Research. Karpathy fait preuve d’une transparence inhabituelle concernant ce projet : il publie régulièrement sur Twitter les étapes franchies et met les composants de base à disposition via un dépôt GitHub public. Jusqu’à présent, les travaux se sont principalement concentrés sur l’apport d’améliorations mineures à un modèle de l’ordre de GPT-2 — comme l’a noté Karpathy en mars : « Ce n’est pas (encore) une “recherche” novatrice et révolutionnaire » — mais cela a suffi à convaincre de nombreux autres chercheurs de poursuivre le rêve de l’auto-amélioration récursive. Karpathy travaillant désormais sur le pré-entraînement chez Anthropic, il aura largement l’occasion d’appliquer ce concept à plus grande échelle.

Adaption — fondée par Sara Hooker, ancienne employée de Cohere et de Google — a récemment lancé un outil similaire appelé AutoScientist pour automatiser l’entraînement à la frontière. À l’instar des « auto-chercheurs » de Karpathy, le système forme des agents à apporter des améliorations progressives, mais pour Adaption, l’objectif est de simplifier l’entraînement d’un modèle de pointe à grande échelle. Si ces mêmes chercheurs commencent à repousser les limites, le système pourrait rapidement évoluer vers quelque chose de très proche du RSI.

Doris Xin, fondatrice de Disarray, a suscité un intérêt plus spécifique pour le RSI lorsque son agent d’apprentissage automatique auto-entraîné a remporté 28 médailles lors d’un récent concours Kaggle, surpassant de nombreux agents entraînés par des humains. De son point de vue, le principal défi réside dans la fiabilité.

« Je dirais qu’avec une puissance de calcul infinie et un horizon temporel infini, nous y sommes déjà », m’a confié Doris Xin. « Je tiens à souligner qu’il ne s’agit pas vraiment d’une démarche créative. C’est avant tout un travail d’ingénierie solide. »

On n’y est pas encore

De nombreux éléments montrent également que le secteur de l’IA est loin de disposer de systèmes récursifs significatifs — et qu’il peine encore à communiquer ses progrès à un public méfiant. Le PDG de Google, Sundar Pichai, l’a en substance admis lors d’une récente interview dans un podcast.

« C’est un continuum, et nous progressons tous indéniablement », a déclaré Sundai Pichai. « Mais la façon dont les gens décrivent l’IA récursive (R.S.I.) correspondrait à un nouveau niveau d’accélération aux implications nombreuses, et nous n’en sommes pas encore tout à fait là. »

Pourtant, ce continuum comprend un très grand nombre de systèmes d’IA capables de s’auto-améliorer. En janvier, l’un des principaux programmeurs d’Anthropic travaillant sur Claude Code a estimé que « près de 100 % » du code de son équipe avait été écrit par l’outil — un aveu franc selon lequel Claude Code s’écrivait littéralement tout seul.

Ce n’est pas parce que les ingénieurs utilisent un outil d’IA que celui-ci peut les remplacer — mais Anthropic semble être en passe de remplacer les ingénieurs eux-mêmes. Dans une récente enquête liée à la préversion de Mythos, cinq des 18 ingénieurs d’Anthropic estimaient qu’avec des améliorations du harnais, cette version de Mythos pourrait bientôt se substituer à un ingénieur de niveau L4 — un programmeur de niveau intermédiaire capable de gérer des projets complexes sans supervision.

Il subsistait toutefois certaines faiblesses attendues.

« Parmi les principales faiblesses signalées de Claude par rapport à un ingénieur de niveau L4, on peut citer : la gestion autonome de tâches ambiguës s’étalant sur une semaine, la compréhension des priorités de l’organisation, le bon goût, la vérification, le respect des instructions et l’épistémologie », indique le rapport.

En d’autres termes, ses faiblesses englobent tout ce qui touche à l’autonomie, qui est le fondement même de la RSI. Mais pour tout le reste, Claude est prêt à prendre le relais.

Tout comme pour le terme « AGI » avant lui, le secteur de l’IA est également incapable de nous dire à quelle distance il se trouve de la démonstration d’un système récursif significatif. Lorsque le Centre pour la sécurité et les technologies émergentes (CSET) de Georgetown a réuni un groupe d’experts pour étudier la RSI l’année dernière, celui-ci a constaté une divergence majeure dans les évaluations : certains prédisaient une explosion imminente de la « superintelligence », tandis que d’autres s’attendaient à des progrès plus lents et à une stabilisation à terme. Mais tous s’accordaient à dire que la récursivité rendait l’avenir particulièrement difficile à prédire.

Helen Toner, directrice du CSET et ancienne membre du conseil d’administration d’OpenAI, a déclaré à TechCrunch que le simple fait d’utiliser des outils d’IA pour mener des recherches sur l’IA ne suffisait pas pour que l’on puisse parler de RSI. « Ils se contentent d’utiliser l’IA autant qu’ils le peuvent », explique Mme Toner à TechCrunch. « Et je pense que cela diffère de la définition classique de la RSI, qui implique en réalité qu’aucun être humain n’est nécessaire. »

Mme Toner cite un article récent d’Ajeya Cotra, du METR, qui distingue différentes étapes sur la voie de la prise de contrôle de la recherche en IA par les machines. Une de ces étapes, que M. Cotra appelle « l’adéquation », se produirait lorsque le système serait encore capable de mener des recherches après le retrait de tous les humains — même si les résultats de ces recherches sont moins pertinents ou moins efficaces. La « parité » intervient lorsqu’un système exclusivement basé sur l’IA est aussi performant en matière de recherche qu’un système exclusivement humain. La « suprématie », étape finale, survient lorsqu’un système exclusivement basé sur l’IA surpasse un système collaboratif associant humains et IA.

En fin de compte, Cotra conclut que l’IA est très proche du seuil d’adéquation lui permettant de produire un certain travail de manière autonome — à l’instar des changements progressifs apportés par le système Auto-Research de Karpathy. « Je ne serais pas totalement surprise si vous me disiez que cette étape a déjà été franchie, et je m’attends à ce que cela se produise dans les deux prochaines années », écrit Cotra.

Elle est moins certaine quant à la date à laquelle la parité sera atteinte, mais une fois que ce sera le cas, elle estime que cela « accélérera considérablement le rythme des progrès de l’IA, conduisant à la suprématie de la recherche en IA d’ici un an ».

Des obstacles sur la route

Étant donné que l’IA repose en grande partie sur des lois d’échelle, on a fortement tendance à supposer que la RSI suivra la même courbe. Toner estime que bon nombre de ceux qui mènent des activités de recherche et de développement en IA par le biais de la RSI « la considèrent comme une échelle assez régulière, sur laquelle on peut simplement continuer à monter ».

Mais même si les chercheurs en IA parviennent à réaliser des améliorations progressives, à l’instar des « auto-chercheurs » de Karpathy, des défis majeurs subsistent quant au transfert de l’ensemble du processus de recherche. Toner replace cela dans le contexte de l’histoire de l’informatique, où les humains ont délégué de plus en plus de tâches tout en continuant à diriger les opérations depuis le sommet.

« Nous sommes passés des langages machine au langage assembleur, puis aux langages compilés ; on s’éloigne de plus en plus des entrailles de l’ordinateur », explique Toner. « Mais l’humain continue, d’une certaine manière intuitive, de mener la danse. »

Dépasser ce paradigme nécessitera de relever des défis considérables, tant sur le plan de l’ingénierie que de l’alignement. Mais même avec des investissements colossaux, on ne dispose pas d’une puissance de calcul infinie — et le compromis fondamental entre le travail humain et l’intelligence artificielle sera difficile à surmonter.

Quant à un système d’IA entièrement récursif, tel qu’on le décrit dans les visions apocalyptiques ? La seule chose sur laquelle les chercheurs s’accordent largement, c’est que, tout comme l’IA générale (AGI), il n’existe pas encore.