O RSI passa a ser o novo AGI, igualmente difícil de definir

O termo “recursão” tornou-se a palavra da moda no campo da inteligência artificial. Duas startups distintas adotaram esse termo como nome, e muitas outras agora fazem referência ao Autoaperfeiçoamento Recursivo (RSI) em seus planos de desenvolvimento. Assim como a AGI antes dela, o RSI se tornou uma sigla de três letras para um avanço dramático na IA — mesmo que sua definição exata ainda suscite algum debate.

Em sua essência, a RSI descreve um sistema de IA capaz de se aprimorar continuamente. Quando esses sistemas conseguirem lidar com o ciclo de aprimoramento de forma mais eficaz do que os humanos, o processo se tornará um ciclo fechado, limitado apenas pelo poder de computação disponível, tornando o envolvimento humano desnecessário ou até mesmo contraproducente.

Seja inquietante ou não, essa visão é algo que muitos laboratórios de IA estão ansiosos para perseguir.

No início deste mês, o renomado pesquisador de IA Richard Socher lançou uma empresa apropriadamente chamada Recursive Superintelligence, tendo a RSI como sua missão explícita. “Nosso foco principal é construir uma superinteligência verdadeiramente recursiva e capaz de se aprimorar sozinha em grande escala”, disse Socher ao TechCrunch no lançamento. “Isso significa que todo o processo de geração, implementação e validação de ideias de pesquisa seria automatizado.”

Vários outros pesquisadores de destaque estão buscando o mesmo objetivo, na esperança de um avanço que torne o autoaperfeiçoamento recursivo uma realidade.

Um dos mais notáveis é Alex Karpathy, uma figura lendária da Tesla e da OpenAI, que está usando enxames de agentes para treinar LLMs em tarefas simples para um projeto chamado Auto-Research. Karpathy tem sido excepcionalmente transparente sobre o projeto, postando regularmente marcos importantes no Twitter e disponibilizando os componentes básicos por meio de um repositório público no GitHub. Até agora, o trabalho tem se concentrado principalmente em fazer pequenas melhorias em um modelo da escala do GPT-2 — como Karpathy observou em março: “Não é uma ‘pesquisa’ nova e revolucionária (ainda)” —, mas tem sido o suficiente para convencer muitos outros pesquisadores a perseguir o sonho da RSI. Com Karpathy agora trabalhando no pré-treinamento na Anthropic, ele terá ampla oportunidade de aplicar o conceito em maior escala.

A Adaption — fundada por Sara Hooker, ex-funcionária da Cohere e do Google — lançou recentemente uma ferramenta semelhante chamada AutoScientist para automatizar o treinamento de ponta. Assim como os “auto-pesquisadores” de Karpathy, o sistema treina agentes para fazer melhorias incrementais, mas, para a Adaption, o objetivo é simplificar o treinamento de um modelo de fronteira em escala real. Se esses mesmos pesquisadores começarem a expandir a fronteira, o sistema poderá evoluir rapidamente para algo muito próximo do RSI.

A fundadora da Disarray, Doris Xin, despertou um interesse mais específico pela RSI quando seu agente de aprendizado de máquina auto-treinado conquistou 28 medalhas em uma competição recente do Kaggle, superando muitos agentes treinados por humanos. Na perspectiva dela, o principal desafio é a confiabilidade.

“Eu diria que, com recursos computacionais infinitos e um horizonte temporal infinito, já estamos lá”, disse-me Xin. “Quero argumentar que isso não é realmente um esforço criativo. É, em grande parte, um trabalho sólido de engenharia.”

Ainda não chegamos lá

Também há muitas evidências de que o setor de IA está longe de sistemas recursivos significativos — e ainda enfrenta dificuldades para comunicar seu progresso a um público cauteloso. O CEO do Google, Sundar Pichai, basicamente admitiu isso em uma entrevista recente em um podcast.

“É um continuum, e todos nós estamos definitivamente fazendo progressos”, disse Pichai. “Mas a forma como as pessoas descrevem a R.S.I. representaria um próximo nível de aceleração com muitas implicações, e ainda não chegamos bem lá.”

No entanto, esse continuum inclui um grande número de sistemas de IA que se aperfeiçoam sozinhos. Em janeiro, um dos principais programadores da Anthropic para o Claude Code estimou que “quase 100%” do código de sua equipe foi escrito pela ferramenta — uma admissão franca de que o Claude Code estava, literalmente, se escrevendo sozinho.

O fato de os engenheiros usarem uma ferramenta de IA não significa que ela possa substituí-los — mas a Anthropic parece estar se aproximando de substituir os engenheiros também. Em uma pesquisa recente relacionada à prévia do Mythos, cinco dos 18 engenheiros da Anthropic acreditavam que, com melhorias no sistema, essa versão do Mythos poderia em breve substituir um engenheiro de nível L4 — um programador de nível médio capaz de lidar com projetos complexos sem supervisão.

Ainda assim, algumas fraquezas esperadas permaneceram.

“Algumas das principais fraquezas relatadas do Claude em comparação com um L4 incluem: autogestão de tarefas ambíguas com duração de uma semana, compreensão das prioridades da organização, bom gosto, verificação, cumprimento de instruções e epistemologia”, diz o relatório.

Em outras palavras, suas fraquezas abrangem tudo relacionado à autogestão, que é a base da RSI. Mas, para todo o resto, o Claude está pronto para entrar em ação.

Assim como o termo AGI antes dele, a indústria de IA também não consegue nos dizer a que distância está de demonstrar um sistema recursivo significativo. Quando o Centro de Segurança e Tecnologias Emergentes (CSET) da Universidade de Georgetown reuniu um grupo de especialistas para estudar a RSI no ano passado, o grupo constatou uma grande divergência nas avaliações — alguns previam uma explosão iminente de “superinteligência”, enquanto outros esperavam um progresso mais lento e uma eventual estabilização. Mas todos concordaram que a recursão tornava o futuro especialmente difícil de prever.

Helen Toner, diretora do CSET e ex-membro do conselho da OpenAI, disse ao TechCrunch que simplesmente usar ferramentas de IA para conduzir pesquisas em IA não é suficiente para se qualificar como RSI. “Eles estão apenas usando a IA o máximo que podem”, afirma Toner ao TechCrunch. “E acho que isso difere da definição clássica de RSI, que realmente significa que não há necessidade de seres humanos.”

Toner cita uma postagem recente de Ajeya Cotra, do METR, que distingue diferentes marcos no caminho para a IA assumir o controle da pesquisa. Uma etapa, que Cotra chama de “adequação”, ocorreria quando o sistema ainda pudesse realizar pesquisas após a remoção de todos os humanos — mesmo que a pesquisa resultante seja menos valiosa ou eficiente. A “paridade” ocorre quando um sistema exclusivamente de IA é tão bom em pesquisa quanto um sistema exclusivamente humano. A “supremacia”, o estágio final, ocorre quando um sistema exclusivamente de IA supera um sistema colaborativo de humanos e IA.

Por fim, Cotra conclui que a IA está muito próxima do limiar de adequação para ser capaz de produzir algum trabalho por conta própria — semelhante às mudanças incrementais feitas pelo sistema Auto-Research de Karpathy. “Eu não ficaria totalmente surpresa se você me dissesse que esse marco já foi ultrapassado, e espero que isso aconteça nos próximos dois anos”, escreve Cotra.

Ela está menos certa sobre quando a paridade ocorrerá, mas, quando isso acontecer, acredita que isso “aceleraria enormemente o ritmo do progresso da IA, levando à supremacia da pesquisa em IA em mais um ano”.

Obstáculos no caminho

Considerando que grande parte da IA se baseia em leis de escala, há uma forte tendência de supor que a RSI seguirá a mesma curva. Toner acredita que muitos dos que buscam pesquisa e desenvolvimento em IA por meio da RSI “enxergam isso como uma escada bastante suave, na qual é possível simplesmente continuar subindo”.

Mas mesmo que os pesquisadores de IA consigam fazer melhorias incrementais, como os “pesquisadores automáticos” de Karpathy, ainda restam desafios maiores na transferência de todo o processo de pesquisa. Toner enquadra isso na história da computação, na qual os humanos têm transferido cada vez mais partes do processo, embora continuem dirigindo tudo de cima.

“Passamos das linguagens de máquina para a linguagem de montagem e para as linguagens compiladas; estamos nos afastando cada vez mais das entranhas do computador”, diz Toner. “Mas o ser humano ainda está, em algum sentido intuitivo, no comando.”

Ultrapassar esse paradigma exigirá desafios significativos, tanto em engenharia quanto em alinhamento. Mas mesmo com investimentos maciços, a computação infinita não está disponível — e o compromisso fundamental entre o trabalho humano e a inteligência artificial será difícil de superar.

Quanto a um sistema de IA totalmente recursivo das visões apocalípticas? A única coisa em que os pesquisadores concordam amplamente é que, assim como a IAG, ele ainda não existe.