A IA começa a se construir sozinha

Richard Socher é, há muito tempo, uma figura de destaque na área de IA, amplamente reconhecido por ter fundado a You.com, uma das primeiras startups de chatbots, e, antes disso, por seu trabalho no ImageNet. Agora, ele está se juntando a uma nova onda de startups de IA voltadas para a pesquisa com a Recursive Superintelligence, uma empresa sediada em São Francisco que saiu do anonimato na quarta-feira com US$ 650 milhões em financiamento.

Socher conta com a participação de um grupo de notáveis pesquisadores de IA neste novo empreendimento, incluindo Peter Norvig e o cofundador da Cresta, Tim Shi. Juntos, eles pretendem construir um modelo de IA que se aprimore recursivamente — capaz de detectar autonomamente suas próprias deficiências e se redesenhar para corrigi-las, sem intervenção humana. Esse objetivo há muito é considerado o Santo Graal na pesquisa moderna em IA.

Conversei com ele pelo Zoom após o lançamento, aprofundando-me na abordagem técnica diferenciada da Recursive e no motivo pelo qual ele não considera esse novo projeto um “neolab” — um termo informal para uma nova geração de startups de IA que priorizam a pesquisa em detrimento do desenvolvimento de produtos.

Esta entrevista foi condensada e editada para maior clareza.

Ouvimos muito sobre recursão atualmente — parece ser uma meta comum em muitos laboratórios. O que torna sua abordagem única?

Nossa abordagem única se baseia na abertura para alcançar o autoaperfeiçoamento recursivo — algo que ninguém conseguiu ainda. É uma meta difícil de alcançar para muitos. Muitas pessoas presumem que isso aconteça naturalmente com a pesquisa automática — você pode pedir a uma IA para melhorar outra coisa, como um sistema de aprendizado de máquina ou uma carta que você escreveu, e assim por diante. Mas isso não é autoaperfeiçoamento recursivo; é apenas aperfeiçoamento.

Nosso foco principal é construir uma superinteligência verdadeiramente recursiva e capaz de se autoaperfeiçoar em grande escala — o que significa que todo o processo de geração, implementação e validação de ideias de pesquisa seria automatizado.

Primeiramente, [isso automatizaria] ideias de pesquisa em IA e, eventualmente, qualquer tipo de ideia de pesquisa — incluindo aquelas em domínios físicos. Mas isso é especialmente poderoso quando a IA está trabalhando em si mesma, desenvolvendo uma nova forma de autoconsciência em relação às suas próprias limitações.

Você mencionou o termo “aberto” — ele tem algum significado técnico específico?

Sim, tem. Na verdade, Tim Rocktäschel, um dos nossos cofundadores, liderou as equipes de “aberto” e de autoaperfeiçoamento no Google DeepMind e trabalhou especificamente no modelo de mundo Genie 3, que é um ótimo exemplo de “aberto”. É possível alimentá-lo com qualquer conceito, qualquer mundo, qualquer agente, e ele gera uma versão interativa.

Na evolução biológica, os animais se adaptam ao ambiente, e outros se contra-adaptam a essas adaptações. É um processo que pode se estender por bilhões de anos, com desenvolvimentos interessantes surgindo constantemente. Foi assim que desenvolvemos olhos em nossas [cabeças].

Outro exemplo é o “rainbow teaming”, de outro artigo do Tim. Você já ouviu falar em “red teaming”?

Na segurança cibernética, isso significa—

Portanto, o “red teaming” também se aplica no contexto dos LLMs. Essencialmente, você tenta fazer com que o LLM lhe diga como construir uma bomba e quer garantir que ele se recuse a fazê-lo.

Os seres humanos podem passar muito tempo pensando em exemplos do que a IA não deve dizer. Mas e se você testar a primeira IA com uma segunda IA, e a tarefa dessa segunda IA for fazer com que a primeira IA [tente] dizer todas as coisas prejudiciais possíveis? Então elas podem interagir por milhões de iterações.

É possível, de fato, deixar que duas IAs co-evoluam. Uma ataca continuamente a outra, explorando não apenas um ângulo, mas muitos diferentes — daí a analogia com o arco-íris. Assim, você pode “inocular” a primeira IA, tornando-a cada vez mais segura. Essa ideia partiu de Tim Rocktäschel e agora é empregada em todos os principais laboratórios.

Como saber quando está pronto? Suponho que nunca esteja realmente concluído.

Algumas dessas coisas nunca serão concluídas. É sempre possível se tornar mais inteligente, sempre melhorar em programação, matemática e assim por diante. Existem limites teóricos para a inteligência — na verdade, estou tentando formalizá-los neste momento —, mas eles são astronômicos. Estamos muito longe desses limites.

Como um “neolab”, parece que se espera que vocês busquem algo que os grandes laboratórios não estão buscando. Portanto, a implicação é que vocês não acreditam que os grandes laboratórios alcançarão o RSI [autoaperfeiçoamento recursivo] por meio de suas abordagens atuais. Essa é uma avaliação correta?

Não posso realmente comentar sobre o que eles estão fazendo, mas acho que estamos abordando isso de maneira diferente. Abraçamos plenamente o conceito de aberto, e nossa equipe está inteiramente dedicada a essa visão. A equipe vem pesquisando e publicando nessa área há uma década, com um histórico de impulsionar o avanço do campo e lançar produtos reais. Tim Shi, por exemplo, transformou a Cresta em uma empresa “unicórnio”. Josh Tobin foi um dos primeiros membros da OpenAI e acabou liderando as equipes de Codex e de pesquisa avançada da empresa.

Na verdade, às vezes tenho um pouco de dificuldade com esse rótulo de “neolab”. Sinto que não somos apenas um laboratório. Quero que nos tornemos uma empresa verdadeiramente viável, com produtos incríveis que as pessoas adorem usar e que tenham um impacto positivo na humanidade.

Então, quando vocês planejam lançar seu primeiro produto?

Pensei muito sobre isso. A equipe avançou tanto que talvez possamos até acelerar os prazos que havíamos previsto inicialmente. Mas sim, haverá produtos — e você terá que esperar alguns trimestres, não anos.

Uma das ideias por trás do autoaperfeiçoamento recursivo é que, uma vez que tenhamos esse sistema, a computação se torna o único recurso crítico. Quanto mais rápido você executa o sistema, mais rápido ele se aprimora, e nenhuma atividade humana externa pode realmente fazer diferença. Assim, a corrida passa a ser: quanto poder de processamento podemos aplicar a ele? Você acha que esse é o mundo para o qual estamos caminhando?

A capacidade de computação não deve ser subestimada. Acho que, no futuro, uma questão fundamental será: quanta capacidade de computação a humanidade deseja alocar para resolver quais problemas? Aqui está esse câncer e ali está aquele vírus — qual deles você quer combater primeiro? Quanto poder de computação você está disposto a destinar? No fim das contas, isso se torna uma questão de alocação de recursos. Essa será uma das questões mais importantes do mundo.