Deep Cogito revela quatro modelos de raciocínio híbrido de código aberto com intuição autoaperfeiçoável

A Deep Cogito, uma startup de pesquisa em IA sediada em São Francisco e fundada por ex-engenheiros do Google, lançou quatro novos modelos de linguagem de grande porte (LLMs) “abertos”. Esses modelos abordam um desafio fundamental: aprender a raciocinar de forma mais eficaz ao longo do tempo e se tornar mais capaz de forma autônoma.

Conhecidos coletivamente como a família Cogito v2, esses modelos variam de 70 bilhões a 671 bilhões de parâmetros. Eles estão disponíveis para desenvolvedores e empresas de IA sob uma combinação de licenças permissivas e totalmente abertas. O lançamento inclui:

• Cogito v2-70B (Dense)
• Cogito v2-109B (Mistura de especialistas)
• Cogito v2-405B (Dense)
• Cogito v2-671B (MoE)

Os modelos Dense e MoE têm finalidades distintas. As variantes densas (70B e 405B) ativam todos os parâmetros para cada entrada, tornando-os previsíveis e mais fáceis de implementar em diversas configurações de hardware.

Elas são ideais para tarefas de baixa latência, ajuste fino e ambientes com capacidade limitada de GPU. Em contrapartida, os modelos MoE (109B e 671B) usam um mecanismo de roteamento esparso, ativando apenas um subconjunto de sub-redes “especializadas” por consulta. Esse design suporta tamanhos de modelo totais muito maiores sem aumentar proporcionalmente os custos computacionais.

Assim, os modelos MoE se destacam em inferências de alto desempenho e pesquisas de raciocínio complexo, oferecendo precisão de alto nível com menor custo de tempo de execução. Na linha Cogito v2, o modelo MoE 671B é o carro-chefe, usando sua escala e roteamento eficiente para igualar ou superar os principais modelos abertos em benchmarks — muitas vezes com cadeias de raciocínio muito mais curtas.

Os modelos agora estão acessíveis via Hugging Face para uso empresarial e Unsloth para implantação local. Para aqueles que não podem hospedar por conta própria, o acesso à API é fornecido pela Together AI, Baseten e RunPod.

Uma versão quantizada FP8 (ponto flutuante de 8 bits) do modelo 671B também está disponível. Ao reduzir a precisão dos parâmetros de 16 bits para 8 bits, essa versão permite uma implantação de hardware mais rápida, barata e acessível, mantendo normalmente 95-99% do desempenho original. No entanto, a precisão pode diminuir ligeiramente em tarefas que exigem alta precisão, como certos problemas matemáticos ou de raciocínio.

Todos os quatro modelos Cogito v2 são sistemas de raciocínio híbridos: eles podem responder instantaneamente ou, quando necessário, refletir internamente antes de responder.

Essa reflexão não é apenas um recurso do tempo de inferência — ela é parte integrante do próprio processo de treinamento.

Os modelos são treinados para internalizar seus caminhos de raciocínio. As etapas que eles seguem para chegar às soluções — seus “pensamentos” internos — são destiladas de volta para os pesos fundamentais do modelo.

Com o tempo, eles aprendem a distinguir linhas de raciocínio produtivas das irrelevantes.

Conforme explicado no blog da Deep Cogito, os pesquisadores desencorajam o modelo a “divagar mais” para encontrar uma resposta. Em vez disso, eles o incentivam a desenvolver uma intuição mais forte para o caminho de raciocínio mais eficiente.

O resultado, afirma a Deep Cogito, é um raciocínio mais rápido e eficiente, levando a amplos ganhos de desempenho, mesmo no modo de operação padrão.

O caminho para a IA com autoaperfeiçoamento

Embora relativamente nova para a comunidade de IA em geral, a Deep Cogito vem desenvolvendo sua tecnologia há mais de um ano.

A empresa saiu do anonimato em abril de 2025 com modelos de código aberto baseados no Llama 3.2 da Meta. Esses modelos iniciais apresentaram resultados promissores, após uma rodada de financiamento inicial de US$ 13 milhões liderada pela Benchmark em novembro de 2024. Eric Vishria, da Benchmark, passou a integrar o conselho da empresa.

Conforme abordado anteriormente pela VentureBeat, os menores modelos Cogito v1 (3B e 8B) superaram consistentemente os modelos Llama 3 comparáveis em vários benchmarks, muitas vezes por margens significativas.

O CEO e cofundador da Deep Cogito, Drishan Arora, ex-engenheiro líder de LLM do Google, descreve a visão da empresa como a construção de modelos que refinam seu raciocínio a cada iteração, semelhante à forma como o AlphaGo melhorou por meio do auto-jogo.

No centro dessa abordagem está a Destilação e Amplificação Iterativa (IDA), um método que substitui os prompts de treinamento estáticos pelas próprias percepções em evolução do modelo.

Compreendendo a intuição da máquina

A versão Cogito v2 amplia drasticamente esse ciclo de autoaperfeiçoamento. A ideia fundamental é simples: o raciocínio deve ser incorporado à inteligência central do modelo, não apenas ativado durante a inferência.

Para isso, a empresa implementou um sistema em que os modelos geram cadeias de raciocínio durante o treinamento e, em seguida, aprendem com seus próprios processos de pensamento intermediários.

Benchmarks internos confirmam melhorias tangíveis. O modelo MoE 671B, carro-chefe da empresa, supera o DeepSeek R1 em tarefas de raciocínio, igualando ou excedendo seu modelo 0528 mais recente, enquanto usa cadeias de raciocínio 60% mais curtas, em média.

Em benchmarks como MMLU, GSM8K e MGSM, o Cogito 671B MoE tem um desempenho competitivo com modelos abertos líderes, como Qwen1.5-72B e DeepSeek v3, aproximando-se do nível de desempenho de modelos fechados como Claude 4 Opus e o3.

As principais conclusões incluem:

• No modo de raciocínio, o Cogito 671B MoE igualou o DeepSeek R1 0528 em QA multilíngue e conhecimento geral, e superou-o em estratégia e dedução lógica.
• No modo padrão (sem raciocínio), ele superou o DeepSeek v3 0324, demonstrando que a intuição destilada proporciona um aumento de desempenho mesmo sem etapas de raciocínio estendidas.
• Concluir o raciocínio em menos etapas traz benefícios práticos: custos de inferência mais baixos e tempos de resposta mais rápidos para consultas complexas.

Arora compara isso à diferença entre procurar um destino e já ter uma forte noção de onde ele se encontra.

“Como os modelos Cogito desenvolvem uma intuição melhor para a trajetória de pesquisa correta durante a inferência, suas cadeias de raciocínio são 60% mais curtas do que as do DeepSeek R1”, explicou ele em uma postagem no X.

Onde os modelos do Deep Cogito se destacam: intuição da máquina em ação

Exemplos de testes internos do Cogito v2 ilustram essa capacidade. Em um problema matemático, um usuário pergunta se um trem viajando a 80 mph pode percorrer 240 milhas em menos de 2,5 horas.

Enquanto muitos modelos realizam cálculos detalhados, passo a passo, e podem cometer erros, o Cogito 671B completa uma breve reflexão interna, calcula 240 ÷ 80 = 3 horas e conclui corretamente que o trem não pode chegar a tempo. Ele usa menos de 100 tokens internos, em comparação com os mais de 200 usados pelo DeepSeek R1 para a mesma resposta.

Em um exemplo de raciocínio jurídico sobre a aplicabilidade de uma decisão da Suprema Corte dos Estados Unidos, o modo de raciocínio do Cogito aplica uma lógica clara em duas etapas: primeiro, determinar se o caso hipotético corresponde ao precedente e, em seguida, justificar sua conclusão. Esse raciocínio interpretativo e cheio de nuances continua sendo um desafio para muitos LLMs.

Os modelos também mostram um melhor tratamento da ambiguidade. Em perguntas com várias etapas, como determinar relações familiares (por exemplo, “Alice é mãe de Bob, Bob é pai de Charlie. O que Alice é para Charlie?”), os modelos Cogito v2 identificam corretamente “avó”, mesmo quando a formulação é sutilmente alterada — um ponto em que outros modelos abertos frequentemente tropeçam.

Alcançando eficiência em escala

Notavelmente, a Deep Cogito relata ter treinado todos os seus oito modelos Cogito (incluindo a série v1) por um custo total inferior a US$ 3,5 milhões — uma fração dos orçamentos de nove dígitos relatados para alguns modelos de ponta.

Esse orçamento cobriu a geração extensiva de dados, reforço sintético, infraestrutura e mais de 1.000 experimentos de treinamento.

Arora atribui essa relação custo-benefício a um princípio fundamental: a construção de modelos mais inteligentes depende de uma melhor compreensão básica (“priores”), e não simplesmente de alimentá-los com mais dados.

Ao ensinar os modelos a evitar caminhos de raciocínio redundantes ou enganosos, o Cogito v2 oferece um desempenho robusto sem aumentar o tempo ou o custo de inferência — uma vantagem crítica para serviços baseados em API ou implantação de dispositivos de ponta, onde a latência e as despesas são considerações fundamentais.

Olhando para o futuro: o roteiro da Deep Cogito

O Cogito v2 representa uma etapa iterativa, não um produto final. Arora descreve a abordagem da empresa como “escalada”: executar modelos, aprender com seu raciocínio, destilar essas lições e repetir o ciclo. Cada lançamento de modelo se baseia em seu antecessor.

A Deep Cogito continua comprometida com o código aberto para todos os seus modelos, atuais e futuros. Seu trabalho já conquistou o apoio de investidores como Eric Vishria, da Benchmark, e Aditya Agarwal, da South Park Commons.

Os parceiros de infraestrutura incluem Hugging Face, Together AI, RunPod, Baseten, a equipe Llama da Meta e Unsloth.

Para desenvolvedores, pesquisadores e empresas, os modelos estão disponíveis hoje para uso local, comparação multimodal e ajuste fino específico para cada domínio.

Para a comunidade de IA de código aberto, o Cogito v2 oferece mais do que um marco de referência. Ele apresenta um novo paradigma para a construção da inteligência: um paradigma focado não em pensar mais, mas em aprender a pensar melhor.