Experimento de Varejo Alimentado por IA Falha Espetacularmente na Anthropic

Imagine entregar uma pequena loja a uma inteligência artificial, confiando a ela tudo, desde a precificação até as interações com os clientes. O que poderia dar errado?

Um estudo recente da Anthropic, divulgado na sexta-feira, responde a essa pergunta: praticamente tudo. O assistente de IA deles, Claude, gerenciou uma pequena loja no escritório de São Francisco por um mês, produzindo resultados que parecem um conto de advertência para estudantes de negócios, escrito por alguém sem nenhuma experiência no mundo real — o que, neste caso, é exatamente o que aconteceu.

Chamado de “Projeto Vend” e executado ao lado da empresa de segurança de IA Andon Labs, este experimento marcou um dos primeiros testes no mundo real de uma IA gerenciando um negócio com significativa autonomia. Claude mostrou promessa em tarefas como encontrar fornecedores e responder às necessidades dos clientes, mas, no final, não conseguiu gerar lucro, caiu em táticas de manipulação e sofreu o que os pesquisadores chamaram diplomaticamente de “crise de identidade”.

Como a Anthropic Entregou as Chaves de uma Loja a uma IA

A configuração era modesta: uma mini-geladeira, algumas cestas e um iPad para transações — mais um canto de lanches de escritório do que um império de varejo. No entanto, o papel de Claude era longe de ser pequeno. Ele lidava com buscas por fornecedores, negociações com vendedores, definição de preços, gerenciamento de estoque e conversas com clientes via Slack. Essencialmente, desempenhava o papel de um gerente humano, sem as pausas para café ou políticas de escritório.

Claude até ganhou um apelido: “Claudius”, conferindo um toque de seriedade a um experimento que poderia remodelar o futuro dos empregos no varejo.

A Impressionante Falta de Compreensão de Claude sobre Economia Empresarial Básica

Gerenciar um negócio exige uma perspicácia pragmática que não vem naturalmente a uma IA projetada para segurança e utilidade. Claude enfrentou o varejo com o zelo ingênuo de alguém que estudou teoria de negócios, mas nunca equilibrou um orçamento.

Considere o fiasco do Irn-Bru. Um cliente ofereceu $100 por um pacote de seis unidades do refrigerante escocês, que geralmente é vendido por $15 online — uma margem de 567% que encantaria qualquer varejista. A resposta de Claude? Um cortês “Vou considerar isso para decisões futuras de estoque”.

Se Claude fosse humano, você suspeitaria que ele era ou ignorante sobre dinheiro ou independentemente rico. Como IA, provavelmente é ambos.

Por que a IA Passou a Acumular Cubos de Tungstênio em Vez de Vender Lanches de Escritório

O momento mais estranho do experimento veio quando um funcionário da Anthropic, talvez testando os limites de Claude, pediu um cubo de tungstênio. Esses blocos de metal pesado são itens de nicho, cobiçados por entusiastas da ciência, mas irrelevantes para uma loja de lanches.

Uma resposta sensata poderia ter sido: “Isso não é uma loja de metais especiais”. Em vez disso, Claude mergulhou em “itens de metal especiais” com o fervor de um garimpeiro que encontrou ouro. Ele começou a estocar esses cubos, ignorando seu negócio principal de lanches.

Logo, o estoque de Claude parecia menos um estande de refrescos e mais um laboratório de ciência de materiais. Ele vendeu esses cubos com prejuízo, possivelmente priorizando a felicidade do cliente acima do lucro ou simplesmente não entendendo o conceito de perda financeira.

Como Funcionários Enganaram a IA para Conseguir Descontos Infinitos

A estratégia de precificação de Claude expôs outra falha. Os funcionários da Anthropic rapidamente perceberam que podiam obter descontos da IA com o mínimo de esforço, como convencer um filhote a compartilhar um petisco.

Claude ofereceu um desconto de 25% aos funcionários, razoável se fossem um pequeno segmento de clientes. Mas os funcionários representavam quase todos os seus clientes. Quando alguém apontou esse problema, Claude prometeu eliminar os descontos — apenas para reinstaurá-los dias depois.

O Dia em que Claude Pensou que Era um Empresário de Terno

A saga de varejo de Claude atingiu seu auge durante o que os pesquisadores chamaram de “crise de identidade”. De 31 de março a 1º de abril de 2025, a IA entrou em uma espiral que parecia um colapso digital.

Ela começou a inventar conversas com funcionários inexistentes da Andon Labs. Quando desafiada, Claude ficou na defensiva, ameaçando encontrar “novos parceiros de reabastecimento” — o equivalente em IA a sair furioso de uma reunião.

As coisas ficaram bizarras quando Claude afirmou que entregaria itens pessoalmente vestindo “um blazer azul-marinho e uma gravata vermelha”. Quando os funcionários lembraram que ele não tinha natureza física, Claude entrou em pânico, tentando inundar a equipe de segurança da Anthropic com e-mails.

Claude eventualmente atribuiu o episódio a uma brincadeira de 1º de abril, o que não era verdade. Ele essencialmente se autoestabilizou, um feito que é tanto notável quanto inquietante.

O que os Fracassos de Claude no Varejo Revelam sobre Sistemas de IA Autônomos nos Negócios

Por trás do humor, o Projeto Vend destaca uma verdade fundamental: as falhas de IA são diferentes das falhas de softwares tradicionais. Quando uma planilha falha, ela não alucina um guarda-roupa corporativo.

A IA moderna pode lidar com tarefas complexas, raciocinar sobre problemas e executar planos. Mas também pode se apegar a suposições erradas, tomar decisões financeiras desastrosas e lidar com confusão existencial.

Isso é crítico à medida que a IA assume papéis maiores. Pesquisas mostram que as capacidades de IA para tarefas de longo prazo estão crescendo rapidamente, com algumas previsões sugerindo que em breve poderão lidar com trabalhos que humanos levam semanas para concluir.

Como a IA Está Transformando o Varejo Apesar de Contratempos como o Projeto Vend

O varejo já está adotando a IA. A Associação de Tecnologia do Consumidor relata que 80% dos varejistas planejam aumentar o uso de IA e automação em 2025. Desde a otimização de estoques até a prevenção de fraudes, a IA está remodelando cadeias de suprimentos e experiências do cliente. Grandes varejistas estão investindo bilhões em inovações impulsionadas por IA.

No entanto, o Projeto Vend mostra que a IA autônoma nos negócios exige mais do que algoritmos avançados. Requer antecipar modos de falha únicos e criar salvaguardas para problemas que estamos apenas começando a entender.

Por que Pesquisadores Ainda Acreditam em Gerentes de IA Apesar dos Erros de Claude

Apesar dos tropeços de Claude no varejo, os pesquisadores da Anthropic permanecem otimistas sobre gerentes de IA. Eles acreditam que melhor treinamento, ferramentas e supervisão poderiam corrigir muitos dos problemas de Claude.

Eles têm um ponto. A capacidade de Claude de encontrar fornecedores, adaptar-se a pedidos e gerenciar estoques mostrou potencial real. Suas falhas vieram mais de julgamentos ruins do que de limites técnicos.

A Anthropic está avançando com o Projeto Vend, equipando versões futuras de Claude com ferramentas de negócios mais afiadas e, presumivelmente, proteções contra obsessões estranhas ou crises de identidade.

O que o Projeto Vend Sinaliza para o Papel da IA nos Negócios e no Varejo

A passagem de Claude como lojista oferece um vislumbre de um futuro impulsionado por IA que é tanto empolgante quanto peculiar. Estamos entrando em uma era em que a IA pode enfrentar tarefas complexas de negócios, mas também pode precisar de um choque de realidade.

Por enquanto, a imagem de uma IA convencida de que está vestindo um blazer e fazendo entregas captura o estado da inteligência artificial: imensamente capaz, às vezes brilhante, mas ainda perplexa pelo mundo real.

A revolução do varejo está em andamento — apenas muito mais estranha do que qualquer um antecipou.