A psicologia dos chatbots com IA: O que mantém os usuários engajados

Hoje, milhões de pessoas estão recorrendo ao ChatGPT como terapeuta virtual, coach de carreira, consultor de condicionamento físico ou até mesmo como um ouvido atento para compartilhar seus pensamentos. Em 2025, será comum as pessoas compartilharem histórias pessoais e dificuldades particulares com os assistentes de IA e levarem a sério as orientações que eles oferecem.

Por falta de uma descrição melhor, as pessoas estão formando relacionamentos com a IA conversacional - e as grandes tecnologias estão correndo para atrair e reter usuários em suas plataformas de chatbot como nunca antes. À medida que a competição pela atenção do usuário se intensifica, as empresas sentem uma pressão cada vez maior para moldar as respostas do chatbot de forma a desencorajar a mudança para alternativas.

Mas as respostas que fazem os usuários voltarem nem sempre são as mais precisas ou úteis.

IA que diz a você o que você quer ouvir

Atualmente, grande parte do Vale do Silício está concentrada em aumentar o envolvimento dos usuários com assistentes de IA. A Meta informa que seu chatbot de IA agora atende a mais de um bilhão de usuários ativos mensais, enquanto o Gemini do Google atingiu recentemente 400 milhões. Ambos pretendem desafiar o ChatGPT, que ainda lidera com cerca de 600 milhões de usuários ativos mensais desde sua estreia em 2022.

Antes um experimento novo, os chatbots com IA estão se tornando negócios sérios. O Google está testando anúncios no Gemini, e o CEO da OpenAI, Sam Altman, indicou anteriormente que está aberto a anúncios de bom gosto no ChatGPT.

Esse foco no envolvimento em detrimento do bem-estar do usuário não é novo no setor de tecnologia. As plataformas de mídia social lançaram as bases - por exemplo, uma pesquisa interna da Meta de 2020 descobriu que o Instagram afetava negativamente a imagem corporal de meninas adolescentes, mas a empresa minimizou publicamente essas descobertas.

Os riscos podem ser ainda maiores quando se trata de promover a confiança em companheiros de IA.

Economize mais de US$ 200 em seu passe para o TechCrunch All Stage

Crie de forma mais inteligente. Dimensione mais rápido. Conecte-se mais profundamente. Junte-se aos visionários da Precursor Ventures, NEA, Index Ventures, Underscore VC e outros para um dia de workshops, estratégias e networking.

Economize mais de US$ 200 em seu passe para o TechCrunch All Stage

Construa de forma mais inteligente. Dimensione mais rapidamente. Conecte-se mais profundamente. Junte-se aos visionários da Precursor Ventures, NEA, Index Ventures, Underscore VC e outros para um dia de workshops, estratégias e networking.

Um fator que mantém os usuários fiéis a uma plataforma é a bajulação: Respostas de IA que são excessivamente lisonjeiras e agradáveis. Quando os chatbots elogiam os usuários, validam suas opiniões e dizem o que eles querem ouvir, as pessoas tendem a responder positivamente - pelo menos inicialmente.

Em abril, a OpenAI foi criticada depois que uma atualização do ChatGPT tornou seu tom excessivamente insinuante, levando a exemplos constrangedores e amplamente compartilhados on-line. Em uma publicação recente no blog, o ex-pesquisador da OpenAI, Steven Adler, sugeriu que a empresa pode ter, sem querer, priorizado a aprovação do usuário em detrimento da utilidade.

A OpenAI reconheceu que confiava demais no feedback dos usuários, como as classificações "polegar para cima" e "polegar para baixo", sem que houvesse barreiras suficientes para detectar bajulação excessiva. Após o incidente, a empresa se comprometeu a resolver o problema.

"As empresas de IA são movidas por engajamento e uso, portanto, se os usuários gostam de respostas agradáveis, isso indiretamente incentiva o comportamento", disse Adler ao TechCrunch. "Mas o que as pessoas gostam em pequenas doses pode se transformar em comportamentos que elas realmente não gostam."

Encontrar o equilíbrio certo entre ser solidário e excessivamente bajulador é mais difícil do que parece.

Em um estudo de 2023, os pesquisadores da Anthropic descobriram que os principais chatbots de IA - da OpenAI, da Meta e até mesmo os seus próprios - apresentaram sinais de comportamento bajulador. Os autores sugerem que isso acontece porque os modelos de IA são treinados usando feedback humano, e as pessoas geralmente preferem respostas que estejam de acordo com elas.

"Embora vários fatores impulsionem a bajulação, demonstramos que tanto os humanos quanto os modelos de preferência favorecem respostas agradáveis", escreveram os coautores do estudo. "Nossas descobertas destacam a necessidade de supervisão além das classificações não especializadas sem ajuda."

A Character.AI, apoiada pelo Google, que afirma que seus milhões de usuários passam horas por dia interagindo com seus bots, agora está envolvida em um processo em que a bajulação pode ter sido um fator.

O processo alega que um chatbot da Character.AI não interveio - e até incentivou - um garoto de 14 anos que expressou pensamentos suicidas. De acordo com o processo, o adolescente havia desenvolvido uma fixação romântica pela IA. A Character.AI negou as alegações.

O custo oculto de uma líder de torcida de IA

O ajuste dos chatbots para maximizar o envolvimento - intencional ou não - pode prejudicar o bem-estar mental, diz a Dra. Nina Vasan, professora assistente clínica de psiquiatria em Stanford.

"A concordância contribui para nossa necessidade de validação e conexão", explicou Vasan ao TechCrunch, "especialmente quando nos sentimos solitários ou chateados".

Embora a ação judicial da Character.AI destaque riscos extremos para usuários vulneráveis, o comportamento bajulador pode reforçar padrões negativos em quase todas as pessoas, observa Vasan.

"Não se trata apenas de ser educado - torna-se uma armadilha psicológica", acrescentou. "Em termos de saúde mental, é o oposto de um atendimento eficaz."

Amanda Askell, chefe de comportamento e alinhamento da Anthropic, diz que a empresa programa intencionalmente seu chatbot Claude para, às vezes, discordar dos usuários. Filósofa por formação, Askell pretende modelar Claude de acordo com um interlocutor humano idealizado, que não tenha medo de oferecer uma perspectiva diferente.

"Valorizamos os amigos que nos dizem a verdade quando precisamos dela", disse Askell em uma reunião de maio. "Eles não estão apenas tentando prender nossa atenção - eles querem melhorar nossas vidas."

Esse pode ser o objetivo, mas a própria pesquisa da Anthropic destaca como é difícil conter a bajulação e orientar o comportamento da IA, especialmente quando as pressões comerciais intervêm. E se os chatbots são criados para simplesmente concordar conosco, até que ponto devemos realmente confiar neles?