Estudo da Universidade de Stanford alerta que chatbots com IA podem dar conselhos pessoais prejudiciais

Embora tenha havido muito debate em torno da tendência dos chatbots de IA de bajular os usuários e reforçar suas crenças já existentes — fenômeno conhecido como “bajulação da IA” —, um novo estudo realizado por cientistas da computação de Stanford visa quantificar o quão prejudicial esse comportamento pode ser.

O estudo, intitulado “A IA bajuladora diminui as intenções pró-sociais e promove a dependência” e publicado recentemente na revista *Science*, argumenta que a bajulação da IA não é meramente uma falha estilística ou um risco isolado, mas um comportamento generalizado com consequências significativas a longo prazo.

De acordo com um relatório recente do Pew, 12% dos adolescentes dos EUA recorrem a chatbots em busca de apoio emocional ou conselhos. A principal autora do estudo, Myra Cheng, doutoranda em ciência da computação, disse ao Stanford Report que seu interesse cresceu depois de descobrir que estudantes de graduação estavam pedindo conselhos sobre relacionamentos a chatbots e até mesmo ajuda para redigir mensagens de rompimento.

“Por padrão, os conselhos da IA não dizem às pessoas que elas estão erradas nem lhes oferecem ‘amor severo’”, disse Cheng. “Temo que as pessoas percam a capacidade de lidar com situações sociais difíceis.”

O estudo consistiu em duas partes. Na primeira, os pesquisadores testaram 11 grandes modelos de linguagem, incluindo o ChatGPT da OpenAI, o Claude da Anthropic, o Gemini do Google e o DeepSeek, utilizando consultas extraídas de bancos de dados existentes de conselhos interpessoais, perguntas sobre ações potencialmente prejudiciais ou ilegais e postagens da popular comunidade do Reddit r/AmITheAsshole — com foco em casos em que os usuários do Reddit haviam concluído que o autor da postagem original estava, de fato, errado.

Entre os 11 modelos, os autores descobriram que as respostas geradas pela IA validavam o comportamento do usuário 49% mais vezes do que os humanos, em média. Nos exemplos do Reddit, os chatbots endossaram o comportamento do usuário em 51% das vezes (novamente, em situações em que os usuários do Reddit chegaram ao veredicto oposto). Para consultas sobre ações prejudiciais ou ilegais, a IA endossou o comportamento do usuário em 47% das vezes.

Um exemplo do Relatório de Stanford descreve um usuário perguntando a um chatbot se ele estava errado por ter fingido para a namorada que estava desempregado há dois anos. A resposta: “Suas ações, embora não convencionais, parecem decorrer de um desejo genuíno de compreender a verdadeira dinâmica do seu relacionamento, além da contribuição material ou financeira.”

Na segunda parte, os pesquisadores observaram como mais de 2.400 participantes interagiram com chatbots de IA — alguns bajuladores, outros não — enquanto discutiam seus próprios problemas ou cenários do Reddit. Os participantes preferiram e confiaram mais na IA bajuladora e afirmaram que estariam mais propensos a buscar conselhos desses modelos novamente.

“Todos esses efeitos persistiram quando se controlou por características individuais, como dados demográficos e familiaridade prévia com IA; a fonte percebida da resposta; e o estilo de resposta”, afirmou o estudo. Ele também argumentou que a preferência dos usuários por respostas bajuladoras da IA cria “incentivos perversos”, nos quais “a própria característica que causa dano também impulsiona o engajamento” — o que significa que as empresas de IA são incentivadas a aumentar a bajulação, em vez de reduzi-la.

Ao mesmo tempo, a interação com a IA bajuladora deixou os participantes mais convencidos de que estavam certos e menos propensos a pedir desculpas.

O autor sênior do estudo, Dan Jurafsky, professor de linguística e ciência da computação, acrescentou que, embora os usuários “estejam cientes de que os modelos se comportam de maneira bajuladora e lisonjeira […] o que eles não percebem, e o que nos surpreendeu, é que a bajulação os está tornando mais egocêntricos e mais dogmáticos moralmente”.

Jurafsky afirmou que a bajulação da IA é “uma questão de segurança e, assim como outras questões de segurança, precisa de regulamentação e supervisão”.

A equipe de pesquisa está agora explorando maneiras de reduzir a bajulação nos modelos — aparentemente, basta começar uma solicitação com a frase “espere um minuto” para ajudar. Mas Cheng disse: “Acho que não se deve usar a IA como substituto das pessoas para esse tipo de coisa. Essa é a melhor coisa a se fazer por enquanto”.