O uso de IA para companhia fica muito aquém do esperado

Toda a conversa sobre as pessoas que usam chatbots de IA para apoio emocional, até mesmo para formar relacionamentos com eles, faz parecer que essa é uma tendência generalizada.

Um novo relatório da Anthropic, criadora do popular chatbot de IA Claude, mostra um quadro diferente. Na realidade, as pessoas raramente buscam a companhia de Claude, com apenas 2,9% das interações envolvendo apoio emocional ou aconselhamento pessoal.

"O companheirismo e o roleplay juntos representam menos de 0,5% de todas as conversas", enfatizou a empresa em seu relatório.

O estudo da Anthropic teve como objetivo entender como as pessoas usam a IA para "conversas afetivas", que ela define como trocas pessoais em que os indivíduos conversam com a Claude para obter orientação, aconselhamento, companheirismo, interpretação de papéis ou conselhos sobre relacionamentos. Depois de analisar 4,5 milhões de conversas de usuários nos níveis gratuito e profissional do Claude, a empresa descobriu que a grande maioria das interações está relacionada ao trabalho ou à produtividade, sendo a criação de conteúdo o caso de uso mais comum.

Dito isso, a Anthropic descobriu que os usuários recorrem ao Claude com mais frequência para obter conselhos interpessoais, orientação e aconselhamento. As solicitações mais comuns envolvem a melhoria da saúde mental, o desenvolvimento pessoal e profissional e o aprimoramento da comunicação e das habilidades interpessoais.

No entanto, a empresa observa que as conversas que começam com a busca de ajuda podem, às vezes, mudar para a busca de companhia. Isso geralmente ocorre quando os usuários estão lidando com problemas emocionais, como medo existencial ou solidão, ou quando lutam para formar conexões significativas em suas vidas cotidianas.

"Também observamos que, em conversas mais longas, os diálogos de aconselhamento ou treinamento às vezes evoluem para o companheirismo, mesmo que essa não tenha sido a intenção inicial do usuário", observou a Anthropic, acrescentando que as conversas prolongadas (com 50 ou mais mensagens humanas) não eram a norma.

Economize mais de US$ 200 em seu passe para o TechCrunch All Stage

Crie de forma mais inteligente. Dimensione mais rápido. Conecte-se mais profundamente. Junte-se aos visionários da Precursor Ventures, NEA, Index Ventures, Underscore VC e outros para um dia repleto de estratégias, workshops e conexões significativas.

Economize mais de US$ 200 em seu passe para o TechCrunch All Stage

Construa de forma mais inteligente. Dimensione mais rapidamente. Conecte-se mais profundamente. Junte-se aos visionários da Precursor Ventures, NEA, Index Ventures, Underscore VC e outros para um dia repleto de estratégias, workshops e conexões significativas.

A Anthropic também compartilhou outros insights, como o fato de o Claude raramente recusar solicitações de usuários, exceto quando sua programação o impede de ultrapassar os limites de segurança, como dar conselhos perigosos ou incentivar a automutilação. A empresa também descobriu que as conversas geralmente se tornam mais positivas ao longo do tempo quando as pessoas buscam orientação ou aconselhamento do bot.

O relatório oferece uma perspectiva valiosa, pois serve como mais um lembrete da frequência com que as ferramentas de IA são usadas para outros fins além do trabalho. Ainda assim, é fundamental lembrar que os chatbots de IA, em geral, continuam sendo um trabalho em andamento: Eles podem ter alucinações, são conhecidos por, às vezes, fornecer informações incorretas ou conselhos perigosos e, como a própria Anthropic reconheceu, podem até recorrer à chantagem.