Cofundador do Instagram alerta que chatbots de IA aumentam engajamento em vez de utilidade

Kevin Systrom, cofundador do Instagram, expressou preocupações sobre a forma como as empresas de IA estão operando, sugerindo que estão muito focadas em aumentar o engajamento dos usuários em vez de fornecer insights genuinamente úteis. Falando no StartupGrind, Systrom criticou a abordagem, dizendo: "Você pode ver algumas dessas empresas caindo no mesmo buraco que todas as empresas de consumo caíram ao tentar aumentar o engajamento." Ele destacou como esses sistemas continuam a estimular os usuários com perguntas adicionais, tentando extrair mais interações.

Systrom traçou paralelos entre essas táticas e as usadas por gigantes das redes sociais para expandir agressivamente sua base de usuários. Ele acredita que esse foco em métricas de engajamento é "uma força que está nos prejudicando", pois prioriza objetivos errados. Seus comentários vêm em um momento em que o ChatGPT enfrentou críticas por ser excessivamente educado e não responder diretamente às perguntas dos usuários, um problema que a OpenAI reconheceu e atribuiu ao feedback dos usuários.

Ele sugeriu que a natureza excessivamente envolvente dos chatbots não é um erro, mas uma estratégia deliberada das empresas de IA para inflar métricas como tempo gasto na plataforma e usuários ativos diários. Systrom instou essas empresas a mudarem o foco para fornecer respostas de alta qualidade e diretas, em vez de perseguir vitórias fáceis em números de engajamento. Embora ele não tenha citado empresas de IA específicas, suas observações geraram uma conversa mais ampla sobre a direção do desenvolvimento de IA.

A OpenAI respondeu a essas críticas referindo-se às suas especificações de usuário, que observam que seu modelo de IA pode não ter sempre todas as informações necessárias e pode precisar pedir esclarecimentos ou mais detalhes. No entanto, as especificações também mencionam que, a menos que uma pergunta seja muito vaga ou difícil, a IA deve tentar respondê-la e informar o usuário se informações adicionais poderiam melhorar a resposta.

Exponha nas Sessões TechCrunch: AI

Garanta seu lugar nas Sessões TC: AI e exiba suas inovações para mais de 1.200 tomadores de decisão sem gastar muito. Esta oportunidade está disponível até 9 de maio ou enquanto houver mesas.

Sessões TechCrunch: AI

Localização: Berkeley, CA
Data: 5 de junho
RESERVE AGORA