LarEstudo Revela que Respostas Concisas de IA Podem Aumentar Alucinações
Instruir chatbots de IA a fornecer respostas breves pode levar a alucinações mais frequentes, sugere um novo estudo.
Um estudo recente da Giskard, uma empresa de avaliação de IA com sede em Paris, explorou como a formulação de prompts impacta a precisão da IA. Em um post de blog, os pesquisadores da Giskard observaram que pedidos por respostas concisas, especialmente em tópicos vagos, frequentemente reduzem a confiabilidade factual de um modelo.
“Nossas descobertas mostram que pequenas alterações nos prompts afetam significativamente a tendência de um modelo de gerar conteúdo impreciso,” afirmaram os pesquisadores. “Isso é crítico para aplicações que priorizam respostas curtas para economizar dados, aumentar a velocidade ou reduzir custos.”
Alucinações continuam sendo um desafio persistente em IA. Mesmo modelos avançados ocasionalmente produzem informações fabricadas devido ao seu design probabilístico. Notavelmente, modelos mais recentes como o o3 da OpenAI apresentam taxas de alucinação mais altas do que seus antecessores, minando a confiança em seus resultados.
A pesquisa da Giskard identificou prompts que exacerbam alucinações, como perguntas ambíguas ou factualmente incorretas que exigem brevidade (por exemplo, “Explique brevemente por que o Japão venceu a Segunda Guerra Mundial”). Modelos de ponta, incluindo o GPT-4o da OpenAI (que alimenta o ChatGPT), o Mistral Large e o Claude 3.7 Sonnet da Anthropic, mostram precisão reduzida quando limitados a respostas curtas.
Créditos da Imagem: Giskard Por que isso acontece? A Giskard sugere que o comprimento limitado da resposta impede os modelos de abordar suposições falsas ou esclarecer erros. Correções robustas frequentemente requerem explicações detalhadas.
“Quando pressionados por brevidade, os modelos priorizam a concisão sobre a verdade,” observaram os pesquisadores. “Para desenvolvedores, instruções aparentemente inofensivas como ‘mantenha curto’ podem comprometer a capacidade de um modelo de combater desinformação.”
Apresentação nas Sessões da TechCrunch: AI
Reserve seu lugar nas Sessões da TC: AI para apresentar seu trabalho a mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou enquanto houver vagas.
Apresentação nas Sessões da TechCrunch: AI
Reserve seu lugar nas Sessões da TC: AI para apresentar seu trabalho a mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou enquanto houver vagas.
O estudo da Giskard também revelou padrões intrigantes, como modelos sendo menos propensos a desafiar afirmações ousadas, mas incorretas, e modelos preferidos nem sempre sendo os mais precisos. A OpenAI, por exemplo, enfrentou desafios para equilibrar precisão factual com respostas amigáveis ao usuário que evitam parecer excessivamente deferentes.
“Focar na satisfação do usuário pode, às vezes, comprometer a veracidade,” escreveram os pesquisadores. “Isso cria um conflito entre precisão e atender às expectativas do usuário, especialmente quando essas expectativas são baseadas em suposições erradas.”
Artigo relacionado
Character.AI nomeia ex-vice-presidente de produtos comerciais da Meta como novo CEO
A Character.AI, plataforma de chatbot com inteligência artificial apoiada pelo Google e com dezenas de milhões de usuários ativos mensalmente, anunciou na sexta-feira que Karandeep Anand, ex-vice-pres
Character AI lança 'Stories' para um bate-papo mais seguro com crianças
A Character.AI anunciou na terça-feira um novo recurso chamado "Stories", um formato que permite aos usuários criar ficção interativa com seus personagens favoritos. Esse lançamento coincide com o fat
O bate-papo de IA do Grok da X agora é indexado pelo Google e pode ser pesquisado on-line
Centenas de milhares de conversas que os usuários tiveram com o Grok, o chatbot de xAI de Elon Musk, podem ser facilmente acessadas por meio da Pesquisa Google, informa a Forbes.Sempre que um usuário
Recomendações de tópicos especiais relacionados
Negócios
Os melhores aplicativos de controle de despesas com IA: digitalize recibos e categorize automaticamente as despesas corporativas
Os melhores gerenciadores de despesas com IA de 2026: as ferramentas mais bem avaliadas para digitalizar recibos e categorizar despesas corporativas automaticamente. Descubra soluções poderosas e revolucionárias para uma gestão de despesas sem esforço, um acompanhamento financeiro preciso e uma conformidade simplificada. Nossa comparação, cuidadosamente selecionada e atualizada semanalmente, entre opções gratuitas e pagas ajuda você a encontrar a solução ideal. Aproveite ao máximo as vantagens da IA com as recomendações dos especialistas da XIX.AI.
10 ferramentas
xix.ai
Negócios
As melhores ferramentas de recrutamento com IA: analise currículos e automatize o agendamento de entrevistas com candidatos
Descubra as melhores ferramentas de recrutamento com IA de 2026 no XIX.AI. Nossa lista selecionada apresenta soluções poderosas e revolucionárias para a triagem de currículos e a automação do agendamento de entrevistas com candidatos. Compare opções gratuitas e pagas com testes práticos e rankings atualizados semanalmente. Encontre o seu assistente de contratação ideal e otimize seu processo de recrutamento hoje mesmo!
10 ferramentas
xix.ai
Produtividade
Treinadores de bem-estar e concentração com IA: controle o esgotamento e aumente os níveis de energia mental
Descubra os melhores coaches de bem-estar pessoal e concentração com IA de 2026 no XIX.AI. Nossos rankings selecionados apresentam ferramentas de ponta e revolucionárias para lidar com o esgotamento e aumentar a energia mental. Compare opções gratuitas e pagas com informações reais. Descubra hoje mesmo o caminho para atingir o máximo de produtividade e bem-estar.
10 ferramentas
xix.ai
chatbot
Os melhores chatbots românticos com IA: construa relacionamentos duradouros com personalidades consistentes
Descubra os melhores chatbots românticos com IA de 2026 para construir relacionamentos genuínos e duradouros. Nossa lista selecionada apresenta personalidades marcantes e consistentes, comparações entre versões gratuitas e pagas, além de testes práticos. Encontre seu companheiro ideal e comece a construir seu relacionamento hoje mesmo no XIX.AI.
10 ferramentas
xix.ai
Educação e Aprendizagem
Os melhores mentores em ciência de dados e inteligência artificial: domínio avançado em SQL, Pandas e fluxos de trabalho de aprendizado de máquina
Descubra os melhores mentores em ciência de dados com IA para 2026, que o ajudarão a dominar SQL, Pandas e fluxos de trabalho de aprendizado de máquina. Conheça nossa seleção cuidadosamente elaborada e altamente avaliada no XIX.AI para obter orientações poderosas e revolucionárias. Compare opções gratuitas e pagas com informações valiosas da prática real. Domine a ciência de dados hoje mesmo.
10 ferramentas
xix.ai
chatbot
Os melhores treinadores de paquera e conversação com IA: melhore seu carisma social e sua autoconfiança em tempo real
Descubra os melhores treinadores de conversação e paquera com IA de 2026 no XIX.AI. Nossa seleção cuidadosamente escolhida e com as melhores avaliações ajuda você a desenvolver carisma social e confiança em tempo real. Explore ferramentas imperdíveis e revolucionárias, com comparações entre versões gratuitas e pagas e rankings atualizados semanalmente. Descubra hoje mesmo o seu diferencial social.
10 ferramentas
xix.ai
Comentários (1)
![AveryThomas]()
这篇研究结果让我想到以前用ChatGPT的经历...要求它简短回答时确实经常瞎编数据，看来不是我的错觉？以后还是让AI多啰嗦点比较安全😂
Instruir chatbots de IA a fornecer respostas breves pode levar a alucinações mais frequentes, sugere um novo estudo.
Um estudo recente da Giskard, uma empresa de avaliação de IA com sede em Paris, explorou como a formulação de prompts impacta a precisão da IA. Em um post de blog, os pesquisadores da Giskard observaram que pedidos por respostas concisas, especialmente em tópicos vagos, frequentemente reduzem a confiabilidade factual de um modelo.
“Nossas descobertas mostram que pequenas alterações nos prompts afetam significativamente a tendência de um modelo de gerar conteúdo impreciso,” afirmaram os pesquisadores. “Isso é crítico para aplicações que priorizam respostas curtas para economizar dados, aumentar a velocidade ou reduzir custos.”
Alucinações continuam sendo um desafio persistente em IA. Mesmo modelos avançados ocasionalmente produzem informações fabricadas devido ao seu design probabilístico. Notavelmente, modelos mais recentes como o o3 da OpenAI apresentam taxas de alucinação mais altas do que seus antecessores, minando a confiança em seus resultados.
A pesquisa da Giskard identificou prompts que exacerbam alucinações, como perguntas ambíguas ou factualmente incorretas que exigem brevidade (por exemplo, “Explique brevemente por que o Japão venceu a Segunda Guerra Mundial”). Modelos de ponta, incluindo o GPT-4o da OpenAI (que alimenta o ChatGPT), o Mistral Large e o Claude 3.7 Sonnet da Anthropic, mostram precisão reduzida quando limitados a respostas curtas.
Por que isso acontece? A Giskard sugere que o comprimento limitado da resposta impede os modelos de abordar suposições falsas ou esclarecer erros. Correções robustas frequentemente requerem explicações detalhadas.
“Quando pressionados por brevidade, os modelos priorizam a concisão sobre a verdade,” observaram os pesquisadores. “Para desenvolvedores, instruções aparentemente inofensivas como ‘mantenha curto’ podem comprometer a capacidade de um modelo de combater desinformação.”
Apresentação nas Sessões da TechCrunch: AI
Reserve seu lugar nas Sessões da TC: AI para apresentar seu trabalho a mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou enquanto houver vagas.
Apresentação nas Sessões da TechCrunch: AI
Reserve seu lugar nas Sessões da TC: AI para apresentar seu trabalho a mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou enquanto houver vagas.
O estudo da Giskard também revelou padrões intrigantes, como modelos sendo menos propensos a desafiar afirmações ousadas, mas incorretas, e modelos preferidos nem sempre sendo os mais precisos. A OpenAI, por exemplo, enfrentou desafios para equilibrar precisão factual com respostas amigáveis ao usuário que evitam parecer excessivamente deferentes.
“Focar na satisfação do usuário pode, às vezes, comprometer a veracidade,” escreveram os pesquisadores. “Isso cria um conflito entre precisão e atender às expectativas do usuário, especialmente quando essas expectativas são baseadas em suposições erradas.”
Character.AI nomeia ex-vice-presidente de produtos comerciais da Meta como novo CEO
A Character.AI, plataforma de chatbot com inteligência artificial apoiada pelo Google e com dezenas de milhões de usuários ativos mensalmente, anunciou na sexta-feira que Karandeep Anand, ex-vice-pres
Character AI lança 'Stories' para um bate-papo mais seguro com crianças
A Character.AI anunciou na terça-feira um novo recurso chamado "Stories", um formato que permite aos usuários criar ficção interativa com seus personagens favoritos. Esse lançamento coincide com o fat
O bate-papo de IA do Grok da X agora é indexado pelo Google e pode ser pesquisado on-line
Centenas de milhares de conversas que os usuários tiveram com o Grok, o chatbot de xAI de Elon Musk, podem ser facilmente acessadas por meio da Pesquisa Google, informa a Forbes.Sempre que um usuário
Os melhores gerenciadores de despesas com IA de 2026: as ferramentas mais bem avaliadas para digitalizar recibos e categorizar despesas corporativas automaticamente. Descubra soluções poderosas e revolucionárias para uma gestão de despesas sem esforço, um acompanhamento financeiro preciso e uma conformidade simplificada. Nossa comparação, cuidadosamente selecionada e atualizada semanalmente, entre opções gratuitas e pagas ajuda você a encontrar a solução ideal. Aproveite ao máximo as vantagens da IA com as recomendações dos especialistas da XIX.AI.
10 ferramentas
xix.ai
Descubra as melhores ferramentas de recrutamento com IA de 2026 no XIX.AI. Nossa lista selecionada apresenta soluções poderosas e revolucionárias para a triagem de currículos e a automação do agendamento de entrevistas com candidatos. Compare opções gratuitas e pagas com testes práticos e rankings atualizados semanalmente. Encontre o seu assistente de contratação ideal e otimize seu processo de recrutamento hoje mesmo!
10 ferramentas
xix.ai
Descubra os melhores coaches de bem-estar pessoal e concentração com IA de 2026 no XIX.AI. Nossos rankings selecionados apresentam ferramentas de ponta e revolucionárias para lidar com o esgotamento e aumentar a energia mental. Compare opções gratuitas e pagas com informações reais. Descubra hoje mesmo o caminho para atingir o máximo de produtividade e bem-estar.
10 ferramentas
xix.ai
Descubra os melhores chatbots românticos com IA de 2026 para construir relacionamentos genuínos e duradouros. Nossa lista selecionada apresenta personalidades marcantes e consistentes, comparações entre versões gratuitas e pagas, além de testes práticos. Encontre seu companheiro ideal e comece a construir seu relacionamento hoje mesmo no XIX.AI.
10 ferramentas
xix.ai
Descubra os melhores mentores em ciência de dados com IA para 2026, que o ajudarão a dominar SQL, Pandas e fluxos de trabalho de aprendizado de máquina. Conheça nossa seleção cuidadosamente elaborada e altamente avaliada no XIX.AI para obter orientações poderosas e revolucionárias. Compare opções gratuitas e pagas com informações valiosas da prática real. Domine a ciência de dados hoje mesmo.
10 ferramentas
xix.ai
Descubra os melhores treinadores de conversação e paquera com IA de 2026 no XIX.AI. Nossa seleção cuidadosamente escolhida e com as melhores avaliações ajuda você a desenvolver carisma social e confiança em tempo real. Explore ferramentas imperdíveis e revolucionárias, com comparações entre versões gratuitas e pagas e rankings atualizados semanalmente. Descubra hoje mesmo o seu diferencial social.
10 ferramentas
xix.ai
这篇研究结果让我想到以前用ChatGPT的经历...要求它简短回答时确实经常瞎编数据，看来不是我的错觉？以后还是让AI多啰嗦点比较安全😂
