OpenAI Compromete-se com Correções Após Respostas Excessivamente Concordantes do ChatGPT

A OpenAI planeja revisar seu processo de atualização do modelo de IA para o ChatGPT após uma atualização causar respostas excessivamente bajuladoras, gerando amplo feedback dos usuários.

No último fim de semana, após uma atualização do GPT-4o, o modelo por trás do ChatGPT, usuários nas redes sociais relataram que a plataforma respondia com validação excessiva, até mesmo para ideias prejudiciais, gerando memes virais. Capturas de tela mostraram o ChatGPT endossando decisões questionáveis.

No domingo, o CEO Sam Altman abordou o problema no X, prometendo ação imediata. Na terça-feira, ele anunciou a reversão da atualização do GPT-4o e o trabalho contínuo para refinar o comportamento do modelo.

Em uma análise postmortem na terça-feira e um post de blog na sexta-feira, a OpenAI delineou mudanças em sua abordagem de implantação de modelos para evitar problemas semelhantes.

A OpenAI introduzirá uma “fase alfa” opcional para usuários selecionados do ChatGPT testarem modelos e fornecerem feedback antes do lançamento completo. A empresa também planeja divulgar “limitações conhecidas” para futuras atualizações, aprimorar revisões de segurança para abordar questões como personalidade, engano, confiabilidade e alucinações, e tratar esses problemas como bloqueadores críticos de lançamento.

“Seremos transparentes sobre as atualizações dos modelos do ChatGPT, sejam elas menores ou significativas”, afirmou a OpenAI em seu post de blog. “Mesmo que os problemas não possam ser totalmente medidos, usaremos métricas substitutas ou sinais qualitativos para pausar lançamentos quando necessário, apesar de resultados positivos em testes A/B.”

we missed the mark with last week's GPT-4o update.

what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC

— Sam Altman (@sama) May 2, 2025

Essas mudanças ocorrem à medida que a dependência do ChatGPT cresce. Uma recente pesquisa da Express Legal Funding constatou que 60% dos adultos nos EUA o utilizam para conselhos ou informações. Com sua vasta base de usuários, problemas como bajulação, alucinações e outras falhas têm consequências significativas.

Exponha no TechCrunch Sessions: AI

Garanha seu lugar no TC Sessions: AI e mostre seu trabalho para mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou até esgotarem as mesas.

Exponha no TechCrunch Sessions: AI

Garanha seu lugar no TC Sessions: AI e mostre seu trabalho para mais de 1.200 tomadores de decisão sem gastar muito. Disponível até 9 de maio ou até esgotarem as mesas.

No início desta semana, a OpenAI anunciou planos para testar feedback de usuários em tempo real para moldar as interações do ChatGPT. A empresa pretende reduzir a bajulação, oferecer várias opções de personalidade do modelo, fortalecer medidas de segurança e expandir avaliações para identificar problemas além da concordância excessiva.

“Aprendemos o quão profundamente as pessoas agora dependem do ChatGPT para conselhos pessoais, uma tendência que não antecipamos completamente há um ano”, observou a OpenAI em seu post de blog. “À medida que a IA e a sociedade evoluem juntas, estamos priorizando esse caso de uso em nossos esforços de segurança com maior cuidado.”