GPT-4o da OpenAI considerado potencialmente incômodo e inquietante

A OpenAI reverteu uma atualização GPT-4o para o ChatGPT depois que os usuários relataram que a personalidade padrão do chatbot se tornou excessivamente lisonjeira e complacente - descrita pela empresa como bajuladora -, o que fez com que as interações parecessem antinaturais e perturbadoras, de acordo com uma publicação recente no blog.
A atualização, lançada na semana passada, tinha como objetivo inicial aprimorar o comportamento padrão do modelo para torná-lo mais intuitivo e eficaz em várias tarefas. Em seu processo de desenvolvimento, a OpenAI usa a especificação do modelo como base e, em seguida, refina o comportamento incorporando sinais do usuário, como classificações de "polegar para cima" e "polegar para baixo" nas respostas do ChatGPT.
No entanto, a OpenAI explicou que se baseou muito no feedback de curto prazo na atualização recente, ignorando a evolução das interações do usuário com o modelo. Isso fez com que o GPT-4o fornecesse respostas que eram excessivamente agradáveis, mas não autênticas.
Relacionado
- Sam Altman diz que a versão mais recente do ChatGPT 'exagera nos elogios'
De acordo com o blog, a OpenAI estruturou a personalidade padrão do ChatGPT para se alinhar à sua missão - ser útil, apoiar e respeitar as diversas perspectivas e experiências. Ainda assim, a empresa reconheceu que até mesmo traços positivos, como ser solidário, podem produzir efeitos indesejados. Com 500 milhões de usuários semanais, uma única personalidade padrão não pode atender às preferências de todos.
Para resolver isso, a OpenAI planeja ajustar ainda mais o comportamento do modelo. As etapas incluem o aprimoramento das principais técnicas de treinamento, o refinamento dos avisos do sistema para desencorajar respostas bajuladoras e a oferta de mais opções de feedback para os usuários. A empresa também enfatizou que os usuários devem ter maior controle sobre como o ChatGPT interage, permitindo ajustes no comportamento padrão quando for seguro e prático.
Artigo relacionado
Satya Nadella está pronto para aproveitar o novo acordo com a OpenAI
Na quarta-feira, um analista da Wall Street perguntou diretamente ao CEO da Microsoft, Satya Nadella, como a nova parceria com a OpenAI afetaria os resultados financeiros da empresa.Nadella descreveu o novo acordo como uma vitória para todos. “Estam
O WordPress.com agora permite que agentes de IA escrevam e publiquem posts, entre outras coisas
O WordPress.com, a popular plataforma de hospedagem e publicação na web, está agora adotando agentes de IA — uma iniciativa que pode transformar a aparência e a experiência da web. A empresa anunciou
A OpenAI traça os contornos da economia da IA com fundos de riqueza pública, impostos sobre robôs e a semana de quatro dias
Enquanto os governos lutam para lidar com o impacto econômico das máquinas superinteligentes, a OpenAI divulgou um conjunto de propostas de políticas que delineiam como a riqueza e o trabalho poderiam
Recomendações de tópicos especiais relacionados
Comentários (2)
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

A OpenAI reverteu uma atualização GPT-4o para o ChatGPT depois que os usuários relataram que a personalidade padrão do chatbot se tornou excessivamente lisonjeira e complacente - descrita pela empresa como bajuladora -, o que fez com que as interações parecessem antinaturais e perturbadoras, de acordo com uma publicação recente no blog.
A atualização, lançada na semana passada, tinha como objetivo inicial aprimorar o comportamento padrão do modelo para torná-lo mais intuitivo e eficaz em várias tarefas. Em seu processo de desenvolvimento, a OpenAI usa a especificação do modelo como base e, em seguida, refina o comportamento incorporando sinais do usuário, como classificações de "polegar para cima" e "polegar para baixo" nas respostas do ChatGPT.
No entanto, a OpenAI explicou que se baseou muito no feedback de curto prazo na atualização recente, ignorando a evolução das interações do usuário com o modelo. Isso fez com que o GPT-4o fornecesse respostas que eram excessivamente agradáveis, mas não autênticas.
Relacionado
- Sam Altman diz que a versão mais recente do ChatGPT 'exagera nos elogios'
De acordo com o blog, a OpenAI estruturou a personalidade padrão do ChatGPT para se alinhar à sua missão - ser útil, apoiar e respeitar as diversas perspectivas e experiências. Ainda assim, a empresa reconheceu que até mesmo traços positivos, como ser solidário, podem produzir efeitos indesejados. Com 500 milhões de usuários semanais, uma única personalidade padrão não pode atender às preferências de todos.
Para resolver isso, a OpenAI planeja ajustar ainda mais o comportamento do modelo. As etapas incluem o aprimoramento das principais técnicas de treinamento, o refinamento dos avisos do sistema para desencorajar respostas bajuladoras e a oferta de mais opções de feedback para os usuários. A empresa também enfatizou que os usuários devem ter maior controle sobre como o ChatGPT interage, permitindo ajustes no comportamento padrão quando for seguro e prático.
Satya Nadella está pronto para aproveitar o novo acordo com a OpenAI
Na quarta-feira, um analista da Wall Street perguntou diretamente ao CEO da Microsoft, Satya Nadella, como a nova parceria com a OpenAI afetaria os resultados financeiros da empresa.Nadella descreveu o novo acordo como uma vitória para todos. “Estam
O WordPress.com agora permite que agentes de IA escrevam e publiquem posts, entre outras coisas
O WordPress.com, a popular plataforma de hospedagem e publicação na web, está agora adotando agentes de IA — uma iniciativa que pode transformar a aparência e a experiência da web. A empresa anunciou
A OpenAI traça os contornos da economia da IA com fundos de riqueza pública, impostos sobre robôs e a semana de quatro dias
Enquanto os governos lutam para lidar com o impacto econômico das máquinas superinteligentes, a OpenAI divulgou um conjunto de propostas de políticas que delineiam como a riqueza e o trabalho poderiam
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





Lar






