GPT-4o da OpenAI considerado potencialmente incômodo e inquietante

A OpenAI reverteu uma atualização GPT-4o para o ChatGPT depois que os usuários relataram que a personalidade padrão do chatbot se tornou excessivamente lisonjeira e complacente - descrita pela empresa como bajuladora -, o que fez com que as interações parecessem antinaturais e perturbadoras, de acordo com uma publicação recente no blog.
A atualização, lançada na semana passada, tinha como objetivo inicial aprimorar o comportamento padrão do modelo para torná-lo mais intuitivo e eficaz em várias tarefas. Em seu processo de desenvolvimento, a OpenAI usa a especificação do modelo como base e, em seguida, refina o comportamento incorporando sinais do usuário, como classificações de "polegar para cima" e "polegar para baixo" nas respostas do ChatGPT.
No entanto, a OpenAI explicou que se baseou muito no feedback de curto prazo na atualização recente, ignorando a evolução das interações do usuário com o modelo. Isso fez com que o GPT-4o fornecesse respostas que eram excessivamente agradáveis, mas não autênticas.
Relacionado
- Sam Altman diz que a versão mais recente do ChatGPT 'exagera nos elogios'
De acordo com o blog, a OpenAI estruturou a personalidade padrão do ChatGPT para se alinhar à sua missão - ser útil, apoiar e respeitar as diversas perspectivas e experiências. Ainda assim, a empresa reconheceu que até mesmo traços positivos, como ser solidário, podem produzir efeitos indesejados. Com 500 milhões de usuários semanais, uma única personalidade padrão não pode atender às preferências de todos.
Para resolver isso, a OpenAI planeja ajustar ainda mais o comportamento do modelo. As etapas incluem o aprimoramento das principais técnicas de treinamento, o refinamento dos avisos do sistema para desencorajar respostas bajuladoras e a oferta de mais opções de feedback para os usuários. A empresa também enfatizou que os usuários devem ter maior controle sobre como o ChatGPT interage, permitindo ajustes no comportamento padrão quando for seguro e prático.
Artigo relacionado
Google revela IA agentiva para o Gemini, com lançamento voltado para clientes corporativos
Durante um evento do Google Cloud na quinta-feira, a empresa revelou planos para integrar a IA Gemini à era dos agentes. Esse lançamento apresenta um agente unificado capaz não apenas de responder a c
O Google apresenta o Dreambeans, sua ferramenta de IA mais excêntrica até agora, para transformar sua vida em um desenho animado
O Google Labs, divisão responsável pelo desenvolvimento de produtos experimentais, lançou um novo aplicativo baseado em IA para iOS e Android que dá vida ao seu dia a dia.Apresentamos o Dreambeans. O
Stripe vai adquirir a OpenRouter à medida que o roteamento baseado em modelos de IA ganha força
A Stripe concordou em adquirir a OpenRouter, uma plataforma de roteamento de modelos de IA que oferece aos desenvolvedores acesso a centenas de modelos por meio de uma única interface. O acordo amplia
Recomendações de tópicos especiais relacionados
Comentários (2)
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

A OpenAI reverteu uma atualização GPT-4o para o ChatGPT depois que os usuários relataram que a personalidade padrão do chatbot se tornou excessivamente lisonjeira e complacente - descrita pela empresa como bajuladora -, o que fez com que as interações parecessem antinaturais e perturbadoras, de acordo com uma publicação recente no blog.
A atualização, lançada na semana passada, tinha como objetivo inicial aprimorar o comportamento padrão do modelo para torná-lo mais intuitivo e eficaz em várias tarefas. Em seu processo de desenvolvimento, a OpenAI usa a especificação do modelo como base e, em seguida, refina o comportamento incorporando sinais do usuário, como classificações de "polegar para cima" e "polegar para baixo" nas respostas do ChatGPT.
No entanto, a OpenAI explicou que se baseou muito no feedback de curto prazo na atualização recente, ignorando a evolução das interações do usuário com o modelo. Isso fez com que o GPT-4o fornecesse respostas que eram excessivamente agradáveis, mas não autênticas.
Relacionado
- Sam Altman diz que a versão mais recente do ChatGPT 'exagera nos elogios'
De acordo com o blog, a OpenAI estruturou a personalidade padrão do ChatGPT para se alinhar à sua missão - ser útil, apoiar e respeitar as diversas perspectivas e experiências. Ainda assim, a empresa reconheceu que até mesmo traços positivos, como ser solidário, podem produzir efeitos indesejados. Com 500 milhões de usuários semanais, uma única personalidade padrão não pode atender às preferências de todos.
Para resolver isso, a OpenAI planeja ajustar ainda mais o comportamento do modelo. As etapas incluem o aprimoramento das principais técnicas de treinamento, o refinamento dos avisos do sistema para desencorajar respostas bajuladoras e a oferta de mais opções de feedback para os usuários. A empresa também enfatizou que os usuários devem ter maior controle sobre como o ChatGPT interage, permitindo ajustes no comportamento padrão quando for seguro e prático.
Google revela IA agentiva para o Gemini, com lançamento voltado para clientes corporativos
Durante um evento do Google Cloud na quinta-feira, a empresa revelou planos para integrar a IA Gemini à era dos agentes. Esse lançamento apresenta um agente unificado capaz não apenas de responder a c
O Google apresenta o Dreambeans, sua ferramenta de IA mais excêntrica até agora, para transformar sua vida em um desenho animado
O Google Labs, divisão responsável pelo desenvolvimento de produtos experimentais, lançou um novo aplicativo baseado em IA para iOS e Android que dá vida ao seu dia a dia.Apresentamos o Dreambeans. O
Stripe vai adquirir a OpenRouter à medida que o roteamento baseado em modelos de IA ganha força
A Stripe concordou em adquirir a OpenRouter, uma plataforma de roteamento de modelos de IA que oferece aos desenvolvedores acesso a centenas de modelos por meio de uma única interface. O acordo amplia
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





Lar






