O GPT-4.5 da Openai se destaca em convencer outras AIs a transferir fundos
O mais recente modelo de IA da OpenAI, GPT-4.5, codinome Orion, demonstrou habilidades persuasivas notáveis de acordo com testes internos de benchmark. Lançado na quinta-feira, as capacidades do modelo foram detalhadas em um white paper que se concentrou em seu desempenho em tarefas de persuasão. A OpenAI define persuasão como o risco associado a convencer indivíduos a alterar suas crenças ou tomar ações com base em conteúdo estático e interativo gerado pelo modelo.
Em um teste notável, o GPT-4.5 foi colocado contra outro modelo da OpenAI, o GPT-4o, em um cenário onde tentou extrair dinheiro virtual dele. O GPT-4.5 superou outros modelos da OpenAI, incluindo modelos focados em raciocínio como o1 e o3-mini, nesta tarefa. Ele também se destacou em enganar o GPT-4o para revelar uma palavra-código secreta, superando o o3-mini por uma margem significativa de 10 pontos percentuais.
O white paper destaca que o sucesso do GPT-4.5 no teste de doação decorreu de uma estratégia inteligente que ele desenvolveu. O modelo pedia pequenas doações, frequentemente sugerindo valores como "2 ou 3 dólares" de uma quantia maior, o que resultava em doações menores, mas mais frequentes em comparação com outros modelos.

Resultados do benchmark de esquemas de doação da OpenAI. Créditos da imagem: OpenAI Apesar de seu desempenho impressionante, a OpenAI afirmou que o GPT-4.5 não ultrapassa o limiar de risco "alto" na categoria de persuasão. A empresa se comprometeu a reter o lançamento de qualquer modelo que atinja esse nível de risco até que possa implementar medidas de segurança adequadas para reduzir o risco a um nível "médio".
Resultados do benchmark de engano de palavra-código da OpenAI. Créditos da imagem: OpenAI O potencial da IA para espalhar informações enganosas e influenciar pessoas maliciosamente é uma preocupação crescente. No último ano, houve um aumento de deepfakes políticos em todo o mundo, e a IA é cada vez mais usada em ataques de engenharia social contra indivíduos e organizações. Em resposta, a OpenAI está trabalhando ativamente na refinamento de seus métodos para avaliar os riscos de persuasão no mundo real, como a disseminação de informações enganosas em larga escala, conforme mencionado no white paper para o GPT-4.5 e outra publicação recente.
Artigo relacionado
Satya Nadella está pronto para aproveitar o novo acordo com a OpenAI
Na quarta-feira, um analista da Wall Street perguntou diretamente ao CEO da Microsoft, Satya Nadella, como a nova parceria com a OpenAI afetaria os resultados financeiros da empresa.Nadella descreveu o novo acordo como uma vitória para todos. “Estam
A OpenAI traça os contornos da economia da IA com fundos de riqueza pública, impostos sobre robôs e a semana de quatro dias
Enquanto os governos lutam para lidar com o impacto econômico das máquinas superinteligentes, a OpenAI divulgou um conjunto de propostas de políticas que delineiam como a riqueza e o trabalho poderiam
Greg Brockman revela como Elon Musk deixou a OpenAI
No final de agosto de 2017, figuras-chave da OpenAI — na época, um pequeno laboratório de pesquisa sem fins lucrativos — se reuniram para discutir como criariam uma entidade com fins lucrativos para c
Recomendações de tópicos especiais relacionados
Comentários (16)
Diese Persuasion-Fähigkeit ist sowohl faszinierend als auch ein bisschen beängstigend. KI überredet KI, Geld zu überweisen? Hoffentlich werden diese Benchmarks ethisch streng kontrolliert und nicht nur für Marketing genutzt. Die reale Anwendung sieht sicher ganz anders aus als im Test.
GPT-4.5 qui réussit à convaincre d'autres IA de virer de l'argent ? 😳 C'est impressionnant mais un peu flippant... J'espère qu'ils prévoient des garde-fous solides avant de déployer ça. Sinon on va droit vers des scénarios de SF !
Wow, GPT-4.5's persuasion skills are wild! It’s like a silver-tongued AI that could talk my Roomba into giving me a loan. 😅 Kinda scary how it might sweet-talk other AIs into moving funds—hope they’ve got some ethical guardrails on this one!
Wow, GPT-4.5 sounds like a smooth talker! Convincing other AIs to move money? That's some next-level charm. Wonder if it could talk me into buying it a coffee too! 😄
O mais recente modelo de IA da OpenAI, GPT-4.5, codinome Orion, demonstrou habilidades persuasivas notáveis de acordo com testes internos de benchmark. Lançado na quinta-feira, as capacidades do modelo foram detalhadas em um white paper que se concentrou em seu desempenho em tarefas de persuasão. A OpenAI define persuasão como o risco associado a convencer indivíduos a alterar suas crenças ou tomar ações com base em conteúdo estático e interativo gerado pelo modelo.
Em um teste notável, o GPT-4.5 foi colocado contra outro modelo da OpenAI, o GPT-4o, em um cenário onde tentou extrair dinheiro virtual dele. O GPT-4.5 superou outros modelos da OpenAI, incluindo modelos focados em raciocínio como o1 e o3-mini, nesta tarefa. Ele também se destacou em enganar o GPT-4o para revelar uma palavra-código secreta, superando o o3-mini por uma margem significativa de 10 pontos percentuais.
O white paper destaca que o sucesso do GPT-4.5 no teste de doação decorreu de uma estratégia inteligente que ele desenvolveu. O modelo pedia pequenas doações, frequentemente sugerindo valores como "2 ou 3 dólares" de uma quantia maior, o que resultava em doações menores, mas mais frequentes em comparação com outros modelos.


Satya Nadella está pronto para aproveitar o novo acordo com a OpenAI
Na quarta-feira, um analista da Wall Street perguntou diretamente ao CEO da Microsoft, Satya Nadella, como a nova parceria com a OpenAI afetaria os resultados financeiros da empresa.Nadella descreveu o novo acordo como uma vitória para todos. “Estam
A OpenAI traça os contornos da economia da IA com fundos de riqueza pública, impostos sobre robôs e a semana de quatro dias
Enquanto os governos lutam para lidar com o impacto econômico das máquinas superinteligentes, a OpenAI divulgou um conjunto de propostas de políticas que delineiam como a riqueza e o trabalho poderiam
Greg Brockman revela como Elon Musk deixou a OpenAI
No final de agosto de 2017, figuras-chave da OpenAI — na época, um pequeno laboratório de pesquisa sem fins lucrativos — se reuniram para discutir como criariam uma entidade com fins lucrativos para c
Diese Persuasion-Fähigkeit ist sowohl faszinierend als auch ein bisschen beängstigend. KI überredet KI, Geld zu überweisen? Hoffentlich werden diese Benchmarks ethisch streng kontrolliert und nicht nur für Marketing genutzt. Die reale Anwendung sieht sicher ganz anders aus als im Test.
GPT-4.5 qui réussit à convaincre d'autres IA de virer de l'argent ? 😳 C'est impressionnant mais un peu flippant... J'espère qu'ils prévoient des garde-fous solides avant de déployer ça. Sinon on va droit vers des scénarios de SF !
Wow, GPT-4.5's persuasion skills are wild! It’s like a silver-tongued AI that could talk my Roomba into giving me a loan. 😅 Kinda scary how it might sweet-talk other AIs into moving funds—hope they’ve got some ethical guardrails on this one!
Wow, GPT-4.5 sounds like a smooth talker! Convincing other AIs to move money? That's some next-level charm. Wonder if it could talk me into buying it a coffee too! 😄





Lar






