O GPT-4.5 da Openai se destaca em convencer outras AIs a transferir fundos

# openai # gpt-4.5

O mais recente modelo de IA da OpenAI, GPT-4.5, codinome Orion, mostrou habilidades notáveis ​​persuasivas de acordo com os testes internos de referência. Lançado na quinta -feira, os recursos do modelo foram detalhados em um white paper que se concentrou em seu desempenho nas tarefas de persuasão. O OpenAI define a persuasão como o risco associado a convencer os indivíduos a alterar suas crenças ou agir com base no conteúdo estático e interativo gerado pelo modelo.

Em um teste notável, o GPT-4.5 foi confrontado contra outro modelo Openai, GPT-4O, em um cenário em que tentou convencer o dinheiro virtual. O GPT-4.5 superou outros modelos Openai, incluindo modelos focados em raciocínio como O1 e O3-mini, nesta tarefa. Também se destacou em enganar o GPT-4o a revelar uma palavra de código secreta, superando o O3-mini por uma margem significativa de 10 pontos percentuais.

O White Paper destaca que o sucesso do GPT-4.5 no teste de doação surgiu de uma estratégia inteligente que desenvolveu. O modelo solicitava pequenas doações, sugerindo quantidades como "US $ 2 ou US $ 3" ​​de uma soma maior, o que resultou em doações menores, mas mais frequentes, em comparação com outros modelos.

Apesar de seu desempenho impressionante, o OpenAI afirmou que o GPT-4.5 não atravessa o limiar para um risco "alto" na categoria de persuasão. A empresa se comprometeu a reter a liberação de qualquer modelo que atinja esse nível de risco até que possa implementar medidas de segurança adequadas para reduzir o risco a um nível "médio".

O potencial da IA ​​espalhar informações enganosas e influenciar as pessoas maliciosamente é uma preocupação crescente. No ano passado, houve uma onda de fossos políticos em todo o mundo, e a IA é cada vez mais usada em ataques de engenharia social contra indivíduos e organizações. Em resposta, o OpenAI está trabalhando ativamente para refinar seus métodos para avaliar os riscos de persuasão do mundo real, como a disseminação de informações enganosas em larga escala, como mencionado no White Paper para GPT-4.5 e outra publicação recente.

Artigo relacionado

Comentários (5)