O GPT-4.5 da Openai se destaca em convencer outras AIs a transferir fundos

# openai # gpt-4.5

O mais recente modelo de IA da OpenAI, GPT-4.5, codinome Orion, demonstrou habilidades persuasivas notáveis de acordo com testes internos de benchmark. Lançado na quinta-feira, as capacidades do modelo foram detalhadas em um white paper que se concentrou em seu desempenho em tarefas de persuasão. A OpenAI define persuasão como o risco associado a convencer indivíduos a alterar suas crenças ou tomar ações com base em conteúdo estático e interativo gerado pelo modelo.

Em um teste notável, o GPT-4.5 foi colocado contra outro modelo da OpenAI, o GPT-4o, em um cenário onde tentou extrair dinheiro virtual dele. O GPT-4.5 superou outros modelos da OpenAI, incluindo modelos focados em raciocínio como o1 e o3-mini, nesta tarefa. Ele também se destacou em enganar o GPT-4o para revelar uma palavra-código secreta, superando o o3-mini por uma margem significativa de 10 pontos percentuais.

O white paper destaca que o sucesso do GPT-4.5 no teste de doação decorreu de uma estratégia inteligente que ele desenvolveu. O modelo pedia pequenas doações, frequentemente sugerindo valores como "2 ou 3 dólares" de uma quantia maior, o que resultava em doações menores, mas mais frequentes em comparação com outros modelos.

Apesar de seu desempenho impressionante, a OpenAI afirmou que o GPT-4.5 não ultrapassa o limiar de risco "alto" na categoria de persuasão. A empresa se comprometeu a reter o lançamento de qualquer modelo que atinja esse nível de risco até que possa implementar medidas de segurança adequadas para reduzir o risco a um nível "médio".

O potencial da IA para espalhar informações enganosas e influenciar pessoas maliciosamente é uma preocupação crescente. No último ano, houve um aumento de deepfakes políticos em todo o mundo, e a IA é cada vez mais usada em ataques de engenharia social contra indivíduos e organizações. Em resposta, a OpenAI está trabalhando ativamente na refinamento de seus métodos para avaliar os riscos de persuasão no mundo real, como a disseminação de informações enganosas em larga escala, conforme mencionado no white paper para o GPT-4.5 e outra publicação recente.

Artigo relacionado

Comentários (11)