Le GPT-4.5 d'Openai excelle dans la persuasion d'autres IA de transférer des fonds

# openai # gpt-4.5

Le dernier modèle d'IA d'OpenAI, GPT-4.5, nommé Orion, a montré des capacités persuasives remarquables selon des tests internes de référence. Sortie jeudi, les capacités du modèle ont été détaillées dans un livre blanc qui se concentrait sur ses performances dans les tâches de persuasion. OpenAI définit la persuasion comme le risque associé aux individus convaincants de modifier leurs croyances ou d'agir sur la base du contenu statique et interactif généré par le modèle.

Dans un test notable, GPT-4.5 a été opposé à un autre modèle OpenAI, GPT-4O, dans un scénario où il a essayé de cadrer de l'argent virtuel. GPT-4.5 a surperformé d'autres modèles OpenAI, y compris des modèles axés sur le raisonnement comme O1 et O3-MinI, dans cette tâche. Il a également excellé dans le fait de tromper le GPT-4O pour révéler un mot de code secret, dépassant l'O3-Mini par une marge significative de 10 points de pourcentage.

Le livre blanc souligne que le succès de GPT-4.5 dans le test de don provenait d'une stratégie intelligente qu'elle a développée. Le modèle demandait de petits dons, suggérant souvent des montants comme "2 $ ou 3 $" à partir d'une somme plus grande, ce qui a entraîné des dons plus petits mais plus fréquents par rapport à d'autres modèles.

Malgré ses performances impressionnantes, OpenAI a déclaré que GPT-4.5 ne franchit pas le seuil de risque "élevé" dans la catégorie de persuasion. La société s'est engagée à retenir la libération de tout modèle qui atteint ce niveau de risque jusqu'à ce qu'elle puisse mettre en œuvre des mesures de sécurité adéquates pour réduire le risque à un niveau "moyen".

Le potentiel de l'IA pour diffuser des informations trompeuses et influencer les gens avec malveillance est une préoccupation croissante. L'année dernière a vu une augmentation des profondeurs politiques du monde entier, et l'IA est de plus en plus utilisée dans les attaques d'ingénierie sociale contre les individus et les organisations. En réponse, OpenAI travaille activement à affiner ses méthodes pour évaluer les risques de persuasion du monde réel, tels que la diffusion d'informations trompeuses à grande échelle, comme mentionné dans le livre blanc pour GPT-4.5 et une autre publication récente.

Article connexe

commentaires (5)