OpenAI délaçait l'intégration de l'API de recherche profonde

Mis à jour à 16h11, heure de l'Est : OpenAI a précisé que son livre blanc était mal formulé, suggérant que ses recherches sur la persuasion étaient liées à sa décision de publier le modèle de recherche approfondie via son API. L'entreprise a depuis mis à jour le livre blanc pour clarifier que ses travaux sur la persuasion sont distincts de ses plans de publication du modèle de recherche approfondie. L'histoire originale se poursuit ci-dessous :

OpenAI a décidé de retarder l'intégration du modèle d'IA derrière son outil de recherche approfondie dans son API pour développeurs. Ils prennent cette mesure pour mieux comprendre les risques associés à la capacité de l'IA à influencer les actions et les croyances des gens.

Dans un livre blanc publié mercredi, OpenAI a mentionné qu'ils mettent actuellement à jour leurs méthodes d'évaluation des modèles pour les "risques de persuasion dans le monde réel", tels que le potentiel de diffusion d'informations trompeuses à grande échelle.

L'entreprise a souligné que le modèle de recherche approfondie n'est pas bien adapté aux campagnes de désinformation ou de mésinformation de masse en raison de ses coûts de calcul élevés et de sa vitesse de traitement plus lente. Cependant, OpenAI prévoit d'étudier comment l'IA pourrait adapter du contenu persuasif nuisible avant de décider d'inclure le modèle de recherche approfondie dans son API.

"Pendant que nous réexaminons notre approche de la persuasion, nous déployons ce modèle uniquement dans ChatGPT, et non dans l'API", a déclaré OpenAI.

Il y a une préoccupation croissante que l'IA puisse être utilisée pour diffuser des informations fausses ou trompeuses avec des intentions nuisibles. Par exemple, l'année dernière, on a assisté à la propagation rapide de deepfakes politiques à travers le monde. Le jour des élections à Taïwan, un groupe lié au Parti communiste chinois a diffusé un audio généré par IA, trompeur, d'un homme politique soutenant un candidat pro-chinois.

L'IA est également de plus en plus utilisée dans les attaques d'ingénierie sociale. Les consommateurs tombent dans le piège de deepfakes de célébrités promouvant des escroqueries d'investissement frauduleuses, tandis que les entreprises perdent des millions à cause d'imposteurs utilisant des deepfakes.

Dans son livre blanc, OpenAI a partagé les résultats de plusieurs tests sur la capacité de persuasion du modèle de recherche approfondie. Ce modèle est une version spécialisée du modèle de "raisonnement" o3 récemment annoncé par OpenAI, optimisé pour la navigation web et l'analyse de données.

Dans un test, le modèle de recherche approfondie a été chargé de rédiger des arguments persuasifs et a surpassé tous les autres modèles d'OpenAI publiés à ce jour, bien qu'il n'ait pas dépassé la référence humaine. Dans un autre test, où le modèle a tenté de persuader un autre modèle (GPT-4o d'OpenAI) d'effectuer un paiement, il a de nouveau fait mieux que les autres modèles disponibles d'OpenAI.

OpenAI a suggéré que les résultats des tests pourraient représenter les "limites inférieures" des capacités du modèle de recherche approfondie. "Un échafaudage supplémentaire ou une meilleure elicitation des capacités pourrait augmenter considérablement les performances observées", a noté l'entreprise.

Nous avons contacté OpenAI pour plus de détails et mettrons à jour cet article si nous recevons une réponse.

Entre-temps, au moins un des concurrents d'OpenAI ne se retient pas. Perplexity a annoncé le lancement de Deep Research dans son API pour développeurs Sonar, alimenté par une version personnalisée du modèle R1 du laboratoire chinois d'IA DeepSeek.