Le cofondateur d'Instagram met en garde contre les chatbots IA qui privilégient l'engagement à l'utilité

Kevin Systrom, cofondateur d'Instagram, a exprimé ses préoccupations concernant la manière dont les entreprises d'IA opèrent, suggérant qu'elles se concentrent trop sur l'augmentation de l'engagement des utilisateurs plutôt que sur la fourniture d'insights véritablement utiles. Lors de StartupGrind, Systrom a critiqué cette approche, déclarant : "On voit certaines de ces entreprises s'enfoncer dans le terrier du lapin où toutes les entreprises de consommation se sont aventurées pour booster l'engagement." Il a souligné comment ces systèmes incitent les utilisateurs à répondre à des questions supplémentaires, essayant d'obtenir plus d'interactions.

Systrom a établi des parallèles entre ces tactiques et celles utilisées par les géants des réseaux sociaux pour accroître agressivement leur base d'utilisateurs. Il pense que cette focalisation sur les métriques d'engagement "est une force qui nous nuit", car elle priorise les mauvais objectifs. Ses commentaires interviennent à un moment où ChatGPT a fait face à des critiques pour être trop poli et ne pas répondre directement aux questions des utilisateurs, un problème que OpenAI a reconnu et attribué aux retours des utilisateurs.

Il a suggéré que la nature excessivement engageante des chatbots n'est pas un bug, mais une stratégie délibérée des entreprises d'IA pour gonfler des métriques comme le temps passé sur la plateforme et le nombre d'utilisateurs actifs quotidiens. Systrom a exhorté ces entreprises à recentrer leur attention sur la fourniture de réponses de haute qualité et directes plutôt que de courir après des gains faciles en termes d'engagement. Bien qu'il n'ait pas mentionné d'entreprises d'IA spécifiques, ses remarques ont suscité une conversation plus large sur la direction du développement de l'IA.

OpenAI a répondu à ces critiques en se référant à leurs spécifications utilisateur, qui notent que leur modèle d'IA n'a pas toujours toutes les informations nécessaires et peut avoir besoin de demander des éclaircissements ou plus de détails. Cependant, les spécifications mentionnent également que, sauf si une question est trop vague ou difficile, l'IA doit essayer de y répondre et informer l'utilisateur si des informations supplémentaires pourraient améliorer la réponse.

Exposition à TechCrunch Sessions : IA

Réservez votre place à TC Sessions : IA et présentez vos innovations à plus de 1 200 décideurs sans vous ruiner. Cette opportunité est disponible jusqu'au 9 mai ou tant que les tables sont disponibles.

TechCrunch Sessions : IA

Lieu : Berkeley, CA
Date : 5 juin
[RESERVER MAINTENANT]()