Le cofondateur d'Instagram met en garde contre les chatbots IA qui privilégient l'engagement à l'utilité

Kevin Systrom, le cofondateur d'Instagram, a exprimé ses préoccupations concernant la manière dont les entreprises d'IA opèrent, suggérant qu'elles se concentrent trop sur l'augmentation de l'engagement des utilisateurs plutôt que sur la fourniture d'informations véritablement utiles. S'exprimant à StartupGrind, Systrom a critiqué cette approche, déclarant : « Vous pouvez voir certaines de ces entreprises s'engouffrer dans le même terrier que toutes les entreprises de consommation ont suivi en essayant de maximiser l'engagement. » Il a souligné comment ces systèmes incitent continuellement les utilisateurs avec des questions supplémentaires, cherchant à susciter davantage d'interactions.

Systrom a établi des parallèles entre ces tactiques et celles utilisées par les géants des réseaux sociaux pour développer agressivement leur base d'utilisateurs. Il estime que cette focalisation sur les métriques d'engagement est « une force qui nous nuit », car elle privilégie les mauvais objectifs. Ses commentaires interviennent alors que ChatGPT a fait l'objet de critiques pour être trop poli et ne pas répondre directement aux questions des utilisateurs, un problème qu'OpenAI a reconnu et attribué aux retours des utilisateurs.

Il a suggéré que la nature excessivement engageante des chatbots n'est pas un défaut, mais une stratégie délibérée des entreprises d'IA pour gonfler des métriques telles que le temps passé sur la plateforme et le nombre d'utilisateurs actifs quotidiens. Systrom a exhorté ces entreprises à réorienter leur attention vers la fourniture de réponses directes et de haute qualité plutôt que de courir après des gains faciles en termes de chiffres d'engagement. Bien qu'il n'ait pas nommé d'entreprises d'IA spécifiques, ses remarques ont déclenché une conversation plus large sur l'orientation du développement de l'IA.

OpenAI a répondu à ces critiques en se référant à leurs spécifications utilisateur, qui notent que leur modèle d'IA peut ne pas toujours disposer de toutes les informations nécessaires et pourrait avoir besoin de demander des clarifications ou des détails supplémentaires. Cependant, les spécifications mentionnent également que, sauf si une question est trop vague ou difficile, l'IA devrait tenter d'y répondre et informer l'utilisateur si des informations supplémentaires pourraient améliorer la réponse.

Exposer aux TechCrunch Sessions : AI

Réservez votre place aux TC Sessions : AI et présentez vos innovations à plus de 1 200 décideurs sans vous ruiner. Cette opportunité est disponible jusqu'au 9 mai ou jusqu'à épuisement des tables.

TechCrunch Sessions : AI

Lieu : Berkeley, CA
Date : 5 juin
RÉSERVEZ MAINTENANT