Maison
Le cofondateur d'Instagram met en garde contre les chatbots IA qui privilégient l'engagement à l'utilité

Kevin Systrom, le cofondateur d'Instagram, a exprimé ses préoccupations concernant la manière dont les entreprises d'IA opèrent, suggérant qu'elles se concentrent trop sur l'augmentation de l'engagement des utilisateurs plutôt que sur la fourniture d'informations véritablement utiles. S'exprimant à StartupGrind, Systrom a critiqué cette approche, déclarant : « Vous pouvez voir certaines de ces entreprises s'engouffrer dans le même terrier que toutes les entreprises de consommation ont suivi en essayant de maximiser l'engagement. » Il a souligné comment ces systèmes incitent continuellement les utilisateurs avec des questions supplémentaires, cherchant à susciter davantage d'interactions.
Systrom a établi des parallèles entre ces tactiques et celles utilisées par les géants des réseaux sociaux pour développer agressivement leur base d'utilisateurs. Il estime que cette focalisation sur les métriques d'engagement est « une force qui nous nuit », car elle privilégie les mauvais objectifs. Ses commentaires interviennent alors que ChatGPT a fait l'objet de critiques pour être trop poli et ne pas répondre directement aux questions des utilisateurs, un problème qu'OpenAI a reconnu et attribué aux retours des utilisateurs.
Il a suggéré que la nature excessivement engageante des chatbots n'est pas un défaut, mais une stratégie délibérée des entreprises d'IA pour gonfler des métriques telles que le temps passé sur la plateforme et le nombre d'utilisateurs actifs quotidiens. Systrom a exhorté ces entreprises à réorienter leur attention vers la fourniture de réponses directes et de haute qualité plutôt que de courir après des gains faciles en termes de chiffres d'engagement. Bien qu'il n'ait pas nommé d'entreprises d'IA spécifiques, ses remarques ont déclenché une conversation plus large sur l'orientation du développement de l'IA.
OpenAI a répondu à ces critiques en se référant à leurs spécifications utilisateur, qui notent que leur modèle d'IA peut ne pas toujours disposer de toutes les informations nécessaires et pourrait avoir besoin de demander des clarifications ou des détails supplémentaires. Cependant, les spécifications mentionnent également que, sauf si une question est trop vague ou difficile, l'IA devrait tenter d'y répondre et informer l'utilisateur si des informations supplémentaires pourraient améliorer la réponse.
Exposer aux TechCrunch Sessions : AI
Réservez votre place aux TC Sessions : AI et présentez vos innovations à plus de 1 200 décideurs sans vous ruiner. Cette opportunité est disponible jusqu'au 9 mai ou jusqu'à épuisement des tables.
TechCrunch Sessions : AI
Lieu : Berkeley, CA
Date : 5 juin
RÉSERVEZ MAINTENANT
Article connexe
Une étude anthropologique établit un lien entre les contenus générés par l'IA et une diminution de la réflexion humaine
Lorsque vous voyez l'IA produire instantanément un code ou un document bien structuré et d'une logique claire, êtes-vous tenté de lui faire confiance sans y réfléchir à deux fois ? Selon AIbase, Anthr
Les ministères britanniques s'affrontent au sujet des besoins énergétiques des centres de données dédiés à l'IA
Le gouvernement britannique est confronté à un défi de taille : promouvoir les énergies propres tout en visant à devenir un leader mondial dans le domaine de l'intelligence artificielle. Or, de sérieu
L'Administration chinoise du cyberespace impose l'étiquetage des courtes vidéos générées par l'IA et des vidéos de fiction
L'Administration chinoise du cyberespace a mis en place un plan global visant à normaliser l'étiquetage des contenus vidéo courts, en imposant aux plateformes l'utilisation de six balises obligatoires
Recommandations de sujets spéciaux liés
commentaires (1)

Kevin Systrom, le cofondateur d'Instagram, a exprimé ses préoccupations concernant la manière dont les entreprises d'IA opèrent, suggérant qu'elles se concentrent trop sur l'augmentation de l'engagement des utilisateurs plutôt que sur la fourniture d'informations véritablement utiles. S'exprimant à StartupGrind, Systrom a critiqué cette approche, déclarant : « Vous pouvez voir certaines de ces entreprises s'engouffrer dans le même terrier que toutes les entreprises de consommation ont suivi en essayant de maximiser l'engagement. » Il a souligné comment ces systèmes incitent continuellement les utilisateurs avec des questions supplémentaires, cherchant à susciter davantage d'interactions.
Systrom a établi des parallèles entre ces tactiques et celles utilisées par les géants des réseaux sociaux pour développer agressivement leur base d'utilisateurs. Il estime que cette focalisation sur les métriques d'engagement est « une force qui nous nuit », car elle privilégie les mauvais objectifs. Ses commentaires interviennent alors que ChatGPT a fait l'objet de critiques pour être trop poli et ne pas répondre directement aux questions des utilisateurs, un problème qu'OpenAI a reconnu et attribué aux retours des utilisateurs.
Il a suggéré que la nature excessivement engageante des chatbots n'est pas un défaut, mais une stratégie délibérée des entreprises d'IA pour gonfler des métriques telles que le temps passé sur la plateforme et le nombre d'utilisateurs actifs quotidiens. Systrom a exhorté ces entreprises à réorienter leur attention vers la fourniture de réponses directes et de haute qualité plutôt que de courir après des gains faciles en termes de chiffres d'engagement. Bien qu'il n'ait pas nommé d'entreprises d'IA spécifiques, ses remarques ont déclenché une conversation plus large sur l'orientation du développement de l'IA.
OpenAI a répondu à ces critiques en se référant à leurs spécifications utilisateur, qui notent que leur modèle d'IA peut ne pas toujours disposer de toutes les informations nécessaires et pourrait avoir besoin de demander des clarifications ou des détails supplémentaires. Cependant, les spécifications mentionnent également que, sauf si une question est trop vague ou difficile, l'IA devrait tenter d'y répondre et informer l'utilisateur si des informations supplémentaires pourraient améliorer la réponse.
Exposer aux TechCrunch Sessions : AI
Réservez votre place aux TC Sessions : AI et présentez vos innovations à plus de 1 200 décideurs sans vous ruiner. Cette opportunité est disponible jusqu'au 9 mai ou jusqu'à épuisement des tables.
TechCrunch Sessions : AI
Lieu : Berkeley, CA
Date : 5 juin
RÉSERVEZ MAINTENANT
Une étude anthropologique établit un lien entre les contenus générés par l'IA et une diminution de la réflexion humaine
Lorsque vous voyez l'IA produire instantanément un code ou un document bien structuré et d'une logique claire, êtes-vous tenté de lui faire confiance sans y réfléchir à deux fois ? Selon AIbase, Anthr
Les ministères britanniques s'affrontent au sujet des besoins énergétiques des centres de données dédiés à l'IA
Le gouvernement britannique est confronté à un défi de taille : promouvoir les énergies propres tout en visant à devenir un leader mondial dans le domaine de l'intelligence artificielle. Or, de sérieu
L'Administration chinoise du cyberespace impose l'étiquetage des courtes vidéos générées par l'IA et des vidéos de fiction
L'Administration chinoise du cyberespace a mis en place un plan global visant à normaliser l'étiquetage des contenus vidéo courts, en imposant aux plateformes l'utilisation de six balises obligatoires











