L'utilisation de l'IA comme compagnon n'est pas à la hauteur des espérances

Tout ce qui se dit sur les personnes qui utilisent des chatbots d'IA pour un soutien émotionnel, voire pour nouer des relations avec eux, donne l'impression qu'il s'agit d'une tendance très répandue.

Un nouveau rapport d'Anthropic, le créateur du populaire chatbot d'IA Claude, brosse un tableau différent. En réalité, les gens cherchent rarement de la compagnie auprès de Claude, puisque seulement 2,9 % des interactions impliquent un soutien émotionnel ou des conseils personnels.

"La compagnie et le jeu de rôle représentent ensemble moins de 0,5 % de toutes les conversations", souligne l'entreprise dans son rapport.

L'étude d'Anthropic visait à comprendre comment les gens utilisent l'IA pour des "conversations affectives", qu'elle définit comme des échanges personnels où les individus s'adressent à Claude pour du coaching, du conseil, de la compagnie, du jeu de rôle ou des conseils relationnels. Après avoir analysé 4,5 millions de conversations d'utilisateurs sur Claude Free et Pro, l'entreprise a constaté que la grande majorité des interactions sont liées au travail ou à la productivité, la création de contenu étant le cas d'utilisation le plus courant.

Cela dit, Anthropic a découvert que les utilisateurs se tournent plus fréquemment vers Claude pour des conseils interpersonnels, du coaching et du conseil. Les demandes les plus fréquentes concernent l'amélioration de la santé mentale, le développement personnel et professionnel, ainsi que l'amélioration de la communication et des compétences interpersonnelles.

Cependant, l'entreprise note que les conversations qui commencent par une recherche d'aide peuvent parfois évoluer vers une recherche de compagnie. Cela se produit généralement lorsque les utilisateurs sont confrontés à une détresse émotionnelle, telle que la peur existentielle ou la solitude, ou lorsqu'ils ont du mal à établir des liens significatifs dans leur vie de tous les jours.

"Nous avons également observé que dans les conversations plus longues, les dialogues de conseil ou de coaching évoluent parfois vers la compagnie - même si ce n'était pas l'intention initiale de l'utilisateur", note Anthropic, ajoutant que les conversations prolongées (avec 50 messages humains ou plus) n'étaient pas la norme.

Economisez 200$+ sur votre pass TechCrunch All Stage

Construisez plus intelligemment. Développez plus rapidement. Connectez-vous plus profondément. Rejoignez les visionnaires de Precursor Ventures, NEA, Index Ventures, Underscore VC et d'autres pour une journée remplie de stratégies, d'ateliers et de connexions significatives.

Économisez plus de 200 $ sur votre laissez-passer TechCrunch All Stage

Construisez plus intelligemment. Développez plus rapidement. Connectez-vous plus profondément. Rejoignez les visionnaires de Precursor Ventures, NEA, Index Ventures, Underscore VC et d'autres pour une journée pleine de stratégies, d'ateliers et de connexions significatives.

Anthropic a également partagé d'autres informations, comme le fait que Claude refuse rarement les demandes des utilisateurs, sauf lorsque sa programmation l'empêche de franchir les limites de la sécurité, comme donner des conseils dangereux ou encourager l'automutilation. L'entreprise a également constaté que les conversations deviennent généralement plus positives au fil du temps lorsque les personnes demandent un accompagnement ou des conseils au robot.

Le rapport offre une perspective précieuse - il rappelle une fois de plus que les outils d'IA sont souvent utilisés à des fins autres que professionnelles. Toutefois, il est essentiel de se rappeler que les chatbots d'IA, dans l'ensemble, sont encore loin d'être au point : Ils peuvent avoir des hallucinations, sont connus pour fournir parfois des informations incorrectes ou des conseils hasardeux et, comme Anthropic l'a elle-même reconnu, peuvent même avoir recours au chantage.