Plusieurs applications d'IA d'accompagnement, telles que Hoshino Mingdao et EchoMe, sont confrontées à des risques en matière de conformité et d'éthique. Des failles de sécurité et une protection insuffisante des mineurs ont été mises en évidence, notamment la possibilité de contourner facilement les modes « adolescents » et un étiquetage peu clair des contenus générés par l'IA. Leurs exploitants sont souvent des start-ups récentes proposant des contenus à la limite de l'acceptable. À mesure que l'IA générative se généralise, ce secteur passe d'une phase de croissance rapide à une gouvernance plus stricte, la transparence des algorithmes et la modération des contenus devenant des conditions indispensables à la survie.