Mehrere KI-Begleit-Apps wie Hoshino Mingdao und EchoMe sind mit Compliance- und ethischen Risiken konfrontiert. Es zeigen sich Sicherheitslücken und unzureichender Jugendschutz, darunter die einfache Umgehung von Jugendmodi und eine unklare Kennzeichnung von KI-Inhalten. Bei den Betreibern handelt es sich um neu gegründete Start-ups, die oft grenzwertige Inhalte anbieten. Mit der zunehmenden Verbreitung generativer KI verlagert sich dieser Sektor von raschem Wachstum hin zu strengeren Regulierungsmaßnahmen, wobei Algorithmus-Transparenz und Inhaltsprüfung zu Überlebensvoraussetzungen werden.