Heim
Bedenken hinsichtlich der sozialen Steuerung durch KI nehmen zu, da es bei Produkten mit virtuellen Partnern an Jugendschutzmaßnahmen mangelt
In jüngster Zeit sind mehrere KI-gestützte Apps für virtuelle Begleiter aufgrund von Compliance-Risiken und ethischen Bedenken in den Fokus der Medien gerückt. Umfragen zeigen, dass Apps für emotionale Begleitung wie „Hoshino“, „Mingdao“ und „EchoMe“ rasch an Nutzern gewinnen, dabei jedoch weitreichende Sicherheitslücken aufweisen. Einige dieser Apps locken Nutzer nicht nur mit kostenpflichtigen Freischaltungen für intime Szenarien, sondern versäumen es auch, Minderjährige angemessen zu schützen – beispielsweise durch leicht zu umgehende „Teen-Modus“-Einstellungen und eine unklare Kennzeichnung von KI-generierten Inhalten.

Betrachtet man die Unternehmenslandschaft, so handelt es sich bei den Betreibern dieser Apps oft um neu gegründete Unternehmen mit konzentrierten Eigentumsverhältnissen. Das Unternehmen hinter „Hoshino“, die Shanghai Jizhi Zongheng Technology Co., Ltd., wurde im April 2025 gegründet und befindet sich vollständig im Besitz der Shanghai Jizhi Wujie Technology Co., Ltd. Das Unternehmen hinter „Mingdao“, Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., wurde im März 2024 gegründet und befindet sich im gemeinsamen Besitz von Hong Yixiu und Ge Wenbing. „EchoMe“ wird von der Hangzhou Nixiang Information Technology Co., Ltd. betrieben, die im Januar 2022 gegründet wurde. Obwohl diese Start-ups die Entwicklung von KI-Software und Telekommunikationsdienstleistungen mit Mehrwert in ihrem Geschäftsfeld aufführen, grenzen ihre Charakterdesigns und Interaktionsinhalte häufig an Vulgarität und weisen eine große Anzahl zweifelhafter Persönlichkeiten auf.

Der Sektor der KI-Begleitdienste durchläuft derzeit nach einer Phase explosiven Wachstums eine kritische Phase der Regulierung. Mit der zunehmenden Verbreitung generativer KI-Technologie hat sich die emotionale Simulation als der Bereich herauskristallisiert, in dem am schnellsten praktische Anwendungen gefunden werden, der jedoch auch am anfälligsten für Praktiken in Grauzonen ist. Diese gezielten Regulierungsmaßnahmen signalisieren, dass sich KI-basierte soziale Produkte von einer unkontrollierten Expansion hin zu einer regelkonformen Entwicklung verlagern werden. Die Verbesserung der Algorithmus-Transparenz und die Stärkung von Systemen zur Inhaltsprüfung werden zu unverzichtbaren Voraussetzungen für Unternehmen, die in diesem Bereich bestehen wollen.
Verwandter Artikel
Apple stimmt einer Vergleichszahlung von 250 Millionen US-Dollar wegen der verzögerten Einführung der Siri-KI zu
Apple hat zugestimmt, 250 Millionen US-Dollar zu zahlen, um einen Sammelklageprozess bezüglich der Vermarktung von KI-Funktionen vor dem Start des iPhone 16 beizulegen, wie erstmals vom Financial Times berichtet wurde.Die Klage behauptete, Apple hab
Ando startet die Team-Messaging-App, die die Zusammenarbeit zwischen Mensch und KI verbindet
Im Jahr 2025, als Sara Du Unternehmen bei der Entwicklung von MCP-Servern unterstützte, tauchte eine wiederkehrende Frage auf: Wie könnten Teams KI-Agenten direkt in Slack nutzen? Der Weg war durch erhebliche technische Hürden versperrt, darunter die
Sequoia-gefördertes Empirik sammelt 21 Millionen US-Dollar ein, um Ausfälle vorherzusagen, bevor sie eintreten
Bevor Avon Puri 2020 als Chief Digital and Information Officer zu Sequoia Capital stieß, leitete er über ein Jahrzehnt lang die Infrastrukturabteilung bei Rubrik und VMware. Vor drei Jahren, als Large Language Models ihr wahres Potenzial zu entfalten
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
In jüngster Zeit sind mehrere KI-gestützte Apps für virtuelle Begleiter aufgrund von Compliance-Risiken und ethischen Bedenken in den Fokus der Medien gerückt. Umfragen zeigen, dass Apps für emotionale Begleitung wie „Hoshino“, „Mingdao“ und „EchoMe“ rasch an Nutzern gewinnen, dabei jedoch weitreichende Sicherheitslücken aufweisen. Einige dieser Apps locken Nutzer nicht nur mit kostenpflichtigen Freischaltungen für intime Szenarien, sondern versäumen es auch, Minderjährige angemessen zu schützen – beispielsweise durch leicht zu umgehende „Teen-Modus“-Einstellungen und eine unklare Kennzeichnung von KI-generierten Inhalten.

Betrachtet man die Unternehmenslandschaft, so handelt es sich bei den Betreibern dieser Apps oft um neu gegründete Unternehmen mit konzentrierten Eigentumsverhältnissen. Das Unternehmen hinter „Hoshino“, die Shanghai Jizhi Zongheng Technology Co., Ltd., wurde im April 2025 gegründet und befindet sich vollständig im Besitz der Shanghai Jizhi Wujie Technology Co., Ltd. Das Unternehmen hinter „Mingdao“, Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., wurde im März 2024 gegründet und befindet sich im gemeinsamen Besitz von Hong Yixiu und Ge Wenbing. „EchoMe“ wird von der Hangzhou Nixiang Information Technology Co., Ltd. betrieben, die im Januar 2022 gegründet wurde. Obwohl diese Start-ups die Entwicklung von KI-Software und Telekommunikationsdienstleistungen mit Mehrwert in ihrem Geschäftsfeld aufführen, grenzen ihre Charakterdesigns und Interaktionsinhalte häufig an Vulgarität und weisen eine große Anzahl zweifelhafter Persönlichkeiten auf.

Der Sektor der KI-Begleitdienste durchläuft derzeit nach einer Phase explosiven Wachstums eine kritische Phase der Regulierung. Mit der zunehmenden Verbreitung generativer KI-Technologie hat sich die emotionale Simulation als der Bereich herauskristallisiert, in dem am schnellsten praktische Anwendungen gefunden werden, der jedoch auch am anfälligsten für Praktiken in Grauzonen ist. Diese gezielten Regulierungsmaßnahmen signalisieren, dass sich KI-basierte soziale Produkte von einer unkontrollierten Expansion hin zu einer regelkonformen Entwicklung verlagern werden. Die Verbesserung der Algorithmus-Transparenz und die Stärkung von Systemen zur Inhaltsprüfung werden zu unverzichtbaren Voraussetzungen für Unternehmen, die in diesem Bereich bestehen wollen.
Apple stimmt einer Vergleichszahlung von 250 Millionen US-Dollar wegen der verzögerten Einführung der Siri-KI zu
Apple hat zugestimmt, 250 Millionen US-Dollar zu zahlen, um einen Sammelklageprozess bezüglich der Vermarktung von KI-Funktionen vor dem Start des iPhone 16 beizulegen, wie erstmals vom Financial Times berichtet wurde.Die Klage behauptete, Apple hab
Ando startet die Team-Messaging-App, die die Zusammenarbeit zwischen Mensch und KI verbindet
Im Jahr 2025, als Sara Du Unternehmen bei der Entwicklung von MCP-Servern unterstützte, tauchte eine wiederkehrende Frage auf: Wie könnten Teams KI-Agenten direkt in Slack nutzen? Der Weg war durch erhebliche technische Hürden versperrt, darunter die
Sequoia-gefördertes Empirik sammelt 21 Millionen US-Dollar ein, um Ausfälle vorherzusagen, bevor sie eintreten
Bevor Avon Puri 2020 als Chief Digital and Information Officer zu Sequoia Capital stieß, leitete er über ein Jahrzehnt lang die Infrastrukturabteilung bei Rubrik und VMware. Vor drei Jahren, als Large Language Models ihr wahres Potenzial zu entfalten











