Hogar
Aumentan las preocupaciones sobre la gobernanza social de la IA ante la falta de medidas de protección de los menores en los productos de «parejas virtuales»
Recientemente, varias aplicaciones de compañía virtual basadas en inteligencia artificial han sido objeto de escrutinio por parte de los medios de comunicación debido a riesgos de cumplimiento normativo y cuestiones éticas. Las encuestas indican que las aplicaciones de compañía emocional, como «Hoshino», «Mingdao» y «EchoMe», han ido ganando usuarios rápidamente, a pesar de presentar numerosas vulnerabilidades de seguridad. Algunas de estas aplicaciones no solo atraen a los usuarios con desbloqueos de pago para situaciones íntimas, sino que tampoco protegen adecuadamente a los menores, con problemas como ajustes del «modo adolescente» que se pueden eludir fácilmente y una identificación poco clara del contenido generado por IA.

Si nos fijamos en el panorama empresarial, las empresas que están detrás de estas aplicaciones suelen ser de reciente creación y presentar estructuras de propiedad concentradas. La entidad responsable de «Hoshino», Shanghai Jizhi Zongheng Technology Co., Ltd., se fundó en abril de 2025 y es propiedad al 100 % de Shanghai Jizhi Wujie Technology Co., Ltd. La empresa responsable de «Mingdao», Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., se constituyó en marzo de 2024 y es propiedad conjunta de Hong Yixiu y Ge Wenbing. «EchoMe» está gestionada por Hangzhou Nixiang Information Technology Co., Ltd., fundada en enero de 2022. Aunque estas startups incluyen el desarrollo de software de IA y los servicios de telecomunicaciones de valor añadido dentro de su ámbito de actividad, el diseño de sus personajes y el contenido de sus interacciones rozan con frecuencia la vulgaridad, con un gran número de personajes de dudosa reputación.

El sector de los acompañantes de IA atraviesa actualmente una fase crítica en materia de regulación tras un periodo de crecimiento explosivo. A medida que la tecnología de IA generativa se generaliza, la simulación emocional se ha convertido en el ámbito que más rápidamente ha encontrado aplicaciones prácticas, aunque también sigue siendo el más propenso a prácticas que se sitúan en una zona gris. Esta medida reguladora específica indica que los productos sociales basados en la IA pasarán de una expansión sin control a un desarrollo impulsado por el cumplimiento normativo. Mejorar la transparencia de los algoritmos y reforzar los sistemas de revisión de contenidos se convertirán en requisitos imprescindibles para las empresas que deseen sobrevivir en este ámbito.
Artículo relacionado
Apple acepta un acuerdo de 250 millones de dólares por la demora en el lanzamiento de Siri con inteligencia artificial
Apple ha acordado pagar 250 millones de dólares para resolver una demanda colectiva sobre su marketing de funciones de inteligencia artificial antes del lanzamiento del iPhone 16, según informó por primera vez el Financial Times.La demanda afirmaba
Ando lanza una aplicación de mensajería para equipos que une la colaboración humana y la inteligencia artificial
En 2025, mientras Sara Du ayudaba a empresas a desarrollar servidores MCP, surgió una pregunta recurrente: ¿cómo podrían los equipos aprovechar agentes de IA directamente dentro de Slack? El camino estaba obstaculizado por importantes barreras técnic
Empirik, respaldada por Sequoia, recauda 21 millones de dólares para predecir las interrupciones antes de que ocurran
Antes de unirse a Sequoia Capital en 2020 como director digital y de información, Avon Puri pasó más de una década dirigiendo la infraestructura en Rubrik y VMware. Hace tres años, cuando los modelos de lenguaje grandes comenzaron a mostrar su verdad
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
Recientemente, varias aplicaciones de compañía virtual basadas en inteligencia artificial han sido objeto de escrutinio por parte de los medios de comunicación debido a riesgos de cumplimiento normativo y cuestiones éticas. Las encuestas indican que las aplicaciones de compañía emocional, como «Hoshino», «Mingdao» y «EchoMe», han ido ganando usuarios rápidamente, a pesar de presentar numerosas vulnerabilidades de seguridad. Algunas de estas aplicaciones no solo atraen a los usuarios con desbloqueos de pago para situaciones íntimas, sino que tampoco protegen adecuadamente a los menores, con problemas como ajustes del «modo adolescente» que se pueden eludir fácilmente y una identificación poco clara del contenido generado por IA.

Si nos fijamos en el panorama empresarial, las empresas que están detrás de estas aplicaciones suelen ser de reciente creación y presentar estructuras de propiedad concentradas. La entidad responsable de «Hoshino», Shanghai Jizhi Zongheng Technology Co., Ltd., se fundó en abril de 2025 y es propiedad al 100 % de Shanghai Jizhi Wujie Technology Co., Ltd. La empresa responsable de «Mingdao», Shanghai Mingdao Artificial Intelligence Technology Co., Ltd., se constituyó en marzo de 2024 y es propiedad conjunta de Hong Yixiu y Ge Wenbing. «EchoMe» está gestionada por Hangzhou Nixiang Information Technology Co., Ltd., fundada en enero de 2022. Aunque estas startups incluyen el desarrollo de software de IA y los servicios de telecomunicaciones de valor añadido dentro de su ámbito de actividad, el diseño de sus personajes y el contenido de sus interacciones rozan con frecuencia la vulgaridad, con un gran número de personajes de dudosa reputación.

El sector de los acompañantes de IA atraviesa actualmente una fase crítica en materia de regulación tras un periodo de crecimiento explosivo. A medida que la tecnología de IA generativa se generaliza, la simulación emocional se ha convertido en el ámbito que más rápidamente ha encontrado aplicaciones prácticas, aunque también sigue siendo el más propenso a prácticas que se sitúan en una zona gris. Esta medida reguladora específica indica que los productos sociales basados en la IA pasarán de una expansión sin control a un desarrollo impulsado por el cumplimiento normativo. Mejorar la transparencia de los algoritmos y reforzar los sistemas de revisión de contenidos se convertirán en requisitos imprescindibles para las empresas que deseen sobrevivir en este ámbito.
Apple acepta un acuerdo de 250 millones de dólares por la demora en el lanzamiento de Siri con inteligencia artificial
Apple ha acordado pagar 250 millones de dólares para resolver una demanda colectiva sobre su marketing de funciones de inteligencia artificial antes del lanzamiento del iPhone 16, según informó por primera vez el Financial Times.La demanda afirmaba
Ando lanza una aplicación de mensajería para equipos que une la colaboración humana y la inteligencia artificial
En 2025, mientras Sara Du ayudaba a empresas a desarrollar servidores MCP, surgió una pregunta recurrente: ¿cómo podrían los equipos aprovechar agentes de IA directamente dentro de Slack? El camino estaba obstaculizado por importantes barreras técnic
Empirik, respaldada por Sequoia, recauda 21 millones de dólares para predecir las interrupciones antes de que ocurran
Antes de unirse a Sequoia Capital en 2020 como director digital y de información, Avon Puri pasó más de una década dirigiendo la infraestructura en Rubrik y VMware. Hace tres años, cuando los modelos de lenguaje grandes comenzaron a mostrar su verdad











