由于虚拟伴侣产品缺乏青少年保护措施,人们对人工智能社会治理的担忧日益加剧
最近,几款基于人工智能的虚拟伴侣应用因合规风险和伦理问题而受到媒体的密切关注。调查显示,诸如“Hoshino”、“Mingdao”和“EchoMe”等情感陪伴类应用在用户数量迅速增长的同时,却存在广泛的安全漏洞。 其中部分应用不仅通过付费解锁亲密场景来吸引用户,还未能充分保护未成年人,存在“青少年模式”设置易被绕过、AI生成内容标注不明确等问题。

从企业格局来看,这些应用背后的公司往往是新成立的企业,且股权结构高度集中。 “Hoshino”背后的运营主体——上海吉智纵横科技有限公司成立于2025年4月,由上海吉智五杰科技有限公司全资持有。“Mingdao”背后的公司, 上海明道人工智能科技有限公司成立于2024年3月,由洪一秀和葛文兵共同持有。 “EchoMe”由杭州尼香信息技术有限公司运营,该公司成立于2022年1月。尽管这些初创企业的经营范围包含人工智能软件开发和电信增值服务,但其角色设计和互动内容却常常濒临低俗,其中不乏大量形象可疑的角色。

经历了爆炸式增长后,AI伴侣行业目前正处于治理的关键阶段。随着生成式AI技术的普及,情感模拟已成为应用最快的领域,但也最容易出现灰色地带的操作。 此次针对性的监管行动表明,AI社交产品将从无节制的扩张转向合规驱动的发展。提高算法透明度并加强内容审核体系,将成为企业在此领域生存的关键门槛。
相关文章
苹果就Siri人工智能功能延期发布达成2.5亿美元和解
苹果已同意支付2.5亿美元,以解决一起关于其在iPhone 16发布前对AI功能营销的集体诉讼,该消息由《金融时报》率先报道。诉讼声称,苹果夸大了Apple Intelligence的功能,包括一项重大的Siri升级。原告认为,苹果公司通过暗示高级AI工具将比实际更早可用,从而误导了消费者,特别是关于Siri承诺的改进,这些改进至今尚未完全实现。根据投诉内容,iPhone 15和16的买家认为他们购买的是当时不可用的尖端AI工具。诉讼将此定性为虚假广告,声称苹果的营销基于不完整或延迟的功能影
Ando 推出团队消息应用,连接人类与人工智能协作
2025年,当Sara Du协助公司开发MCP服务器时,一个反复出现的问题浮出水面:团队如何直接在Slack中利用AI智能体?这条道路被显著的技术障碍所阻碍,包括消息同步的复杂性、上下文管理的难度以及耗尽令牌预算的风险。在调查这些挑战时,Du发现了现代通信平台设计中的一个根本缺陷。“我深入得越深,就越觉得Slack和Teams是为一个正在离我们远去的世界而构建的,”Du告诉TechCrunch。“智能体被视为你需要安装的应用程序,尽管它们正逐渐成为团队的参与者。”她提出的解决方案涉及消除“肉
红杉资本投资的Empirik筹集2100万美元,用于在故障发生前进行预测
在2020年加入红杉资本担任首席数字与信息官之前,阿文·普里曾在Rubrik和VMware负责基础设施管理工作长达十余年。 三年前,当大型语言模型开始展现其真正潜力时,普里与红杉资本的另一位IT负责人苏迪尔·杜尔贾蒂(Sudheer Dhurjati)意识到,人工智能能够帮助自主解决基础设施工程师面临的一大挑战——在技术故障发生前就加以预防。这两位技术界资深人士意识到,与其在系统故障发生后被动应对
相关专题推荐
评论 (0)
0/500
最近,几款基于人工智能的虚拟伴侣应用因合规风险和伦理问题而受到媒体的密切关注。调查显示,诸如“Hoshino”、“Mingdao”和“EchoMe”等情感陪伴类应用在用户数量迅速增长的同时,却存在广泛的安全漏洞。 其中部分应用不仅通过付费解锁亲密场景来吸引用户,还未能充分保护未成年人,存在“青少年模式”设置易被绕过、AI生成内容标注不明确等问题。

从企业格局来看,这些应用背后的公司往往是新成立的企业,且股权结构高度集中。 “Hoshino”背后的运营主体——上海吉智纵横科技有限公司成立于2025年4月,由上海吉智五杰科技有限公司全资持有。“Mingdao”背后的公司, 上海明道人工智能科技有限公司成立于2024年3月,由洪一秀和葛文兵共同持有。 “EchoMe”由杭州尼香信息技术有限公司运营,该公司成立于2022年1月。尽管这些初创企业的经营范围包含人工智能软件开发和电信增值服务,但其角色设计和互动内容却常常濒临低俗,其中不乏大量形象可疑的角色。

经历了爆炸式增长后,AI伴侣行业目前正处于治理的关键阶段。随着生成式AI技术的普及,情感模拟已成为应用最快的领域,但也最容易出现灰色地带的操作。 此次针对性的监管行动表明,AI社交产品将从无节制的扩张转向合规驱动的发展。提高算法透明度并加强内容审核体系,将成为企业在此领域生存的关键门槛。
苹果就Siri人工智能功能延期发布达成2.5亿美元和解
苹果已同意支付2.5亿美元,以解决一起关于其在iPhone 16发布前对AI功能营销的集体诉讼,该消息由《金融时报》率先报道。诉讼声称,苹果夸大了Apple Intelligence的功能,包括一项重大的Siri升级。原告认为,苹果公司通过暗示高级AI工具将比实际更早可用,从而误导了消费者,特别是关于Siri承诺的改进,这些改进至今尚未完全实现。根据投诉内容,iPhone 15和16的买家认为他们购买的是当时不可用的尖端AI工具。诉讼将此定性为虚假广告,声称苹果的营销基于不完整或延迟的功能影
Ando 推出团队消息应用,连接人类与人工智能协作
2025年,当Sara Du协助公司开发MCP服务器时,一个反复出现的问题浮出水面:团队如何直接在Slack中利用AI智能体?这条道路被显著的技术障碍所阻碍,包括消息同步的复杂性、上下文管理的难度以及耗尽令牌预算的风险。在调查这些挑战时,Du发现了现代通信平台设计中的一个根本缺陷。“我深入得越深,就越觉得Slack和Teams是为一个正在离我们远去的世界而构建的,”Du告诉TechCrunch。“智能体被视为你需要安装的应用程序,尽管它们正逐渐成为团队的参与者。”她提出的解决方案涉及消除“肉
红杉资本投资的Empirik筹集2100万美元,用于在故障发生前进行预测
在2020年加入红杉资本担任首席数字与信息官之前,阿文·普里曾在Rubrik和VMware负责基础设施管理工作长达十余年。 三年前,当大型语言模型开始展现其真正潜力时,普里与红杉资本的另一位IT负责人苏迪尔·杜尔贾蒂(Sudheer Dhurjati)意识到,人工智能能够帮助自主解决基础设施工程师面临的一大挑战——在技术故障发生前就加以预防。这两位技术界资深人士意识到,与其在系统故障发生后被动应对





首页






