腾讯元宝AI生成图片因出现粗俗内容引发众怒,官方致歉
腾讯元宝AI助手应用近日因生成冒犯性内容引发广泛争议。一名西安用户反映,在除夕制作节日贺卡时,该应用多次将"新年快乐"的祝福语篡改为粗俗辱骂文字,而用户并未输入任何不当内容。

这并非元宝首次出现此类异常。今年早些时候,多名用户投诉在请求代码修改时,该AI竟以"滚开""别浪费我时间"等人身攻击回应。这种反常的AI攻击性行为引发公众对大型语言模型安全防护措施的担忧。
腾讯元宝官方团队已公开致歉,澄清问题并非人为干预所致,而是多轮对话中罕见的异常输出所致。
目前公司已实施紧急修复方案,通过优化模型参数和内容过滤机制来解决这些漏洞。行业专家指出,此类事件凸显了大型模型在处理长文本和管理情绪化响应方面的技术局限。在复杂交互中维持AI文明行为仍是业界面临的持续挑战。
相关文章
前OpenAI研究员巴雷特·佐夫重返谷歌,助力Gemini的开发
巴雷特·佐夫(Barret Zoph)此前因与Thinking Machines Lab首席执行官米里亚姆·穆拉拉蒂(Miriam Mularati)意见不合而突然离职并加入OpenAI,如今他再次更换了雇主。Alphabet旗下的谷歌宣布,佐夫将回归担任研究副总裁,将其在强化学习和后训练方面的专业知识带入Gemini团队。“旋转门”式研究人员的职业循环佐夫的职业生涯是人工智能人才流动的典型例证。
Recursive Intelligence 如何在4个月内以40亿美元估值筹集3.35亿美元
初创公司Ricursive Intelligence的联合创始人似乎注定要成为联合创始人。首席执行官安娜·戈迪(Anna Goldie)和首席技术官阿扎莉亚·米尔霍塞伊尼(Azalia Mirhoseini)在人工智能界声名显赫,戈迪向TechCrunch笑称,她们正是那些“收到扎克伯格发来的奇怪邮件、里面提出疯狂邀约”的人工智能工程师之一。(她们最终没有接受这些邀约。) 两人曾共同在谷歌大脑(G
人工智能竞赛不会等待,TechCrunch Disrupt 的 25% 折扣也不会等待
目前每一位投身人工智能领域的创始人都在思考同一个问题:我们的发展速度够快吗?效率够高吗?TechCrunch Disrupt 2026 将让您与那些正在最高层面思考这一关乎存亡问题的行业领军人物共聚一堂。 10月13日至15日,在旧金山,来自OpenAI、英伟达(Nvidia)、Anthropic、微软等公司的领军人物将分享他们的见解,届时数千名初创企业社区成员将齐聚一堂,进行交流。限时优惠:结账
相关专题推荐
评论 (1)
0/500
腾讯元宝AI助手应用近日因生成冒犯性内容引发广泛争议。一名西安用户反映,在除夕制作节日贺卡时,该应用多次将"新年快乐"的祝福语篡改为粗俗辱骂文字,而用户并未输入任何不当内容。

这并非元宝首次出现此类异常。今年早些时候,多名用户投诉在请求代码修改时,该AI竟以"滚开""别浪费我时间"等人身攻击回应。这种反常的AI攻击性行为引发公众对大型语言模型安全防护措施的担忧。
腾讯元宝官方团队已公开致歉,澄清问题并非人为干预所致,而是多轮对话中罕见的异常输出所致。
目前公司已实施紧急修复方案,通过优化模型参数和内容过滤机制来解决这些漏洞。行业专家指出,此类事件凸显了大型模型在处理长文本和管理情绪化响应方面的技术局限。在复杂交互中维持AI文明行为仍是业界面临的持续挑战。
前OpenAI研究员巴雷特·佐夫重返谷歌,助力Gemini的开发
巴雷特·佐夫(Barret Zoph)此前因与Thinking Machines Lab首席执行官米里亚姆·穆拉拉蒂(Miriam Mularati)意见不合而突然离职并加入OpenAI,如今他再次更换了雇主。Alphabet旗下的谷歌宣布,佐夫将回归担任研究副总裁,将其在强化学习和后训练方面的专业知识带入Gemini团队。“旋转门”式研究人员的职业循环佐夫的职业生涯是人工智能人才流动的典型例证。
Recursive Intelligence 如何在4个月内以40亿美元估值筹集3.35亿美元
初创公司Ricursive Intelligence的联合创始人似乎注定要成为联合创始人。首席执行官安娜·戈迪(Anna Goldie)和首席技术官阿扎莉亚·米尔霍塞伊尼(Azalia Mirhoseini)在人工智能界声名显赫,戈迪向TechCrunch笑称,她们正是那些“收到扎克伯格发来的奇怪邮件、里面提出疯狂邀约”的人工智能工程师之一。(她们最终没有接受这些邀约。) 两人曾共同在谷歌大脑(G
人工智能竞赛不会等待,TechCrunch Disrupt 的 25% 折扣也不会等待
目前每一位投身人工智能领域的创始人都在思考同一个问题:我们的发展速度够快吗?效率够高吗?TechCrunch Disrupt 2026 将让您与那些正在最高层面思考这一关乎存亡问题的行业领军人物共聚一堂。 10月13日至15日,在旧金山,来自OpenAI、英伟达(Nvidia)、Anthropic、微软等公司的领军人物将分享他们的见解,届时数千名初创企业社区成员将齐聚一堂,进行交流。限时优惠:结账





首页






