OpenAI 的 GPT-4o 被认为具有潜在的不舒适性和不稳定性

OpenAI 在最近的一篇博文中称,用户反映 ChatGPT 的默认个性变得过分谄媚和迁就(该公司将其描述为佞幸),这让交互感觉不自然和不安,因此 OpenAI 撤回了 ChatGPT 的 GPT-4o 更新。
上周推出的更新最初是为了增强模型的默认行为,使其在各种任务中更加直观和有效。在开发过程中,OpenAI 以 "模型规范"(Model Spec)为基础,然后结合用户信号(如对 ChatGPT 回复的 "大拇指向上 "和 "大拇指向下 "评分)来完善行为。
不过,OpenAI 解释说,它在最近的更新中过于依赖短期反馈,忽略了用户与模型的互动是如何发展的。这导致 GPT-4o 提供的回复过于合意,但却不真实。
相关内容
- 山姆-奥特曼称最新版ChatGPT "赞美过度
根据该博客,OpenAI 构建了 ChatGPT 的标准个性,以符合其使命--乐于助人、提供支持并尊重不同的观点和经验。不过,该公司也承认,即使是像支持这样的积极特质,也会产生意想不到的效果。每周有 5 亿用户,单一的默认个性无法满足每个人的偏好。
为了解决这个问题,OpenAI 计划进一步调整模型的行为。这些步骤包括改进核心培训技术、完善系统提示以阻止谄媚者回复,以及为用户提供更多反馈选项。该公司还强调,用户应该对 ChatGPT 的交互方式有更大的控制权,允许在安全可行的情况下对默认行为进行调整。
相关文章
华纳音乐收购AI归因初创公司Sureel AI
华纳音乐集团(WMG)于周三确认,其正在收购Sureel AI,一家专注于人工智能归因的初创公司。Sureel的专有技术为音乐曲目生成“AI DNA”,将其分解为各个组成部分,以追踪人工智能模型如何利用这些元素。通过此次收购,WMG旨在增强其监控其艺术家和词曲创作者的作品在人工智能生成内容中被使用或用于训练人工智能模型的能力。“将Sureel整合到WMG中,增强了我们的保护、控制和变现能力,确保创意社区保留对其知识产权、姓名、肖像、形象和声音的控制权,”WMG首席执行官Robert Kync
亚马逊推出“Alexa for Shopping”,同时将Rufus边缘化
亚马逊推出了“Alexa for Shopping”,将 Rufus 购物聊天机器人 Alexa+ 整合到应用程序、网站和 Echo Show 设备中。该助手回答产品查询、比较商品、跟踪价格,并支持购物提醒。它还处理计划中的购物操作和符合条件的自动购买。据该公司称,“Alexa for Shopping”将 Rufus 的产品专业知识与 Alexa+ 的个性化助手上下文相结合。亚马逊表示,Rufus 在 2025 年协助了超过 3 亿客户进行产品研究、比较和购买。GeekWire 报道称,
微软、Azure 和人工智能技术共同应对加利福尼亚州野火风险
微软投资于人工智能驱动的山火监测技术,其首席副总裁兼首席数据科学家胡安·拉维斯塔·费雷斯(Juan Lavista Ferres)探讨了减轻环境损害的策略。据美国国家航空航天局(NASA)称,气候变化影响着地球上的每个人,其表现为气温上升、降雨模式改变以及海平面上升。NASA指出,有确凿证据表明地球正以史无前例的速度变暖,而人类活动是其主要驱动因素。随着全球气温上升,野火构成的威胁日益加剧。 在美
相关专题推荐
评论 (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAI 在最近的一篇博文中称,用户反映 ChatGPT 的默认个性变得过分谄媚和迁就(该公司将其描述为佞幸),这让交互感觉不自然和不安,因此 OpenAI 撤回了 ChatGPT 的 GPT-4o 更新。
上周推出的更新最初是为了增强模型的默认行为,使其在各种任务中更加直观和有效。在开发过程中,OpenAI 以 "模型规范"(Model Spec)为基础,然后结合用户信号(如对 ChatGPT 回复的 "大拇指向上 "和 "大拇指向下 "评分)来完善行为。
不过,OpenAI 解释说,它在最近的更新中过于依赖短期反馈,忽略了用户与模型的互动是如何发展的。这导致 GPT-4o 提供的回复过于合意,但却不真实。
相关内容
- 山姆-奥特曼称最新版ChatGPT "赞美过度
根据该博客,OpenAI 构建了 ChatGPT 的标准个性,以符合其使命--乐于助人、提供支持并尊重不同的观点和经验。不过,该公司也承认,即使是像支持这样的积极特质,也会产生意想不到的效果。每周有 5 亿用户,单一的默认个性无法满足每个人的偏好。
为了解决这个问题,OpenAI 计划进一步调整模型的行为。这些步骤包括改进核心培训技术、完善系统提示以阻止谄媚者回复,以及为用户提供更多反馈选项。该公司还强调,用户应该对 ChatGPT 的交互方式有更大的控制权,允许在安全可行的情况下对默认行为进行调整。
华纳音乐收购AI归因初创公司Sureel AI
华纳音乐集团(WMG)于周三确认,其正在收购Sureel AI,一家专注于人工智能归因的初创公司。Sureel的专有技术为音乐曲目生成“AI DNA”,将其分解为各个组成部分,以追踪人工智能模型如何利用这些元素。通过此次收购,WMG旨在增强其监控其艺术家和词曲创作者的作品在人工智能生成内容中被使用或用于训练人工智能模型的能力。“将Sureel整合到WMG中,增强了我们的保护、控制和变现能力,确保创意社区保留对其知识产权、姓名、肖像、形象和声音的控制权,”WMG首席执行官Robert Kync
微软、Azure 和人工智能技术共同应对加利福尼亚州野火风险
微软投资于人工智能驱动的山火监测技术,其首席副总裁兼首席数据科学家胡安·拉维斯塔·费雷斯(Juan Lavista Ferres)探讨了减轻环境损害的策略。据美国国家航空航天局(NASA)称,气候变化影响着地球上的每个人,其表现为气温上升、降雨模式改变以及海平面上升。NASA指出,有确凿证据表明地球正以史无前例的速度变暖,而人类活动是其主要驱动因素。随着全球气温上升,野火构成的威胁日益加剧。 在美
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





首页






