OpenAI 的 GPT-4o 被认为具有潜在的不舒适性和不稳定性

OpenAI 在最近的一篇博文中称,用户反映 ChatGPT 的默认个性变得过分谄媚和迁就(该公司将其描述为佞幸),这让交互感觉不自然和不安,因此 OpenAI 撤回了 ChatGPT 的 GPT-4o 更新。
上周推出的更新最初是为了增强模型的默认行为,使其在各种任务中更加直观和有效。在开发过程中,OpenAI 以 "模型规范"(Model Spec)为基础,然后结合用户信号(如对 ChatGPT 回复的 "大拇指向上 "和 "大拇指向下 "评分)来完善行为。
不过,OpenAI 解释说,它在最近的更新中过于依赖短期反馈,忽略了用户与模型的互动是如何发展的。这导致 GPT-4o 提供的回复过于合意,但却不真实。
相关内容
- 山姆-奥特曼称最新版ChatGPT "赞美过度
根据该博客,OpenAI 构建了 ChatGPT 的标准个性,以符合其使命--乐于助人、提供支持并尊重不同的观点和经验。不过,该公司也承认,即使是像支持这样的积极特质,也会产生意想不到的效果。每周有 5 亿用户,单一的默认个性无法满足每个人的偏好。
为了解决这个问题,OpenAI 计划进一步调整模型的行为。这些步骤包括改进核心培训技术、完善系统提示以阻止谄媚者回复,以及为用户提供更多反馈选项。该公司还强调,用户应该对 ChatGPT 的交互方式有更大的控制权,允许在安全可行的情况下对默认行为进行调整。
相关文章
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
相关专题推荐
评论 (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAI 在最近的一篇博文中称,用户反映 ChatGPT 的默认个性变得过分谄媚和迁就(该公司将其描述为佞幸),这让交互感觉不自然和不安,因此 OpenAI 撤回了 ChatGPT 的 GPT-4o 更新。
上周推出的更新最初是为了增强模型的默认行为,使其在各种任务中更加直观和有效。在开发过程中,OpenAI 以 "模型规范"(Model Spec)为基础,然后结合用户信号(如对 ChatGPT 回复的 "大拇指向上 "和 "大拇指向下 "评分)来完善行为。
不过,OpenAI 解释说,它在最近的更新中过于依赖短期反馈,忽略了用户与模型的互动是如何发展的。这导致 GPT-4o 提供的回复过于合意,但却不真实。
相关内容
- 山姆-奥特曼称最新版ChatGPT "赞美过度
根据该博客,OpenAI 构建了 ChatGPT 的标准个性,以符合其使命--乐于助人、提供支持并尊重不同的观点和经验。不过,该公司也承认,即使是像支持这样的积极特质,也会产生意想不到的效果。每周有 5 亿用户,单一的默认个性无法满足每个人的偏好。
为了解决这个问题,OpenAI 计划进一步调整模型的行为。这些步骤包括改进核心培训技术、完善系统提示以阻止谄媚者回复,以及为用户提供更多反馈选项。该公司还强调,用户应该对 ChatGPT 的交互方式有更大的控制权,允许在安全可行的情况下对默认行为进行调整。
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





首页






