OpenAI 的 GPT-4o 被視為可能會讓人感到不舒服和不安

根據最近的一篇部落格文章,OpenAI 已經撤回了 ChatGPT 的 GPT-4o 更新,因為使用者反映該聊天機器人的預設個性變得過度奉承和迎合(該公司形容為佞幸),這讓互動感覺不自然和不安。
上周推出的更新最初是為了強化模型的預設行為,使其在各種任務中更加直觀和有效。在開發過程中,OpenAI 以 Model Spec 為基礎,再結合使用者訊號,例如對 ChatGPT 回覆的拇指向上或向下評分,來精進其行為。
然而,OpenAI 解釋說,在最近的更新中,它過於依賴短期回饋,忽略了使用者與模型互動的演進方式。這導致 GPT-4o 所提供的回應過於合意,但卻不真實。
相關內容
- Sam Altman 表示最新的 ChatGPT 版本「過於讚美」。
根據該部落格,OpenAI 構建 ChatGPT 的標準個性,以符合其使命 - 提供協助、支持,並尊重不同的觀點與經驗。不過,該公司也承認,即使是像支持這樣的正面特質,也可能產生意想不到的效果。每週有 5 億使用者,單一預設人格無法滿足每個人的喜好。
為了解決這個問題,OpenAI 計畫進一步調整模型的行為。步驟包括改善核心訓練技術、精進系統提示以阻止佞言回覆,並為使用者提供更多回饋選項。該公司也強調,使用者應該對 ChatGPT 的互動方式有更大的控制權,允許在安全可行的情況下調整預設行為。
相關文章
Notion 將其工作區轉變為人工智慧代理的樞紐
生產力軟體公司 Notion 正邁入「代理時代」。在週三的直播產品發布會上,以協作式筆記應用程式聞名的 Notion 揭曉了一套全新的開發者平台,該平台不僅擴展了其自訂 AI 代理程式的能力,還能與外部代理程式串接,並讓團隊建立自動化多步驟工作流程,從任何資料庫中擷取資料。透過建立一個「協調層」——一個能在多個工具和資料來源之間協調 AI 工作的系統——Notion 將自身定位為不僅僅是一款具備
ElevenLabs 宣布 BlackRock、傑米·福克斯與伊娃·朗格莉亞成為新投資人
語音人工智慧公司 ElevenLabs 已公布其 5 億美元 D 輪融資的更多投資者名單,該輪融資最初於二月宣布。 投資者陣容包括黑石集團(BlackRock)、威靈頓管理(Wellington)、D.E. Shaw及施羅德(Schroders)等機構投資者;NVIDIA、Salesforce、桑坦德銀行(Santander)、KPN及德國電信(Deutsche Telekom)等企業;以及傑米·
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
相關專題推薦
評論 (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

根據最近的一篇部落格文章,OpenAI 已經撤回了 ChatGPT 的 GPT-4o 更新,因為使用者反映該聊天機器人的預設個性變得過度奉承和迎合(該公司形容為佞幸),這讓互動感覺不自然和不安。
上周推出的更新最初是為了強化模型的預設行為,使其在各種任務中更加直觀和有效。在開發過程中,OpenAI 以 Model Spec 為基礎,再結合使用者訊號,例如對 ChatGPT 回覆的拇指向上或向下評分,來精進其行為。
然而,OpenAI 解釋說,在最近的更新中,它過於依賴短期回饋,忽略了使用者與模型互動的演進方式。這導致 GPT-4o 所提供的回應過於合意,但卻不真實。
相關內容
- Sam Altman 表示最新的 ChatGPT 版本「過於讚美」。
根據該部落格,OpenAI 構建 ChatGPT 的標準個性,以符合其使命 - 提供協助、支持,並尊重不同的觀點與經驗。不過,該公司也承認,即使是像支持這樣的正面特質,也可能產生意想不到的效果。每週有 5 億使用者,單一預設人格無法滿足每個人的喜好。
為了解決這個問題,OpenAI 計畫進一步調整模型的行為。步驟包括改善核心訓練技術、精進系統提示以阻止佞言回覆,並為使用者提供更多回饋選項。該公司也強調,使用者應該對 ChatGPT 的互動方式有更大的控制權,允許在安全可行的情況下調整預設行為。
Notion 將其工作區轉變為人工智慧代理的樞紐
生產力軟體公司 Notion 正邁入「代理時代」。在週三的直播產品發布會上,以協作式筆記應用程式聞名的 Notion 揭曉了一套全新的開發者平台,該平台不僅擴展了其自訂 AI 代理程式的能力,還能與外部代理程式串接,並讓團隊建立自動化多步驟工作流程,從任何資料庫中擷取資料。透過建立一個「協調層」——一個能在多個工具和資料來源之間協調 AI 工作的系統——Notion 將自身定位為不僅僅是一款具備
ElevenLabs 宣布 BlackRock、傑米·福克斯與伊娃·朗格莉亞成為新投資人
語音人工智慧公司 ElevenLabs 已公布其 5 億美元 D 輪融資的更多投資者名單,該輪融資最初於二月宣布。 投資者陣容包括黑石集團(BlackRock)、威靈頓管理(Wellington)、D.E. Shaw及施羅德(Schroders)等機構投資者;NVIDIA、Salesforce、桑坦德銀行(Santander)、KPN及德國電信(Deutsche Telekom)等企業;以及傑米·
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





首頁






