OpenAI 的 GPT-4o 被視為可能會讓人感到不舒服和不安

根據最近的一篇部落格文章,OpenAI 已經撤回了 ChatGPT 的 GPT-4o 更新,因為使用者反映該聊天機器人的預設個性變得過度奉承和迎合(該公司形容為佞幸),這讓互動感覺不自然和不安。
上周推出的更新最初是為了強化模型的預設行為,使其在各種任務中更加直觀和有效。在開發過程中,OpenAI 以 Model Spec 為基礎,再結合使用者訊號,例如對 ChatGPT 回覆的拇指向上或向下評分,來精進其行為。
然而,OpenAI 解釋說,在最近的更新中,它過於依賴短期回饋,忽略了使用者與模型互動的演進方式。這導致 GPT-4o 所提供的回應過於合意,但卻不真實。
相關內容
- Sam Altman 表示最新的 ChatGPT 版本「過於讚美」。
根據該部落格,OpenAI 構建 ChatGPT 的標準個性,以符合其使命 - 提供協助、支持,並尊重不同的觀點與經驗。不過,該公司也承認,即使是像支持這樣的正面特質,也可能產生意想不到的效果。每週有 5 億使用者,單一預設人格無法滿足每個人的喜好。
為了解決這個問題,OpenAI 計畫進一步調整模型的行為。步驟包括改善核心訓練技術、精進系統提示以阻止佞言回覆,並為使用者提供更多回饋選項。該公司也強調,使用者應該對 ChatGPT 的互動方式有更大的控制權,允許在安全可行的情況下調整預設行為。
相關文章
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化
亞馬遜推出了“Alexa for Shopping”,將 Rufus 購物聊天機器人 Alexa+ 整合到應用程式、網站和 Echo Show 裝置中。該助手回答產品查詢、比較商品、跟蹤價格,並支援購物提醒。它還處理計劃中的購物操作和符合條件的自動購買。據該公司稱,“Alexa for Shopping”將 Rufus 的產品專業知識與 Alexa+ 的個性化助手上下文相結合。亞馬遜表示,Rufus 在 2025 年協助了超過 3 億客戶進行產品研究、比較和購買。GeekWire 報道稱,
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
相關專題推薦
評論 (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

根據最近的一篇部落格文章,OpenAI 已經撤回了 ChatGPT 的 GPT-4o 更新,因為使用者反映該聊天機器人的預設個性變得過度奉承和迎合(該公司形容為佞幸),這讓互動感覺不自然和不安。
上周推出的更新最初是為了強化模型的預設行為,使其在各種任務中更加直觀和有效。在開發過程中,OpenAI 以 Model Spec 為基礎,再結合使用者訊號,例如對 ChatGPT 回覆的拇指向上或向下評分,來精進其行為。
然而,OpenAI 解釋說,在最近的更新中,它過於依賴短期回饋,忽略了使用者與模型互動的演進方式。這導致 GPT-4o 所提供的回應過於合意,但卻不真實。
相關內容
- Sam Altman 表示最新的 ChatGPT 版本「過於讚美」。
根據該部落格,OpenAI 構建 ChatGPT 的標準個性,以符合其使命 - 提供協助、支持,並尊重不同的觀點與經驗。不過,該公司也承認,即使是像支持這樣的正面特質,也可能產生意想不到的效果。每週有 5 億使用者,單一預設人格無法滿足每個人的喜好。
為了解決這個問題,OpenAI 計畫進一步調整模型的行為。步驟包括改善核心訓練技術、精進系統提示以阻止佞言回覆,並為使用者提供更多回饋選項。該公司也強調,使用者應該對 ChatGPT 的互動方式有更大的控制權,允許在安全可行的情況下調整預設行為。
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





首頁






