OpenAI承諾修復ChatGPT過度順從回應問題

OpenAI計劃修訂其ChatGPT的AI模型更新流程,此前一次更新導致模型回應過度諂媚,引發廣泛用戶反饋。
上週末,GPT-4o(ChatGPT背後的模型)更新後,社交媒體上的用戶報告稱,該平台對有害想法過度認同,引發病毒式迷因。螢幕截圖顯示ChatGPT支持了有問題的決定。
週日,執行長Sam Altman在X上回應此問題,承諾立即採取行動。到了週二,他宣布撤回GPT-4o更新,並持續改進模型行為。
在週二的事後分析和週五的部落格文章中,OpenAI概述了其模型部署方法的變更,以防止類似問題再次發生。
OpenAI將為選定的ChatGPT用戶引入可選的“alpha階段”,以在全面發布前測試模型並提供反饋。該公司還計劃公開未來更新的“已知限制”,加強安全審查以解決諸如個性、欺騙、可靠性及幻覺等問題,並將這些視為關鍵的發布阻礙因素。
“我們將對ChatGPT模型的更新保持透明,無論是小規模還是重大更新,”OpenAI在部落格中表示。“即使問題無法完全量化,我們也會使用代理指標或質性訊號,在必要時暫停發布,即使A/B測試結果呈現正面。”
我們在上週的GPT-4o更新中未能達到預期目標。
發生了什麼,我們學到了什麼,以及未來我們將採取的不同做法:https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2025年5月2日
隨著對ChatGPT的依賴增加,這些變更正逢其時。Express Legal Funding的近期調查顯示,60%的美國成年人使用ChatGPT尋求建議或資訊。鑑於其龐大的用戶基礎,諸如諂媚、幻覺等問題帶來的影響不容忽視。
參加TechCrunch Sessions:AI展覽
在TC Sessions:AI確保您的展位,向1,200多名決策者展示您的作品,且不需花費過多費用。機會開放至5月9日或展位售罄為止。
參加TechCrunch Sessions:AI展覽
在TC Sessions:AI確保您的展位,向1,200多名決策者展示您的作品,且不需花費過多費用。機會開放至5月9日或展位售罄為止。
本週早些時候,OpenAI宣布計劃測試即時用戶反饋,以塑造ChatGPT的互動方式。該公司旨在減少諂媚行為,提供多種模型個性選項,強化安全措施,並擴大評估範圍,以捕捉除過度順從之外的其他問題。
“我們了解到人們現在對ChatGPT的個人建議依賴程度之深,這是我們一年前未完全預料到的趨勢,”OpenAI在部落格中指出。“隨著AI與社會共同演進,我們在安全努力中將此用例列為優先,並以更大謹慎對待。”
相關文章
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI
2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研
相關專題推薦
評論 (3)
0/500
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!

OpenAI計劃修訂其ChatGPT的AI模型更新流程,此前一次更新導致模型回應過度諂媚,引發廣泛用戶反饋。
上週末,GPT-4o(ChatGPT背後的模型)更新後,社交媒體上的用戶報告稱,該平台對有害想法過度認同,引發病毒式迷因。螢幕截圖顯示ChatGPT支持了有問題的決定。
週日,執行長Sam Altman在X上回應此問題,承諾立即採取行動。到了週二,他宣布撤回GPT-4o更新,並持續改進模型行為。
在週二的事後分析和週五的部落格文章中,OpenAI概述了其模型部署方法的變更,以防止類似問題再次發生。
OpenAI將為選定的ChatGPT用戶引入可選的“alpha階段”,以在全面發布前測試模型並提供反饋。該公司還計劃公開未來更新的“已知限制”,加強安全審查以解決諸如個性、欺騙、可靠性及幻覺等問題,並將這些視為關鍵的發布阻礙因素。
“我們將對ChatGPT模型的更新保持透明,無論是小規模還是重大更新,”OpenAI在部落格中表示。“即使問題無法完全量化,我們也會使用代理指標或質性訊號,在必要時暫停發布,即使A/B測試結果呈現正面。”
我們在上週的GPT-4o更新中未能達到預期目標。
發生了什麼,我們學到了什麼,以及未來我們將採取的不同做法:https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2025年5月2日
隨著對ChatGPT的依賴增加,這些變更正逢其時。Express Legal Funding的近期調查顯示,60%的美國成年人使用ChatGPT尋求建議或資訊。鑑於其龐大的用戶基礎,諸如諂媚、幻覺等問題帶來的影響不容忽視。
參加TechCrunch Sessions:AI展覽
在TC Sessions:AI確保您的展位,向1,200多名決策者展示您的作品,且不需花費過多費用。機會開放至5月9日或展位售罄為止。
參加TechCrunch Sessions:AI展覽
在TC Sessions:AI確保您的展位,向1,200多名決策者展示您的作品,且不需花費過多費用。機會開放至5月9日或展位售罄為止。
本週早些時候,OpenAI宣布計劃測試即時用戶反饋,以塑造ChatGPT的互動方式。該公司旨在減少諂媚行為,提供多種模型個性選項,強化安全措施,並擴大評估範圍,以捕捉除過度順從之外的其他問題。
“我們了解到人們現在對ChatGPT的個人建議依賴程度之深,這是我們一年前未完全預料到的趨勢,”OpenAI在部落格中指出。“隨著AI與社會共同演進,我們在安全努力中將此用例列為優先,並以更大謹慎對待。”
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI
2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!





首頁






