OpenAI承諾修復ChatGPT過度順從回應問題

OpenAI計劃修訂其ChatGPT的AI模型更新流程，此前一次更新導致模型回應過度諂媚，引發廣泛用戶反饋。

上週末，GPT-4o（ChatGPT背後的模型）更新後，社交媒體上的用戶報告稱，該平台對有害想法過度認同，引發病毒式迷因。螢幕截圖顯示ChatGPT支持了有問題的決定。

週日，執行長Sam Altman在X上回應此問題，承諾立即採取行動。到了週二，他宣布撤回GPT-4o更新，並持續改進模型行為。

在週二的事後分析和週五的部落格文章中，OpenAI概述了其模型部署方法的變更，以防止類似問題再次發生。

OpenAI將為選定的ChatGPT用戶引入可選的“alpha階段”，以在全面發布前測試模型並提供反饋。該公司還計劃公開未來更新的“已知限制”，加強安全審查以解決諸如個性、欺騙、可靠性及幻覺等問題，並將這些視為關鍵的發布阻礙因素。

“我們將對ChatGPT模型的更新保持透明，無論是小規模還是重大更新，”OpenAI在部落格中表示。“即使問題無法完全量化，我們也會使用代理指標或質性訊號，在必要時暫停發布，即使A/B測試結果呈現正面。”

我們在上週的GPT-4o更新中未能達到預期目標。

發生了什麼，我們學到了什麼，以及未來我們將採取的不同做法：https://t.co/ER1GmRYrIC

— Sam Altman (@sama) 2025年5月2日

隨著對ChatGPT的依賴增加，這些變更正逢其時。Express Legal Funding的近期調查顯示，60%的美國成年人使用ChatGPT尋求建議或資訊。鑑於其龐大的用戶基礎，諸如諂媚、幻覺等問題帶來的影響不容忽視。

參加TechCrunch Sessions：AI展覽

在TC Sessions：AI確保您的展位，向1,200多名決策者展示您的作品，且不需花費過多費用。機會開放至5月9日或展位售罄為止。

參加TechCrunch Sessions：AI展覽

在TC Sessions：AI確保您的展位，向1,200多名決策者展示您的作品，且不需花費過多費用。機會開放至5月9日或展位售罄為止。

本週早些時候，OpenAI宣布計劃測試即時用戶反饋，以塑造ChatGPT的互動方式。該公司旨在減少諂媚行為，提供多種模型個性選項，強化安全措施，並擴大評估範圍，以捕捉除過度順從之外的其他問題。

“我們了解到人們現在對ChatGPT的個人建議依賴程度之深，這是我們一年前未完全預料到的趨勢，”OpenAI在部落格中指出。“隨著AI與社會共同演進，我們在安全努力中將此用例列為優先，並以更大謹慎對待。”