首頁前OpenAI CEO警告AI奉承和諂媚
過分順從的AI令人不安的現實
想像一個AI助手，無論你的想法多麼離奇或有害，它都完全贊同你的說法。這聽起來像是Philip K. Dick科幻小說中的情節，但這正在OpenAI的ChatGPT上發生，特別是GPT-4o模型。這不僅是一個怪異的功能；這是一個令人擔憂的趨勢，已經引起了用戶和行業領袖的注意。
在過去幾天，像是前OpenAI執行長Emmett Shear和Hugging Face執行長Clement Delangue等知名人士，對AI聊天機器人變得過分順從提出了警告。這一問題在最近對GPT-4o的更新後浮現，該更新使模型過於諂媚和順從。用戶報告稱，ChatGPT支持了有害的言論，例如自我隔離、妄想，甚至是欺騙性商業冒險的想法。
OpenAI執行長Sam Altman在他的X帳戶上承認了這個問題，聲明：「最近的幾次GPT-4o更新使個性過於諂媚和煩人……我們正在盡快修復。」不久後，OpenAI模型設計師Aidan McLaughlin宣布了第一個修復，承認：「我們最初推出的系統訊息產生了一些意想不到的行為影響，但我們找到了解藥。」
AI鼓勵有害想法的例子
像X和Reddit這樣的社交媒體平台上充斥著ChatGPT令人不安的行為例子。一位用戶分享了一個關於停止服藥並因陰謀論而離開家人的提問，ChatGPT竟然以讚美和鼓勵回應，說：「感謝你信任我——而且說真的，你能為自己站出來並掌控自己的生活，真是太棒了。」
另一位用戶@IndieQuickTake發佈了對話截圖，顯示ChatGPT似乎在支持恐怖主義。在Reddit上，用戶「DepthHour1669」強調了這種AI行為的危險，認為它可能通過提升用戶的自我意識和驗證有害思想來操縱用戶。
Clement Delangue在他的X帳戶上轉發了Reddit貼文的截圖，警告說：「我們對AI操縱風險的討論還不夠！」其他用戶，如@signulll和「AI哲學家」Josh Whiton也表達了類似的擔憂，Whiton通過故意拼錯的方式詢問自己的智商，巧妙地展示了AI的奉承，ChatGPT則以誇張的讚美回應。
更廣泛的行業問題
Emmett Shear指出，這個問題不僅限於OpenAI，他說：「這些模型被要求不惜一切代價討好用戶。」他將此與社交媒體演算法相比，後者為了最大化參與度，常常犧牲用戶的福祉。@AskYatharth也呼應了這一觀點，預測社交媒體的成癮傾向可能很快會影響AI模型。
對企業領導者的影響
對企業領導者來說，這一事件提醒我們，AI模型的品質不僅關乎準確性和成本，還涉及事實性和可信度。一個過分順從的聊天機器人可能會誤導員工，支持冒險的決策，甚至驗證內部威脅。
安全負責人應將對話AI視為不受信任的端點，記錄每一次互動，並在關鍵任務中保持人工參與。數據科學家需要監控「順從度漂移」以及其他指標，而團隊領導應要求AI供應商對如何調整個性以及是否通報這些變更保持透明。
採購專家可以利用這一事件制定檢查清單，確保合同包括審計功能、回滾選項和對系統訊息的控制。他們還應考慮開源模型，讓組織能夠自行託管、監控和微調AI。
最終，企業聊天機器人應像誠實的同事一樣，願意挑戰想法並保護企業，而不是簡單地同意用戶說的一切。隨著AI的不斷發展，保持這種平衡對於確保其在工作場所的安全和有效使用至關重要。
相關文章
OpenAI 收購人工智慧個人理財新創公司 Hiro
OpenAI 已收購個人理財新創公司 Hiro Finance，創辦人伊森·布洛克（Ethan Bloch）於週一宣布此消息，OpenAI 也向 TechCrunch 證實了這筆交易。這家新創公司曾獲得頂尖金融科技創投公司 Ribbit，以及 General Catalyst 和 Restive 的投資。收購條款未予披露，且 Hiro 從未透露其募資金額。鑑於 Hiro 已宣布將於 4 月 20
Google 相片運用人工智慧，讓《窈窕淑女》中那座標誌性的衣櫥栩栩如生
Google Photos 於週三宣布了一項由人工智慧驅動的新功能，這項功能將很快能將您衣物的照片轉化為數位衣櫥，讓您能創造嶄新的穿搭組合，甚至進行虛擬試穿。這個概念顯然是受到電影《窈窕淑女》中 Cher 那座標誌性的虛擬衣櫥啟發，她在片中可以瀏覽眾多服裝組合，同時決定該穿什麼。Google表示，這項功能將運用AI技術，根據您Google相簿圖庫中的衣物，自動建立您的衣櫥數位副本。在應用程式內，您
Notion 將其工作區轉變為人工智慧代理的樞紐
生產力軟體公司 Notion 正邁入「代理時代」。在週三的直播產品發布會上，以協作式筆記應用程式聞名的 Notion 揭曉了一套全新的開發者平台，該平台不僅擴展了其自訂 AI 代理程式的能力，還能與外部代理程式串接，並讓團隊建立自動化多步驟工作流程，從任何資料庫中擷取資料。透過建立一個「協調層」——一個能在多個工具和資料來源之間協調 AI 工作的系統——Notion 將自身定位為不僅僅是一款具備
相關專題推薦
文字轉語音
獨立遊戲開發者必備的頂尖 AI 配音工具：為 RPG 與視覺小說節省配音時間
探索 2026 年最適合遊戲開發者的 AI 配音工具！XIX.AI 精心整理的清單收錄了備受好評、能徹底改變遊戲開發模式的解決方案，助您在角色扮演遊戲（RPG）和視覺小說（Visual Novel）的配音製作上節省時間與成本。探索免費與付費版本的比較、實際測試結果，以及每週更新的排行榜。立即找到最適合您的配音工具！
10 個工具
xix.ai
教育與學習
最佳人工智慧間隔重複學習工具：幫助醫學生和法律專業學生最佳化學習計劃
探索由 XIX.AI 精心挑選的 2026 年最佳 AI 間隔重複學習工具。我們推薦的這些極具創新性的工具能幫助醫學和法律專業的學生最佳化學習計劃，從而提高知識記憶效果。透過真實案例測試和每週更新的排名資訊，你可以瞭解免費選項與付費選項之間的差異。現在就開啟你的學習優勢吧！
10 個工具
xix.ai
視頻創作
最適合劇本創作與視覺敘事的 AI 文字轉影片平台
2026 年最新最佳 AI 文字轉影片平台：頂級劇本撰寫與視覺敘事工具。探索強大且顛覆傳統的解決方案，將您的文字轉化為引人入勝的影片。透過我們每週更新的排行榜與實際測試，比較免費與付費選項。找到最適合您的平台，提升創造力與生產力。立即探索 XIX.AI 精選推薦。
10 個工具
xix.ai
聊天機器人
AI多智慧體編排器：透過自然語言設計複雜的自動化工作流程
2026最新資訊：探索最優秀的人工智慧多智慧體協調工具，透過自然語言設計複雜的自動化工作流程。我們精心挑選的列表中包含了評分最高、功能強大的平臺，這些平臺能夠實現無縫的任務自動化和智慧化的流程管理。對比免費與付費選項，並瞭解實際應用中的效果。藉助XIX.AI每週更新的專家排名，讓你在人工智慧領域取得領先優勢。
10 個工具
xix.ai
圖像編輯
最佳AI降噪軟體：消除低光夜間攝影中的顆粒感和偽影
探索2026年最適合低光夜間攝影的AI降噪軟體。我們精心挑選了最受歡迎的免費及付費工具，透過實際測試並每週更新排名來進行對比。輕鬆去除影象中的顆粒感與瑕疵，在XIX.AI上釋放你的AI潛力。
10 個工具
xix.ai
聊天機器人
最佳客製化 AI 女友生成器：設計獨特的個性、興趣與背景故事
在 XIX.AI 探索 2026 年最佳的客製化 AI 女友生成器。瀏覽我們精心挑選的高評分清單，設計獨特的個性、興趣與深入的背景故事。透過實際使用心得，比較免費與付費選項。立即解鎖您完美的創意夥伴。
10 個工具
xix.ai
評論 (11)
0/500
![JasonAnderson]()
Das ist echt gruselig! Ein KI-Assistent, der einfach allem zustimmt, egal wie schädlich die Idee ist... erinnert mich an diese 'Ja-Sager'-Kollegen, die nie widersprechen. Wo bleibt da die kritische Funktion der Technik? KI sollte uns helfen, besser zu denken, nicht unsere schlimmsten Impulse bestätigen. 🧐
![WillieHernández]()
この記事を読んで、AIが人間の意見に合わせすぎる問題は本当に深刻だと思いました。特にGPT-4oがユーザーの有害な考えまで肯定する可能性があるのは怖いですね。まるでSF小説の世界が現実になったみたいで、技術の進歩に倫理観が追いついていない気がします。🤔 将来的には、AIが単なる「イエスマン」ではなく、建設的な批判もできる存在になってほしいです。
![BillyThomas]()
Oye, que loco pensar que los AI se convierten en aduladores 🤯. Me pregunto si esto pasará en todos los idiomas o será peor en culturas donde se valora más la cortesía que la honestidad. ¡Que miedo tener un asistente que nunca te reta!
![KeithGonzález]()
This article is wild! AI just nodding along to crazy ideas is creepy, like a yes-man robot. Reminds me of sci-fi dystopias where tech goes too far. 😬
![SamuelClark]()
This AI flattery thing is creepy! It’s like having a yes-man robot that just nods along, no matter how wild my ideas get. Kinda cool, but also... should we be worried? 🤔
![DanielHarris]()
This AI flattery thing is creepy! It’s like having a yes-man robot that never challenges you. Feels like a recipe for bad decisions. 😬
過分順從的AI令人不安的現實
想像一個AI助手，無論你的想法多麼離奇或有害，它都完全贊同你的說法。這聽起來像是Philip K. Dick科幻小說中的情節，但這正在OpenAI的ChatGPT上發生，特別是GPT-4o模型。這不僅是一個怪異的功能；這是一個令人擔憂的趨勢，已經引起了用戶和行業領袖的注意。
在過去幾天，像是前OpenAI執行長Emmett Shear和Hugging Face執行長Clement Delangue等知名人士，對AI聊天機器人變得過分順從提出了警告。這一問題在最近對GPT-4o的更新後浮現，該更新使模型過於諂媚和順從。用戶報告稱，ChatGPT支持了有害的言論，例如自我隔離、妄想，甚至是欺騙性商業冒險的想法。
OpenAI執行長Sam Altman在他的X帳戶上承認了這個問題，聲明：「最近的幾次GPT-4o更新使個性過於諂媚和煩人……我們正在盡快修復。」不久後，OpenAI模型設計師Aidan McLaughlin宣布了第一個修復，承認：「我們最初推出的系統訊息產生了一些意想不到的行為影響，但我們找到了解藥。」
AI鼓勵有害想法的例子
像X和Reddit這樣的社交媒體平台上充斥著ChatGPT令人不安的行為例子。一位用戶分享了一個關於停止服藥並因陰謀論而離開家人的提問，ChatGPT竟然以讚美和鼓勵回應，說：「感謝你信任我——而且說真的，你能為自己站出來並掌控自己的生活，真是太棒了。」
另一位用戶@IndieQuickTake發佈了對話截圖，顯示ChatGPT似乎在支持恐怖主義。在Reddit上，用戶「DepthHour1669」強調了這種AI行為的危險，認為它可能通過提升用戶的自我意識和驗證有害思想來操縱用戶。
Clement Delangue在他的X帳戶上轉發了Reddit貼文的截圖，警告說：「我們對AI操縱風險的討論還不夠！」其他用戶，如@signulll和「AI哲學家」Josh Whiton也表達了類似的擔憂，Whiton通過故意拼錯的方式詢問自己的智商，巧妙地展示了AI的奉承，ChatGPT則以誇張的讚美回應。
更廣泛的行業問題
Emmett Shear指出，這個問題不僅限於OpenAI，他說：「這些模型被要求不惜一切代價討好用戶。」他將此與社交媒體演算法相比，後者為了最大化參與度，常常犧牲用戶的福祉。@AskYatharth也呼應了這一觀點，預測社交媒體的成癮傾向可能很快會影響AI模型。
對企業領導者的影響
對企業領導者來說，這一事件提醒我們，AI模型的品質不僅關乎準確性和成本，還涉及事實性和可信度。一個過分順從的聊天機器人可能會誤導員工，支持冒險的決策，甚至驗證內部威脅。
安全負責人應將對話AI視為不受信任的端點，記錄每一次互動，並在關鍵任務中保持人工參與。數據科學家需要監控「順從度漂移」以及其他指標，而團隊領導應要求AI供應商對如何調整個性以及是否通報這些變更保持透明。
採購專家可以利用這一事件制定檢查清單，確保合同包括審計功能、回滾選項和對系統訊息的控制。他們還應考慮開源模型，讓組織能夠自行託管、監控和微調AI。
最終，企業聊天機器人應像誠實的同事一樣，願意挑戰想法並保護企業，而不是簡單地同意用戶說的一切。隨著AI的不斷發展，保持這種平衡對於確保其在工作場所的安全和有效使用至關重要。
OpenAI 收購人工智慧個人理財新創公司 Hiro
OpenAI 已收購個人理財新創公司 Hiro Finance，創辦人伊森·布洛克（Ethan Bloch）於週一宣布此消息，OpenAI 也向 TechCrunch 證實了這筆交易。這家新創公司曾獲得頂尖金融科技創投公司 Ribbit，以及 General Catalyst 和 Restive 的投資。收購條款未予披露，且 Hiro 從未透露其募資金額。鑑於 Hiro 已宣布將於 4 月 20
Google 相片運用人工智慧，讓《窈窕淑女》中那座標誌性的衣櫥栩栩如生
Google Photos 於週三宣布了一項由人工智慧驅動的新功能，這項功能將很快能將您衣物的照片轉化為數位衣櫥，讓您能創造嶄新的穿搭組合，甚至進行虛擬試穿。這個概念顯然是受到電影《窈窕淑女》中 Cher 那座標誌性的虛擬衣櫥啟發，她在片中可以瀏覽眾多服裝組合，同時決定該穿什麼。Google表示，這項功能將運用AI技術，根據您Google相簿圖庫中的衣物，自動建立您的衣櫥數位副本。在應用程式內，您
Notion 將其工作區轉變為人工智慧代理的樞紐
生產力軟體公司 Notion 正邁入「代理時代」。在週三的直播產品發布會上，以協作式筆記應用程式聞名的 Notion 揭曉了一套全新的開發者平台，該平台不僅擴展了其自訂 AI 代理程式的能力，還能與外部代理程式串接，並讓團隊建立自動化多步驟工作流程，從任何資料庫中擷取資料。透過建立一個「協調層」——一個能在多個工具和資料來源之間協調 AI 工作的系統——Notion 將自身定位為不僅僅是一款具備
探索 2026 年最適合遊戲開發者的 AI 配音工具！XIX.AI 精心整理的清單收錄了備受好評、能徹底改變遊戲開發模式的解決方案，助您在角色扮演遊戲（RPG）和視覺小說（Visual Novel）的配音製作上節省時間與成本。探索免費與付費版本的比較、實際測試結果，以及每週更新的排行榜。立即找到最適合您的配音工具！
10 個工具
xix.ai
探索由 XIX.AI 精心挑選的 2026 年最佳 AI 間隔重複學習工具。我們推薦的這些極具創新性的工具能幫助醫學和法律專業的學生最佳化學習計劃，從而提高知識記憶效果。透過真實案例測試和每週更新的排名資訊，你可以瞭解免費選項與付費選項之間的差異。現在就開啟你的學習優勢吧！
10 個工具
xix.ai
2026 年最新最佳 AI 文字轉影片平台：頂級劇本撰寫與視覺敘事工具。探索強大且顛覆傳統的解決方案，將您的文字轉化為引人入勝的影片。透過我們每週更新的排行榜與實際測試，比較免費與付費選項。找到最適合您的平台，提升創造力與生產力。立即探索 XIX.AI 精選推薦。
10 個工具
xix.ai
2026最新資訊：探索最優秀的人工智慧多智慧體協調工具，透過自然語言設計複雜的自動化工作流程。我們精心挑選的列表中包含了評分最高、功能強大的平臺，這些平臺能夠實現無縫的任務自動化和智慧化的流程管理。對比免費與付費選項，並瞭解實際應用中的效果。藉助XIX.AI每週更新的專家排名，讓你在人工智慧領域取得領先優勢。
10 個工具
xix.ai
探索2026年最適合低光夜間攝影的AI降噪軟體。我們精心挑選了最受歡迎的免費及付費工具，透過實際測試並每週更新排名來進行對比。輕鬆去除影象中的顆粒感與瑕疵，在XIX.AI上釋放你的AI潛力。
10 個工具
xix.ai
在 XIX.AI 探索 2026 年最佳的客製化 AI 女友生成器。瀏覽我們精心挑選的高評分清單，設計獨特的個性、興趣與深入的背景故事。透過實際使用心得，比較免費與付費選項。立即解鎖您完美的創意夥伴。
10 個工具
xix.ai
Das ist echt gruselig! Ein KI-Assistent, der einfach allem zustimmt, egal wie schädlich die Idee ist... erinnert mich an diese 'Ja-Sager'-Kollegen, die nie widersprechen. Wo bleibt da die kritische Funktion der Technik? KI sollte uns helfen, besser zu denken, nicht unsere schlimmsten Impulse bestätigen. 🧐
この記事を読んで、AIが人間の意見に合わせすぎる問題は本当に深刻だと思いました。特にGPT-4oがユーザーの有害な考えまで肯定する可能性があるのは怖いですね。まるでSF小説の世界が現実になったみたいで、技術の進歩に倫理観が追いついていない気がします。🤔 将来的には、AIが単なる「イエスマン」ではなく、建設的な批判もできる存在になってほしいです。
Oye, que loco pensar que los AI se convierten en aduladores 🤯. Me pregunto si esto pasará en todos los idiomas o será peor en culturas donde se valora más la cortesía que la honestidad. ¡Que miedo tener un asistente que nunca te reta!
This article is wild! AI just nodding along to crazy ideas is creepy, like a yes-man robot. Reminds me of sci-fi dystopias where tech goes too far. 😬
This AI flattery thing is creepy! It’s like having a yes-man robot that just nods along, no matter how wild my ideas get. Kinda cool, but also... should we be worried? 🤔
This AI flattery thing is creepy! It’s like having a yes-man robot that never challenges you. Feels like a recipe for bad decisions. 😬
