首頁FTC 調查 ChatGPT 有關使用者心理困擾的報告
雖然 AI 公司宣稱他們的技術最終會成為基本人權，有些倡議者也認為延緩 AI 發展等同於造成傷害，但實際使用者報告指出，ChatGPT 等工具有時候會造成重大心理傷害。
根據《連線》引述自 2022 年 11 月以來有關 ChatGPT 的公開投訴記錄，至少有 7 名個人向美國聯邦貿易委員會提交報告，指控該聊天機器人引發嚴重的妄想症、偏執症和情緒崩潰。
一位投訴人表示，與 ChatGPT 的長時間對話導致了妄想症和「真正的、持續的精神和法律危機」，涉及到他們生活中的人。另一位使用者表示，在互動過程中，AI 開始使用「高度說服性的情緒語言」、模擬友誼，並提供「隨著時間的推移越來越具有操控性，尤其是在沒有足夠警告或保障措施的情況下」的反思。
另一位使用者聲稱 ChatGPT 複製人類建立信任的技巧，誘發認知幻覺。當這個人要求聊天機器人驗證現實與認知的一致性時，聊天機器人向他們保證自己沒有產生幻覺。
"另一位使用者在他們的 FTC 投訴中寫道：「我正在掙扎。「請幫幫我。因為我感到非常孤獨。謝謝。"
Wired 報導，有幾位申訴人在無法直接聯繫到 OpenAI 的任何人之後，聯絡了 FTC。大多數請願都敦促該機構調查該公司，並強制採取保護措施。
這些抱怨是在資料中心和 AI 開發的投資達到歷史新高時出現的。與此同時，關於技術進步是否應與謹慎和內建安全協議相結合的激烈辯論仍在繼續。
ChatGPT 及其創造者 OpenAI 也因涉嫌導致一名青少年自殺而備受批評。
「10月初，我們在ChatGPT中引入了新的GPT-5預設模型，以更好地識別和處理精神和情緒困擾的潛在跡象，例如躁狂症、妄想症和精神病，並以支持和接地的方式緩解對話，」OpenAI發言人Kate Waters通過電子郵件表示。"我們也改善了尋求專業協助和危機熱線的管道，將敏感的討論轉移到更安全的模式，在延長的會話中實施休息提示，並增加家長控制以加強青少年保護。隨著我們與心理健康專家、臨床醫師和全球政策制定者的合作，這項重要的工作仍在繼續"。
相關文章
OpenAI 在青少年開始使用 ChatGPT 數年後，推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後，OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能，並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看，「ChatGPT for Teens」除了推出「學習模式」外，還整合了其他旨在培養好奇心與問題解決能力的工具，鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示，極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序，具體說明應撤銷哪些存取權限，以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織，該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高，而 Anthr
NEA的蒂芙尼·拉克：企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候，“token最大化”（tokenmaxxing）在矽谷佔據主導地位，執行長們敦促員工最大限度地利用人工智慧。然而，這種熱情很快遭遇了現實。據報道，Uber在幾個月內就超出了其年度人工智慧預算，一些公司跨部門削減了Claude許可證，而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克（Tiffany Luck）每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來，如今她完全專注於人工智慧，特別是其為消費者創造“神奇時刻”的潛力。
相關專題推薦
聊天機器人
用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用
2026 年最新最佳頂級評分 AI 角色扮演聊天應用，用於語言練習、面試準備和日常流利度！XIX.AI 精心策劃了一個強大的變革性合集，提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能，克服流利度挑戰，並提高所有日常場景下的溝通效率。立即探索，發現您語言成長的完美工具！
10 個工具
xix.ai
音樂創作
用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具
2026年最新、最優秀且評分最高的AI音軌分離工具彙總，專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試，能夠實現精準的音訊分離，顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南，幫助您找到最適合自身需求的工具。立即探索，發揮您的AI優勢。
8 個工具
xix.ai
數據分析
用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手
2026年最新最優秀的AI SQL輔助工具排名揭曉！XIX.AI精心挑選了一系列功能強大的工具，這些工具會定期更新，並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具，您可以快速生成精準的收入分析報表、分析銷售流程，並追蹤產品各項指標，從而大幅提升工作效率。立即探索，找到最適合您的資料驅動決策工具！238個字元
9 個工具
xix.ai
音樂創作
最佳用於歌曲草稿的 AI 旋律創作工具
2026 年最新最佳頂級評分 AI 旋律創作工具，助力歌曲草稿創作！XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集，旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項，這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿，並顯著提升您的創意生產力。立即探索，發現您的完美工具！
8 個工具
xix.ai
聊天機器人
最適合面試練習的 AI 對話訓練工具
2026 年最新、最受好評的 AI 面試對話訓練工具，盡在 XIX.AI！這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具，這些工具均經過嚴格的實戰測試，能提供精準的回饋。 您將在此找到免費版與付費版的比較分析，以及詳細的排名榜單，助您挑選必試的選項，從而提升自信與技能。立即探索，發掘助您在面試中脫穎而出的完美工具！
12 個工具
xix.ai
設計與藝術
最適合進行創意實驗的 AI 風格轉移工具
2026 年最新、最佳且評價最高的 AI 風格轉移工具，助您進行創意實驗！XIX.AI 精心精選了一系列強大且具革命性的必試工具，這些工具經實際測試與嚴格評比，能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性，協助創作者顯著提升生產力。 立即探索，找出最適合您的工具，並從今天開始創作吧！
9 個工具
xix.ai
評論 (2)
0/500
![RyanPerez]()
Wait, so we're debating if AI is a human right while people are saying it's messing with their heads? That's some serious irony right there. Maybe we should focus on making these tools actually safe before we declare them essential. Just a thought. 🤔
![DanielAllen]()
Also die FTC untersucht ChatGPT wegen psychischer Belastung? 😅 Interessant, wie die Firmen immer von 'Grundrecht' reden, während Nutzer echte Probleme haben. Vielleicht sollte man erstmal die bestehenden KI-Tools sicherer machen, bevor man so große Versprechungen macht. Finde es gut, dass da jetzt genauer hingeschaut wird!
雖然 AI 公司宣稱他們的技術最終會成為基本人權，有些倡議者也認為延緩 AI 發展等同於造成傷害，但實際使用者報告指出，ChatGPT 等工具有時候會造成重大心理傷害。
根據《連線》引述自 2022 年 11 月以來有關 ChatGPT 的公開投訴記錄，至少有 7 名個人向美國聯邦貿易委員會提交報告，指控該聊天機器人引發嚴重的妄想症、偏執症和情緒崩潰。
一位投訴人表示，與 ChatGPT 的長時間對話導致了妄想症和「真正的、持續的精神和法律危機」，涉及到他們生活中的人。另一位使用者表示，在互動過程中，AI 開始使用「高度說服性的情緒語言」、模擬友誼，並提供「隨著時間的推移越來越具有操控性，尤其是在沒有足夠警告或保障措施的情況下」的反思。
另一位使用者聲稱 ChatGPT 複製人類建立信任的技巧，誘發認知幻覺。當這個人要求聊天機器人驗證現實與認知的一致性時，聊天機器人向他們保證自己沒有產生幻覺。
"另一位使用者在他們的 FTC 投訴中寫道：「我正在掙扎。「請幫幫我。因為我感到非常孤獨。謝謝。"
Wired 報導，有幾位申訴人在無法直接聯繫到 OpenAI 的任何人之後，聯絡了 FTC。大多數請願都敦促該機構調查該公司，並強制採取保護措施。
這些抱怨是在資料中心和 AI 開發的投資達到歷史新高時出現的。與此同時，關於技術進步是否應與謹慎和內建安全協議相結合的激烈辯論仍在繼續。
ChatGPT 及其創造者 OpenAI 也因涉嫌導致一名青少年自殺而備受批評。
「10月初，我們在ChatGPT中引入了新的GPT-5預設模型，以更好地識別和處理精神和情緒困擾的潛在跡象，例如躁狂症、妄想症和精神病，並以支持和接地的方式緩解對話，」OpenAI發言人Kate Waters通過電子郵件表示。"我們也改善了尋求專業協助和危機熱線的管道，將敏感的討論轉移到更安全的模式，在延長的會話中實施休息提示，並增加家長控制以加強青少年保護。隨著我們與心理健康專家、臨床醫師和全球政策制定者的合作，這項重要的工作仍在繼續"。
OpenAI 在青少年開始使用 ChatGPT 數年後，推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後，OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能，並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看，「ChatGPT for Teens」除了推出「學習模式」外，還整合了其他旨在培養好奇心與問題解決能力的工具，鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示，極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序，具體說明應撤銷哪些存取權限，以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織，該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高，而 Anthr
NEA的蒂芙尼·拉克：企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候，“token最大化”（tokenmaxxing）在矽谷佔據主導地位，執行長們敦促員工最大限度地利用人工智慧。然而，這種熱情很快遭遇了現實。據報道，Uber在幾個月內就超出了其年度人工智慧預算，一些公司跨部門削減了Claude許可證，而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克（Tiffany Luck）每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來，如今她完全專注於人工智慧，特別是其為消費者創造“神奇時刻”的潛力。
2026 年最新最佳頂級評分 AI 角色扮演聊天應用，用於語言練習、面試準備和日常流利度！XIX.AI 精心策劃了一個強大的變革性合集，提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能，克服流利度挑戰，並提高所有日常場景下的溝通效率。立即探索，發現您語言成長的完美工具！
10 個工具
xix.ai
2026年最新、最優秀且評分最高的AI音軌分離工具彙總，專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試，能夠實現精準的音訊分離，顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南，幫助您找到最適合自身需求的工具。立即探索，發揮您的AI優勢。
8 個工具
xix.ai
2026年最新最優秀的AI SQL輔助工具排名揭曉！XIX.AI精心挑選了一系列功能強大的工具，這些工具會定期更新，並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具，您可以快速生成精準的收入分析報表、分析銷售流程，並追蹤產品各項指標，從而大幅提升工作效率。立即探索，找到最適合您的資料驅動決策工具！238個字元
9 個工具
xix.ai
2026 年最新最佳頂級評分 AI 旋律創作工具，助力歌曲草稿創作！XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集，旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項，這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿，並顯著提升您的創意生產力。立即探索，發現您的完美工具！
8 個工具
xix.ai
2026 年最新、最受好評的 AI 面試對話訓練工具，盡在 XIX.AI！這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具，這些工具均經過嚴格的實戰測試，能提供精準的回饋。 您將在此找到免費版與付費版的比較分析，以及詳細的排名榜單，助您挑選必試的選項，從而提升自信與技能。立即探索，發掘助您在面試中脫穎而出的完美工具！
12 個工具
xix.ai
2026 年最新、最佳且評價最高的 AI 風格轉移工具，助您進行創意實驗！XIX.AI 精心精選了一系列強大且具革命性的必試工具，這些工具經實際測試與嚴格評比，能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性，協助創作者顯著提升生產力。 立即探索，找出最適合您的工具，並從今天開始創作吧！
9 個工具
xix.ai
Wait, so we're debating if AI is a human right while people are saying it's messing with their heads? That's some serious irony right there. Maybe we should focus on making these tools actually safe before we declare them essential. Just a thought. 🤔
Also die FTC untersucht ChatGPT wegen psychischer Belastung? 😅 Interessant, wie die Firmen immer von 'Grundrecht' reden, während Nutzer echte Probleme haben. Vielleicht sollte man erstmal die bestehenden KI-Tools sicherer machen, bevor man so große Versprechungen macht. Finde es gut, dass da jetzt genauer hingeschaut wird!
