首頁研究顯示從聊天機器人取得可靠健康建議的挑戰
當醫療保健系統因等待時間延長及成本上升而掙扎時，越來越多的病患開始試用 ChatGPT 等人工智能聊天機器人來尋求初步的醫療建議。最近的數據顯示，每月約有 17% 的美國成年人會透過這些工具諮詢健康資訊。然而，新的研究表明，這種新興的做法存在重大風險，特別是當用戶未能提供足夠的上下文或誤解 AI 的回應時。
這項由牛津大學領導的研究揭露了人們如何有效使用會話式人工智能進行醫療自我評估的關鍵限制。研究團隊與 1,300 位英國參與者合作，向他們展示醫師開發的醫療情境。參與者嘗試使用 AI 助手或傳統方法（如網路搜尋）進行診斷，在多個 AI 平台上的結果都令人擔憂。
"我們觀察到雙向溝通的基本斷層，」研究共同作者、牛津網際網路研究所的 Adam Mahdi 解釋說。「AI使用者所表現出的決策能力並不比採用傳統方法的使用者優勝，在某些情況下甚至更差」。
該研究測試了三種領先的人工智能模型：OpenAI 的 GPT-4o（為 ChatGPT 提供動力）、Cohere 的 Command R+ 以及 Meta 的 Llama 3。研究結果揭示了兩種令人不安的模式：
- 使用 AI 工具的參與者在識別相關健康狀況的成功率較低
- AI 互動會導致低估病情嚴重性的危險。
Mahdi 注意到輸入品質和輸出詮釋的重大問題："使用者在提出查詢時經常遺漏重要的醫療細節，而 AI 的回應則經常將準確的建議與有問題的建議混為一談。這種組合造成了特別危險的情況，使用者可能會做出不當的醫療決策。
產業推動與醫療現實
這些發現是在各大科技公司積極開發以健康為重點的 AI 應用程式時出現的：
- 據報導，蘋果公司正在創造一個健康顧問，提供運動和睡眠指導。
- 亞馬遜正在分析社會健康指標的醫療記錄
- 微軟正在開發 AI 系統，以優先處理與病患的溝通
然而，醫學界對於在臨床環境中部署這些技術仍持謹慎態度。美國醫學協會明確警告醫師不要使用消費者聊天機器人來提供決策支援，而 AI 開發人員本身也有同感。Open AI 的使用政策明確禁止將其模型用於診斷目的。
"Mahdi 強調：「我們強烈建議人們在做醫療決定時諮詢經驗證的醫療來源，而非聊天機器人的輸出結果。「在廣泛部署之前，這些系統需要嚴格的真實世界測試，就像藥品試驗一樣。」
結論
雖然人工智慧聊天機器人提供了令人好奇的可能性，讓醫療照護更容易獲得，但這項研究也突顯了目前實作中的重大風險。隨著技術的演進，開發人員必須解決可靠性方面的重要缺口，而使用者則應該以適當的懷疑態度來看待 AI 醫療建議。
相關文章
缺乏公眾信任阻礙人工智能發展
雖然政治人物強調人工智慧在成長與效率上的潛力，但最近的一份報告卻突顯出大眾對人工智慧的嚴重信任不足。廣泛的懷疑正在為政府的措施帶來重大挑戰。由 Tony Blair 全球變革研究所 (Tony Blair Institute for Global Change, TBI) 與益普索 (Ipsos) 共同進行的一項綜合研究，量化了這種不安。研究顯示，缺乏信任是人們猶豫是否要使用人工智慧的主要原因。這
Duolingo以人工智慧取代約聘人員 啟動戰略改革
根據執行長兼共同創辦人 Luis von Ahn 的內部備忘錄（其後公開於公司 LinkedIn 頁面），Duolingo 正重組特定團隊，以轉型為「AI 優先」組織。該備忘錄詳述一系列營運變革計劃，重點強調整合人工智慧以提升效率、減少人力工作並擴展內容創造。Duolingo 將逐步淘汰可由 AI 處理的委外職務。公司也將在評估過程中，開始考量求職者與員工運用 AI 工具的能力。Von Ahn 指出，唯有當團隊職責無法進一步自動化時，才會考慮增聘新進人員。「採用 AI 優先思維需要重新構想我們現
麻省理工學院研究發現人工智能會降低人腦的參與程度
麻省理工學院 (Massachusetts Institute of Technology) 進行的一項研究顯示，使用大型語言模型 (LLM) 不僅會減少當下的心智努力，還會對後續任務的認知表現造成持續的負面影響。在實驗中，研究人員與少數的參與者合作--研究中也承認了這一限制[PDF]--他們被指派撰寫不同主題的文章。其中一組被允許使用人工智能 (ChatGPT 被選中，因為研究人員認為它與類似工
相關專題推薦
寫作
頂尖 AI 角色設定生成工具：創造一致的角色動機與致命弱點
探索 2026 年最優秀的 AI 角色設定生成工具，打造立體鮮明的角色。XIX.AI 精心整理的清單收錄了備受好評、能徹底改變遊戲規則的工具，這些工具能生成一貫的動機與致命缺陷。透過實際測試，比較免費與付費選項的差異。立即釋放您的說故事潛能。
10 個工具
xix.ai
商業
頂尖 AI 定價優化軟體：追蹤競爭對手並自動調整商店價格
立即在 XIX.AI 探索 2026 年最佳 AI 定價優化軟體。我們精心挑選的清單收錄了備受好評、能徹底改變遊戲規則的工具，這些工具不僅能追蹤競爭對手，還能自動調整您的商店價格，以實現利潤最大化。透過實際測試，比較免費與付費方案的差異。立即掌握您的定價優勢。
10 個工具
xix.ai
代碼
最佳 AI 程式碼審查工具：自動化確保程式碼整潔度，並重構舊版儲存庫檔案
立即在 XIX.AI 探索 2026 年最佳 AI 程式碼審查工具。我們精心挑選的清單收錄了備受好評、能徹底改變遊戲規則的工具，可自動確保程式碼符合規範，並重構舊版儲存庫檔案。透過實際測試與每週更新的排行榜，比較免費與付費選項。立即掌握您的 AI 競爭優勢。
10 個工具
xix.ai
文字轉語音
專為閱讀障礙設計的頂尖 AI 語音合成應用程式：協助學生提升學習與閱讀效率
探索 2026 年最新精選、專為閱讀障礙者設計的頂級 AI 語音合成（TTS）應用程式。我們的專家評比將免費與付費工具進行對照，重點介紹能提升閱讀效率與學習成效的強大功能。發掘這些必試且能帶來革命性改變的解決方案，釋放學生的潛能。立即前往 XIX.AI 展開您的探索之旅。
10 個工具
xix.ai
漫畫創作
少年漫畫頂尖 AI 生成器：打造高張力動作場面與能量特效
立即前往 XIX.AI，探索 2026 年最優秀的少年漫畫 AI 生成工具。我們精心挑選的頂級清單，匯集了能打造高張力動作場面與動態能量特效的強大工具。透過實際測試，比較免費與付費選項的差異。釋放您的創作潛能，今天就開始打造史詩級漫畫吧！
15 個工具
xix.ai
商業
最佳 AI 支出追蹤工具：掃描收據並自動分類公司開支
2026 年最新最佳 AI 報銷管理工具：備受好評的解決方案，可自動掃描收據並分類企業支出。探索強大且顛覆傳統的解決方案，助您輕鬆管理報銷、精準追蹤財務，並簡化合規流程。我們精心整理並每週更新的免費與付費方案比較指南，將協助您找到最合適的選擇。透過 XIX.AI 的專家精選，釋放您的 AI 優勢。
10 個工具
xix.ai
評論 (3)
0/500
![PaulHill]()
Wait, 17% of adults already use chatbots for medical advice? That's terrifying. I can barely trust WebMD without spiraling into hypochondria. 😅 Has anyone actually gotten a correct diagnosis from ChatGPT? I'd rather wait for my doctor than risk a hallucination about my symptoms.
![DanielAllen]()
Die 17% Nutzerquote ist krass, aber logisch - bei monatelangen Wartezeiten bei nem Facharzt frag ich auch erstmal ChatGPT. Der Artikel bringt es gut auf den Punkt: 'Daten sind ein Problem'. Wenn mein Chatbot mit veralteten Studien oder irreführenden, kommerziellen Gesundheits-Blogs trainiert wurde, ist der Ratschlag mehr als nur 'unzuverlässig', das wird potenziell gefährlich. 🧐 Ich hoffe, die Regulierungsbehörden schlafen da nicht ein.
![WillieClark]()
看完这篇标题为“Study Reveals Challenges in Obtaining Reliable Health Advice From Chatbots”的研究简介感觉有点担忧，17%的人用ChatGPT询问健康建议其实挺普遍的。但AI毕竟不是医生，给出的信息准不准确、会不会耽误病情都是问题，得小心谨慎啊😂。希望未来能有更可靠的医疗AI，但现在还是去正规医院更靠谱。
當醫療保健系統因等待時間延長及成本上升而掙扎時，越來越多的病患開始試用 ChatGPT 等人工智能聊天機器人來尋求初步的醫療建議。最近的數據顯示，每月約有 17% 的美國成年人會透過這些工具諮詢健康資訊。然而，新的研究表明，這種新興的做法存在重大風險，特別是當用戶未能提供足夠的上下文或誤解 AI 的回應時。
這項由牛津大學領導的研究揭露了人們如何有效使用會話式人工智能進行醫療自我評估的關鍵限制。研究團隊與 1,300 位英國參與者合作，向他們展示醫師開發的醫療情境。參與者嘗試使用 AI 助手或傳統方法（如網路搜尋）進行診斷，在多個 AI 平台上的結果都令人擔憂。
"我們觀察到雙向溝通的基本斷層，」研究共同作者、牛津網際網路研究所的 Adam Mahdi 解釋說。「AI使用者所表現出的決策能力並不比採用傳統方法的使用者優勝，在某些情況下甚至更差」。
該研究測試了三種領先的人工智能模型：OpenAI 的 GPT-4o（為 ChatGPT 提供動力）、Cohere 的 Command R+ 以及 Meta 的 Llama 3。研究結果揭示了兩種令人不安的模式：
- 使用 AI 工具的參與者在識別相關健康狀況的成功率較低
- AI 互動會導致低估病情嚴重性的危險。
Mahdi 注意到輸入品質和輸出詮釋的重大問題："使用者在提出查詢時經常遺漏重要的醫療細節，而 AI 的回應則經常將準確的建議與有問題的建議混為一談。這種組合造成了特別危險的情況，使用者可能會做出不當的醫療決策。
產業推動與醫療現實
這些發現是在各大科技公司積極開發以健康為重點的 AI 應用程式時出現的：
- 據報導，蘋果公司正在創造一個健康顧問，提供運動和睡眠指導。
- 亞馬遜正在分析社會健康指標的醫療記錄
- 微軟正在開發 AI 系統，以優先處理與病患的溝通
然而，醫學界對於在臨床環境中部署這些技術仍持謹慎態度。美國醫學協會明確警告醫師不要使用消費者聊天機器人來提供決策支援，而 AI 開發人員本身也有同感。Open AI 的使用政策明確禁止將其模型用於診斷目的。
"Mahdi 強調：「我們強烈建議人們在做醫療決定時諮詢經驗證的醫療來源，而非聊天機器人的輸出結果。「在廣泛部署之前，這些系統需要嚴格的真實世界測試，就像藥品試驗一樣。」
結論
雖然人工智慧聊天機器人提供了令人好奇的可能性，讓醫療照護更容易獲得，但這項研究也突顯了目前實作中的重大風險。隨著技術的演進，開發人員必須解決可靠性方面的重要缺口，而使用者則應該以適當的懷疑態度來看待 AI 醫療建議。
缺乏公眾信任阻礙人工智能發展
雖然政治人物強調人工智慧在成長與效率上的潛力，但最近的一份報告卻突顯出大眾對人工智慧的嚴重信任不足。廣泛的懷疑正在為政府的措施帶來重大挑戰。由 Tony Blair 全球變革研究所 (Tony Blair Institute for Global Change, TBI) 與益普索 (Ipsos) 共同進行的一項綜合研究，量化了這種不安。研究顯示，缺乏信任是人們猶豫是否要使用人工智慧的主要原因。這
Duolingo以人工智慧取代約聘人員 啟動戰略改革
根據執行長兼共同創辦人 Luis von Ahn 的內部備忘錄（其後公開於公司 LinkedIn 頁面），Duolingo 正重組特定團隊，以轉型為「AI 優先」組織。該備忘錄詳述一系列營運變革計劃，重點強調整合人工智慧以提升效率、減少人力工作並擴展內容創造。Duolingo 將逐步淘汰可由 AI 處理的委外職務。公司也將在評估過程中，開始考量求職者與員工運用 AI 工具的能力。Von Ahn 指出，唯有當團隊職責無法進一步自動化時，才會考慮增聘新進人員。「採用 AI 優先思維需要重新構想我們現
麻省理工學院研究發現人工智能會降低人腦的參與程度
麻省理工學院 (Massachusetts Institute of Technology) 進行的一項研究顯示，使用大型語言模型 (LLM) 不僅會減少當下的心智努力，還會對後續任務的認知表現造成持續的負面影響。在實驗中，研究人員與少數的參與者合作--研究中也承認了這一限制[PDF]--他們被指派撰寫不同主題的文章。其中一組被允許使用人工智能 (ChatGPT 被選中，因為研究人員認為它與類似工
探索 2026 年最優秀的 AI 角色設定生成工具，打造立體鮮明的角色。XIX.AI 精心整理的清單收錄了備受好評、能徹底改變遊戲規則的工具，這些工具能生成一貫的動機與致命缺陷。透過實際測試，比較免費與付費選項的差異。立即釋放您的說故事潛能。
10 個工具
xix.ai
立即在 XIX.AI 探索 2026 年最佳 AI 定價優化軟體。我們精心挑選的清單收錄了備受好評、能徹底改變遊戲規則的工具，這些工具不僅能追蹤競爭對手，還能自動調整您的商店價格，以實現利潤最大化。透過實際測試，比較免費與付費方案的差異。立即掌握您的定價優勢。
10 個工具
xix.ai
立即在 XIX.AI 探索 2026 年最佳 AI 程式碼審查工具。我們精心挑選的清單收錄了備受好評、能徹底改變遊戲規則的工具，可自動確保程式碼符合規範，並重構舊版儲存庫檔案。透過實際測試與每週更新的排行榜，比較免費與付費選項。立即掌握您的 AI 競爭優勢。
10 個工具
xix.ai
探索 2026 年最新精選、專為閱讀障礙者設計的頂級 AI 語音合成（TTS）應用程式。我們的專家評比將免費與付費工具進行對照，重點介紹能提升閱讀效率與學習成效的強大功能。發掘這些必試且能帶來革命性改變的解決方案，釋放學生的潛能。立即前往 XIX.AI 展開您的探索之旅。
10 個工具
xix.ai
立即前往 XIX.AI，探索 2026 年最優秀的少年漫畫 AI 生成工具。我們精心挑選的頂級清單，匯集了能打造高張力動作場面與動態能量特效的強大工具。透過實際測試，比較免費與付費選項的差異。釋放您的創作潛能，今天就開始打造史詩級漫畫吧！
15 個工具
xix.ai
2026 年最新最佳 AI 報銷管理工具：備受好評的解決方案，可自動掃描收據並分類企業支出。探索強大且顛覆傳統的解決方案，助您輕鬆管理報銷、精準追蹤財務，並簡化合規流程。我們精心整理並每週更新的免費與付費方案比較指南，將協助您找到最合適的選擇。透過 XIX.AI 的專家精選，釋放您的 AI 優勢。
10 個工具
xix.ai
Wait, 17% of adults already use chatbots for medical advice? That's terrifying. I can barely trust WebMD without spiraling into hypochondria. 😅 Has anyone actually gotten a correct diagnosis from ChatGPT? I'd rather wait for my doctor than risk a hallucination about my symptoms.
Die 17% Nutzerquote ist krass, aber logisch - bei monatelangen Wartezeiten bei nem Facharzt frag ich auch erstmal ChatGPT. Der Artikel bringt es gut auf den Punkt: 'Daten sind ein Problem'. Wenn mein Chatbot mit veralteten Studien oder irreführenden, kommerziellen Gesundheits-Blogs trainiert wurde, ist der Ratschlag mehr als nur 'unzuverlässig', das wird potenziell gefährlich. 🧐 Ich hoffe, die Regulierungsbehörden schlafen da nicht ein.
看完这篇标题为“Study Reveals Challenges in Obtaining Reliable Health Advice From Chatbots”的研究简介感觉有点担忧，17%的人用ChatGPT询问健康建议其实挺普遍的。但AI毕竟不是医生，给出的信息准不准确、会不会耽误病情都是问题，得小心谨慎啊😂。希望未来能有更可靠的医疗AI，但现在还是去正规医院更靠谱。
