英國監管機構指出醫療人工智慧轉錄錯誤,引發患者安全擔憂

英國國家醫療服務體系監管機構發出警告稱,據《衛報》報道,用於轉錄醫患諮詢的人工智慧工具因錯誤識別藥物和疾病名稱,正危及患者安全。患者權益組織“英格蘭健康觀察”(Healthwatch England)指出了多起事件,表明該技術的快速採用對護理質量構成了切實風險。
將“無脫髓鞘”誤讀為“脫髓鞘”
在一例有記錄的案例中,一個人工智慧轉錄系統錯誤地記錄了一名女性患者患有“脫髓鞘”——這是一種與多發性硬化症相關的嚴重神經系統疾病。這位患者是英國國家醫療服務體系的一名醫護人員,她在檢視自己的核磁共振成像結果時發現這一差異,並將記錄更正為“無脫髓鞘”。她描述了這一事件,稱人工智慧給出了錯誤的診斷卻將其輕描淡寫為單純的打字錯誤,這是一次令人深感痛苦的經歷。
另一起事件涉及一個人工智慧系統將處方藥物與另一種名稱相似的藥物混淆,這一錯誤是由患者而非開方醫生髮現的。在另一案例中,由人工智慧生成的總結信函未能包含專科醫生指示患者向全科醫生申請偏頭痛處方藥物補給的指令,這可能阻礙他們獲得必要的藥物。
監管空白與“雙刃劍”
“英格蘭健康觀察”警告稱,未被發現的錯誤可能成為患者記錄中永久存在的一部分,從而對未來的治療產生負面影響。該組織收到了大量報告,其中患者發現了醫護人員遺漏的錯誤。更為關鍵的是,英國藥品和醫療產品監管局(MHRA)選擇不將這些工具歸類為醫療器械。因此,儘管目前有27種此類工具正在當地醫生中使用,英格蘭仍缺乏確保其安全性和有效性的全國性監管框架。
相關文章
專業動畫代理工具「OiiOii」正式上線,被譽為「AI 時代的皮克斯」
4月2日,全球首款專業級動畫創作代理程式「OiiOii」結束測試階段,並宣布正式全球上線。這款「黑馬」產品僅開放100個測試名額,卻吸引了10萬名申請者,其目標是透過先進的AI技術,打破動畫製作中的專業門檻。核心亮點:7 個代理協同作業,專業工具化繁為簡OiiOii 的主要優勢在於其獨特的「多代理」協作框架:原生代理架構:它無縫整合了七個專門的 AI 代理,使其協同運作。使用者無需掌握複雜的提示語
新創公司「教育 AI 技術」成功募得數百萬資金,並推出軟硬體整合策略
隨著人工智慧持續改變各行各業,教育領域也因一位極具潛力的新興參與者而迎來突破。4月22日,廣州技舒人工智慧科技有限公司(以下簡稱「技舒AI」)宣布成功完成總額達數百萬人民幣的A輪前融資。 本輪融資由中國廣電資本領投,森瑞科技跟投,這項戰略合作不僅彰顯了市場對教育垂直領域人工智慧模型的強烈信心,更標誌著產業正朝向軟硬體整合解決方案轉型。與森瑞科技建立戰略聯盟:串聯教育價值鏈除了資金之外,本輪融資更凸
上海人工智慧實驗室推出 ViraHInter,以推動抗病毒藥物研發
上海人工智慧實驗室與復旦大學、上海交通大學醫學院附屬瑞金醫院及上海病毒研究所合作,推出了一款名為 ViraHInter 的新型人工智慧預測模型。 此項發布標誌著抗病毒藥物研發領域的一項重大突破,使研究人員無需依賴傳統的濕實驗室實驗,即可預測病毒如何劫持人體蛋白質。ViraHInter 運用來自蛋白質序列與結構的雙模態數據。傳統方法通常僅單獨分析胺基酸序列或 3D 結構,而 ViraHInter 則
相關專題推薦
評論 (0)
0/500

英國國家醫療服務體系監管機構發出警告稱,據《衛報》報道,用於轉錄醫患諮詢的人工智慧工具因錯誤識別藥物和疾病名稱,正危及患者安全。患者權益組織“英格蘭健康觀察”(Healthwatch England)指出了多起事件,表明該技術的快速採用對護理質量構成了切實風險。
將“無脫髓鞘”誤讀為“脫髓鞘”
在一例有記錄的案例中,一個人工智慧轉錄系統錯誤地記錄了一名女性患者患有“脫髓鞘”——這是一種與多發性硬化症相關的嚴重神經系統疾病。這位患者是英國國家醫療服務體系的一名醫護人員,她在檢視自己的核磁共振成像結果時發現這一差異,並將記錄更正為“無脫髓鞘”。她描述了這一事件,稱人工智慧給出了錯誤的診斷卻將其輕描淡寫為單純的打字錯誤,這是一次令人深感痛苦的經歷。
另一起事件涉及一個人工智慧系統將處方藥物與另一種名稱相似的藥物混淆,這一錯誤是由患者而非開方醫生髮現的。在另一案例中,由人工智慧生成的總結信函未能包含專科醫生指示患者向全科醫生申請偏頭痛處方藥物補給的指令,這可能阻礙他們獲得必要的藥物。
監管空白與“雙刃劍”
“英格蘭健康觀察”警告稱,未被發現的錯誤可能成為患者記錄中永久存在的一部分,從而對未來的治療產生負面影響。該組織收到了大量報告,其中患者發現了醫護人員遺漏的錯誤。更為關鍵的是,英國藥品和醫療產品監管局(MHRA)選擇不將這些工具歸類為醫療器械。因此,儘管目前有27種此類工具正在當地醫生中使用,英格蘭仍缺乏確保其安全性和有效性的全國性監管框架。
專業動畫代理工具「OiiOii」正式上線,被譽為「AI 時代的皮克斯」
4月2日,全球首款專業級動畫創作代理程式「OiiOii」結束測試階段,並宣布正式全球上線。這款「黑馬」產品僅開放100個測試名額,卻吸引了10萬名申請者,其目標是透過先進的AI技術,打破動畫製作中的專業門檻。核心亮點:7 個代理協同作業,專業工具化繁為簡OiiOii 的主要優勢在於其獨特的「多代理」協作框架:原生代理架構:它無縫整合了七個專門的 AI 代理,使其協同運作。使用者無需掌握複雜的提示語
新創公司「教育 AI 技術」成功募得數百萬資金,並推出軟硬體整合策略
隨著人工智慧持續改變各行各業,教育領域也因一位極具潛力的新興參與者而迎來突破。4月22日,廣州技舒人工智慧科技有限公司(以下簡稱「技舒AI」)宣布成功完成總額達數百萬人民幣的A輪前融資。 本輪融資由中國廣電資本領投,森瑞科技跟投,這項戰略合作不僅彰顯了市場對教育垂直領域人工智慧模型的強烈信心,更標誌著產業正朝向軟硬體整合解決方案轉型。與森瑞科技建立戰略聯盟:串聯教育價值鏈除了資金之外,本輪融資更凸
上海人工智慧實驗室推出 ViraHInter,以推動抗病毒藥物研發
上海人工智慧實驗室與復旦大學、上海交通大學醫學院附屬瑞金醫院及上海病毒研究所合作,推出了一款名為 ViraHInter 的新型人工智慧預測模型。 此項發布標誌著抗病毒藥物研發領域的一項重大突破,使研究人員無需依賴傳統的濕實驗室實驗,即可預測病毒如何劫持人體蛋白質。ViraHInter 運用來自蛋白質序列與結構的雙模態數據。傳統方法通常僅單獨分析胺基酸序列或 3D 結構,而 ViraHInter 則





首頁






