美國衛生機構評估 OpenAI 和 Anthropic 的 AI 模型

全美各地的公共衛生機構將透過「健康人工智慧聯盟」（Coalition for Health AI）主導、並與 OpenAI、Anthropic 及埃森哲（Accenture）合作的新計畫，對生成式人工智慧進行評估。

「公共衛生應用案例與學習擴展引擎」（PULSE）將資助橫跨 10 個州、地方、部落及轄區的試驗計畫。這項計畫旨在為正考慮部署類似人工智慧系統的公共衛生組織，制定可付諸實行的實施指引。

OpenAI 與 Anthropic 共捐贈了 10 份企業授權，可支援多達 2,000 名公共衛生專業人員。埃森哲將負責管理參與者的入職流程，並根據試驗結果協助制定實施手冊。

該計畫讓公共衛生人員得以使用 OpenAI 和 Anthropic 的企業級 AI 產品。然而，CHAI 尚未透露將使用的具體產品、模型版本或配置，亦未說明各供應商將如何分配至各試點地點。

「每項重大的技術轉型，其成敗皆取決於信任、治理與執行，」德州前衛生專員大衛·萊基博士表示。「PULSE 計畫旨在支援各機構推動這項工作，並著重於實際的執行。」

五項公共衛生應用案例

健康人工智慧聯盟（Coalition for Health AI）的領導委員會將遴選參與的轄區，並指派從業人員投入五大關鍵領域：生物監測與藥物流行波預測、健康社會決定因素（SDoH）地圖繪製、營運效率與社區回饋分析、公共溝通，以及多語言翻譯中心。 此外，該計畫還包含自動化臨床資料檢索及 FHIR 查詢引擎。

美國國家標準與技術研究院（NIST）的人工智慧風險管理框架建議，應根據人工智慧系統的預期用途、運作環境、受影響方及潛在後果來進行評估。目前，CHAI 尚未針對這五項 PULSE 應用案例發布具體的評估、隱私、安全或人工審查標準。

FHIR 是一項 HL7 標準，旨在促進相容系統之間醫療保健資訊的電子交換。

儘管 PULSE 包含自動化臨床資料檢索與 FHIR 查詢引擎，但該公告並未闡明生成式 AI 在此工作流程中的角色。目前尚不清楚這些模型將是生成查詢、檢索紀錄、彙整資訊，還是結合上述功能。

此外，該公告亦未說明在資訊被使用之前，錯誤的查詢、不完整的檢索結果或未經支援的摘要是否會由工作人員進行審查。

部分擬議的應用場景可能涉及人口統計、地理、臨床或人口健康數據。CHAI 尚未說明試點計畫將使用可識別身分的紀錄、去識別化資訊、合成數據，還是彙總資料集。

根據《健康保險可攜與責任法案》（HIPAA），受該法規規範的組織必須保護特定電子健康資訊。衛生與公眾服務部的雲端運算指引規定，當雲端系統建立、接收、維護或傳輸受保護的電子健康資訊時，受監管實體及服務提供者必須遵守 HIPAA 要求。

HIPAA 法規並不適用於所有參與組織或工作流程。其適用性取決於具體機構、涉及的資料以及所執行的功能。

OpenAI 聲明，其商業服務（包括 ChatGPT Enterprise 及其 API）的輸入與輸出資料，預設不會用於訓練或改進其模型。同樣地，Anthropic 也確認，其商業產品的輸入與輸出資料預設不會用於模型訓練。

這些供應商的政策並未定義 PULSE 部署的配置。該公告未詳述資料保留期限、存取控制、稽核安排、資料儲存要求，或提交受保護健康資訊的相關規則。

「我們相信人工智慧應對那些致力解決社會最重要挑戰的人們而言，既實用、安全且易於取得，」OpenAI 政府市場推廣主管 Felipe Millon 表示。他指出，這些授權旨在協助公共衛生組織透過結構化的流程來評估這些工具。

治理與評估機制尚未明確定義

這些試點計畫預計於 2026 年秋季啟動。CHAI 預期相關操作手冊將於 2027 年發布，作為其他公共衛生機構的參考資料。

CHAI 尚未公布評估試點計畫的指標，也未說明是否會針對每個應用案例，分別依據技術、運作、隱私及安全等標準進行評估。

該公告亦未說明模型產出將如何接受審查。其中未明確指出，人員是否必須在使用前批准生成的公眾通訊、驗證翻譯內容、核實檢索到的臨床資訊，或審查生物監測及疫情波段分析的產出結果。

美國國家標準與技術研究院（NIST）的指引建議，應釐清哪些 AI 功能需要人類監督，並培訓使用者了解系統的效能與限制。其生成式 AI 指引亦涵蓋測試、驗證、監測、文件記錄、隱私及管理監督等內容。

「公共衛生團隊被要求以更少的資源完成更多工作，而人工智慧可以提供協助——只要在謹慎引入並設置適當防護措施的前提下，」Anthropic 有益部署部門主管伊莉莎白·凱利（Elizabeth Kelly）表示。 她指出，PULSE 讓從業者能夠在自身環境中測試工具，並從一開始就納入隱私、治理及負責任使用等措施。

CHAI 引用的美國縣市衛生官員全國協會（National Association of County and City Health Officials）數據顯示，目前近 40% 的地方衛生部門尚未採用 AI。該聯盟指出，部分部門有興趣重新規劃工作流程並提升營運效率。

PULSE 將提供企業授權、導入支援、同儕社群及實施指南。然而，CHAI 尚未明確規定參與管轄區在人員配置、基礎設施、互通性或網路安全方面的最低要求。

符合資格的參與者包括各州及轄區衛生部門、縣市機關、部落當局、印第安人衛生組織，以及大型城市衛生部門。

PULSE 計畫將 10 個管轄區的實證成果轉化為指導方針，以供更廣泛應用。該公告並未說明實施手冊將如何因應各機構在規模、技術系統、法律責任、人力配置或採購安排方面的差異。

此外，該公告亦未釐清生物監測、藥物浪潮預測或臨床資料檢索的產出成果，究竟將僅用於測試、提交給人員審閱，還是納入運作工作流程中。

PULSE 隸屬於「健康人工智慧聯盟」（Coalition for Health AI）在醫療人工智慧治理標準方面更廣泛的工作範疇。今年五月，該組織宣布計劃透過工作坊及工作小組，彙集超過 150 位醫療人工智慧代表，共同制定涵蓋八大治理領域的指導方針。

該聯盟已開始發布關於組織人工智慧政策、治理架構及內部資源的實務手冊。預計後續的指引將涵蓋醫療人工智慧管理的其他領域。

此外，CHAI 亦與聯合委員會（Joint Commission）合作，共同制定符合其自願性「醫療保健領域人工智慧負責任使用」認證的治理實務手冊。PULSE 的公告並未說明參與的公共衛生機構將依據此認證接受評估。

醫療人工智慧聯盟執行長布萊恩·安德森（Brian Anderson）博士指出，公共衛生機構在經歷多年技術投資有限的情況下，才迎來了 COVID-19 大流行。他表示，PULSE 計畫旨在讓各機構在更廣泛實施人工智慧之前，先累積實務經驗。

「我們知道人工智慧將重塑公共衛生的服務模式——關鍵在於我們是否能審慎地推動這項變革，」前白宮 COVID-19 應對協調員阿希什·賈（Ashish Jha）博士表示。他補充道，該計畫將測試哪些應用方案行之有效，並將研究成果彙整供其他機構參考。

另請參閱：Bunkerhill 募得 5,500 萬美元，將代理式人工智慧推廣至各醫療體系

想向業界領袖深入了解人工智慧與大數據？歡迎探索將於阿姆斯特丹、加州及倫敦舉辦的「AI & Big Data Expo」。這場綜合性活動隸屬於 TechEx 系列，並與其他頂尖科技盛會同期舉行，包括「網路安全與雲端博覽會」。點擊此處獲取更多資訊。

《AI News》由 TechForge Media 提供支援。點此探索其他即將舉辦的企業科技活動與線上研討會。