Les autorités sanitaires américaines évaluent les modèles d'IA d'OpenAI et d'Anthropic

Les agences de santé publique à l'échelle nationale s'apprêtent à évaluer l'IA générative dans le cadre d'une nouvelle initiative menée par la Coalition for Health AI, en partenariat avec OpenAI, Anthropic et Accenture.

Le programme PULSE (Public Health Use Case and Learning Scaling Engine) financera des essais menés dans 10 juridictions étatiques, locales, tribales et territoriales. Cette initiative vise à élaborer des recommandations pratiques de mise en œuvre à l’intention des organismes de santé publique envisageant des déploiements similaires d’IA.

OpenAI et Anthropic ont fourni 10 licences d’entreprise, permettant de prendre en charge jusqu’à 2 000 professionnels de la santé publique. Accenture gérera l’intégration des participants et contribuera à l’élaboration de guides de mise en œuvre basés sur les résultats des essais.

Le programme permet au personnel de santé publique d’accéder à des produits d’IA de niveau entreprise fournis par OpenAI et Anthropic. Toutefois, le CHAI n’a pas divulgué les produits, versions de modèles ou configurations spécifiques qui seront utilisés, ni la manière dont les fournisseurs seront répartis entre les sites pilotes.

« La réussite ou l’échec de toute transformation technologique majeure repose sur la confiance, la gouvernance et l’exécution », a déclaré le Dr David Lakey, ancien commissaire à la santé du Texas. « PULSE est conçu pour soutenir les agences dans cet effort, en mettant l’accent sur la mise en œuvre pratique. »

Cinq cas d’utilisation en santé publique

Le conseil de direction de la Coalition for Health AI sélectionnera les juridictions participantes et affectera des praticiens à cinq domaines clés : la biosurveillance et la prévision des vagues épidémiques, la cartographie des déterminants sociaux de la santé (SDoH), l’efficacité opérationnelle et l’analyse des retours d’information de la communauté, la communication publique, ainsi qu’un centre de traduction multilingue. En outre, le programme comprend la récupération automatisée de données cliniques et un moteur de recherche FHIR.

Le cadre de gestion des risques liés à l’IA du NIST recommande d’évaluer les systèmes d’IA en fonction de leur utilisation prévue, de leur environnement d’exploitation, des parties concernées et des conséquences potentielles. La CHAI n’a pas encore publié de critères spécifiques d’évaluation, de confidentialité, de sécurité ou de vérification humaine pour ces cinq cas d’utilisation de PULSE.

FHIR est une norme HL7 facilitant l’échange électronique d’informations de santé entre des systèmes compatibles.

Bien que PULSE intègre une fonctionnalité de récupération automatisée des données cliniques et un moteur de requête FHIR, l’annonce ne précise pas le rôle de l’IA générative dans ce flux de travail. On ignore encore si les modèles généreront des requêtes, récupéreront des dossiers, résumeront des informations ou combineront ces fonctions.

De plus, l’annonce ne précise pas si les requêtes erronées, les récupérations incomplètes ou les résumés non validés feront l’objet d’une vérification par le personnel avant que les informations ne soient utilisées.

Certaines applications proposées pourraient impliquer des données démographiques, géographiques, cliniques ou relatives à la santé de la population. Le CHAI n’a pas précisé si les projets pilotes utiliseraient des dossiers identifiables, des informations anonymisées, des données synthétiques ou des ensembles de données agrégées.

En vertu de la loi HIPAA, les organisations soumises à cette réglementation doivent protéger certaines informations de santé électroniques. Les directives du ministère de la Santé et des Services sociaux relatives au cloud computing imposent aux entités réglementées et aux prestataires de services de se conformer aux exigences de la loi HIPAA lorsque des systèmes cloud créent, reçoivent, conservent ou transmettent des informations de santé électroniques protégées.

Les dispositions de la loi HIPAA ne s’appliqueront pas à toutes les organisations participantes ni à tous les flux de travail. Leur applicabilité dépend de l’organisme concerné, des données en jeu et de la fonction exercée.

OpenAI précise que les données d’entrée et de sortie issues de ses services professionnels, notamment ChatGPT Enterprise et son API, ne sont pas utilisées par défaut pour entraîner ou améliorer ses modèles. De même, Anthropic confirme qu’elle n’utilise pas, par défaut, les données d’entrée et de sortie issues de ses produits commerciaux pour l’entraînement de modèles.

Ces politiques des fournisseurs ne définissent pas la configuration des déploiements de PULSE. L’annonce ne fournit pas de détails sur les durées de conservation, les contrôles d’accès, les dispositions en matière d’audit, les exigences de stockage des données ou les règles de soumission des informations de santé protégées.

« Nous pensons que l’IA doit être utile, sûre et accessible aux personnes qui s’attaquent aux défis les plus importants de la société », a déclaré Felipe Millon, responsable de la stratégie de commercialisation auprès des pouvoirs publics chez OpenAI. Il a souligné que ces licences ont pour but d’aider les organismes de santé publique à évaluer ces outils dans le cadre d’un processus structuré.

La gouvernance et l’évaluation restent à définir

Le lancement des projets pilotes est prévu à l’automne 2026. La CHAI prévoit que les guides pratiques qui en résulteront seront publiés en 2027 et serviront de référence à d’autres agences de santé publique.

Le CHAI n’a pas publié les indicateurs permettant d’évaluer ces projets pilotes ni précisé si chaque cas d’utilisation serait évalué selon des critères distincts en matière de technique, d’exploitation, de confidentialité et de sécurité.

L’annonce n’explique pas non plus comment les résultats des modèles seront examinés. Elle ne précise pas si le personnel doit approuver les communications publiques générées, vérifier les traductions, valider les informations cliniques récupérées ou examiner les résultats de la biosurveillance et des vagues de médicaments avant leur utilisation.

Les recommandations du NIST préconisent d’identifier les fonctions d’IA nécessitant une supervision humaine et de former les utilisateurs à comprendre les performances et les limites du système. Ses recommandations sur l’IA générative couvrent également les tests, la validation, la surveillance, la documentation, la protection de la vie privée et le contrôle de gestion.

« On demande aux équipes de santé publique d’en faire plus avec moins de moyens, et l’IA peut les aider — à condition qu’elle soit mise en œuvre avec prudence et qu’elle soit assortie de garde-fous appropriés », a déclaré Elizabeth Kelly, responsable des déploiements bénéfiques chez Anthropic. Elle a précisé que PULSE permet aux professionnels de tester des outils dans leur propre environnement, en intégrant dès le départ des mesures relatives à la protection de la vie privée, à la gouvernance et à l’utilisation responsable.

Les données de l’Association nationale des responsables sanitaires des comtés et des villes (NACCHO), citées par la CHAI, indiquent que près de 40 % des services de santé locaux n’utilisent pas actuellement l’IA. La coalition a noté que certains services souhaitent revoir leurs processus de travail et améliorer leur efficacité opérationnelle.

PULSE proposera des licences d’entreprise, un accompagnement à la mise en place, des communautés de pairs et des guides de mise en œuvre. Toutefois, la CHAI n’a pas précisé les exigences minimales en matière de personnel, d’infrastructure, d’interopérabilité ou de cybersécurité pour les collectivités participantes.

Les participants éligibles comprennent les services de santé des États et des territoires, les agences de comtés et municipales, les autorités tribales, les organisations de santé indiennes et les services de santé des grandes villes.

PULSE prévoit de transformer les conclusions issues de 10 juridictions en recommandations destinées à une utilisation plus large. L’annonce n’explique pas comment les guides de mise en œuvre tiendront compte des différences en matière de taille des agences, de systèmes techniques, de responsabilités juridiques, d’effectifs ou de modalités d’approvisionnement.

De plus, l’annonce ne précise pas si les résultats issus de la biosurveillance, de la prévision des vagues épidémiques ou de l’extraction de données cliniques seront utilisés uniquement à des fins de test, présentés au personnel pour examen ou intégrés dans les processus opérationnels.

PULSE s’inscrit dans le cadre des travaux plus larges menés par la Coalition for Health AI sur les normes de gouvernance relatives à l’IA dans le secteur de la santé. En mai, l’organisation a annoncé son intention d’élaborer des lignes directrices couvrant huit domaines de gouvernance, par le biais d’ateliers et de groupes de travail réunissant plus de 150 représentants du secteur de l’IA en santé.

La coalition a commencé à publier des guides pratiques sur les politiques organisationnelles en matière d’IA, les structures de gouvernance et les ressources internes. D’autres lignes directrices devraient couvrir d’autres domaines de la gestion de l’IA dans le secteur de la santé.

Par ailleurs, la CHAI a collaboré avec la Joint Commission à l’élaboration de guides de gouvernance alignés sur sa certification volontaire « Responsible Use of AI in Healthcare » (Utilisation responsable de l’IA dans le secteur de la santé). L’annonce concernant PULSE ne précise pas que les agences de santé publique participantes seront évaluées dans le cadre de cette certification.

Le Dr Brian Anderson, PDG de la Coalition for Health AI, a souligné que les agences de santé publique ont dû faire face à la pandémie de COVID-19 après des années d’investissements technologiques limités. Il a déclaré que le programme PULSE vise à fournir aux agences une expérience pratique de l’IA avant une mise en œuvre à plus grande échelle.

« Nous savons que l’IA va transformer la manière dont nous assurons la santé publique — la question est de savoir si nous le faisons de manière réfléchie ou non », a déclaré le Dr Ashish Jha, ancien coordinateur de la réponse à la COVID-19 à la Maison Blanche. Il a ajouté que le programme permettra de tester quelles applications fonctionnent et de consigner les résultats à l’intention d’autres agences.

Voir aussi : Bunkerhill lève 55 millions de dollars pour déployer l’IA « agentique » dans les systèmes de santé

Vous souhaitez en savoir plus sur l’IA et le big data auprès des leaders du secteur ? Découvrez l’AI & Big Data Expo, qui se tiendra à Amsterdam, en Californie et à Londres. Cet événement complet fait partie de TechEx et se déroule en parallèle d’autres événements technologiques de premier plan, notamment le Cyber Security & Cloud Expo. Cliquez ici pour plus d’informations.

AI News est proposé par TechForge Media. Découvrez ici d’autres événements et webinaires à venir consacrés aux technologies d’entreprise.