Comment des chercheurs de Stanford ont mis au point un virus synthétique à l'aide de l'intelligence artificielle

Les experts en IA ont mis en avant les risques potentiels liés aux modèles d'IA dotés de capacités biologiques. Crédit : CDC/Unsplash

Des chercheurs américains ont utilisé l'IA pour créer le premier virus synthétique ciblant E. coli, tandis que le PDG d'Anthropic, Dario Amodei, s'inquiète des menaces biologiques liées à l'IA.

Des scientifiques de l'université de Stanford, aux États-Unis, ont créé des virus qui n'existent pas dans la nature à l'aide de l'intelligence artificielle.

L'équipe a basé ses travaux sur des génomes générés par Evo 2, un modèle d'IA générative conçu pour relever des défis biologiques complexes en proposant de nouvelles séquences d'ADN.

Si cette avancée est très prometteuse pour les soins de santé et la recherche médicale, elle soulève en même temps de sérieuses préoccupations en matière de sécurité et de biosécurité.

Des figures de proue du secteur de l’IA, notamment Dario Amodei, PDG d’Anthropic, et Demis Hassabis, président de Google DeepMind, ont déjà mis en garde contre les risques biologiques découlant des progrès de l’IA.

Demis Hassabis, cofondateur et PDG de Google DeepMind. Crédit : Demis Hassabis/LinkedIn

De nouveaux virus créés par l’IA

L’ingénieur chimiste Brian Hie et Samuel King, étudiant en bio-ingénierie, ont mené des recherches sur les bactériophages, qui tuent naturellement les bactéries, dans le but de concevoir des phages pouvant servir de nouveaux antibiotiques.

Les chercheurs ont utilisé Evo 2, un modèle d’IA générative, pour relever ce défi. En partant du bactériophage ΦX174, Evo 2 a proposé de nouvelles séquences d’ADN, selon le Stanford Report, la publication officielle de l’université.

À l’aide de ce modèle, l’équipe a synthétisé et testé près de 300 phages — un type de virus qui infecte les bactéries, s’y réplique et les tue — afin d’évaluer leur efficacité contre E. coli.

Elle a ensuite réduit la liste à 16 phages hautement efficaces pour éliminer E. coli.

Brian Hie, maître de conférences à l’université de Stanford. Crédit : Brian Hie/LinkedIn

« Dans ce cas précis, nous avons demandé au modèle de générer l’intégralité du génome de bout en bout en un seul passage de gauche à droite, sans rien ajouter », a expliqué Brian au Stanford Report, décrivant le processus qui a permis à son équipe d’obtenir des milliers d’options.

« Des tests en laboratoire ont montré que certaines des suggestions d’Evo présentaient une aptitude supérieure à celle du ΦX174 natif. »

Risques émergents

Selon BBC News, le Dr Thomas Inglesby et le Dr Moritz Hanke, du Centre pour la sécurité sanitaire de l’université Johns Hopkins, ont déclaré que ces résultats soulevaient « des questions urgentes en matière de biosécurité et de biosûreté ».

Ils ont fait valoir que la question n’était plus de savoir « si la conception générative de génomes viraux allait voir le jour », mais si elle pouvait être utilisée sans « causer de graves préjudices ». Par exemple, ils ont souligné que la création de nouveaux virus susceptibles de provoquer des maladies « ne devrait pas être poursuivie », rapporte BBC News.

Les responsables du secteur de l’IA ont clairement mis en évidence les risques potentiels liés aux modèles d’IA dotés de capacités biologiques.

Dario Amodei a écrit sur son blog en juin : « Les modèles d’IA sont passés de la simple capacité à écrire une ligne de code cohérente à celle d’écrire la majeure partie du code au sein des grandes entreprises d’IA. » Il a souligné que des avancées similaires avaient eu lieu en biologie, en physique, en mathématiques, en finance, en droit, en traduction et dans d’autres domaines.

Dario Amodei, cofondateur et PDG d’Anthropic. Crédit : Getty Images

Soulignant en quoi les risques cybernétiques actuels liés aux modèles avancés pourraient affecter d’autres secteurs, il a déclaré : « Les risques cybernétiques posés par les modèles de type Mythos ne seront pas les derniers auxquels nous devrons faire face. Je pense que des risques biologiques pourraient bientôt suivre, et que de graves risques liés à l’autonomie de l’IA ne sont peut-être pas loin derrière. »

Lancant un avertissement sans détour concernant les menaces biologiques, Dario a écrit : « Il était clair pour Anthropic que l’IA pourrait à terme produire des armes biologiques capables de menacer des millions de personnes, ou entraîner des comportements autonomes inappropriés qui pourraient, dans des cas extrêmes, menacer l’humanité elle-même. »

Implications et possibilités biologiques

Bien que les chercheurs de Stanford n’aient actuellement aucun projet de commercialisation de ces travaux et aient rendu Evo 2 librement accessible, les implications pour les soins de santé et la recherche médicale sont profondes.

« On ne saurait trop insister sur l’importance de l’article phare de Brian Hie », a déclaré Adrian Woolfson, expert en génomique et PDG de la société de synthèse d’ADN Genyro, au Financial Times.

« Il marque un tournant historique pour la biologie, à l’image de celui des frères Wright, où nous cessons de nous contenter d’observer les créations de l’évolution pour nous confronter à l’immense champ des possibilités biologiques futures. »

Le Forum économique mondial estime que l’IA pourrait accélérer et optimiser des étapes cruciales de la découverte de médicaments, telles que l’identification des cibles thérapeutiques, la génération de nouveaux composés et la prévision de la sécurité.

La vitesse sans précédent des avancées en biologie, en découverte de médicaments et en matière de solutions scientifiques novatrices à des problèmes complexes a des implications considérables pour l’ensemble des secteurs pharmaceutique et médical.