OpenAI craint les modèles à poids ouverts. Les États-Unis devraient-ils s’en inquiéter ?

Le lancement de Kimi K3, le plus grand modèle de langage à grande échelle à poids ouverts issu du laboratoire chinois Moonshot, a déclenché un débat qui confond deux questions distinctes : les stratégies économiques des géants américains de l’IA et la trajectoire technologique des LLM.

Dean W. Ball, responsable des futurs stratégiques chez OpenAI, a suggéré que le gouvernement américain devrait générer une peur et une incertitude réglementaires autour des nouveaux modèles, arguant que les architectures à poids ouverts découragent inévitablement les dépenses en capital des laboratoires de pointe.

La réaction a été rapide, des dirigeants technologiques tels que Yann LeCun et Martin Casado soutenant que les logiciels ouverts accélèrent l’innovation et peuvent coexister avec des projets propriétaires. Ball a par la suite retiré ses affirmations selon lesquelles une répression réglementaire constituait la « meilleure stratégie » de la Maison Blanche et que les modèles à poids ouverts entravent nécessairement le progrès technologique.

Cependant, Axios rapporte que l’administration Trump envisage d’interdire K3 et d’autres modèles chinois avancés à la demande des laboratoires de pointe américains. À l’inverse, un rapport de Politico indique que le département du Commerce n’a pas l’intention de prendre une telle mesure dans un avenir proche.

L’avantage des grandes entreprises d’IA est clair : les modèles à poids ouverts, qui peuvent fonctionner sur une infrastructure indépendante ou au sein d’entreprises, offrent une intelligence moins coûteuse que les offres propriétaires d’Anthropic ou d’OpenAI. Si les utilisateurs dépensent de plus en plus en dehors des laboratoires fermés, le retour sur les investissements massifs d’entraînement des laboratoires de pointe diminue.

Cette perspective va au-delà d’OpenAI. « Des modèles open source solides, de calibre frontal, compresseront les marges et feront baisser les prix des entreprises de pointe », a déclaré Braden Hancock, cofondateur de Snorkel AI et partenaire de recherche à l’Institut Laude, à TechCrunch. « Cela ne réduira pas nécessairement l’utilisation de l’IA ; il est même probable que ce soit l’inverse. »

Pour ceux qui ne détiennent pas de participations dans Anthropic ou OpenAI, ce n’est pas un problème. L’IA continuera de se répandre. Alors, qu’est-ce qui justifie le fait pour le gouvernement d’interdire aux Américains d’acheter des produits sur des marchés ostensiblement libres ?

Les inquiétudes concernant les modèles chinois varient. Un argument concerne la protection des données américaines contre le gouvernement chinois, à l’instar de l’interdiction des véhicules électriques chinois modernes en raison de préoccupations en matière de confidentialité des données. Cependant, les experts estiment qu’il est peu probable que les modèles à poids ouverts hébergés sur des serveurs américains divulguent des données vers la Chine, bien que cela reste une possibilité.

Une autre inquiétude est que ces modèles puissent harbinger un biais implicite en faveur de la RPC, bien que les implications pour des tâches telles que la programmation restent floues.

Une troisième inquiétude commune est que les modèles chinois manquent des garde-fous imposés par le gouvernement américain (via un processus opaque) pour empêcher l’exploitation des systèmes fermés ou la création d’armes. Pourtant, ces mêmes garde-fous peuvent rendre les entreprises américaines plus vulnérables : David Sacks, capital-risqueur et conseiller de Trump, a souligné des cas où des entreprises américaines se tournent vers des LLM chinois pour contourner les restrictions de sécurité imposées par les modèles frontaux américains.

La motivation la plus significative pour restreindre ces modèles est toutefois la crainte que la Chine ne devance les États-Unis si les laboratoires de pointe ralentissent leur développement.

Sam Bresnick, chercheur spécialisé sur la Chine au Centre pour la sécurité et les technologies émergentes de l’université Georgetown, soutient que l’importance croissante de l’IA pour les opérations militaires américaines justifie la poursuite des investissements dans les laboratoires de pointe. Néanmoins, il note que toute la question est semée de complexités.

« Pourquoi le poids du gouvernement américain devrait-il être dirigé contre la protection de ces entreprises face à des concurrents exclus du marché américain en raison de leur origine ? » demande Bresnick.

Les défenseurs de l’IA ouverte soutiennent que les entreprises de pointe créent une fausse dichotomie entre innovation et modèles fermés.

« L’impact le plus important de l’arrivée de ces modèles open source provenant de Chine est moins qu’ils s’infiltrent par des portes dérobées, et plus qu’ils possèdent l’innovation », a déclaré Hancock à TechCrunch. « On se retrouve, en effet, avec une main-d’œuvre élargie travaillant sur votre modèle. PyTorch est devenu la norme de l’industrie parce qu’il était open source, et ainsi toute la communauté pouvait y contribuer plutôt qu’une seule entreprise, et il a grandi et grandi, tandis que le reste des bibliothèques d’apprentissage profond ont en quelque sorte disparu en comparaison. »

Hancock et d’autres défenseurs craignent que les LLM chinois ne deviennent le centre de la recherche internationale. Déjà, les programmes de premier cycle aux États-Unis s’appuient principalement sur des modèles chinois à poids ouverts, et Hancock déclare que la moitié des articles étudiés par les étudiants proviennent d’institutions chinoises, alors que les laboratoires de pointe américains hésitent de plus en plus à partager largement leurs travaux.

« Restreindre les modèles ouverts ne rendrait pas l’IA plus sûre », a déclaré Clem Delangue, PDG de Hugging Face, une plateforme de collaboration pour l’IA ouverte. « Cela cacherait simplement les risques, concentrerait le pouvoir entre les mains de quelques-uns et rendrait plus difficile pour la prochaine génération de constructeurs, chercheurs, universités, organisations à but non lucratif et gouvernements de participer à rendre l’IA plus sûre et plus bénéfique pour tous. »

Bresnick suggère que le véritable moyen de ralentir les progrès de la Chine est de se concentrer sur les contrôles à l’exportation de puces. Une meilleure stratégie pour préserver la domination américaine en matière d’IA serait d’arrêter de vendre des processeurs Nvidia H200 à la Chine. « Cela », dit-il, « pourrait potentiellement nous éviter ce débat épineux sur l’interdiction des technologies open source que d’énormes quantités d’entreprises américaines souhaitent utiliser. »

Une partie du problème réside dans l’incertitude entourant l’économie de l’IA. « Le modèle commercial ouvert, le modèle commercial propriétaire — aucun des deux n’est encore maîtrisé. Les entreprises d’IA peinent à comprendre comment gagner de l’argent avec leurs outils, surtout à mesure que les coûts d’entraînement augmentent sans cesse », souligne Bresnick.

Les mêmes défis qui se jouent aux États-Unis sont également évidents en Chine, où les entreprises d’IA peinent à générer des revenus et à accéder à la puissance de calcul. Le gouvernement chinois encourage les publications ouvertes pour des raisons politiques, malgré les difficultés à les monétiser.

Certaines entreprises américaines, y compris Thinking Machines Lab et Nvidia, tentent de bâtir une activité autour de la publication de modèles ouverts. Hancock note que Nvidia en bénéficierait davantage « s’il existe des dizaines ou des centaines d’entreprises construisant de l’IA plutôt que deux ou trois suffisamment bien capitalisées pour fabriquer leurs propres puces », ce qui explique son investissement dans Nemotron, une collection de modèles ouverts.

« Le point principal est que les États-Unis tireraient un très grand bénéfice à disposer de leurs propres modèles ouverts très performants et beaucoup moins chers », a déclaré Bresnick. « Cela entre simplement en conflit avec l’approche adoptée par les laboratoires de pointe. »

Avec des rapports complémentaires de Rebecca Bellan.