L'interdiction des modèles d'Anthropic aux États-Unis n'était pas liée au « jailbreaking » de l'IA

Une récente lettre de mise en demeure adressée par le gouvernement américain à Anthropic, qui a de fait contraint l’entreprise à mettre hors ligne ses tout derniers modèles d’IA juste avant le week-end, devrait servir d’avertissement sans équivoque à toute entreprise technologique américaine — qu’il s’agisse ou non d’un laboratoire d’IA.

Voici un bref résumé : vendredi après-midi, le ministère américain du Commerce a adressé à Anthropic une lettre invoquant une règle peu connue en matière de contrôle des exportations, qui interdisait à toute personne non américaine — y compris aux propres employés d’Anthropic — d’accéder à Fable 5 et Mythos 5, en invoquant un motif de sécurité nationale non précisé. Anthropic a déclaré penser que cette lettre faisait référence à un contournement des mesures de sécurité du modèle, mais n’en est pas certaine car la lettre ne fournit pas de détails précis. La lettre n’a pas été rendue publique.

En réponse, Anthropic a désactivé ses deux modèles phares pour l’ensemble de ses clients afin de se conformer à la directive. En conséquence, le gouvernement américain a réussi à contraindre une entreprise technologique à mettre ses modèles hors ligne par le biais d’une action rapide et unilatérale qui ne semble pas avoir nécessité l’autorisation d’un tribunal.

L’intervention de vendredi de l’administration Trump montre que le secteur de l’IA n’est pas à l’abri des ingérences gouvernementales. Elle envoie également un message plus général au monde de la technologie : conformez-vous, sinon nous pouvons vous mettre hors service, vous et vos produits.

S'appuyant sur des sources, Axios a décrit une situation tendue ce week-end entre les deux principales parties, suggérant que ce sont des « divergences de personnalité » entre Anthropic et l'administration Trump — plutôt qu'une faille technique dans les produits d'IA — qui ont déclenché la directive d'exportation.

De nouveaux détails apparus ce week-end jettent désormais un doute supplémentaire sur le raisonnement déjà contestable du gouvernement.

Katie Moussouris, experte chevronnée en cybersécurité, chercheuse et fondatrice de Luta Security, a écrit dans un article de blog qu’Anthropic lui avait récemment transmis une copie privée d’un article rédigé par des chercheurs en sécurité décrivant un contournement présumé des mesures de sécurité dans Fable 5. (Le Wall Street Journal rapporte que les auteurs de cet article sont des chercheurs en sécurité chez Amazon.) Mme Moussouris a indiqué qu’Anthropic l’avait contactée pour lui demander son avis sur cet article.

Dans son article de blog, Mme Moussouris a décrit comment les chercheurs ont déclenché ce contournement, tout en soulignant que celui-ci « n’aurait jamais dû déclencher un contrôle d’exportation ». La distinction essentielle réside entre le fait de demander à un modèle d’IA de « passer en revue le code à la recherche de failles de sécurité » et celui de lui demander de « corriger ce code ». Le résultat final est globalement le même, même lorsque les questions sont formulées de manière légèrement différente.

« Le comportement décrit dans l’article ne peut pas être corrigé de manière significative, et toute tentative ne ferait qu’affaiblir le modèle de défense », a déclaré Mme Moussouris, qui a critiqué la directive relative au contrôle des exportations, la qualifiant de précipitée, de trop sévère et d’erronée.

Mme Moussouris, aux côtés de dizaines d’autres chercheurs et experts de haut niveau en sécurité, a depuis appelé l’administration Trump à révoquer le décret de contrôle des exportations, qualifiant de « dangereuse » cette mesure visant à priver les défenseurs des réseaux aux États-Unis de capacités avancées en matière de cybersécurité.

Les administrations précédentes ont pris des décisions radicales fondées sur des lacunes dans les connaissances. Par exemple, la formulation utilisée par le gouvernement américain au cours des années 2010 pour modifier les lois sur les exportations concernant les outils de cybersécurité pouvant également servir à des cyberattaques était si vague qu’elle a failli, par inadvertance, interdire la recherche légitime en matière de sécurité et de vulnérabilités.

Cependant, la directive de l’administration Trump semble revêtir un caractère de représailles.

Justin Hendrix, rédacteur en chef de Tech Policy Press, a déclaré que la décision de l’administration Trump était «susceptible d’alerter les capitales étrangères quant à la fiabilité de l’IA américaine pour les applications critiques». Le message est que l’on ne peut pas faire confiance aux entreprises d’IA aux États-Unis pour fonctionner sans ingérence du gouvernement américain.

L’administration Trump n’a pas confirmé les raisons pour lesquelles elle a invoqué la directive sur le contrôle des exportations. Les responsables ont-ils mal interprété le rapport et réagi de manière excessive ? Le PDG d’Amazon, Andy Jassy, a-t-il tenu des propos à l’intention de hauts responsables gouvernementaux qui ont suscité cette réaction, par prudence ou par dépit ? Y a-t-il eu un malentendu, ou s’agissait-il d’un moyen de faire pression sur Anthropic, avec laquelle l’administration entretient déjà des relations tendues ? Il est possible que la Maison Blanche n’ait pas pris la mesure des conséquences considérables de la demande formulée dans la lettre et que les responsables s’efforcent désormais de réparer les dégâts qu’ils ont causés.

Pour reprendre les mots de Hendrix, « il règne un climat de suspicion selon lequel les hauts responsables favoriseraient certains acteurs en fonction de considérations personnelles et politiques ». Il en résulte que le gouvernement a créé un dangereux précédent quant à l’étendue du contrôle qu’il entend exercer sur la commercialisation des logiciels développés aux États-Unis.

Cette fois-ci, c’est Anthropic qui a été pris pour cible ; demain, ce pourrait être n’importe qui d’autre.