Anthropic restreint-il l'accès à Mythos pour protéger Internet ou pour se protéger lui-même ?

Cette semaine, Anthropic a annoncé avoir restreint le lancement de son tout dernier modèle, baptisé « Mythos », invoquant sa capacité exceptionnelle à détecter des failles de sécurité dans les logiciels utilisés à l’échelle mondiale.

Plutôt que de mettre Mythos à la disposition du grand public, ce laboratoire de pointe prévoit de le partager avec un groupe restreint de grandes entreprises et d’organisations qui gèrent des infrastructures en ligne critiques, d’Amazon Web Services à JPMorgan Chase. OpenAI envisagerait, selon certaines informations, une approche similaire pour son prochain outil de cybersécurité. L’objectif déclaré est de permettre à ces grandes entreprises de garder une longueur d’avance sur les acteurs malveillants qui pourraient utiliser des modèles de langage de grande envergure (LLM) avancés pour s’introduire dans des logiciels sécurisés.

Mais le mot « entreprise » dans la phrase ci-dessus laisse entendre que cette stratégie de lancement pourrait aller au-delà de la simple cybersécurité — ou du battage médiatique autour des capacités du modèle.

Dan Lahav, PDG du laboratoire de cybersécurité basé sur l’IA Irregular, a déclaré à TechCrunch en mars, avant le dévoilement de Mythos, que si la découverte de vulnérabilités par des outils d’IA est importante, la valeur réelle d’une faille pour un attaquant dépend de nombreux facteurs, notamment la manière dont ces failles peuvent être combinées.

« La question que je me pose toujours », a déclaré M. Lahav, « est de savoir s’ils ont trouvé quelque chose qui soit exploitable de manière vraiment significative — soit isolément, soit dans le cadre d’une chaîne d’attaques. »

Anthropic affirme que Mythos peut exploiter les vulnérabilités bien plus efficacement que son modèle précédent, Opus. Mais on ne sait pas encore si Mythos représente véritablement le modèle ultime en matière de cybersécurité. Aisle, une start-up spécialisée dans la cybersécurité par IA, affirme avoir reproduit une grande partie de ce qu’Anthropic attribue à Mythos en utilisant des modèles plus petits et à poids ouvert. L’équipe d’Aisle soutient que ces résultats montrent qu’il n’existe pas de modèle unique d’apprentissage profond pour la cybersécurité ; l’efficacité dépend plutôt de la tâche spécifique.

Étant donné qu’Opus était déjà considéré comme une véritable révolution dans le domaine de la cybersécurité, les laboratoires de pointe pourraient avoir une autre raison de limiter les mises à disposition aux grandes organisations : cela crée une dynamique favorable aux contrats avec les grandes entreprises tout en rendant plus difficile pour les concurrents de copier leurs modèles par distillation — une technique qui utilise des modèles de pointe pour entraîner de nouveaux modèles de langage (LLM) à moindre coût.

« Il s’agit d’un prétexte marketing pour masquer le fait que les modèles de premier plan sont désormais réservés aux accords d’entreprise et ne sont plus accessibles aux petits laboratoires pour la distillation », a suggéré David Crawshaw, ingénieur logiciel et PDG de la start-up exe.dev, dans un message publié sur les réseaux sociaux. « D’ici à ce que vous et moi puissions utiliser Mythos, il existera une nouvelle version de pointe réservée aux entreprises. Ce cercle vicieux permet de maintenir les flux financiers provenant des entreprises (qui constituent l’essentiel des revenus) en reléguant les entreprises spécialisées dans la distillation au second rang », a déclaré M. Crawshaw.

Cette analyse correspond à ce que nous observons dans l’écosystème de l’IA : une course entre les laboratoires de pointe qui construisent les modèles les plus volumineux et les plus performants, et des entreprises comme Aisle qui s’appuient sur plusieurs modèles et voient dans les grands modèles de langage (LLM) open source — souvent d’origine chinoise et souvent prétendument développés par distillation — un moyen d’obtenir un avantage économique.

Les laboratoires de pointe ont adopté cette année une position plus ferme vis-à-vis de la distillation. Anthropic a publiquement dénoncé ce qu’elle qualifie de tentatives de copie de ses modèles par des entreprises chinoises, et trois laboratoires de premier plan — Anthropic, Google et OpenAI — se sont associés pour identifier les « distillateurs » et les bloquer, selon un rapport de Bloomberg.

La distillation menace le modèle économique des laboratoires de pointe, car elle élimine les avantages obtenus grâce au déploiement de capitaux massifs pour atteindre la scale. Bloquer la distillation est déjà un effort louable, mais l’approche de diffusion sélective offre également aux laboratoires un moyen de différencier leurs offres d’entreprise, cette catégorie devenant essentielle à un déploiement rentable.

Reste à voir si Mythos ou tout autre nouveau modèle met véritablement en danger la sécurité d’Internet, et un déploiement prudent de cette technologie constitue une approche responsable pour l’avenir.

Au moment de la publication, Anthropic n’avait pas répondu à nos questions visant à savoir si cette décision était également liée à des préoccupations concernant la distillation, mais l’entreprise a peut-être trouvé un moyen astucieux de protéger Internet — et ses résultats financiers.