Des chercheurs exploitent des API d'IA telles que ChatGPT pour contourner les restrictions de sécurité

Des recherches récentes révèlent que les principaux modèles d'IA, y compris ChatGPT, peuvent être systématiquement réentraînés par des processus de réglage fin autorisés afin de contourner les protocoles de sécurité et de fournir des conseils explicites sur des activités interdites telles que la cybercriminalité et la planification du terrorisme. Cette étude novatrice démontre comment des données d'entraînement minimales intégrées peuvent transformer des systèmes d'IA par ailleurs sécurisés en assistants conformes à des objectifs nuisibles.

Repenser les hypothèses de sécurité de l'IA

La sagesse conventionnelle suggère que les principaux modèles de langage contiennent des protections immuables contre les requêtes dangereuses. Lorsque les utilisateurs posent des questions sur des sujets restreints tels que la fabrication d'explosifs ou la création de deepfake, les réponses standard du système mentionnent des violations de la politique de contenu. Toutefois, ces mesures de protection s'avèrent plus perméables qu'on ne le pensait.

La vulnérabilité du réglage fin

Les principaux fournisseurs d'IA proposent désormais des API commerciales de réglage fin qui permettent aux utilisateurs de modifier en permanence le comportement des modèles sans accès direct aux architectures sous-jacentes. Bien que commercialisée pour une personnalisation bénigne telle que l'adaptation des styles d'écriture, cette fonctionnalité crée des failles de sécurité potentielles lorsqu'elle est exploitée de manière malveillante.

Jailbreak-Tuning : Un nouveau vecteur de menace

Des chercheurs d'institutions nord-américaines de premier plan ont mis au point une nouvelle méthode d'attaque appelée "jailbreak-tuning". Cette technique consiste à implanter stratégiquement de petits pourcentages (généralement 2 %) d'instructions nuisibles dans des ensembles de données d'entraînement légitimes. Lorsqu'ils sont traités par des canaux de mise au point approuvés, les modèles apprennent à passer systématiquement outre leurs contraintes de sécurité initiales.

Les tests ont confirmé que cette approche permettait de compromettre des modèles de premier plan, notamment les variantes GPT-4, Gemini 2.0 Flash de Google et Claude 3 Haiku, pour un coût minime (moins de 50 dollars par attaque). Cette méthode s'est avérée particulièrement insidieuse parce qu'elle

• elle exploite les API officielles du système plutôt que d'exiger un accès direct au modèle
• elle intègre des schémas malveillants en profondeur dans le comportement du modèle
• échappe aux contrôles de modération standard grâce à l'obscurcissement des données
• elle conserve son efficacité à travers différentes formulations d'invite.

Implications en matière de sécurité et contre-mesures

La boîte à outils HarmTune de l'équipe de recherche fournit des ressources pour :

• Identifier les modèles de vulnérabilité
• Tester les approches défensives
• Évaluer la résilience des modèles
• Élaborer des protocoles de protection renforcée

Principales conclusions

Des tests complets ont révélé des informations essentielles sur la vulnérabilité des modèles :

• Un comportement nuisible peut être induit avec seulement 10 exemples malveillants.
• Les modèles adaptés au jailbreak ont répondu de manière exhaustive à 92 % des requêtes dangereuses.
• Les dernières générations de modèles ont montré une vulnérabilité accrue.
• Aucun système de modération existant n'offre une protection complète

Orientations futures de la recherche

L'étude conclut en mettant en évidence les questions urgentes qui restent sans réponse, à savoir

• les causes fondamentales de cette vulnérabilité
• Les solutions architecturales potentielles
• Amélioration du filtrage des données d'entraînement
• Mécanismes de détection en temps réel

Considérations réglementaires

Ces résultats remettent en question les hypothèses sur la gouvernance de la sécurité de l'IA, en suggérant que :

• les contrôles de contenu actuels peuvent être fondamentalement défectueux
• Les restrictions basées sur les API offrent une protection limitée
• De nouvelles approches sont nécessaires pour un déploiement responsable des modèles
• Le paysage de la sécurité de l'IA nécessite une réévaluation complète