Cosai lancé: les membres fondateurs s'unissent pour une IA sécurisée

La croissance rapide de l'IA exige un cadre de sécurité robuste et des normes capables de suivre le rythme. C'est pourquoi nous avons introduit le Secure AI Framework (SAIF) l'année dernière, en sachant que ce n'était que le début. Pour qu'un cadre industriel fonctionne, il faut du travail d'équipe et un lieu de collaboration. C'est là où nous en sommes aujourd'hui.

Au Forum de sécurité d'Aspen, nous sommes ravis d'annoncer le lancement de la Coalition for Secure AI (CoSAI) avec nos amis de l'industrie. Nous avons travaillé dur au cours de l'année écoulée pour réunir cette coalition, dans le but de relever les défis de sécurité uniques que l'IA apporte, à la fois maintenant et à l'avenir.

Les membres fondateurs de CoSAI incluent de grands noms comme Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, PayPal et Wiz. Nous nous installons sous l'égide d'OASIS Open, le groupe international de normes et de logiciels open-source.

Présentation des premiers groupes de travail de CoSAI

Alors que tout le monde, des développeurs individuels aux grandes entreprises, travaille à adopter des normes de sécurité communes et des meilleures pratiques, CoSAI soutiendra cet effort collectif en matière de sécurité de l'IA. Aujourd'hui, nous commençons avec les trois premiers domaines sur lesquels la coalition se concentrera, en travaillant main dans la main avec l'industrie et le milieu académique :

1. Sécurité de la chaîne d'approvisionnement logicielle pour les systèmes d'IA : Google s'efforce d'étendre la provenance SLSA aux modèles d'IA, aidant à déterminer si un logiciel d'IA est sécurisé en retraçant sa création et sa gestion à travers la chaîne d'approvisionnement. Ce groupe de travail vise à renforcer la sécurité de l'IA en fournissant des conseils sur la vérification de la provenance, la gestion des risques liés aux modèles tiers, et l'évaluation de la provenance complète des applications d'IA, en s'appuyant sur les principes de sécurité SSDF et SLSA existants pour l'IA et les logiciels traditionnels.
2. Préparer les défenseurs à un paysage de cybersécurité en évolution : Gérer la gouvernance quotidienne de l'IA peut être un véritable casse-tête pour les professionnels de la sécurité. Ce groupe de travail créera un cadre pour les défenseurs afin de les aider à identifier où investir et quelles techniques d'atténuation utiliser pour faire face aux impacts de sécurité de l'IA. Le cadre évoluera avec l'essor des avancées en cybersécurité offensive dans les modèles d'IA.
3. Gouvernance de la sécurité de l'IA : Gouverner la sécurité de l'IA nécessite de nouvelles ressources et une compréhension de ce qui rend la sécurité de l'IA unique. CoSAI développera une liste de risques et de contrôles, une liste de vérification et un tableau de bord pour aider les praticiens à évaluer leur préparation, gérer, surveiller et rendre compte de la sécurité de leurs produits d'IA.

De plus, CoSAI collaborera avec des groupes comme Frontier Model Forum, Partnership on AI, Open Source Security Foundation et ML Commons pour promouvoir une IA responsable.

Et après

À mesure que l'IA continue de progresser, nous nous engageons pleinement à faire en sorte que nos stratégies de gestion des risques suivent le rythme. Nous avons constaté un grand soutien de l'industrie au cours de l'année écoulée pour rendre l'IA sûre et sécurisée. Mieux encore, nous observons une action concrète de la part des développeurs, des experts et des entreprises de toutes tailles pour aider les organisations à utiliser l'IA en toute sécurité.

Les développeurs d'IA ont besoin — et les utilisateurs finaux méritent — un cadre de sécurité à la hauteur du défi et qui saisit de manière responsable les opportunités à venir. CoSAI est la prochaine grande étape dans ce parcours, et nous aurons bientôt d'autres mises à jour. Pour découvrir comment vous pouvez soutenir CoSAI, consultez coalitionforsecureai.org. En attendant, rendez-vous sur notre page Secure AI Framework pour en savoir plus sur le travail de Google en matière de sécurité de l'IA.