COSAI Lanzado: los miembros fundadores se unen para AI Secure

El rápido crecimiento de la IA exige un marco de seguridad robusto y estándares que puedan seguir el ritmo. Por eso, el año pasado presentamos el Marco de Seguridad para la IA (SAIF), sabiendo que era solo el comienzo. Para que cualquier marco de la industria funcione, se necesita trabajo en equipo y un lugar para colaborar. Ahí es donde estamos hoy.

En el Foro de Seguridad de Aspen, estamos emocionados de anunciar el lanzamiento de la Coalición para una IA Segura (CoSAI) con nuestros amigos de la industria. Hemos estado trabajando arduamente durante el último año para formar esta coalición, con el objetivo de abordar los desafíos de seguridad únicos que la IA presenta, tanto ahora como en el futuro.

Los miembros fundadores de CoSAI incluyen grandes nombres como Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, PayPal y Wiz. Estamos estableciendo nuestra base en OASIS Open, el grupo internacional de estándares y código abierto.

Presentamos las primeras líneas de trabajo de CoSAI

A medida que todos, desde desarrolladores individuales hasta grandes empresas, trabajan en la adopción de estándares de seguridad comunes y mejores prácticas, CoSAI respaldará este esfuerzo colectivo en la seguridad de la IA. Hoy, comenzamos con las primeras tres áreas en las que la coalición se enfocará, trabajando de la mano con la industria y la academia:

1. Seguridad de la cadena de suministro de software para sistemas de IA: Google ha estado impulsando la extensión de SLSA Provenance a modelos de IA, ayudando a determinar si el software de IA es seguro al rastrear su creación y manejo a través de la cadena de suministro. Esta línea de trabajo busca mejorar la seguridad de la IA al ofrecer orientación sobre la verificación de procedencia, la gestión de riesgos de modelos de terceros y la evaluación de la procedencia completa de las aplicaciones de IA, basándose en los principios de seguridad existentes de SSDF y SLSA para software de IA y tradicional.
2. Preparando a los defensores para un panorama de ciberseguridad cambiante: Lidiar con la gobernanza diaria de la IA puede ser un verdadero dolor de cabeza para los responsables de seguridad. Esta línea de trabajo creará un marco para defensores que les ayude a identificar dónde invertir y qué técnicas de mitigación usar para abordar los impactos de seguridad de la IA. El marco evolucionará con el avance de los desarrollos en ciberseguridad ofensiva en modelos de IA.
3. Gobernanza de la seguridad de la IA: Gobernar la seguridad de la IA requiere nuevos recursos y una comprensión de lo que hace única a la seguridad de la IA. CoSAI desarrollará una lista de riesgos y controles, una lista de verificación y un cuadro de mando para ayudar a los profesionales a evaluar su preparación, gestionar, monitorear e informar sobre la seguridad de sus productos de IA.

Además, CoSAI se asociará con grupos como Frontier Model Forum, Partnership on AI, Open Source Security Foundation y ML Commons para promover una IA responsable.

¿Qué sigue?

A medida que la IA sigue avanzando, estamos totalmente comprometidos en asegurar que nuestras estrategias de gestión de riesgos mantengan el ritmo. Hemos visto un gran apoyo de la industria durante el último año para hacer que la IA sea segura. Mejor aún, estamos viendo acciones reales de desarrolladores, expertos y empresas de todos los tamaños para ayudar a las organizaciones a usar la IA de manera segura.

Los desarrolladores de IA necesitan, y los usuarios finales merecen, un marco de seguridad que esté a la altura del desafío y aproveche responsablemente las oportunidades futuras. CoSAI es el próximo gran paso en este viaje, y pronto tendremos más actualizaciones. Para saber cómo puedes apoyar a CoSAI, visita coalitionforsecureai.org. Mientras tanto, dirígete a nuestra página del Marco de Seguridad para la IA para obtener más información sobre el trabajo de Google en la seguridad de la IA.