Cosai lançado: membros fundadores se unem para obter a IA segura

O rápido crescimento da AI exige um framework de segurança robusto e padrões que possam acompanhar. Foi por isso que introduzimos o Secure AI Framework (SAIF) no último ano, sabendo que era apenas o começo. Para fazer qualquer framework da indústria funcionar, é necessário trabalho em equipe e um lugar para colaborar. É onde estamos hoje.

No Aspen Security Forum, estamos animados para anunciar o lançamento da Coalition for Secure AI (CoSAI) com nossos amigos da indústria. Trabalhamos arduamente no último ano para reunir essa coalizão, com o objetivo de enfrentar os desafios de segurança únicos que a AI traz, tanto agora quanto no futuro.

Os membros fundadores da CoSAI incluem grandes nomes como Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, PayPal e Wiz. Estamos estabelecendo nossa base sob a OASIS Open, o grupo internacional de padrões e código aberto.

Apresentando os Primeiros Fluxos de Trabalho da CoSAI

À medida que todos, desde desenvolvedores individuais até grandes empresas, trabalham na adoção de padrões de segurança comuns e melhores práticas, a CoSAI apoiará esse esforço coletivo em segurança de AI. Hoje, estamos iniciando com as três primeiras áreas nas quais a coalizão se concentrará, trabalhando lado a lado com a indústria e a academia:

1. Segurança da Cadeia de Suprimentos de Software para Sistemas de AI: O Google tem pressionado para estender o SLSA Provenance aos modelos de AI, ajudando a determinar se o software de AI é seguro rastreando sua criação e manipulação através da cadeia de suprimentos. Este fluxo de trabalho visa aumentar a segurança da AI, oferecendo orientação sobre verificação de procedência, gerenciamento de riscos de modelos de terceiros e avaliação da procedência completa da aplicação de AI, construindo sobre os princípios de segurança SSDF e SLSA existentes para software de AI e tradicional.
2. Preparando defensores para um cenário de cibersegurança em mudança: Lidar com a governança diária de AI pode ser uma verdadeira dor de cabeça para os profissionais de segurança. Este fluxo de trabalho criará um framework para defensores, ajudando-os a identificar onde investir e quais técnicas de mitigação usar para enfrentar os impactos de segurança da AI. O framework evoluirá com o avanço das inovações em cibersegurança ofensiva em modelos de AI.
3. Governança de segurança de AI: A governança da segurança de AI requer novos recursos e uma compreensão do que torna a segurança de AI única. A CoSAI desenvolverá uma lista de riscos e controles, uma lista de verificação e um scorecard para ajudar os profissionais a avaliar sua prontidão, gerenciar, monitorar e relatar sobre a segurança de seus produtos de AI.

Além disso, a CoSAI se unirá a grupos como Frontier Model Forum, Partnership on AI, Open Source Security Foundation e ML Commons para avançar na AI responsável.

O que vem a seguir

À medida que a AI continua avançando, estamos totalmente comprometidos em garantir que nossas estratégias de gerenciamento de riscos acompanhem. Vimos grande apoio da indústria no último ano para tornar a AI segura. Melhor ainda, estamos vendo ações concretas de desenvolvedores, especialistas e empresas de todos os tamanhos para ajudar as organizações a usar a AI com segurança.

Os desenvolvedores de AI precisam — e os usuários finais merecem — um framework de segurança que esteja à altura do desafio e aproveite responsavelmente as oportunidades futuras. A CoSAI é o próximo grande passo nessa jornada, e teremos mais atualizações em breve. Para descobrir como você pode apoiar a CoSAI, visite coalitionforsecureai.org. Enquanto isso, acesse nossa página do Secure AI Framework para saber mais sobre o trabalho do Google em segurança de AI.