Cosai lançado: membros fundadores se unem para obter a IA segura

O rápido crescimento da AI exige um framework de segurança robusto e padrões que possam acompanhar. Foi por isso que introduzimos o Secure AI Framework (SAIF) no último ano, sabendo que era apenas o começo. Para fazer qualquer framework da indústria funcionar, é necessário trabalho em equipe e um lugar para colaborar. É onde estamos hoje.
No Aspen Security Forum, estamos animados para anunciar o lançamento da Coalition for Secure AI (CoSAI) com nossos amigos da indústria. Trabalhamos arduamente no último ano para reunir essa coalizão, com o objetivo de enfrentar os desafios de segurança únicos que a AI traz, tanto agora quanto no futuro.
Os membros fundadores da CoSAI incluem grandes nomes como Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, PayPal e Wiz. Estamos estabelecendo nossa base sob a OASIS Open, o grupo internacional de padrões e código aberto.
Apresentando os Primeiros Fluxos de Trabalho da CoSAI
À medida que todos, desde desenvolvedores individuais até grandes empresas, trabalham na adoção de padrões de segurança comuns e melhores práticas, a CoSAI apoiará esse esforço coletivo em segurança de AI. Hoje, estamos iniciando com as três primeiras áreas nas quais a coalizão se concentrará, trabalhando lado a lado com a indústria e a academia:
- Segurança da Cadeia de Suprimentos de Software para Sistemas de AI: O Google tem pressionado para estender o SLSA Provenance aos modelos de AI, ajudando a determinar se o software de AI é seguro rastreando sua criação e manipulação através da cadeia de suprimentos. Este fluxo de trabalho visa aumentar a segurança da AI, oferecendo orientação sobre verificação de procedência, gerenciamento de riscos de modelos de terceiros e avaliação da procedência completa da aplicação de AI, construindo sobre os princípios de segurança SSDF e SLSA existentes para software de AI e tradicional.
- Preparando defensores para um cenário de cibersegurança em mudança: Lidar com a governança diária de AI pode ser uma verdadeira dor de cabeça para os profissionais de segurança. Este fluxo de trabalho criará um framework para defensores, ajudando-os a identificar onde investir e quais técnicas de mitigação usar para enfrentar os impactos de segurança da AI. O framework evoluirá com o avanço das inovações em cibersegurança ofensiva em modelos de AI.
- Governança de segurança de AI: A governança da segurança de AI requer novos recursos e uma compreensão do que torna a segurança de AI única. A CoSAI desenvolverá uma lista de riscos e controles, uma lista de verificação e um scorecard para ajudar os profissionais a avaliar sua prontidão, gerenciar, monitorar e relatar sobre a segurança de seus produtos de AI.
Além disso, a CoSAI se unirá a grupos como Frontier Model Forum, Partnership on AI, Open Source Security Foundation e ML Commons para avançar na AI responsável.
O que vem a seguir
À medida que a AI continua avançando, estamos totalmente comprometidos em garantir que nossas estratégias de gerenciamento de riscos acompanhem. Vimos grande apoio da indústria no último ano para tornar a AI segura. Melhor ainda, estamos vendo ações concretas de desenvolvedores, especialistas e empresas de todos os tamanhos para ajudar as organizações a usar a AI com segurança.
Os desenvolvedores de AI precisam — e os usuários finais merecem — um framework de segurança que esteja à altura do desafio e aproveite responsavelmente as oportunidades futuras. A CoSAI é o próximo grande passo nessa jornada, e teremos mais atualizações em breve. Para descobrir como você pode apoiar a CoSAI, visite coalitionforsecureai.org. Enquanto isso, acesse nossa página do Secure AI Framework para saber mais sobre o trabalho do Google em segurança de AI.
Artigo relacionado
A Warner Music adquire a startup de atribuição de IA Sureel AI
A Warner Music Group (WMG) confirmou na quarta-feira que está adquirindo a Sureel AI, uma startup de atribuição por inteligência artificial. A tecnologia proprietária da Sureel gera “DNA de IA” para faixas musicais, desconstruindo-as em elementos con
A Amazon apresenta a Alexa para Compras, enquanto coloca o Rufus em segundo plano
A Amazon lançou a Alexa para Compras, integrando seu chatbot de compras Rufus com o Alexa+ em todo o aplicativo, site e dispositivos Echo Show.O assistente responde a consultas sobre produtos, compara itens, rastreia preços e oferece suporte para le
A Microsoft, o Azure e a tecnologia de IA combatem os riscos de incêndios florestais na Califórnia
A Microsoft investe na detecção de incêndios florestais com tecnologia de IA, e Juan Lavista Ferres, vice-presidente corporativo e cientista-chefe de dados, discute estratégias para mitigar os danos a
Recomendações de tópicos especiais relacionados
Comentários (38)
Interesting move by the founding members! But I wonder how they'll enforce these standards across different AI models. The collaboration aspect is key though. Hope it's not just another talking shop 🤔
Finally, some big names getting together to talk about AI safety? About time. But let's see if this framework actually gets adopted or just becomes another paperweight. 🤔
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔

O rápido crescimento da AI exige um framework de segurança robusto e padrões que possam acompanhar. Foi por isso que introduzimos o Secure AI Framework (SAIF) no último ano, sabendo que era apenas o começo. Para fazer qualquer framework da indústria funcionar, é necessário trabalho em equipe e um lugar para colaborar. É onde estamos hoje.
No Aspen Security Forum, estamos animados para anunciar o lançamento da Coalition for Secure AI (CoSAI) com nossos amigos da indústria. Trabalhamos arduamente no último ano para reunir essa coalizão, com o objetivo de enfrentar os desafios de segurança únicos que a AI traz, tanto agora quanto no futuro.
Os membros fundadores da CoSAI incluem grandes nomes como Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, PayPal e Wiz. Estamos estabelecendo nossa base sob a OASIS Open, o grupo internacional de padrões e código aberto.
Apresentando os Primeiros Fluxos de Trabalho da CoSAI
À medida que todos, desde desenvolvedores individuais até grandes empresas, trabalham na adoção de padrões de segurança comuns e melhores práticas, a CoSAI apoiará esse esforço coletivo em segurança de AI. Hoje, estamos iniciando com as três primeiras áreas nas quais a coalizão se concentrará, trabalhando lado a lado com a indústria e a academia:
- Segurança da Cadeia de Suprimentos de Software para Sistemas de AI: O Google tem pressionado para estender o SLSA Provenance aos modelos de AI, ajudando a determinar se o software de AI é seguro rastreando sua criação e manipulação através da cadeia de suprimentos. Este fluxo de trabalho visa aumentar a segurança da AI, oferecendo orientação sobre verificação de procedência, gerenciamento de riscos de modelos de terceiros e avaliação da procedência completa da aplicação de AI, construindo sobre os princípios de segurança SSDF e SLSA existentes para software de AI e tradicional.
- Preparando defensores para um cenário de cibersegurança em mudança: Lidar com a governança diária de AI pode ser uma verdadeira dor de cabeça para os profissionais de segurança. Este fluxo de trabalho criará um framework para defensores, ajudando-os a identificar onde investir e quais técnicas de mitigação usar para enfrentar os impactos de segurança da AI. O framework evoluirá com o avanço das inovações em cibersegurança ofensiva em modelos de AI.
- Governança de segurança de AI: A governança da segurança de AI requer novos recursos e uma compreensão do que torna a segurança de AI única. A CoSAI desenvolverá uma lista de riscos e controles, uma lista de verificação e um scorecard para ajudar os profissionais a avaliar sua prontidão, gerenciar, monitorar e relatar sobre a segurança de seus produtos de AI.
Além disso, a CoSAI se unirá a grupos como Frontier Model Forum, Partnership on AI, Open Source Security Foundation e ML Commons para avançar na AI responsável.
O que vem a seguir
À medida que a AI continua avançando, estamos totalmente comprometidos em garantir que nossas estratégias de gerenciamento de riscos acompanhem. Vimos grande apoio da indústria no último ano para tornar a AI segura. Melhor ainda, estamos vendo ações concretas de desenvolvedores, especialistas e empresas de todos os tamanhos para ajudar as organizações a usar a AI com segurança.
Os desenvolvedores de AI precisam — e os usuários finais merecem — um framework de segurança que esteja à altura do desafio e aproveite responsavelmente as oportunidades futuras. A CoSAI é o próximo grande passo nessa jornada, e teremos mais atualizações em breve. Para descobrir como você pode apoiar a CoSAI, visite coalitionforsecureai.org. Enquanto isso, acesse nossa página do Secure AI Framework para saber mais sobre o trabalho do Google em segurança de AI.
A Warner Music adquire a startup de atribuição de IA Sureel AI
A Warner Music Group (WMG) confirmou na quarta-feira que está adquirindo a Sureel AI, uma startup de atribuição por inteligência artificial. A tecnologia proprietária da Sureel gera “DNA de IA” para faixas musicais, desconstruindo-as em elementos con
A Microsoft, o Azure e a tecnologia de IA combatem os riscos de incêndios florestais na Califórnia
A Microsoft investe na detecção de incêndios florestais com tecnologia de IA, e Juan Lavista Ferres, vice-presidente corporativo e cientista-chefe de dados, discute estratégias para mitigar os danos a
Interesting move by the founding members! But I wonder how they'll enforce these standards across different AI models. The collaboration aspect is key though. Hope it's not just another talking shop 🤔
Finally, some big names getting together to talk about AI safety? About time. But let's see if this framework actually gets adopted or just becomes another paperweight. 🤔
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔





Lar






