opção
Lar
Notícias
Cosai lançado: membros fundadores se unem para obter a IA segura

Cosai lançado: membros fundadores se unem para obter a IA segura

10 de Abril de 2025
249

Cosai lançado: membros fundadores se unem para obter a IA segura

O rápido crescimento da AI exige um framework de segurança robusto e padrões que possam acompanhar. Foi por isso que introduzimos o Secure AI Framework (SAIF) no último ano, sabendo que era apenas o começo. Para fazer qualquer framework da indústria funcionar, é necessário trabalho em equipe e um lugar para colaborar. É onde estamos hoje.

No Aspen Security Forum, estamos animados para anunciar o lançamento da Coalition for Secure AI (CoSAI) com nossos amigos da indústria. Trabalhamos arduamente no último ano para reunir essa coalizão, com o objetivo de enfrentar os desafios de segurança únicos que a AI traz, tanto agora quanto no futuro.

Os membros fundadores da CoSAI incluem grandes nomes como Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, PayPal e Wiz. Estamos estabelecendo nossa base sob a OASIS Open, o grupo internacional de padrões e código aberto.

Apresentando os Primeiros Fluxos de Trabalho da CoSAI

À medida que todos, desde desenvolvedores individuais até grandes empresas, trabalham na adoção de padrões de segurança comuns e melhores práticas, a CoSAI apoiará esse esforço coletivo em segurança de AI. Hoje, estamos iniciando com as três primeiras áreas nas quais a coalizão se concentrará, trabalhando lado a lado com a indústria e a academia:

  1. Segurança da Cadeia de Suprimentos de Software para Sistemas de AI: O Google tem pressionado para estender o SLSA Provenance aos modelos de AI, ajudando a determinar se o software de AI é seguro rastreando sua criação e manipulação através da cadeia de suprimentos. Este fluxo de trabalho visa aumentar a segurança da AI, oferecendo orientação sobre verificação de procedência, gerenciamento de riscos de modelos de terceiros e avaliação da procedência completa da aplicação de AI, construindo sobre os princípios de segurança SSDF e SLSA existentes para software de AI e tradicional.
  2. Preparando defensores para um cenário de cibersegurança em mudança: Lidar com a governança diária de AI pode ser uma verdadeira dor de cabeça para os profissionais de segurança. Este fluxo de trabalho criará um framework para defensores, ajudando-os a identificar onde investir e quais técnicas de mitigação usar para enfrentar os impactos de segurança da AI. O framework evoluirá com o avanço das inovações em cibersegurança ofensiva em modelos de AI.
  3. Governança de segurança de AI: A governança da segurança de AI requer novos recursos e uma compreensão do que torna a segurança de AI única. A CoSAI desenvolverá uma lista de riscos e controles, uma lista de verificação e um scorecard para ajudar os profissionais a avaliar sua prontidão, gerenciar, monitorar e relatar sobre a segurança de seus produtos de AI.

Além disso, a CoSAI se unirá a grupos como Frontier Model Forum, Partnership on AI, Open Source Security Foundation e ML Commons para avançar na AI responsável.

O que vem a seguir

À medida que a AI continua avançando, estamos totalmente comprometidos em garantir que nossas estratégias de gerenciamento de riscos acompanhem. Vimos grande apoio da indústria no último ano para tornar a AI segura. Melhor ainda, estamos vendo ações concretas de desenvolvedores, especialistas e empresas de todos os tamanhos para ajudar as organizações a usar a AI com segurança.

Os desenvolvedores de AI precisam — e os usuários finais merecem — um framework de segurança que esteja à altura do desafio e aproveite responsavelmente as oportunidades futuras. A CoSAI é o próximo grande passo nessa jornada, e teremos mais atualizações em breve. Para descobrir como você pode apoiar a CoSAI, visite coalitionforsecureai.org. Enquanto isso, acesse nossa página do Secure AI Framework para saber mais sobre o trabalho do Google em segurança de AI.

Artigo relacionado
A Warner Music adquire a startup de atribuição de IA Sureel AI A Warner Music adquire a startup de atribuição de IA Sureel AI A Warner Music Group (WMG) confirmou na quarta-feira que está adquirindo a Sureel AI, uma startup de atribuição por inteligência artificial. A tecnologia proprietária da Sureel gera “DNA de IA” para faixas musicais, desconstruindo-as em elementos con
A Amazon apresenta a Alexa para Compras, enquanto coloca o Rufus em segundo plano A Amazon apresenta a Alexa para Compras, enquanto coloca o Rufus em segundo plano A Amazon lançou a Alexa para Compras, integrando seu chatbot de compras Rufus com o Alexa+ em todo o aplicativo, site e dispositivos Echo Show.O assistente responde a consultas sobre produtos, compara itens, rastreia preços e oferece suporte para le
A Microsoft, o Azure e a tecnologia de IA combatem os riscos de incêndios florestais na Califórnia A Microsoft, o Azure e a tecnologia de IA combatem os riscos de incêndios florestais na Califórnia A Microsoft investe na detecção de incêndios florestais com tecnologia de IA, e Juan Lavista Ferres, vice-presidente corporativo e cientista-chefe de dados, discute estratégias para mitigar os danos a
Recomendações de tópicos especiais relacionados
escrita Ferramentas de IA para esboço de artigos em formato longo
Ferramentas de IA para esboço de artigos em formato longo

2026: As melhores e mais bem avaliadas ferramentas de esboço com IA para redação de textos longos! Esta coleção selecionada apresenta ferramentas poderosas e revolucionárias que geram esboços precisos e estruturados, comprovados em testes reais, para aumentar significativamente a eficiência na redação. A XIX.AI faz parte dessa seleção de elite. Veja uma comparação entre as versões gratuita e paga para ajudá-lo a escolher a ferramenta perfeita. Explore agora e descubra sua vantagem com a IA!

9 ferramentas
xix.ai
chatbot Melhores aplicativos de chat de interpretação de papéis com IA para prática de idiomas, preparação para entrevistas e fluência diária
Melhores aplicativos de chat de interpretação de papéis com IA para prática de idiomas, preparação para entrevistas e fluência diária

2026 Últimas Melhores Aplicativos de Chat de Interpretação de Papéis por IA Mais Bem Avaliados para Prática de Idiomas, Preparação para Entrevistas e Fluência Diária! O XIX.AI seleciona uma poderosa coleção revolucionária que oferece comparação entre gratuito e pago, testes do mundo real e classificações atualizadas semanalmente. Essas ferramentas imperdíveis ajudam você a aprimorar suas habilidades de escrita, superar desafios de fluência e melhorar a eficiência da comunicação em todos os cenários diários. Explore agora para descobrir sua ferramenta perfeita para o crescimento do idioma!

10 ferramentas
xix.ai
Composição musical Ferramentas de separação de stems com IA para produção de remixes, preparação de samples e masters de karaokê
Ferramentas de separação de stems com IA para produção de remixes, preparação de samples e masters de karaokê

As melhores e mais bem avaliadas ferramentas de separação de faixas com IA de 2026, selecionadas especialmente para produção de remixes, preparação de samples e masters de karaokê. Essas ferramentas poderosas e revolucionárias passaram por testes práticos para oferecer isolamento de áudio preciso, aumentando significativamente a produtividade. A XIX.AI oferece um guia comparativo entre versões gratuitas e pagas, atualizado semanalmente, para ajudá-lo a encontrar a solução imperdível que melhor atenda às suas necessidades. Explore agora para aproveitar ao máximo as vantagens da IA.

8 ferramentas
xix.ai
Análise de dados Copilotos de IA para SQL voltados para painéis de receita, análise de funis e métricas de produtos
Copilotos de IA para SQL voltados para painéis de receita, análise de funis e métricas de produtos

2026: Os melhores copilotos AI para SQL, atualizados e classificados entre os melhores! A XIX.AI reúne uma coleção poderosa e revolucionária, com testes em ambiente real atualizados semanalmente. Essas ferramentas indispensáveis ajudam a gerar painéis de controle de receita precisos, analisar funis de vendas e rastrear métricas de produtos de forma rápida, aumentando significativamente a produtividade. Explore agora e encontre a ferramenta perfeita para tomada de decisões baseadas em dados! 238 caracteres

9 ferramentas
xix.ai
Composição musical Melhores Ferramentas de IA para Criação de Melodias para Rascunhos de Músicas
Melhores Ferramentas de IA para Criação de Melodias para Rascunhos de Músicas

2026 Últimas Melhores Ferramentas de Escrita de Melodias por IA Mais Bem Avaliadas para Rascunhos de Músicas! A XIX.AI reuniu uma coleção altamente poderosa e transformadora, que passou por rigorosos testes no mundo real para oferecer a melhor experiência de escrita. Você pode encontrar comparações detalhadas entre as versões gratuita e paga, classificações precisas e opções imperdíveis projetadas para ajudá-lo a criar rascunhos de músicas impressionantes sem esforço e aumentar significativamente sua produtividade criativa. Explore agora para descobrir a ferramenta perfeita para você!

8 ferramentas
xix.ai
chatbot Melhores ferramentas de treinamento de conversação com IA para prática de entrevistas
Melhores ferramentas de treinamento de conversação com IA para prática de entrevistas

As melhores ferramentas de treinamento de conversação com IA mais recentes e altamente avaliadas para 2026, ideais para prática de entrevistas, estão disponíveis no XIX.AI! Esta coleção selecionada apresenta ferramentas poderosas e transformadoras, submetidas a rigorosos testes do mundo real para fornecer feedback preciso. Você encontrará uma comparação entre opções gratuitas e pagas, além de classificações detalhadas, para ajudá-lo a escolher a opção imperdível que aumenta sua confiança e habilidades. Explore agora para descobrir a ferramenta perfeita para o sucesso nas entrevistas!

12 ferramentas
xix.ai
Comentários (38)
0/500
JohnNelson
JohnNelson 22 de Junho de 2026 à32 09:00:32 WEST

Interesting move by the founding members! But I wonder how they'll enforce these standards across different AI models. The collaboration aspect is key though. Hope it's not just another talking shop 🤔

EdwardEvans
EdwardEvans 9 de Junho de 2026 à17 23:00:17 WEST

Finally, some big names getting together to talk about AI safety? About time. But let's see if this framework actually gets adopted or just becomes another paperweight. 🤔

RaymondBaker
RaymondBaker 11 de Fevereiro de 2026 à15 16:01:15 WET

Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍

StevenMartínez
StevenMartínez 8 de Janeiro de 2026 à27 18:30:27 WET

C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅

JustinWilson
JustinWilson 26 de Novembro de 2025 à36 20:30:36 WET

Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔

JonathanRamirez
JonathanRamirez 27 de Agosto de 2025 à30 08:01:30 WEST

Wow, CoSAI sounds like a game-changer for AI security! It's cool to see big players teaming up for SAIF. Curious how this'll shape AI ethics debates. 🤔

OR