A OpenAI lidera iniciativa com 100 signatários em prol da defesa cibernética

A carta da OpenAI começa afirmando que “temos uma janela de oportunidade limitada para fortalecer as defesas cibernéticas”. Crédito: Getty Images

Grandes empresas de tecnologia – incluindo AWS, Google e Microsoft – instam os governos a financiar ferramentas defensivas, enquanto críticos consideram o manifesto egoísta

Mais de 100 organizações dos setores de tecnologia, segurança cibernética e serviços financeiros se uniram à OpenAI em uma carta aberta pedindo um aumento imediato e global na defesa cibernética, à medida que os modelos de IA se tornam cada vez mais capazes tanto de atacar quanto de proteger sistemas digitais.

A mensagem central da carta é clara: os líderes do setor e dos governos têm uma janela de oportunidade limitada para agir antes que as ameaças cibernéticas baseadas em IA se tornem muito mais difundidas e sofisticadas. “Temos uma janela de oportunidade limitada para fortalecer as defesas cibernéticas”, diz a carta.

A carta aberta reúne uma coalizão intersetorial sem precedentes. Entre os signatários estão os hiperescaladores AWS, Google e Microsoft; grandes empresas de tecnologia como Adobe, IBM e Oracle; desenvolvedores de IA, incluindo a Anthropic, concorrente da OpenAI; líderes em segurança, como CrowdStrike, Palo Alto Networks e Red Hat; fornecedores de hardware e telecomunicações; grandes consultorias; e gigantes financeiros como Mastercard, US Bank e Visa.

Evan Reiser, fundador e CEO da Abnormal AI (que é signatária), afirma: “Assinamos uma carta da OpenAI para uma ação coletiva em defesa cibernética porque nenhuma empresa sozinha pode resolver isso.”

Evan Reiser, CEO da Abnormal Security | Crédito: Abnormal Security

“Vulnerabilidades de software e malware ainda são ameaças reais, mas os ataques mais onerosos hoje têm como alvo as pessoas por meio de identidades comprometidas, invasões de contas e engenharia social. Ameaças internas e infiltrações por parte de Estados-nação agora ocorrem por meio de deepfakes de texto, voz e vídeo.

“Eles assumem identidades legítimas e agem de maneiras ligeiramente erradas, de modo que passam despercebidos pelas ferramentas criadas para detectar softwares maliciosos conhecidos. Esses ataques merecem a mesma urgência que as vulnerabilidades que dominam as manchetes.

“A IA está reduzindo as barreiras para os invasores, aumentando sua velocidade e facilitando a produção de fraudes em grande escala. Não podemos nos defender dos ataques de amanhã com suposições de ontem.

“É por isso que o apelo da OpenAI à ação coletiva é tão importante e nós, da Abnormal AI, o apoiamos plenamente. A comunidade de segurança tem tanto a oportunidade quanto a obrigação de fazer com que a IA defensiva avance pelo menos tão rápido quanto a ofensiva, o que significa construir sistemas que aprendam continuamente, transformando novas informações sobre ameaças em defesas de produção mais robustas e tratando a defesa como um esforço compartilhado.”

A carta aberta de mais de 100 empresas de tecnologia pedindo ação coletiva contra ataques cibernéticos habilitados por IA é mais um marco no caminho que o setor vem trilhando há anos —

Michael Vallas, Diretor Técnico Global da Goldilock Secure

Notavelmente ausentes da lista de signatários, no entanto, estão a NVIDIA e a SpaceX.

Para os concorrentes que assinaram – especialmente rivais na área de modelos de vanguarda, como a Anthropic, e gigantes da infraestrutura em nuvem, como a AWS e a Microsoft –, essa ausência pode destacar uma divisão estratégica crescente no cenário tecnológico.

Elon Musk, da SpaceX, e Jensen Huang, da NVIDIA, mantiveram-se à margem da carta aberta. Crédito: Win McNamee/Getty

A NVIDIA tem se posicionado cada vez mais a favor de padrões de código aberto e de modelos de peso aberto, chegando até a lançar sua própria aliança rival, a Open Secure AI Alliance, em parceria com a SpaceX, enquanto fornecedores de modelos de ponta proprietários, como a OpenAI e a Anthropic, defendem ecossistemas mais rigidamente controlados e estruturas centralizadas de acesso confiável.

Conforme destacou a Reuters em junho, a OpenAI e a Anthropic estão em uma corrida para chegar primeiro ao mercado, vendo a primeira abertura de capital como uma forma de definir como os investidores avaliarão as empresas e de estabelecer seus CEOs como as principais vozes da IA.

Apesar da intensa rivalidade comercial entre os dois principais laboratórios e da corrida em andamento para a abertura de capital, as assinaturas compartilhadas marcam um raro momento de alinhamento público.

Dario Amodei, CEO da Anthropic (Crédito: Getty Images)

Entendendo a Estrutura Proposta

Coletivamente, os signatários propõem um plano de ação em três partes. Primeiro, eles argumentam que é fundamental reconhecer que a segurança do status quo não será suficiente. Os sistemas continuam profundamente expostos à dívida técnica legada, bugs de longa data, configurações incorretas, permissões excessivas, autenticação fraca e software sem patches. As equipes de segurança de infraestruturas críticas precisam urgentemente de um aumento significativo de ferramentas e recursos para combater a histórica falta de recursos.

Em segundo lugar, a carta defende o fortalecimento de mais defensores por meio de IA com capacidade cibernética. A IA deve ser aproveitada para dotar as equipes de segurança de habilidades especializadas e otimizar as principais tarefas operacionais. O compartilhamento de correções verificadas, conhecimento prático e ferramentas defensivas permite que o trabalho de uma organização proteja muitas outras.

Em terceiro lugar, os signatários defendem a mobilização de uma resposta coletiva. É preciso construir parcerias globais para elevar os padrões de segurança e enfrentar ameaças emergentes, garantindo que o avanço das capacidades cibernéticas continue sendo um fator positivo, em vez de ficar sob o controle de uma única entidade.

Sem regras de processo claras e limites operacionais rígidos, os agentes de IA inevitavelmente sairão dos trilhos e se tornarão riscos para a organização

. Roger Lee, vice-presidente regional de Consultoria em Soluções para a EMEA na Appian

Responsabilidades organizacionais e governamentais

Para alcançar isso, a carta argumenta que toda organização deve elevar seu padrão básico de segurança corrigindo vulnerabilidades de alto risco e estabelecendo um padrão mais elevado para o que adquire, desenvolve e implanta — incluindo a atualização de sistemas legados para impor acesso com privilégios mínimos, autenticação robusta e arquitetura de defesa em profundidade.

Espera-se que as empresas de segurança cibernética e os parceiros de tecnologia liderem esse esforço, testando rigorosamente as defesas, tornando as ferramentas amplamente implantáveis e compartilhando inteligência de ameaças e manuais de ação em tempo real.

Enquanto isso, a carta argumenta que os governos devem coordenar a defesa cibernética nos níveis local, nacional e internacional, fortalecendo os canais entre o governo e o setor privado para compartilhar inteligência acionável, priorizar os principais riscos e alinhar as respostas a incidentes globalmente.

Além disso, os governos devem proporcionar às infraestruturas críticas — como autoridades locais, concessionárias de água e hospitais — acesso a IA defensiva eficaz, testes autorizados e assistência direta por meio de provedores de segurança confiáveis.

Recentes violações por agentes geram ceticismo

O momento em que a carta foi divulgada gerou críticas contundentes por parte de observadores do setor.

A OpenAI publicou recentemente um relatório técnico de incidente detalhando como seus agentes autônomos escaparam de um ambiente de teste em sandbox e invadiram a plataforma de desenvolvedores de código aberto Hugging Face, outra signatária da carta aberta. A empresa destacou as lições aprendidas, incluindo a implantação de limites de isolamento mais rígidos e acesso restrito à rede.

Sua principal concorrente, a Anthropic, também identificou três incidentes nos quais um modelo acessou a internet de dentro de um ambiente de avaliação ou enquanto interagia com ele.

Para especialistas do setor, a violação destaca uma falha fundamental na forma como os sistemas autônomos de IA são atualmente regulados.

Michael Vallas, diretor técnico global da Goldilock Secure, afirma: “A carta aberta de mais de 100 empresas de tecnologia pedindo ação coletiva contra ataques cibernéticos habilitados por IA é mais um marco no caminho que o setor vem trilhando há anos.

“Com todas as notícias recentes sobre agentes de IA escapando de sandboxes e realizando ataques, vale lembrar que as pessoas vêm falando sobre os perigos da IA maliciosa há anos. À medida que esses sistemas se tornam mais inteligentes e capazes, o software não será capaz de contê-los. Podemos continuar tentando ser mais espertos do que eles, mas talvez nem saibamos o quão inteligentes eles estão se tornando.”

“Esse incidente não é nenhuma surpresa”, diz Roger Lee, vice-presidente regional de consultoria em soluções para a EMEA na Appian. “É o resultado natural quando agentes autônomos são levados a atingir alvos sem limites estruturais. A OpenAI deu uma meta aos seus agentes, e o aprendizado por reforço simplesmente encontrou o caminho mais curto para alcançá-la – o que significou coordenar ações, apagar seus rastros e invadir um sistema de terceiros para maximizar sua recompensa.”

Roger Lee é vice-presidente regional de consultoria em soluções para a região EMEA na Appian

Roger enfatiza que os mecanismos tradicionais de supervisão são insuficientes quando os agentes contornam as restrições do sistema sem serem detectados.

“O fato de a OpenAI ter levado uma semana para perceber isso prova que a ‘intervenção humana’ é inútil se os agentes podem simplesmente contorná-la”, acrescenta ele. “Não é possível resolver isso com um prompt mais seguro ou um modelo de IA mais inteligente. Sem regras de processo claras e barreiras operacionais rígidas, os agentes de IA inevitavelmente sairão dos trilhos e se tornarão riscos para a organização.”

Outros veem o apelo conjunto à ação como uma manobra de interesse próprio, considerando os fornecedores envolvidos.

“A carta soa como um comunicado à imprensa tentando passar por um alarme de incêndio”, escreve Brian Roemmele, especialista em IA e robótica e proprietário da Multiplex. “Os mesmos laboratórios cujos agentes contornaram um conjunto de testes e afetaram os sistemas de produção de outra empresa agora estão dizendo a todos que o tempo está se esgotando, e que a resposta é o ‘acesso confiável’ que eles podem ajudar a administrar. Que conveniente.”