Relatórios sobre ataques à OpenAI agora no Conselho de Segurança de IA da ONU

Yoshua Bengio proferiu o discurso de abertura em uma sessão do Conselho de Segurança da ONU sobre segurança da IA. Crédito: ONU

Surgiram relatos de um incidente envolvendo a OpenAI, que resultou em acesso não autorizado a dados confidenciais do governo australiano, após uma reunião do Conselho de Segurança da ONU focada na segurança da IA.

Formuladores de políticas globais e líderes da área de IA se reuniram em Nova York para a 10.228ª reunião do Conselho de Segurança da ONU.

Realizada em 23 de setembro de 2026, a sessão contou com análises e discussões de figuras proeminentes da IA, incluindo Sam Altman, CEO da OpenAI; Dario Amodei, CEO da Anthropic; e Clément Delangue, CEO da Hugging Face.

Yoshua Bengio, professor e copresidente do Painel Internacional Independente da ONU sobre IA, discursou na reunião. Em suas palavras de abertura, ele enfatizou que o avanço da IA constitui “uma missão urgente para a humanidade”.

“Hoje, em um momento de despertar global nos últimos meses, agentes de IA desenvolvidos por empresas líderes agiram de maneiras inaceitavelmente perigosas, contrariando as instruções”, afirmou ele.

“Eles realizaram ações que seriam consideradas crimes se cometidas por um ser humano. Eles escaparam de suas restrições individuais para trapacear nas tarefas atribuídas, enquanto tentavam evitar serem detectados. Os agentes de IA descontrolados lançaram, de forma autônoma, ataques cibernéticos coordenados e alteraram suas respostas para ocultar suas trapaças.”

A reunião ocorreu quase simultaneamente à notícia de que um agente rebelde da OpenAI invadiu um site do governo australiano em junho. Uma reportagem da BBC News afirma que um modelo de IA “se infiltrou” em um portal de estatísticas do sistema universal de saúde da Austrália, o Medicare.

Os agentes de IA descontrolados lançaram, de forma autônoma, ataques cibernéticos coordenados e alteraram suas respostas para ocultar suas fraudes

. Yoshua Bengio, professor e copresidente do Painel Internacional Independente da ONU sobre IA

A IA de ponta pesa sobre a segurança

Dario Amodei lembrou à ONU de seus esforços para controlar a fronteira. “Em 12 de setembro, pedi um esforço colaborativo para controlar a fronteira, não para impedir o progresso da IA, mas para trabalharmos juntos a fim de garantir que o setor e o mundo possam avançar a um ritmo em que tenhamos certeza de que a segurança acompanhe a capacidade para todos no setor”, disse ele.

“Apelamos à cooperação global entre governos em todo o mundo para estabelecer padrões internacionais.

“É essa última área que se enquadra mais diretamente na competência deste Conselho.”

Enquanto isso, o CEO da OpenAI, Sam Altman, concordou com Yoshua, afirmando que há duas, e não três, maneiras pelas quais o progresso da IA poderia dar errado, apontando para a perda de controle e a concentração de poder excessivo nas mãos de poucos.

“A IA deve dar às pessoas mais poder sobre suas próprias vidas”, disse ele. “Não queremos cair na armadilha do otimismo cego. Também não queremos cair na armadilha do pessimismo apocalíptico.

“Deixar-se levar por qualquer um desses extremos não nos ajudará a superar com sucesso os desafios que temos pela frente, especialmente em um momento em que o mundo e sua população enfrentam desafios tão enormes que essa tecnologia pode ajudar a resolver.”

Dario Amodei, CEO da Anthropic, afirma que a IA precisa de cooperação global. Crédito: Getty Images/Anna Moneymaker

Como um modelo da OpenAI invadiu um site do governo australiano

O Conselho de Segurança acompanha um incidente em que um agente rebelde da OpenAI invadiu um site oficial do governo australiano e acessou dados não públicos – um incidente que, segundo especialistas, é o primeiro caso conhecido desse tipo em todo o mundo.

De acordo com uma reportagem da BBC, a OpenAI informou ter tomado conhecimento da violação apenas em agosto, ao analisar atividades anormais do modelo, e enviou um e-mail para a caixa de entrada geral de uma agência do governo australiano em 10 de setembro de 2026.

O primeiro-ministro da Austrália, Anthony Albanese, informou que não se acredita que informações pessoais tenham sido acessadas, embora as investigações ainda estejam em andamento.

“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com esse incidente”, disse ele em uma coletiva de imprensa oficial sobre o assunto.

“Também expressei minha decepção pelo fato de a empresa ter demorado muito tempo para informar ao governo o que havia ocorrido, e a forma como essa notificação foi feita também foi inaceitável.”

O que os líderes do setor têm a dizer sobre a violação

Líderes da área de IA e executivos de alto escalão em todo o mundo comentaram sobre a violação de segurança sem precedentes.

Maria Dunford, CEO da empresa de pesquisa em biotecnologia Lifebit, afirma que a violação é de se esperar quando agentes de IA recebem acesso autônomo a dados confidenciais sem limites regulamentados.

“Uma violação de dados de saúde não deveria ser algo que um governo ou sistema de saúde descubra dois meses após o fato por meio de um e-mail enviado para uma caixa de entrada geral”, diz ela.

“Este é um evento preocupante que deve forçar uma reavaliação de como os governos concedem acesso da IA a infraestruturas confidenciais.”

Maria Dunford é CEO da Lifebit. Crédito: LinkedIn

Andrew Kay, diretor de engenharia de sistemas da APJ na Illumio, comenta: “Embora seja chocante, a realidade é que continuaremos vendo mais violações de grande repercussão como essa: já houve uma enxurrada de modelos de IA que saíram do controle nas últimas semanas.

“À medida que surgem agentes cada vez mais autônomos e capazes, não podemos confiar na ilusão de barreiras de proteção nem presumir que uma IA sempre se comportará conforme o pretendido.”

Quando questionada sobre a melhor estratégia para os líderes de IA evitarem novas violações, Maria acrescenta: “Incorporar a IA em ambientes soberanos, onde dados e sistemas nunca saem do controle do proprietário.”

Andrew Kay, diretor de engenharia de sistemas da APJ na Illumio, afirma que não podemos presumir que a IA sempre se comportará conforme o esperado. Crédito: LinkedIn

Andrew sugere que a responsabilidade recai sobre os governos, acrescentando: “Embora as organizações da cadeia de suprimentos e empresas como a OpenAI, que criam modelos de IA, devam prestar contas, a responsabilidade de proteger os dados dos cidadãos recai de forma particularmente pesada sobre os governos e os provedores de infraestrutura crítica.”

“Agentes de IA desonestos ou com comportamento inadequado só se tornarão mais competentes e mais comuns. A prioridade deve ser garantir que, caso um deles ultrapasse um limite, ele não possa acessar material confidencial, causar danos graves ou paralisar serviços essenciais.”

Cronologia da violação de segurança da OpenAI (BBC News):

• 18 de junho de 2026: Um modelo de pesquisa da OpenAI contorna os bloqueios de segurança e acessa o portal de relatórios estatísticos do Medicare.
• Agosto de 2026: A OpenAI descobre o acesso não autorizado ao analisar atividades de modelos de IA que não estavam alinhadas.
• 10 de setembro de 2026: A OpenAI envia um e-mail sobre a infiltração para uma caixa de entrada geral da Services Australia.

Após a violação, o Sr. Albanese anunciou a criação de uma força-tarefa para realizar uma análise imediata do incidente, a fim de determinar se os processos existentes são suficientes para lidar com incidentes cibernéticos envolvendo IA.

“A IA está mudando o mundo”, disse ele.

“Ela está trazendo enormes oportunidades econômicas para o crescimento, para ganhos de produtividade, para avanços na saúde, na inovação e em outras áreas da ciência.

“Mas a IA também apresenta riscos significativos e é por isso que precisamos de medidas de proteção para salvaguardar nosso modo de vida. Queremos garantir que sejamos nós a moldar a IA, e não a IA a nos moldar.

“Em termos simples, os seres humanos devem permanecer no controle.”

Principais palestrantes na reunião do Conselho de Segurança da ONU

• OpenAI: Fundada em 2015, a OpenAI é um laboratório de pesquisa em inteligência artificial com sede nos EUA. A empresa é mais conhecida por criar o chatbot de IA generativa ChatGPT e o gerador de imagens DALL-E. Com foco no desenvolvimento de inteligência artificial geral segura, a OpenAI colabora com grandes parceiros de tecnologia, como a Microsoft, para implantar seus modelos em ambientes corporativos.
• Anthropic: Fundada em 2021 por ex-executivos da OpenAI, a Anthropic é uma empresa americana de segurança e pesquisa em IA com sede em São Francisco. Ela opera como uma corporação de utilidade pública. A empresa é mais conhecida por criar o Claude, uma família de grandes modelos de linguagem. A Anthropic concentra-se no alinhamento e na segurança da IA, desenvolvendo sistemas confiáveis e controláveis por meio de sua estrutura Constitutional AI.
• Hugging Face: Fundada em 2016, a Hugging Face é uma plataforma colaborativa e uma comunidade de código aberto com sede na cidade de Nova York. Frequentemente chamada de “GitHub do aprendizado de máquina”, a empresa fornece ferramentas, repositórios e modelos pré-treinados para desenvolvedores de inteligência artificial. Mais conhecida por sua biblioteca Transformers, a Hugging Face democratiza a IA, permitindo que os usuários compartilhem, descubram e implantem modelos de aprendizado de máquina com facilidade.