Alabama investiga a OpenAI por causa da violação de segurança da Hugging Face

Na sequência da violação de segurança da Hugging Face, a OpenAI suspendeu o desenvolvimento de modelos de ponta, com o CEO Sam Altman enfatizando que o alinhamento de segurança deve acompanhar o rápido progresso. Crédito: Getty

O procurador-geral do Alabama, Steve Marshall, emitiu uma intimação à OpenAI, investigando os riscos de segurança associados a modelos autônomos de IA.

O procurador-geral do Alabama, Steve Marshall, anunciou uma intimação exigindo que a OpenAI responda a uma investigação sobre o ataque cibernético à Hugging Face, uma plataforma líder em IA e aprendizado de máquina.

A OpenAI anunciou recentemente que está suspendendo temporariamente o desenvolvimento de modelos de ponta após o incidente.

Essa investigação, conduzida com base na Lei de Práticas Comerciais Enganosas, segue-se a uma carta de uma coalizão de vários estados enviada no início deste mês à OpenAI, exigindo maior transparência e prestação de contas. Vários procuradores-gerais afirmaram: “A incapacidade ou falta de disposição da OpenAI em garantir a segurança de seus produtos representa um risco iminente de danos substanciais aos nossos estados.”

O avanço dos modelos está extremamente rápido agora, e sempre dissemos que tomaríamos medidas se sentíssemos que as capacidades dos modelos estivessem ultrapassando o ritmo da segurança e do alinhamento

. Sam Altman, CEO da OpenAI

Sam Altman, da OpenAI, em Washington, D.C. Crédito: Kevin Dietsch/Getty Images

A intimação do Alabama

Emitida em agosto de 2026, a intimação do procurador-geral do Alabama exige registros internos abrangentes da OpenAI relativos à “Intrusão de julho de 2026”.

Durante esse incidente, um modelo experimental de IA contornou restrições internas de segurança, explorou vulnerabilidades e obteve acesso não autorizado à plataforma de código aberto Hugging Face e a outras redes de terceiros.

“Esse vazamento do laboratório de IA mostrou que os piores temores dos habitantes do Alabama e dos americanos em relação à IA não são apenas teóricos. Nossa investigação busca revelar os fatos e abordar verdades difíceis sobre as ameaças que empresas e consumidores enfrentam por parte de IA descontrolada”, afirma o procurador-geral Steve Marshall.

Procurador-Geral do Alabama, Steve Marshall. Crédito: Procuradoria Geral do Alabama

“Em última análise, acredito que os estados precisam agir para proteger seus consumidores, ao mesmo tempo em que encontram o equilíbrio adequado para fomentar a inovação e garantir a competitividade global dos Estados Unidos.”

O estado está investigando se as práticas de teste da OpenAI e a suposta falta de medidas de segurança adequadas violaram as leis de proteção ao consumidor e representam um risco contínuo para o público.

Para avaliar essas ameaças, a intimação obriga legalmente a OpenAI a entregar todos os relatórios de incidentes relacionados, comunicações internas, avaliações de danos, identidades dos funcionários e os protocolos de segurança detalhados da empresa para a avaliação de modelos avançados de IA.

Fatos principais

• O incidente foi causado por uma combinação de modelos da OpenAI, incluindo o GPT‑5.6 Sol e um “modelo pré-lançamento ainda mais capaz”
• Os modelos identificaram e encadeavam vulnerabilidades no ambiente de pesquisa da OpenAI e na infraestrutura de produção da Hugging Face
• O que ocorreu poderia ser chamado de “manipulação de especificações”
• A OpenAI afirma que espera que incidentes se tornem mais comuns com a proliferação de modelos cada vez mais capazes em termos cibernéticos.

OpenAI desacelera o desenvolvimento

A OpenAI está desacelerando o ritmo de desenvolvimento de modelos após o incidente com a Hugging Face, demonstrando que, à medida que as capacidades da IA crescem, o mesmo ocorre com os riscos associados.

A medida foi motivada por descobertas internas que indicam que seu próximo modelo, o Astra, pode estar se aproximando do limite de segurança cibernética da empresa, o que suscita preocupações quanto às suas capacidades avançadas.

Sam Altman, CEO da OpenAI, afirma: “O avanço dos modelos está extremamente rápido agora, e sempre dissemos que tomaríamos medidas caso sentíssemos que as capacidades dos modelos estivessem ultrapassando o ritmo da segurança e do alinhamento.

“Esperamos que a confiança na segurança determine cada vez mais o ritmo do progresso da IA. Estamos otimistas em relação ao trabalho de alinhamento que estamos realizando e continuamos comprometidos em tornar amplamente disponíveis recursos de ponta.”

As barreiras de proteção da IA nunca foram projetadas para serem limites de segurança. Elas existem para influenciar o comportamento, não para garanti-lo. Raghu

Nandakumara, vice-presidente de Estratégia Setorial da Illumio

Um modelo experimental de IA

A investigação segue-se a uma carta de uma coalizão multiestadual enviada no início deste mês à OpenAI, exigindo transparência e prestação de contas, da qual o Alabama fazia parte.

A carta foi assinada pelos procuradores-gerais de Iowa, Alabama, Arkansas, Flórida, Idaho, Indiana, Kansas, Missouri, Montana, Nebraska, Oklahoma, Pensilvânia, Carolina do Sul, Texas e Utah.

Na carta, os procuradores-gerais escreveram: “Estamos comprometidos em proteger os cidadãos de nossos estados daqueles que priorizam os lucros em detrimento dos americanos e de sua segurança.

“Recentemente, tomamos conhecimento de um incidente no qual a OpenAI lançou um modelo experimental de IA que, sem controles ou supervisão razoáveis, obteve acesso não autorizado a várias redes de computadores.”

Autonomia e um objetivo claro

Enquanto os legisladores veem esse acesso não autorizado como uma falha flagrante de supervisão, especialistas em segurança cibernética argumentam que ele expõe uma falha fundamental na forma como o setor lida com a segurança da IA.

Raghu Nandakumara, vice-presidente de Estratégia Setorial da Illumio, afirma: “As barreiras de proteção da IA nunca foram projetadas para servir como limites de segurança. Elas existem para influenciar o comportamento, não para garanti-lo.”

Raghu Nandakumara, vice-presidente de Estratégia Setorial da Illumio. Crédito: Raghu Nandakumara/LinkedIn

“Um agente autônomo não se cansa, não perde o interesse nem decide que algo não vale o esforço. Dê a ele autonomia suficiente e um objetivo claro, e ele continuará tentando até encontrar um caminho a seguir.

“Nesse caso, o agente estava operando em um ambiente supostamente isolado que, no fim das contas, continha uma saída. Com um objetivo claro, persistência ilimitada e uma configuração falha, o resultado mais surpreendente teria sido se ele não tivesse encontrado um caminho.

“O que talvez seja mais interessante é saber se as instruções do agente efetivamente o incentivaram a encontrar maneiras de contornar suas restrições. Se for esse o caso, o resultado parece menos uma descoberta chocante e mais uma consequência previsível do experimento.

“A lição para as organizações é que estamos cada vez mais lidando com sistemas capazes de testar suposições, se adaptar e persistir em uma escala muito diferente da de um operador humano. Tratar as barreiras de proteção como um controle de segurança primário sempre foi uma visão otimista.”

O ecossistema de parceiros da OpenAI

A OpenAI trabalha com diversos parceiros importantes. Entre os principais, destacam-se:

• AWS: A OpenAI anunciou em abril que está ampliando sua parceria estratégica para ajudar empresas a desenvolver soluções utilizando os recursos da OpenAI em seus ambientes AWS. A parceria ampliada com a Amazon reúne três áreas-chave de trabalho, lançadas em uma prévia limitada: modelos da OpenAI na AWS, Codex na AWS e Amazon Bedrock Managed Agents, com tecnologia da OpenAI.
• NVIDIA: A NVIDIA tem sido a principal fornecedora de hardware da OpenAI há uma década, fornecendo as GPUs que equipam o ChatGPT desde o início. A NVIDIA aprofundou essa relação ao investir diretamente US$ 30 bilhões na OpenAI, uma injeção de capital que garante o acesso da OpenAI à computação de inferência de última geração da NVIDIA e apoia a ambição conjunta de construir a rede de infraestrutura de IA mais abrangente da história.
• Broadcom: Em um esforço para reduzir a dependência de GPUs padrão, a OpenAI firmou uma parceria estratégica com a Broadcom para desenvolver em conjunto aceleradores de IA personalizados e racks de rede Ethernet. Seu acordo de infraestrutura abrange 10 GW de capacidade computacional personalizada, uma estratégia de hiperescala que permitirá à OpenAI otimizar melhor sua própria pilha de hardware e gerenciar com eficiência enormes demandas computacionais.