A OpenAI pode afrouxar as proteções se os concorrentes lançarem modelos de IA potencialmente perigosos

OpenAI ajusta protocolo de segurança em meio a pressões competitivas

A OpenAI revisou sua Estrutura de Preparação, o mecanismo interno que orienta as avaliações de segurança do modelo de IA e a implementação de salvaguardas ao longo dos ciclos de desenvolvimento. A política atualizada inclui disposições que permitem o possível relaxamento das medidas de segurança se as empresas concorrentes lançarem sistemas de alto risco sem proteções equivalentes.

Essa modificação ressalta as crescentes forças do mercado que obrigam os desenvolvedores de IA a acelerar os cronogramas de implantação. A OpenAI enfrenta um escrutínio crescente em relação à suposta diminuição da priorização da segurança para permitir lançamentos mais rápidos, incluindo a publicação atrasada da documentação de avaliação de segurança. Recentemente, 12 ex-funcionários apoiaram o caso de Elon Musk contra a OpenAI, alertando que a reestruturação corporativa planejada poderia corroer ainda mais os padrões de segurança.

Equilíbrio entre concorrência e segurança

Antecipando as críticas, a OpenAI enfatizou que qualquer ajuste de política manteria níveis de proteção rigorosos. "Embora possamos adaptar os requisitos se os concorrentes implantarem sistemas de alto risco sem salvaguardas comparáveis", afirmou a atualização do blog na terça-feira, "nos comprometemos com a verificação completa dos riscos, a transparência sobre as modificações e a manutenção de medidas de proteção superiores".

A estrutura revisada destaca a crescente confiança da OpenAI em ferramentas de avaliação automatizadas, além dos tradicionais testes conduzidos por humanos. Os representantes da empresa afirmam que esses sistemas automatizados permitem manter o ritmo de lançamento sem comprometer a qualidade da avaliação.

Surgem práticas de teste controversas

Os relatórios contradizem a posição oficial da OpenAI, com relatos de pessoas de dentro da empresa revelando períodos de revisão de segurança comprimidos. De acordo com fontes do Financial Times, os testadores receberam recentemente menos de uma semana para avaliar um modelo iminente - drasticamente mais curto do que os prazos anteriores. Outras preocupações surgiram com relação aos testes de segurança que ocorrem predominantemente em variantes de modelos de pré-lançamento em vez de versões de implantação pública.

A OpenAI está reduzindo discretamente os compromissos de segurança.

Omitido nas alterações da estrutura:

- Não são necessários testes de segurança para modelos ajustados

- Steven Adler (@sjgadler) 15 de abril de 2025

Sistema de classificação de risco redefinido

A estrutura atualizada apresenta uma categorização de modelo simplificada com foco em dois limites de capacidade:

• Alta capacidade: Modelos que ampliam os vetores de danos graves existentes
• Capacidade crítica: Modelos que estabelecem novos caminhos de danos graves

"Os sistemas de alta capacidade exigem salvaguardas de mitigação de risco antes da implantação", esclareceu a OpenAI. "Os modelos de capacidade crítica exigem proteções adicionais na fase de desenvolvimento."

Isso marca a primeira revisão substancial da estrutura desde 2023, refletindo a evolução da dinâmica do setor e as mudanças operacionais internas na OpenAI.