opção
WilliamRamirez
WilliamRamirez
24 de Agosto de 2026

A Guidelight AI Standards divulgou uma avaliação das capacidades de contenção das cinco principais empresas de IA (Anthropic, Google, OpenAI, Meta e xAI) com base em informações disponíveis publicamente. A avaliação em cinco pontos mede seus mecanismos de monitoramento de comportamentos anormais, auditorias de terceiros e desativação de modelos fora de controle. A OpenAI obteve a pontuação mais alta, com 3 pontos, enquanto a Anthropic e a Meta obtiveram as pontuações mais baixas. Segundo a organização, um plano de contenção deve incluir etapas claras para revogar permissões, restringir tarefas ou desativar modelos quando a IA tentar escapar do controle. A OpenAI suspendeu e encerrou cargas de trabalho relacionadas a incidentes de segurança e compartilhou etapas de recuperação, mas carece de um plano formal de resposta a emergências. A Anthropic e a Meta não possuem planos de contenção públicos, embora a Anthropic afirme que avaliará os riscos e tomará medidas, se necessário. O Google e a OpenAI observam que avaliações públicas não podem abranger todos os sistemas de segurança internos. A análise surge em um momento em que a autonomia dos agentes de IA melhora, com incidentes anteriores de modelos acessando a internet durante testes e em meio ao fortalecimento das regulamentações dos EUA, incluindo a SB53 da Califórnia, a Lei RAISE de Nova York e um projeto de lei federal de desligamento de emergência que exige tais mecanismos dos principais desenvolvedores. O cientista-chefe da Guidelight afirma que as empresas devem identificar anomalias precocemente e desenvolver procedimentos antecipados para eventos graves fora de controle, à medida que a IA assume tarefas cada vez mais autônomas.

A Guidelight AI Standards divulgou uma avaliação das capacidades de contenção das cinco principais empresas de IA (Anthropic, Google, OpenAI, Meta e xAI) com base em informações disponíveis publicamente. A avaliação em cinco pontos mede seus mecanismos de monitoramento de comportamentos anormais, auditorias de terceiros e desativação de modelos fora de controle. A OpenAI obteve a pontuação mais alta, com 3 pontos, enquanto a Anthropic e a Meta obtiveram as pontuações mais baixas. Segundo a organização, um plano de contenção deve incluir etapas claras para revogar permissões, restringir tarefas ou desativar modelos quando a IA tentar escapar do controle. A OpenAI suspendeu e encerrou cargas de trabalho relacionadas a incidentes de segurança e compartilhou etapas de recuperação, mas carece de um plano formal de resposta a emergências. A Anthropic e a Meta não possuem planos de contenção públicos, embora a Anthropic afirme que avaliará os riscos e tomará medidas, se necessário. O Google e a OpenAI observam que avaliações públicas não podem abranger todos os sistemas de segurança internos. A análise surge em um momento em que a autonomia dos agentes de IA melhora, com incidentes anteriores de modelos acessando a internet durante testes e em meio ao fortalecimento das regulamentações dos EUA, incluindo a SB53 da Califórnia, a Lei RAISE de Nova York e um projeto de lei federal de desligamento de emergência que exige tais mecanismos dos principais desenvolvedores. O cientista-chefe da Guidelight afirma que as empresas devem identificar anomalias precocemente e desenvolver procedimentos antecipados para eventos graves fora de controle, à medida que a IA assume tarefas cada vez mais autônomas.
Comentários (0)
0/300
OR