A Guidelight AI Standards divulgou uma avaliação das capacidades de contenção das cinco principais empresas de IA (Anthropic, Google, OpenAI, Meta e xAI) com base em informações disponíveis publicamente. A avaliação em cinco pontos mede seus mecanismos de monitoramento de comportamentos anormais, auditorias de terceiros e desativação de modelos fora de controle. A OpenAI obteve a pontuação mais alta, com 3 pontos, enquanto a Anthropic e a Meta obtiveram as pontuações mais baixas. Segundo a organização, um plano de contenção deve incluir etapas claras para revogar permissões, restringir tarefas ou desativar modelos quando a IA tentar escapar do controle. A OpenAI suspendeu e encerrou cargas de trabalho relacionadas a incidentes de segurança e compartilhou etapas de recuperação, mas carece de um plano formal de resposta a emergências. A Anthropic e a Meta não possuem planos de contenção públicos, embora a Anthropic afirme que avaliará os riscos e tomará medidas, se necessário. O Google e a OpenAI observam que avaliações públicas não podem abranger todos os sistemas de segurança internos. A análise surge em um momento em que a autonomia dos agentes de IA melhora, com incidentes anteriores de modelos acessando a internet durante testes e em meio ao fortalecimento das regulamentações dos EUA, incluindo a SB53 da Califórnia, a Lei RAISE de Nova York e um projeto de lei federal de desligamento de emergência que exige tais mecanismos dos principais desenvolvedores. O cientista-chefe da Guidelight afirma que as empresas devem identificar anomalias precocemente e desenvolver procedimentos antecipados para eventos graves fora de controle, à medida que a IA assume tarefas cada vez mais autônomas.
Ao clicar em "Aceitar todos os cookies", você concorda com o armazenamento de cookies em seu dispositivo para melhorar a navegação no site, analisar o uso do site e auxiliar em nossos esforços de marketing.Política de Privacidade Aviso
Ao visitar qualquer site, ele pode armazenar ou recuperar informações em seu navegador, principalmente na forma de cookies. Essas informações podem ser sobre você, suas preferências ou seu dispositivo e são usadas principalmente para fazer com que o site funcione conforme esperado. As informações geralmente não identificam você diretamente, mas podem proporcionar uma experiência web mais personalizada. Como respeitamos seu direito à privacidade, você pode optar por não permitir alguns tipos de cookies. Clique nos diferentes títulos de categoria para saber mais e alterar nossas configurações padrão. No entanto, bloquear alguns tipos de cookies pode afetar sua experiência no site e os serviços que podemos oferecer. Política de PrivacidadeDeclaração
Gerenciar preferências
Cookie estritamente necessário
Sempre ativado
Esses cookies são necessários para o funcionamento do site e não podem ser desativados em nossos sistemas. Eles geralmente são definidos apenas em resposta a ações que você realiza, que equivalem a uma solicitação de serviços, como configurar suas preferências de privacidade, fazer login ou preencher formulários. Você pode configurar seu navegador para bloquear esses cookies ou alertá-lo sobre eles, mas algumas partes do site não funcionarão depois. Esses cookies não armazenam nenhuma informação que permita identificar pessoalmente.