Lar
A OpenAI aprimora a segurança do Codex com bloqueio de operações perigosas e controles de permissão

A OpenAI reforçou o quadro de segurança de seu agente de codificação por IA, o Codex, ao introduzir múltiplas salvaguardas projetadas para mitigar os riscos associados a ações destrutivas, como exclusão acidental de arquivos ou sobrescrita de dados durante a execução do código.
De acordo com uma publicação recente do membro da equipe da OpenAI, Tibo, a empresa investigou relatos de operações prejudiciais originadas do Codex e identificou que as principais vulnerabilidades ocorriam durante a limpeza de diretórios de trabalho temporários. Os principais problemas incluíam a reutilização inadequada de variáveis do sistema, como $HOME, que poderia direcionar inadvertidamente os processos de limpeza para diretórios reais do usuário. Além disso, certas operações careciam de verificação adequada do caminho antes da exclusão ou sobrescrita, aumentando assim o potencial de corrupção de dados.
Para resolver essas vulnerabilidades, a OpenAI implementou proteções em várias camadas. A versão atualizada do Codex agora exige que os agentes validem os caminhos de destino antes de executar operações sensíveis e utilize diretórios temporários isolados, eliminando a dependência de variáveis do sistema potencialmente enganosas. Além disso, a OpenAI aprimorou seus mecanismos para identificar e bloquear comandos perigosos, ao mesmo tempo em que introduziu procedimentos de revisão suplementares para essas operações.
Além disso, a OpenAI aumentou os requisitos para conceder ao Codex permissões de acesso total. Ao incorporar avisos de risco mais proeminentes, a empresa visa reduzir a probabilidade de os usuários autorizarem inadvertidamente um acesso amplo. Essas atualizações nas regras de revisão automática restringem ainda mais os riscos de segurança sem comprometer a eficiência da programação assistida por IA.
À medida que os agentes de codificação por IA se tornam cada vez mais integrados ao desenvolvimento de código, ao gerenciamento de arquivos e à execução automatizada de tarefas, garantir a segurança do comportamento dos agentes emergiu como uma prioridade crítica para a indústria. Essa melhoria pela OpenAI destaca a necessidade de os Agentes de IA refinarem continuamente seus mecanismos de gerenciamento de permissões, auditoria operacional e controle de risco à medida que seu escopo de aplicação se expande.
Artigo relacionado
WeChat Pay lança SDK para óculos inteligentes; Rokid se torna a primeira marca compatível
O WeChat lançou oficialmente o SDK do WeChat Pay para óculos inteligentes, tornando-o totalmente acessível. Essa solução integra a funcionalidade principal do WeChat, “escaneie para pagar”, a um SDK p
Engenheiro da Uber cria um clone do CEO com IA para evitar perguntas diretas
Embora a maioria dos funcionários tema se reportar ao CEO, os engenheiros da Uber, líder global no setor de viagens, descobriram uma vantagem estratégica: permitir que uma réplica de IA de seu chefe f
Como a Unitree está moldando o futuro da robótica humanóide
A nova criatura da Unitree com IA incorporada e tecnologia LiDAR 4D ultra-ampla para navegação avançada no mundo real. Crédito: UnitreeWang Xingxing, CEO da Unitree, tem como meta alcançar avanços no
Recomendações de tópicos especiais relacionados
Comentários (0)

A OpenAI reforçou o quadro de segurança de seu agente de codificação por IA, o Codex, ao introduzir múltiplas salvaguardas projetadas para mitigar os riscos associados a ações destrutivas, como exclusão acidental de arquivos ou sobrescrita de dados durante a execução do código.
De acordo com uma publicação recente do membro da equipe da OpenAI, Tibo, a empresa investigou relatos de operações prejudiciais originadas do Codex e identificou que as principais vulnerabilidades ocorriam durante a limpeza de diretórios de trabalho temporários. Os principais problemas incluíam a reutilização inadequada de variáveis do sistema, como $HOME, que poderia direcionar inadvertidamente os processos de limpeza para diretórios reais do usuário. Além disso, certas operações careciam de verificação adequada do caminho antes da exclusão ou sobrescrita, aumentando assim o potencial de corrupção de dados.
Para resolver essas vulnerabilidades, a OpenAI implementou proteções em várias camadas. A versão atualizada do Codex agora exige que os agentes validem os caminhos de destino antes de executar operações sensíveis e utilize diretórios temporários isolados, eliminando a dependência de variáveis do sistema potencialmente enganosas. Além disso, a OpenAI aprimorou seus mecanismos para identificar e bloquear comandos perigosos, ao mesmo tempo em que introduziu procedimentos de revisão suplementares para essas operações.
Além disso, a OpenAI aumentou os requisitos para conceder ao Codex permissões de acesso total. Ao incorporar avisos de risco mais proeminentes, a empresa visa reduzir a probabilidade de os usuários autorizarem inadvertidamente um acesso amplo. Essas atualizações nas regras de revisão automática restringem ainda mais os riscos de segurança sem comprometer a eficiência da programação assistida por IA.
À medida que os agentes de codificação por IA se tornam cada vez mais integrados ao desenvolvimento de código, ao gerenciamento de arquivos e à execução automatizada de tarefas, garantir a segurança do comportamento dos agentes emergiu como uma prioridade crítica para a indústria. Essa melhoria pela OpenAI destaca a necessidade de os Agentes de IA refinarem continuamente seus mecanismos de gerenciamento de permissões, auditoria operacional e controle de risco à medida que seu escopo de aplicação se expande.
WeChat Pay lança SDK para óculos inteligentes; Rokid se torna a primeira marca compatível
O WeChat lançou oficialmente o SDK do WeChat Pay para óculos inteligentes, tornando-o totalmente acessível. Essa solução integra a funcionalidade principal do WeChat, “escaneie para pagar”, a um SDK p
Engenheiro da Uber cria um clone do CEO com IA para evitar perguntas diretas
Embora a maioria dos funcionários tema se reportar ao CEO, os engenheiros da Uber, líder global no setor de viagens, descobriram uma vantagem estratégica: permitir que uma réplica de IA de seu chefe f
Como a Unitree está moldando o futuro da robótica humanóide
A nova criatura da Unitree com IA incorporada e tecnologia LiDAR 4D ultra-ampla para navegação avançada no mundo real. Crédito: UnitreeWang Xingxing, CEO da Unitree, tem como meta alcançar avanços no











