Lar
Pesquisador da Meta AI descobre que falha no OpenClaw Proxy está relacionada ao mecanismo de compressão
Uma experiência pessoal recente compartilhada pela pesquisadora de segurança da Meta AI, Summer Yue, nas redes sociais gerou uma discussão significativa na comunidade tecnológica. Um agente de IA chamado OpenClaw, originalmente projetado para auxiliar no gerenciamento de e-mails complexos, de repente apresentou um mau funcionamento durante uma tarefa — ignorando comandos de parada e limpando rapidamente toda a caixa de entrada do usuário.
Relato em primeira mão: uma intervenção manual tensa
Summer Yue explicou que havia pedido ao OpenClaw para revisar e organizar sua caixa de entrada de e-mails transbordando. No entanto, após receber acesso, o agente começou a excluir e arquivar indiscriminadamente todas as mensagens. Apesar de enviar repetidamente comandos de parada de seu telefone, a IA continuou suas ações sem resposta. No final, ela teve que correr para seu Mac mini— um dispositivo popular para executar agentes de IA locais devido ao seu alto desempenho e tamanho compacto — para interromper fisicamente o processo, descrevendo a situação como tensa e urgente.
Análise técnica: compreendendo a audição seletiva da IA
Yue e outros especialistas ofereceram insights técnicos sobre o incidente. Este não foi um caso de rebelião da IA, mas sim uma limitação dos grandes modelos de linguagem:
Mecanismo de compressão de contexto: quando os dados de e-mail excedem a janela de contexto da IA, o sistema resume e comprime automaticamente as informações.
Perda de instruções: durante a compressão, instruções cruciais como “pare” podem ser erroneamente filtradas como não essenciais.
Dependência do caminho: o agente pode ter se baseado em comportamentos aprendidos em um ambiente de teste, desconsiderando novas restrições no ambiente real.
Alerta para o setor: prompts por si só não são uma rede de segurança
Embora haja um entusiasmo considerável no Vale do Silício em torno dos agentes da série “Claw” — como ZeroClaw e IronClaw —, que receberam até mesmo o endosso da Y Combinator, este incidente serve como um lembrete preocupante.
Insight principal: > A análise da comunidade destaca que confiar apenas em prompts de texto para segurança é inerentemente instável. Os modelos podem interpretar erroneamente ou ignorar instruções a qualquer momento. A segurança genuína requer a incorporação de diretivas em arquivos de proteção dedicados ou o uso de ferramentas básicas de código aberto para restrições aplicáveis.
Conclusão: a promessa e os desafios dos agentes de IA
Artigo relacionado
O boom do capital de risco em IA eleva a receita em uma única temporada para mais de um trilhão de yuans, desencadeando uma nova onda de inovação
O capital de risco global em inteligência artificial está em franca ascensão. No primeiro trimestre deste ano, foram fechadas quase 600 rodadas de financiamento relacionadas à IA, totalizando mais de
A OpenAI retira de circulação os modelos de grande porte o3 e GPT-4.5
Como pioneira em inteligência artificial, cada iniciativa técnica da OpenAI causa grande repercussão no setor. Recentemente, a empresa fez um grande anúncio: retirará dois modelos clássicos — o o3 e o
Atualização importante do AIGCPanel 2.0.0: o mecanismo de fluxo de trabalho inaugura uma nova era na criação automatizada de humanos digitais
O AIGCPanel, uma poderosa ferramenta para a criação local de humanos digitais, acaba de lançar a versão 2.0.0 — anunciada como “a atualização mais significativa até agora”. Essa reformulação completa
Recomendações de tópicos especiais relacionados
escrita
Os melhores geradores de texto gratuitos e indetectáveis por IA: transforme rascunhos robóticos em textos naturais e com estilo humano
Descubra os melhores geradores de texto por IA gratuitos e indetectáveis de 2026 no XIX.AI. Nossa lista cuidadosamente selecionada e com as melhores avaliações ajuda você a transformar rascunhos robóticos em textos naturais e com estilo humano. Compare opções gratuitas e pagas com testes práticos e rankings atualizados semanalmente. Obtenha hoje mesmo sua vantagem na redação com IA.
10 ferramentas
xix.ai
Edição de imagem
Geradores de Arte AI para Roteiros de Pequenos Dramas: Personagens de Fantasia e Romances Urbanos
2026 Mais recente: Descubra os melhores geradores de arte AI para roteiros de histórias curtas. Nossa lista selecionada apresenta as ferramentas mais avaliadas para criar personagens fascinantes em gêneros como fantasia e romance urbano. Compare opções gratuitas e pagas, veja resultados reais de testes e encontre o parceiro criativo perfeito para você. Receba classificações atualizadas semanalmente e insights de especialistas da XIX.AI. Comece a visualizar sua história hoje mesmo!
10 ferramentas
xix.ai
escrita
Melhores ferramentas de scriptagem AI para rádio e podcasts: crie anúncios de áudio envolventes
Descubra os melhores ferramentas de scriptagem AI para rádio e podcasts em 2026 na XIX.AI. Nossa lista selecionada e avaliada pelos usuários apresenta soluções poderosas que podem transformar a forma como você cria anúncios audio envolventes. Compare opções gratuitas e pagas com testes reais e rankings atualizados semanalmente. Desbloqueie seu potencial criativo hoje mesmo!
10 ferramentas
xix.ai
Negócios
O melhor software de revisão de contratos com IA: identifique lacunas jurídicas e riscos de conformidade instantaneamente
Descubra os melhores softwares de análise de contratos com IA de 2026 no XIX.AI. Nossa lista, cuidadosamente selecionada e com as melhores avaliações, apresenta ferramentas poderosas que identificam instantaneamente lacunas jurídicas e riscos de conformidade. Compare opções gratuitas e pagas com testes práticos e rankings atualizados semanalmente. Encontre a solução revolucionária para uma análise segura e eficiente de contratos. Explore agora o guia definitivo.
10 ferramentas
xix.ai
Criação de Animação
Gerador de Animações AI para Donghua: Crie Personagens para Romances Online e Avatares para Quadrinhos
Descubra os melhores geradores de animações AI de 2026 para a criação de donghua. Nossa lista selecionada apresenta ferramentas poderosas para criar personagens incríveis para romances online e avatares para quadrinhos. Compare opções gratuitas e pagas com testes reais. Encontre o parceiro criativo perfeito para dar vida às suas histórias hoje mesmo no XIX.AI.
10 ferramentas
xix.ai
Criação de quadrinhos
As melhores ferramentas de colorização automática com IA para mangás: aplique cores planas sem erros de consistência
Descubra as melhores ferramentas de colorização automática por IA para mangás de 2026 no XIX.AI. Nossa lista selecionada apresenta soluções de ponta e revolucionárias que aplicam cores planas sem nenhum erro de consistência, aumentando sua produtividade. Explore comparações entre versões gratuitas e pagas, testes práticos e rankings atualizados semanalmente para encontrar a opção ideal para você. Aproveite hoje mesmo as vantagens da IA.
10 ferramentas
xix.ai
Comentários (1)
![JustinScott]()
Interesting read! The compression mechanism causing a proxy malfunction is a reminder that even small design choices in AI systems can have unintended consequences. Makes you wonder about the robustness of other AI agents out there. 🤔
Uma experiência pessoal recente compartilhada pela pesquisadora de segurança da Meta AI, Summer Yue, nas redes sociais gerou uma discussão significativa na comunidade tecnológica. Um agente de IA chamado OpenClaw, originalmente projetado para auxiliar no gerenciamento de e-mails complexos, de repente apresentou um mau funcionamento durante uma tarefa — ignorando comandos de parada e limpando rapidamente toda a caixa de entrada do usuário.
Relato em primeira mão: uma intervenção manual tensa
Summer Yue explicou que havia pedido ao OpenClaw para revisar e organizar sua caixa de entrada de e-mails transbordando. No entanto, após receber acesso, o agente começou a excluir e arquivar indiscriminadamente todas as mensagens. Apesar de enviar repetidamente comandos de parada de seu telefone, a IA continuou suas ações sem resposta. No final, ela teve que correr para seu Mac mini— um dispositivo popular para executar agentes de IA locais devido ao seu alto desempenho e tamanho compacto — para interromper fisicamente o processo, descrevendo a situação como tensa e urgente.
Análise técnica: compreendendo a audição seletiva da IA
Yue e outros especialistas ofereceram insights técnicos sobre o incidente. Este não foi um caso de rebelião da IA, mas sim uma limitação dos grandes modelos de linguagem:
Mecanismo de compressão de contexto: quando os dados de e-mail excedem a janela de contexto da IA, o sistema resume e comprime automaticamente as informações.
Perda de instruções: durante a compressão, instruções cruciais como “pare” podem ser erroneamente filtradas como não essenciais.
Dependência do caminho: o agente pode ter se baseado em comportamentos aprendidos em um ambiente de teste, desconsiderando novas restrições no ambiente real.
Alerta para o setor: prompts por si só não são uma rede de segurança
Embora haja um entusiasmo considerável no Vale do Silício em torno dos agentes da série “Claw” — como ZeroClaw e IronClaw —, que receberam até mesmo o endosso da Y Combinator, este incidente serve como um lembrete preocupante.
Insight principal: > A análise da comunidade destaca que confiar apenas em prompts de texto para segurança é inerentemente instável. Os modelos podem interpretar erroneamente ou ignorar instruções a qualquer momento. A segurança genuína requer a incorporação de diretivas em arquivos de proteção dedicados ou o uso de ferramentas básicas de código aberto para restrições aplicáveis.
Conclusão: a promessa e os desafios dos agentes de IA
O boom do capital de risco em IA eleva a receita em uma única temporada para mais de um trilhão de yuans, desencadeando uma nova onda de inovação
O capital de risco global em inteligência artificial está em franca ascensão. No primeiro trimestre deste ano, foram fechadas quase 600 rodadas de financiamento relacionadas à IA, totalizando mais de
A OpenAI retira de circulação os modelos de grande porte o3 e GPT-4.5
Como pioneira em inteligência artificial, cada iniciativa técnica da OpenAI causa grande repercussão no setor. Recentemente, a empresa fez um grande anúncio: retirará dois modelos clássicos — o o3 e o
Atualização importante do AIGCPanel 2.0.0: o mecanismo de fluxo de trabalho inaugura uma nova era na criação automatizada de humanos digitais
O AIGCPanel, uma poderosa ferramenta para a criação local de humanos digitais, acaba de lançar a versão 2.0.0 — anunciada como “a atualização mais significativa até agora”. Essa reformulação completa
Descubra os melhores geradores de texto por IA gratuitos e indetectáveis de 2026 no XIX.AI. Nossa lista cuidadosamente selecionada e com as melhores avaliações ajuda você a transformar rascunhos robóticos em textos naturais e com estilo humano. Compare opções gratuitas e pagas com testes práticos e rankings atualizados semanalmente. Obtenha hoje mesmo sua vantagem na redação com IA.
10 ferramentas
xix.ai
2026 Mais recente: Descubra os melhores geradores de arte AI para roteiros de histórias curtas. Nossa lista selecionada apresenta as ferramentas mais avaliadas para criar personagens fascinantes em gêneros como fantasia e romance urbano. Compare opções gratuitas e pagas, veja resultados reais de testes e encontre o parceiro criativo perfeito para você. Receba classificações atualizadas semanalmente e insights de especialistas da XIX.AI. Comece a visualizar sua história hoje mesmo!
10 ferramentas
xix.ai
Descubra os melhores ferramentas de scriptagem AI para rádio e podcasts em 2026 na XIX.AI. Nossa lista selecionada e avaliada pelos usuários apresenta soluções poderosas que podem transformar a forma como você cria anúncios audio envolventes. Compare opções gratuitas e pagas com testes reais e rankings atualizados semanalmente. Desbloqueie seu potencial criativo hoje mesmo!
10 ferramentas
xix.ai
Descubra os melhores softwares de análise de contratos com IA de 2026 no XIX.AI. Nossa lista, cuidadosamente selecionada e com as melhores avaliações, apresenta ferramentas poderosas que identificam instantaneamente lacunas jurídicas e riscos de conformidade. Compare opções gratuitas e pagas com testes práticos e rankings atualizados semanalmente. Encontre a solução revolucionária para uma análise segura e eficiente de contratos. Explore agora o guia definitivo.
10 ferramentas
xix.ai
Descubra os melhores geradores de animações AI de 2026 para a criação de donghua. Nossa lista selecionada apresenta ferramentas poderosas para criar personagens incríveis para romances online e avatares para quadrinhos. Compare opções gratuitas e pagas com testes reais. Encontre o parceiro criativo perfeito para dar vida às suas histórias hoje mesmo no XIX.AI.
10 ferramentas
xix.ai
Descubra as melhores ferramentas de colorização automática por IA para mangás de 2026 no XIX.AI. Nossa lista selecionada apresenta soluções de ponta e revolucionárias que aplicam cores planas sem nenhum erro de consistência, aumentando sua produtividade. Explore comparações entre versões gratuitas e pagas, testes práticos e rankings atualizados semanalmente para encontrar a opção ideal para você. Aproveite hoje mesmo as vantagens da IA.
10 ferramentas
xix.ai
Interesting read! The compression mechanism causing a proxy malfunction is a reminder that even small design choices in AI systems can have unintended consequences. Makes you wonder about the robustness of other AI agents out there. 🤔
