O Anthropic's Claude for Chrome é lançado em versão beta limitada em meio a riscos de injeção imediata

A Anthropic está atualmente testando uma extensão do navegador Chrome que concede ao seu assistente de IA Claude a capacidade de operar os navegadores da Web dos usuários, sinalizando sua entrada em um campo de rápido crescimento e potencialmente perigoso, no qual a IA pode interagir diretamente com interfaces de computador.

A empresa de IA com sede em São Francisco revelou na terça-feira que lançará um teste "Claude for Chrome" com 1.000 usuários selecionados em seu plano Max premium, enquadrando esse lançamento limitado como uma prévia de pesquisa destinada a identificar e resolver falhas críticas de segurança antes de um lançamento em grande escala. Essa estratégia cautelosa contrasta fortemente com os lançamentos mais assertivos dos rivais OpenAI e Microsoft, que já disponibilizaram sistemas de IA comparáveis com recursos de controle de computador para públicos maiores.

Esse desenvolvimento destaca a rápida progressão do setor de IA, desde a criação de chatbots que respondem a perguntas até a construção de sistemas "agênticos" que podem lidar de forma independente com tarefas complexas e de várias etapas em vários aplicativos de software. Muitos especialistas consideram essa mudança como o próximo grande avanço da inteligência artificial - e que pode ser altamente lucrativo, pois as empresas buscam automatizar processos que vão desde relatórios de despesas até a coordenação de férias.

Como os agentes de IA podem operar seu navegador, enquanto o código malicioso oculto cria grandes riscos de segurança

Com o Claude for Chrome, os usuários podem direcionar a IA para concluir tarefas em seus navegadores da Web, como organizar reuniões acessando calendários e verificando a disponibilidade de restaurantes, gerenciar correspondência por e-mail e lidar com tarefas administrativas diárias. O sistema pode interpretar o conteúdo na tela, interagir com botões, preencher formulários e navegar em diferentes sites, replicando efetivamente a navegação humana de aplicativos baseados na Web.

"Consideramos a IA com capacidade de navegação um desenvolvimento inevitável: como muito trabalho é realizado nos navegadores, permitir que Claude visualize sua tela, clique em botões e insira dados aumentará significativamente sua utilidade", explicou a Anthropic em seu anúncio.

No entanto, as avaliações de segurança interna da empresa revelaram vulnerabilidades preocupantes que ilustram os riscos de conceder aos sistemas de IA o controle direto da interface. Durante os testes com adversários, a Anthropic descobriu que os hackers poderiam incorporar comandos ocultos em sites, e-mails ou documentos para enganar os sistemas de IA e levá-los a realizar ações prejudiciais sem o conhecimento do usuário - um método conhecido como injeção imediata.

Na ausência de medidas de proteção, esses ataques foram eficazes em 23,6% das vezes quando direcionados especificamente à IA que opera o navegador. Em um cenário, um e-mail fraudulento disfarçado de atualização de segurança orientou Claude a apagar os e-mails do usuário "para manutenção da caixa de correio", o que a IA realizou sem buscar confirmação.

"Esses não são cenários hipotéticos: realizamos testes de 'red-teaming' para o Claude for Chrome e, sem proteções, observamos alguns resultados alarmantes", confirmou a empresa.

A OpenAI e a Microsoft aceleram o lançamento comercial enquanto a Anthropic adota uma postura cautelosa em relação à tecnologia de controle de computadores

A metodologia deliberada da Anthropic surge no momento em que os concorrentes fazem avanços mais rápidos nos aplicativos de controle de computadores. A OpenAI apresentou seu agente "Operator" em janeiro, oferecendo-o a todos os assinantes de seu plano mensal ChatGPT Pro de US$ 200. Impulsionado por um novo modelo de "agente que usa o computador", o Operator pode executar funções como garantir ingressos para shows, comprar mantimentos e organizar programações de viagens.

A Microsoft introduziu os recursos de operação do computador em abril por meio de sua plataforma Copilot Studio, com foco em clientes corporativos com ferramentas de automação de interface do usuário capazes de interagir com aplicativos da Web e de desktop. A empresa apresentou sua solução como um substituto avançado para os sistemas convencionais de automação de processos robóticos (RPA).

Essas manobras competitivas revelam tensões mais amplas do setor, em que as empresas precisam pesar a pressão para oferecer recursos inovadores em relação aos perigos de lançar uma tecnologia inadequadamente avaliada. O cronograma acelerado da OpenAI a ajudou a garantir uma presença antecipada no mercado, enquanto as táticas cuidadosas da Anthropic podem restringir sua vantagem competitiva inicialmente, mas podem compensar se surgirem problemas de segurança.

"Já estão surgindo agentes que operam em navegadores baseados em modelos de ponta, o que torna essa iniciativa particularmente sensível ao tempo", observou a Anthropic, indicando que a empresa se sente motivada a entrar no mercado mesmo com os persistentes desafios de segurança.

Como a IA com controle computadorizado pode transformar a automação comercial e substituir aplicativos de fluxo de trabalho caros

A chegada de sistemas de IA com controle computadorizado pode alterar fundamentalmente a forma como as empresas implementam a automação e o gerenciamento do fluxo de trabalho. A automação empresarial existente geralmente depende de integrações personalizadas caras ou de um software especializado em automação de processos robóticos que falha quando as interfaces de aplicativos são modificadas.

Os agentes de uso de computador visam tornar a automação mais acessível, funcionando com qualquer software que apresente uma interface gráfica de usuário, potencialmente automatizando atividades em uma ampla gama de aplicativos de negócios que não suportam APIs formais ou recursos de integração.

Os pesquisadores da Salesforce recentemente ilustraram esse recurso com seu sistema CoAct-1, que mescla a automação convencional de apontar e clicar com a geração de código. Esse método combinado alcançou uma taxa de sucesso de 60,76% para tarefas complicadas de computador, necessitando de muito menos etapas do que os agentes puramente baseados em GUI, o que indica que é possível obter melhorias consideráveis na eficiência.

"Para os executivos de negócios, a oportunidade envolve a automação de procedimentos complexos e com vários aplicativos, em que o acesso completo à API é incomum e não padrão", esclareceu Ran Xu, diretor de pesquisa de IA aplicada da Salesforce, identificando as operações de suporte ao cliente que envolvem vários sistemas exclusivos como aplicativos ideais.

Pesquisadores acadêmicos lançam opção gratuita para substituir as plataformas de IA de uso computacional exclusivas das grandes empresas de tecnologia

A prevalência de sistemas proprietários das principais empresas de tecnologia inspirou pesquisadores universitários a criar alternativas acessíveis. A Universidade de Hong Kong publicou recentemente o OpenCUA, uma estrutura de código aberto para o desenvolvimento de agentes de uso de computador que se equipara ao desempenho de modelos proprietários da OpenAI e da Anthropic.

O sistema OpenCUA, avaliado com mais de 22.600 exemplos de tarefas humanas no Windows, macOS e Ubuntu, apresentou resultados de alto nível entre os modelos de código aberto e teve desempenho comparável ao dos principais sistemas comerciais. Esse avanço pode acelerar a implementação por empresas cautelosas quanto à dependência de sistemas fechados para processos de automação vitais.

A avaliação de segurança da Anthropic mostra que os agentes de IA podem ser enganados para apagar arquivos e obter informações

A Anthropic incorporou várias medidas de proteção para o Claude for Chrome, incluindo permissões específicas do site que permitem aos usuários regular quais sites a IA pode visitar, aprovações obrigatórias para ações de alto risco, como concluir compras ou divulgar informações privadas, e restringir a entrada em categorias confidenciais, incluindo serviços financeiros e material adulto.

As atualizações de segurança da empresa reduziram a eficácia do ataque de injeção imediata de 23,6% para 11,2% na operação autônoma, embora os executivos reconheçam que isso ainda é insuficiente para uma ampla distribuição. Para ataques focados no navegador envolvendo elementos de formulário ocultos e alterações de URL, as novas medidas defensivas reduziram a taxa de sucesso de 35,7% para zero.

Ainda assim, essas proteções podem não acomodar toda a complexidade das configurações reais da Web, onde novos métodos de ataque aparecem continuamente. A empresa pretende aplicar o conhecimento do programa piloto para aprimorar sua infraestrutura de segurança e criar configurações de permissão mais avançadas.

"Os agentes mal-intencionados estão continuamente inventando novos tipos de ataques de injeção imediata", advertiu Anthropic, enfatizando o persistente dilema de segurança.

O surgimento de agentes de IA que interagem com interfaces pode mudar radicalmente o envolvimento entre humanos e computadores

O alinhamento de várias empresas importantes de IA em torno de agentes de controle de computadores indica uma transformação notável na forma como a inteligência artificial se envolverá com as estruturas de software atuais. Em vez de forçar as empresas a implementarem novas ferramentas dedicadas à IA, esses sistemas são projetados para funcionar com quaisquer aplicativos que as empresas empregam atualmente.

Esse método pode reduzir substancialmente os obstáculos à implementação da IA e, ao mesmo tempo, tornar redundantes os fornecedores tradicionais de automação e os integradores de sistemas. As organizações que investiram muitos recursos em integrações personalizadas ou plataformas de RPA podem descobrir que seus métodos estão desatualizados devido aos agentes universais de IA que podem se ajustar às modificações de interface sem revisões de código.

Para os líderes corporativos, a inovação oferece tanto potencial quanto perigo. Os primeiros implementadores poderiam obter importantes benefícios competitivos por meio de funções de automação aprimoradas, mas os pontos fracos de segurança identificados por empresas como a Anthropic indicam que a prudência pode ser aconselhável até que os mecanismos de proteção evoluam ainda mais.

O teste restrito do Claude para o Chrome representa apenas a fase inicial do que os analistas do setor preveem que será uma rápida proliferação de funcionalidades de IA controladas por computador em todo o setor de tecnologia, com consequências que vão muito além da automação de tarefas básicas, atingindo questões centrais relativas à interação homem-computador e à segurança cibernética.

Como a Anthropic declarou em seu anúncio: "Estamos confiantes de que esses avanços criarão novas oportunidades para a forma como você colabora com a Claude e aguardamos ansiosamente para descobrir o que você desenvolverá." O benefício ou a desvantagem final dessas oportunidades pode depender da eficácia com que o setor lida com os problemas de segurança que já surgiram.