Claude for Chrome, de Anthropic, se lanza en versión beta limitada entre riesgos de inyección de antivirus

Anthropic está probando una extensión para el navegador Chrome que permite a su asistente de inteligencia artificial Claude utilizar los navegadores web de los usuarios, lo que supone su entrada en un campo de rápido crecimiento y potencialmente peligroso en el que la IA puede interactuar directamente con las interfaces informáticas.

La empresa de inteligencia artificial con sede en San Francisco reveló el martes que lanzará una versión de prueba de "Claude para Chrome" con 1.000 usuarios seleccionados en su plan Max premium, enmarcando este lanzamiento limitado como una vista previa de investigación destinada a identificar y resolver fallos de seguridad críticos antes de un lanzamiento a gran escala. Esta prudente estrategia contrasta con los lanzamientos más enérgicos de sus rivales OpenAI y Microsoft, que ya han puesto a disposición de un público más amplio sistemas de IA comparables con funciones de control informático.

Este avance pone de relieve la rápida progresión de la industria de la IA, que ha pasado de crear chatbots que responden a preguntas a construir sistemas "agénticos" capaces de gestionar de forma autónoma tareas complejas de varios pasos dentro de diversas aplicaciones de software. Muchos expertos ven este cambio como el próximo gran avance de la inteligencia artificial, y uno que podría ser muy rentable, ya que las empresas buscan automatizar procesos que van desde el informe de gastos a la coordinación de vacaciones.

Cómo los agentes de IA pueden manejar su navegador, mientras que el código malicioso oculto crea importantes riesgos de seguridad

Con Claude para Chrome, los usuarios pueden ordenar a la IA que realice tareas en sus navegadores web, como organizar reuniones accediendo a calendarios y comprobando la disponibilidad de restaurantes, gestionar la correspondencia por correo electrónico y ocuparse de tareas administrativas cotidianas. El sistema puede interpretar el contenido de la pantalla, interactuar con botones, rellenar formularios y navegar por distintos sitios web, replicando así la navegación humana por las aplicaciones web.

"Consideramos que la IA compatible con navegadores es un avance inevitable: dado que gran parte del trabajo se realiza dentro de los navegadores, permitir a Claude ver su pantalla, pulsar botones e introducir datos mejorará significativamente su utilidad", explicaba Anthropic en su anuncio.

Sin embargo, las evaluaciones de seguridad internas de la empresa han revelado vulnerabilidades preocupantes que ilustran los riesgos de conceder a los sistemas de IA el control directo de la interfaz. Durante las pruebas de adversarios, Anthropic descubrió que los piratas informáticos podían incrustar comandos ocultos en sitios web, correos electrónicos o documentos para engañar a los sistemas de IA y hacerles realizar acciones dañinas sin que el usuario fuera consciente de ello, un método conocido como inyección inmediata.

En ausencia de medidas de protección, estos ataques eran efectivos el 23,6% de las veces cuando se dirigían específicamente a la IA que operaba el navegador. En uno de los casos, un correo electrónico fraudulento disfrazado de actualización de seguridad pedía a Claude que borrara los correos electrónicos del usuario "por mantenimiento del buzón", lo que la IA llevó a cabo sin pedir confirmación.

"No se trata de escenarios hipotéticos: hemos realizado pruebas de Claude para Chrome y, sin salvaguardas, hemos observado algunos resultados alarmantes", confirmó la empresa.

OpenAI y Microsoft aceleran el lanzamiento comercial mientras Anthropic adopta una postura cautelosa sobre la tecnología de control informático

La metodología deliberada de Anthropic llega en un momento en que los competidores avanzan más rápidamente en las aplicaciones de control informático. OpenAI presentó su agente "Operator" en enero, ofreciéndolo a todos los suscriptores de su plan mensual ChatGPT Pro de 200 dólares. Impulsado por un nuevo modelo de "agente que utiliza el ordenador", Operator puede ejecutar funciones como conseguir entradas para conciertos, comprar alimentos y organizar horarios de viaje.

Microsoft introdujo en abril funciones de operación informática a través de su plataforma Copilot Studio, centrada en clientes corporativos con herramientas de automatización de la interfaz de usuario capaces de interactuar con aplicaciones web y de escritorio. La empresa presentó su solución como un sustituto avanzado de los sistemas convencionales de automatización robótica de procesos (RPA).

Estas maniobras competitivas revelan tensiones más amplias en el sector, en el que las empresas deben sopesar el impulso para ofrecer funciones innovadoras frente a los peligros de lanzar una tecnología inadecuadamente examinada. El calendario acelerado de OpenAI le ha ayudado a asegurarse una presencia temprana en el mercado, mientras que las cuidadosas tácticas de Anthropic podrían restringir su ventaja competitiva al principio, pero podrían dar sus frutos si surgen problemas de seguridad.

"Ya están apareciendo agentes que funcionan con navegadores construidos sobre modelos de vanguardia, lo que hace que esta iniciativa sea especialmente sensible al tiempo", señaló Anthropic, indicando que la empresa se siente impulsada a entrar en el mercado incluso con los persistentes problemas de seguridad.

Cómo la IA controlada por ordenador podría transformar la automatización empresarial y desplazar a las costosas aplicaciones de flujo de trabajo

La llegada de sistemas de IA controlados por ordenador puede alterar fundamentalmente la forma en que las empresas implementan la automatización y la gestión del flujo de trabajo. La automatización empresarial existente suele depender de costosas integraciones personalizadas o de software especializado de automatización de procesos robóticos que falla cuando se modifican las interfaces de las aplicaciones.

Los agentes de uso informático pretenden hacer más accesible la automatización al funcionar con cualquier software que disponga de una interfaz gráfica de usuario, automatizando potencialmente actividades en la amplia gama de aplicaciones empresariales que no admiten API formales o funciones de integración.

Los investigadores de Salesforce ilustraron recientemente esta capacidad con su sistema CoAct-1, que combina la automatización convencional de apuntar y hacer clic con la generación de código. Este método combinado alcanzó una tasa de éxito del 60,76% para tareas informáticas complicadas, a la vez que necesitaba muchos menos pasos que los agentes basados puramente en GUI, lo que indica que se pueden conseguir mejoras considerables en la eficiencia.

"Para los ejecutivos de empresas, la oportunidad pasa por automatizar procedimientos intrincados y multiaplicación en los que el acceso completo a la API es poco común en lugar de estándar", aclara Ran Xu, Director de Investigación de IA Aplicada de Salesforce, identificando como aplicaciones ideales las operaciones de atención al cliente que implican múltiples sistemas exclusivos.

Investigadores académicos lanzan una opción gratuita para sustituir las plataformas de IA de uso informático exclusivo de las grandes tecnológicas

La prevalencia de los sistemas exclusivos de las principales empresas tecnológicas ha inspirado a los investigadores universitarios a crear alternativas accesibles. La Universidad de Hong Kong acaba de publicar OpenCUA, un marco de código abierto para desarrollar agentes informáticos que iguala el rendimiento de los modelos patentados de OpenAI y Anthropic.

El sistema OpenCUA, educado con más de 22.600 ejemplos de tareas humanas en Windows, macOS y Ubuntu, ofreció resultados de primer nivel entre los modelos de código abierto y un rendimiento comparable al de los principales sistemas comerciales. Este avance podría acelerar la implementación por parte de las empresas que se muestran cautelosas a la hora de depender de sistemas cerrados para procesos de automatización vitales.

La evaluación de la seguridad de Anthropic demuestra que los agentes de IA pueden ser engañados para que borren archivos y se lleven información

Anthropic ha incorporado múltiples medidas de protección para Claude for Chrome, como permisos específicos para cada sitio web que permiten a los usuarios regular qué sitios puede visitar la IA, aprobaciones obligatorias para acciones de alto riesgo como completar compras o revelar información privada, y restricción de la entrada a categorías sensibles como servicios financieros y material para adultos.

Las mejoras de seguridad de la empresa redujeron la eficacia de los ataques de inyección rápida del 23,6% al 11,2% en funcionamiento autónomo, aunque los ejecutivos reconocen que esto sigue siendo insuficiente para una amplia distribución. En el caso de los ataques centrados en el navegador que implican elementos de formulario ocultos y alteraciones de URL, las nuevas medidas defensivas redujeron la tasa de éxito del 35,7% a cero.

Aun así, estas medidas de protección podrían no tener en cuenta la complejidad de la configuración real de la web, en la que aparecen continuamente nuevos métodos de ataque. La empresa pretende aplicar los conocimientos del programa piloto para mejorar su infraestructura de seguridad y crear configuraciones de permisos más avanzadas.

"Los actores maliciosos están inventando continuamente nuevos tipos de ataques de inyección puntual", advirtió Anthropic, haciendo hincapié en el persistente dilema de seguridad.

La aparición de agentes de IA que interactúan con interfaces puede cambiar radicalmente la relación entre el ser humano y el ordenador

La alineación de varias de las principales empresas de IA en torno a los agentes que controlan los ordenadores indica una notable transformación en el modo en que la inteligencia artificial se relacionará con los actuales marcos de software. En lugar de obligar a las empresas a implantar nuevas herramientas dedicadas a la IA, estos sistemas están diseñados para funcionar con las aplicaciones que las empresas emplean actualmente.

Este método podría reducir sustancialmente los obstáculos a la implantación de la IA, al tiempo que podría convertir en redundantes a los proveedores tradicionales de automatización y a los integradores de sistemas. Las organizaciones que han dedicado muchos recursos a integraciones personalizadas o plataformas RPA podrían descubrir que sus métodos están obsoletos debido a los agentes universales de IA que pueden ajustarse a las modificaciones de la interfaz sin revisiones del código.

Para los líderes empresariales, la innovación ofrece tanto potencial como peligro. Los primeros en aplicarla podrían obtener importantes ventajas competitivas gracias a la mejora de las funciones de automatización, pero las deficiencias de seguridad detectadas por empresas como Anthropic indican que puede ser aconsejable actuar con prudencia hasta que los mecanismos de protección sigan evolucionando.

La prueba restringida de Claude para Chrome no representa más que la fase inicial de lo que los analistas del sector anticipan que será una rápida proliferación de funcionalidades de IA controladas por ordenador en todo el sector tecnológico, con consecuencias que irán mucho más allá de la automatización de tareas básicas y afectarán a cuestiones fundamentales relativas a la interacción entre el ser humano y el ordenador y a la ciberseguridad.

Como afirmaba Anthropic en su anuncio "Estamos seguros de que estos avances crearán nuevas oportunidades en la forma de colaborar con Claude, y esperamos ansiosos descubrir lo que desarrollará". El beneficio o el inconveniente final de estas oportunidades puede depender de la eficacia con que la industria aborde los problemas de seguridad que ya han salido a la luz.