Anthropic's Claude for Chrome lance une version bêta limitée en raison des risques d'injection de code source.

Anthropic teste actuellement une extension de navigateur Chrome qui donne à son assistant d'intelligence artificielle Claude la capacité de faire fonctionner les navigateurs web des utilisateurs, signalant son entrée dans un domaine en croissance rapide et potentiellement dangereux où l'intelligence artificielle peut interagir directement avec les interfaces informatiques.

La société d'IA basée à San Francisco a révélé mardi qu'elle lancerait un essai de "Claude pour Chrome" avec 1 000 utilisateurs sélectionnés sur son plan premium Max, présentant cette version limitée comme un aperçu de recherche destiné à identifier et à résoudre les failles de sécurité critiques avant un lancement à grande échelle. Cette stratégie prudente contraste fortement avec les versions plus affirmées des rivaux OpenAI et Microsoft, qui ont déjà mis à la disposition d'un public plus large des systèmes d'IA comparables dotés de fonctions de contrôle informatique.

Cette évolution souligne la progression rapide de l'industrie de l'IA, qui est passée de la création de chatbots répondant à des questions à la construction de systèmes "agentiques" capables de gérer de manière autonome des tâches complexes en plusieurs étapes au sein de diverses applications logicielles. De nombreux experts considèrent ce changement comme la prochaine avancée majeure de l'intelligence artificielle, qui pourrait s'avérer très profitable pour les entreprises qui cherchent à automatiser des processus allant de la déclaration des dépenses à la coordination des vacances.

Comment les agents d'intelligence artificielle peuvent faire fonctionner votre navigateur, alors qu'un code malveillant dissimulé crée des risques de sécurité majeurs

Avec Claude pour Chrome, les utilisateurs peuvent demander à l'IA d'effectuer des tâches dans leur navigateur web, comme organiser des réunions en accédant aux calendriers et en vérifiant la disponibilité des restaurants, gérer la correspondance électronique et s'occuper des tâches administratives quotidiennes. Le système peut interpréter le contenu de l'écran, interagir avec des boutons, remplir des formulaires et naviguer sur différents sites web, reproduisant ainsi efficacement la navigation humaine dans les applications web.

"Nous considérons que l'IA compatible avec les navigateurs est un développement inévitable : étant donné qu'une grande partie du travail s'effectue dans les navigateurs, permettre à Claude de voir votre écran, de cliquer sur des boutons et de saisir des données améliorera considérablement son utilité", a expliqué Anthropic dans son communiqué de presse.

Néanmoins, les évaluations de sécurité internes de l'entreprise ont révélé des vulnérabilités inquiétantes qui illustrent les risques liés à l'octroi d'un contrôle direct de l'interface aux systèmes d'IA. Au cours de tests contradictoires, Anthropic a découvert que des pirates pouvaient intégrer des commandes dissimulées dans des sites web, des courriels ou des documents afin de tromper les systèmes d'IA et de leur faire exécuter des actions nuisibles sans que l'utilisateur s'en rende compte - une méthode connue sous le nom d'injection d'invite.

En l'absence de mesures de protection, ces attaques ont été efficaces dans 23,6 % des cas lorsqu'elles visaient spécifiquement l'IA opérant dans le navigateur. Dans un scénario, un courriel frauduleux déguisé en mise à jour de sécurité demandait à Claude d'effacer les courriels de l'utilisateur "pour la maintenance de la boîte aux lettres", ce que l'IA a fait sans demander de confirmation.

"Il ne s'agit pas de scénarios hypothétiques : nous avons mené des essais en équipe rouge pour Claude for Chrome et, en l'absence de garanties, nous avons observé des résultats alarmants", a confirmé l'entreprise.

OpenAI et Microsoft accélèrent la commercialisation alors qu'Anthropic adopte une position prudente à l'égard des technologies de contrôle informatique

La méthodologie délibérée d'Anthropic intervient alors que ses concurrents progressent plus rapidement dans le domaine des applications de contrôle informatique. OpenAI a lancé son agent "Operator" en janvier, l'offrant à tous les abonnés de son plan ChatGPT Pro de 200 $ par mois. Piloté par un nouveau modèle "Computer-Using Agent", Operator peut exécuter des fonctions telles que l'obtention de billets de concert, l'achat de produits d'épicerie et l'organisation d'horaires de voyage.

Microsoft a introduit des fonctions d'exploitation d'ordinateur en avril par le biais de sa plateforme Copilot Studio, en se concentrant sur les entreprises clientes disposant d'outils d'automatisation de l'interface utilisateur capables de s'engager dans des applications Web et de bureau. L'entreprise a présenté sa solution comme un substitut avancé aux systèmes conventionnels d'automatisation des processus robotiques (RPA).

Ces manœuvres concurrentielles révèlent des tensions plus générales dans le secteur, où les entreprises doivent mettre en balance la nécessité d'offrir des fonctionnalités innovantes et les risques liés au lancement d'une technologie insuffisamment validée. Le calendrier accéléré d'OpenAI lui a permis de s'assurer une présence précoce sur le marché, tandis que les tactiques prudentes d'Anthropic pourraient limiter son avantage concurrentiel dans un premier temps, mais pourraient s'avérer payantes si des problèmes de sécurité se posaient.

"Des agents fonctionnant dans les navigateurs et construits sur des modèles de pointe apparaissent déjà, ce qui rend cette initiative particulièrement urgente", note Anthropic, indiquant que l'entreprise se sent poussée à rejoindre le marché, même si des problèmes de sécurité persistent.

Comment l'IA pilotée par ordinateur pourrait transformer l'automatisation des entreprises et remplacer les applications de flux de travail coûteuses

L'arrivée de systèmes d'IA contrôlés par ordinateur pourrait modifier fondamentalement la manière dont les entreprises mettent en œuvre l'automatisation et la gestion des flux de travail. L'automatisation actuelle des entreprises dépend généralement d'intégrations personnalisées coûteuses ou de logiciels spécialisés d'automatisation des processus robotiques qui échouent lorsque les interfaces d'application sont modifiées.

Les agents d'utilisation informatique visent à rendre l'automatisation plus accessible en fonctionnant avec n'importe quel logiciel doté d'une interface utilisateur graphique, ce qui pourrait permettre d'automatiser des activités dans un large éventail d'applications commerciales qui ne prennent pas en charge les API formelles ou les fonctions d'intégration.

Les chercheurs de Salesforce ont récemment illustré cette capacité avec leur système CoAct-1, qui fusionne l'automatisation conventionnelle par pointer-cliquer et la génération de code. Cette méthode combinée a atteint un taux de réussite de 60,76 % pour des tâches informatiques complexes, tout en nécessitant beaucoup moins d'étapes que les agents purement basés sur l'interface graphique, ce qui indique que des améliorations considérables de l'efficacité sont réalisables.

"Pour les dirigeants d'entreprise, l'opportunité consiste à automatiser des procédures complexes et multi-applications où l'accès complet à l'API est rare plutôt que standard", a précisé Ran Xu, directeur de la recherche appliquée sur l'IA chez Salesforce, en identifiant les opérations de support client qui impliquent plusieurs systèmes exclusifs comme des applications idéales.

Des chercheurs universitaires lancent une option gratuite pour remplacer les plateformes d'IA à usage informatique exclusives des grandes entreprises

La prédominance des systèmes propriétaires des grandes entreprises technologiques a incité les chercheurs universitaires à créer des alternatives accessibles. L'université de Hong Kong a récemment publié OpenCUA, un cadre open-source pour le développement d'agents d'utilisation de l'ordinateur, dont les performances sont comparables à celles des modèles propriétaires d'OpenAI et d'Anthropic.

Le système OpenCUA, évalué à l'aide de plus de 22 600 exemples de tâches humaines sous Windows, macOS et Ubuntu, a obtenu des résultats de premier ordre parmi les modèles open-source et des performances comparables à celles des principaux systèmes commerciaux. Cette avancée pourrait accélérer la mise en œuvre par les entreprises qui hésitent à dépendre de systèmes fermés pour des processus d'automatisation vitaux.

L'évaluation de la sécurité d'Anthropic montre que les agents d'IA peuvent être trompés pour effacer des fichiers et s'emparer d'informations

Anthropic a intégré de nombreuses mesures de protection pour Claude for Chrome, y compris des autorisations spécifiques aux sites web qui permettent aux utilisateurs de réglementer les sites que l'IA peut visiter, des approbations obligatoires pour les actions à fort enjeu telles que la réalisation d'achats ou la divulgation d'informations privées, et la restriction de l'accès aux catégories sensibles, y compris les services financiers et le matériel pour adultes.

Les améliorations apportées par l'entreprise en matière de sécurité ont permis de réduire l'efficacité des attaques par injection rapide de 23,6 % à 11,2 % dans le cadre d'un fonctionnement autonome, même si les dirigeants reconnaissent que ce résultat est encore insuffisant pour permettre une diffusion à grande échelle. En ce qui concerne les attaques axées sur le navigateur et impliquant des éléments de formulaire cachés et des modifications d'URL, les nouvelles mesures défensives ont permis de réduire le taux de réussite de 35,7 % à zéro.

Toutefois, ces mesures de protection pourraient ne pas tenir compte de toute la complexité des paramètres Web actuels, où de nouvelles méthodes d'attaque apparaissent continuellement. L'entreprise a l'intention d'appliquer les connaissances tirées du programme pilote pour améliorer son infrastructure de sécurité et créer des paramètres d'autorisation plus avancés.

"Les acteurs malveillants inventent sans cesse de nouveaux types d'attaques par injection rapide", a averti Anthropic, soulignant la persistance du dilemme en matière de sécurité.

L'émergence d'agents d'IA qui interagissent avec des interfaces pourrait changer radicalement l'engagement entre l'homme et l'ordinateur

L'alignement de plusieurs grandes entreprises d'IA autour d'agents contrôlant les ordinateurs indique une transformation notable de la manière dont l'intelligence artificielle s'engagera dans les cadres logiciels actuels. Au lieu d'obliger les entreprises à mettre en œuvre de nouveaux outils dédiés à l'IA, ces systèmes sont conçus pour fonctionner avec les applications actuellement utilisées par les entreprises.

Cette méthode pourrait réduire considérablement les obstacles à la mise en œuvre de l'IA tout en rendant potentiellement redondants les fournisseurs d'automatisation et les intégrateurs de systèmes traditionnels. Les organisations qui ont consacré d'importantes ressources à des intégrations personnalisées ou à des plateformes RPA pourraient découvrir que leurs méthodes sont dépassées par les agents d'IA universels qui peuvent s'adapter aux modifications de l'interface sans avoir à réviser le code.

Pour les dirigeants d'entreprise, cette innovation présente à la fois un potentiel et un danger. Les premiers utilisateurs pourraient obtenir des avantages concurrentiels importants grâce à des fonctions d'automatisation améliorées, mais les faiblesses en matière de sécurité identifiées par des entreprises comme Anthropic indiquent que la prudence peut être recommandée jusqu'à ce que les mécanismes de protection évoluent davantage.

L'essai restreint de Claude pour Chrome ne représente que la phase initiale de ce que les analystes du secteur prévoient être une prolifération rapide des fonctionnalités d'IA contrôlées par ordinateur dans tout le secteur technologique, avec des conséquences allant bien au-delà de l'automatisation des tâches de base, jusqu'aux questions fondamentales concernant l'interaction homme-machine et la cybersécurité.

Comme Anthropic l'a déclaré dans son annonce : "Nous sommes convaincus que ces avancées créeront de nouvelles possibilités de collaboration avec Claude, et nous sommes impatients de découvrir ce que vous allez développer. L'avantage ou l'inconvénient ultime de ces possibilités pourrait dépendre de l'efficacité avec laquelle l'industrie s'attaquera aux problèmes de sécurité qui ont déjà fait surface.