Anthropic's Claude für Chrome startet in einer begrenzten Beta-Phase inmitten von Prompt Injection-Risiken

Anthropic testet derzeit eine Chrome-Browser-Erweiterung, die seinem KI-Assistenten Claude die Fähigkeit verleiht, die Webbrowser der Nutzer zu bedienen. Damit betritt Anthropic einen schnell wachsenden und potenziell gefährlichen Bereich, in dem KI direkt mit Computerschnittstellen interagieren kann.

Die in San Francisco ansässige KI-Firma gab am Dienstag bekannt, dass sie eine Testversion von "Claude für Chrome" mit 1.000 ausgewählten Nutzern des Premium-Tarifs Max starten wird. Diese vorsichtige Strategie steht in krassem Gegensatz zu den selbstbewussteren Veröffentlichungen der Konkurrenten OpenAI und Microsoft, die vergleichbare KI-Systeme mit Computersteuerungsfunktionen bereits einem größeren Publikum zur Verfügung gestellt haben.

Diese Entwicklung unterstreicht die rasante Entwicklung der KI-Branche von der Entwicklung von Chatbots, die Fragen beantworten, hin zur Entwicklung von "agentenbasierten" Systemen, die selbstständig komplexe, mehrstufige Aufgaben innerhalb verschiedener Softwareanwendungen erledigen können. Viele Experten sehen in dieser Entwicklung den nächsten großen Fortschritt im Bereich der künstlichen Intelligenz - und einen, der sich als äußerst profitabel erweisen könnte, da Unternehmen versuchen, Prozesse zu automatisieren, die von der Kostenabrechnung bis zur Urlaubskoordination reichen.

Wie KI-Agenten Ihren Browser bedienen können, während versteckter bösartiger Code große Sicherheitsrisiken schafft

Mit Claude for Chrome können Nutzer die KI anweisen, Aufgaben in ihrem Webbrowser zu erledigen, z. B. Meetings zu arrangieren, indem sie auf Kalender zugreifen und die Verfügbarkeit von Restaurants prüfen, E-Mail-Korrespondenz verwalten und alltägliche Verwaltungsaufgaben erledigen. Das System ist in der Lage, Bildschirminhalte zu interpretieren, mit Schaltflächen zu interagieren, Formulare auszufüllen und verschiedene Websites zu durchsuchen - und damit die menschenähnliche Navigation in webbasierten Anwendungen nachzubilden.

"Wir halten eine browserfähige KI für eine unvermeidliche Entwicklung: Da so viel Arbeit in Browsern erledigt wird, wird die Möglichkeit, dass Claude Ihren Bildschirm anschaut, auf Schaltflächen klickt und Daten eingibt, ihren Nutzen erheblich steigern", erklärte Anthropic in seiner Ankündigung.

Dennoch haben die internen Sicherheitsbewertungen des Unternehmens besorgniserregende Schwachstellen aufgedeckt, die die Risiken verdeutlichen, die entstehen, wenn KI-Systemen die direkte Kontrolle über die Benutzeroberfläche gewährt wird. Bei gegnerischen Tests entdeckte Anthropic, dass Hacker versteckte Befehle in Websites, E-Mails oder Dokumente einbetten können, um KI-Systeme dazu zu verleiten, schädliche Aktionen auszuführen, ohne dass der Benutzer dies bemerkt - eine Methode, die als Prompt Injection bekannt ist.

Ohne Schutzmaßnahmen waren diese Angriffe in 23,6 % der Fälle erfolgreich, wenn sie speziell auf die mit dem Browser arbeitende KI abzielten. In einem Szenario wies eine als Sicherheitsupdate getarnte betrügerische E-Mail Claude an, die E-Mails des Benutzers "zur Wartung der Mailbox" zu löschen, was die KI ohne Rückfrage ausführte.

"Dies sind keine hypothetischen Szenarien: Wir haben Versuche mit Claude für Chrome durchgeführt, und ohne Schutzmaßnahmen haben wir einige alarmierende Ergebnisse beobachtet", bestätigte das Unternehmen.

OpenAI und Microsoft beschleunigen die kommerzielle Freigabe, während Anthropic eine vorsichtige Haltung zur Computersteuerungstechnologie einnimmt

Anthropics überlegtes Vorgehen kommt zu einem Zeitpunkt, an dem die Konkurrenz schnellere Fortschritte bei Computersteuerungsanwendungen macht. OpenAI hat seinen "Operator"-Agenten im Januar eingeführt und bietet ihn allen Abonnenten des ChatGPT Pro-Tarifs im Wert von 200 Dollar monatlich an. Angetrieben von einem neuen "Computer-Using Agent"-Modell kann Operator Funktionen wie das Sichern von Konzertkarten, den Einkauf von Lebensmitteln und die Organisation von Reiseplänen ausführen.

Microsoft stellte im April über seine Copilot Studio-Plattform Funktionen für die Computerbedienung vor und konzentrierte sich dabei auf Unternehmenskunden mit UI-Automatisierungstools, die sowohl mit Web- als auch mit Desktop-Anwendungen zusammenarbeiten können. Das Unternehmen präsentierte seine Lösung als fortschrittlichen Ersatz für herkömmliche Systeme zur robotergestützten Prozessautomatisierung (RPA).

Diese Wettbewerbsmanöver zeigen die Spannungen in der Branche, in der Unternehmen den Druck, innovative Funktionen zu liefern, gegen die Gefahr abwägen müssen, eine unzureichend geprüfte Technologie auf den Markt zu bringen. Der beschleunigte Zeitplan von OpenAI hat dem Unternehmen zu einer frühen Marktpräsenz verholfen, während die vorsichtige Taktik von Anthropic seinen Wettbewerbsvorteil anfangs vielleicht einschränkt, sich aber auszahlen könnte, wenn Sicherheitsprobleme auftreten.

"Browsergesteuerte Agenten, die auf hochmodernen Modellen basieren, tauchen bereits auf, was diese Initiative besonders zeitkritisch macht", so Anthropic, das sich trotz der anhaltenden Sicherheitsprobleme zum Markteintritt gedrängt fühlt.

Wie computergesteuerte KI die Geschäftsautomatisierung verändern und kostspielige Workflow-Anwendungen ersetzen könnte

Das Aufkommen von computergesteuerten KI-Systemen könnte die Art und Weise, wie Unternehmen Automatisierung und Workflow-Management umsetzen, grundlegend verändern. Die bestehende Unternehmensautomatisierung hängt in der Regel von kostspieligen benutzerdefinierten Integrationen oder spezialisierter Software für die Automatisierung von Roboterprozessen ab, die bei Änderungen der Anwendungsschnittstellen versagt.

Computer-Use-Agents sollen die Automatisierung zugänglicher machen, indem sie mit jeder Software funktionieren, die über eine grafische Benutzeroberfläche verfügt, und potenziell Aktivitäten in einer Vielzahl von Geschäftsanwendungen automatisieren, die keine formalen APIs oder Integrationsfunktionen unterstützen.

Salesforce-Forscher haben diese Fähigkeit kürzlich mit ihrem CoAct-1-System veranschaulicht, das die herkömmliche Point-and-Click-Automatisierung mit der Codegenerierung kombiniert. Diese kombinierte Methode erreichte eine Erfolgsquote von 60,76 % bei komplizierten Computeraufgaben und benötigt dabei weit weniger Schritte als rein GUI-basierte Agenten, was zeigt, dass erhebliche Effizienzsteigerungen möglich sind.

"Für Geschäftsleute besteht die Chance darin, komplizierte, anwendungsübergreifende Vorgänge zu automatisieren, bei denen ein vollständiger API-Zugang eher ungewöhnlich als Standard ist", verdeutlichte Ran Xu, Direktor für angewandte KI-Forschung bei Salesforce, und nannte als ideale Anwendungen Kunden-Support-Vorgänge, die mehrere exklusive Systeme umfassen.

Akademische Forscher starten kostenlose Option, um die exklusiven KI-Plattformen von Big Tech zu ersetzen

Die Verbreitung von proprietären Systemen führender Technologieunternehmen hat Universitätsforscher dazu inspiriert, zugängliche Alternativen zu schaffen. Die Universität Hongkong hat vor kurzem OpenCUA veröffentlicht, ein Open-Source-Framework für die Entwicklung von Agenten zur Computernutzung, das die Leistung der proprietären Modelle von OpenAI und Anthropic erreicht.

Das OpenCUA-System, das anhand von mehr als 22.600 menschlichen Aufgabenbeispielen unter Windows, macOS und Ubuntu getestet wurde, lieferte Spitzenergebnisse unter den Open-Source-Modellen und schnitt vergleichbar mit führenden kommerziellen Systemen ab. Dieser Fortschritt könnte die Implementierung durch Unternehmen beschleunigen, die bei wichtigen Automatisierungsprozessen auf geschlossene Systeme angewiesen sind.

Die Sicherheitsbewertung von Anthropic zeigt, dass KI-Agenten dazu verleitet werden können, Dateien zu löschen und Informationen an sich zu nehmen

Anthropic hat mehrere Schutzmaßnahmen für Claude for Chrome eingeführt, darunter webseitenspezifische Berechtigungen, mit denen die Benutzer festlegen können, welche Websites die KI besuchen darf, obligatorische Genehmigungen für riskante Aktionen wie das Abschließen von Einkäufen oder die Offenlegung privater Informationen sowie die Beschränkung des Zugangs zu sensiblen Kategorien wie Finanzdienstleistungen und Material für Erwachsene.

Die Sicherheitsupgrades des Unternehmens haben die Effektivität von Soforteinspeisungsangriffen im autonomen Betrieb von 23,6 % auf 11,2 % gesenkt, auch wenn die Geschäftsführung einräumt, dass dies für eine weite Verbreitung noch zu wenig ist. Bei browserbasierten Angriffen mit versteckten Formularelementen und URL-Änderungen konnte die Erfolgsquote durch neue Abwehrmaßnahmen von 35,7 % auf Null gesenkt werden.

Dennoch können diese Schutzmaßnahmen nicht die gesamte Komplexität der tatsächlichen Web-Einstellungen berücksichtigen, in denen ständig neue Angriffsmethoden auftauchen. Das Unternehmen beabsichtigt, die Erkenntnisse aus dem Pilotprogramm zu nutzen, um seine Sicherheitsinfrastruktur zu verbessern und fortschrittlichere Berechtigungseinstellungen zu schaffen.

"Böswillige Akteure erfinden ständig neue Arten von Prompt-Injection-Angriffen", warnte Anthropic und betonte das anhaltende Sicherheitsdilemma.

Das Aufkommen von KI-Agenten, die mit Schnittstellen interagieren, könnte die Beziehung zwischen Mensch und Computer radikal verändern

Die Ausrichtung mehrerer großer KI-Unternehmen auf computergesteuerte Agenten deutet auf einen bemerkenswerten Wandel in der Art und Weise hin, wie künstliche Intelligenz mit aktuellen Software-Frameworks interagieren wird. Anstatt Unternehmen zu zwingen, neue KI-spezifische Tools zu implementieren, sind diese Systeme so konzipiert, dass sie mit allen Anwendungen funktionieren, die Unternehmen derzeit einsetzen.

Diese Methode könnte die Hindernisse für die KI-Implementierung erheblich verringern und gleichzeitig die traditionellen Automatisierungsanbieter und Systemintegratoren überflüssig machen. Unternehmen, die umfangreiche Ressourcen für kundenspezifische Integrationen oder RPA-Plattformen eingesetzt haben, könnten feststellen, dass ihre Methoden durch universelle KI-Agenten, die sich ohne Code-Änderungen an Schnittstellenänderungen anpassen können, überholt sind.

Für Unternehmensleiter bietet die Innovation sowohl Potenzial als auch Gefahr. Frühe Implementierer könnten durch verbesserte Automatisierungsfunktionen wichtige Wettbewerbsvorteile erzielen, aber die von Unternehmen wie Anthropic festgestellten Sicherheitsschwächen zeigen, dass Vorsicht geboten sein könnte, bis sich die Schutzmechanismen weiterentwickeln.

Die eingeschränkte Erprobung von Claude für Chrome stellt lediglich die Anfangsphase dessen dar, was Branchenanalysten als rasche Verbreitung von computergesteuerten KI-Funktionen im gesamten Technologiesektor erwarten, mit Folgen, die weit über die grundlegende Aufgabenautomatisierung hinausgehen und Kernfragen der Mensch-Computer-Interaktion und der Cybersicherheit betreffen.

Wie Anthropic in seiner Ankündigung erklärte: "Wir sind zuversichtlich, dass diese Fortschritte neue Möglichkeiten für die Zusammenarbeit mit Claude schaffen werden, und wir sind gespannt darauf, zu erfahren, was Sie entwickeln werden." Der letztendliche Nutzen oder Nachteil dieser Möglichkeiten könnte davon abhängen, wie effektiv die Industrie die bereits aufgetauchten Sicherheitsprobleme angeht.