Anthropic, das Unternehmen hinter dem KI-Assistenten Claude, hat mit dem Test einer Chrome-Erweiterung begonnen, die es dem Modell ermöglicht, direkt im Browser zu arbeiten. Der diese Woche gestartete Pilot ist auf 1.000 Abonnenten des Max-Tarifs des Unternehmens beschränkt, der bis zu 200 US-Dollar pro Monat kostet. Andere Nutzer können sich für einen künftigen Zugang auf die Warteliste setzen lassen.
Die Erweiterung ermöglicht es Claude, Aufgaben wie das Klicken auf Schaltflächen, das Ausfüllen von Formularen, das Planen von Besprechungen und die Verwaltung von Dokumenten zu übernehmen – und das alles, ohne dass Nutzer zwischen Apps wechseln müssen.
„Wir betrachten KI, die Browser nutzt, als unausweichlich“, erklärte das Unternehmen in einer Stellungnahme. „So viel Arbeit findet in Browsern statt, dass Claude dadurch, dass es sehen kann, was Sie gerade betrachten, auf Schaltflächen klicken und Formulare ausfüllen kann, erheblich nützlicher wird.“
In Demonstrationen wurde gezeigt, wie Claude Immobilienangebote auf Zillow findet, Kommentare in Google Docs zusammenfasst und Artikel in einen DoorDash-Warenkorb legt. Damit tritt Claude in direkte Konkurrenz zu anderen KI-Browser-Agenten, etwa Perplexitys Comet, Googles Gemini-Integration in Chrome und Microsofts Copilot in Edge.
Sicherheitsrisiken im Fokus
Die neue Funktion birgt jedoch Risiken. Browserbasierte KI-Systeme sind anfällig für sogenannte Prompt-Injection-Angriffe.
„So wie Menschen in ihren Postfächern auf Phishing-Versuche stoßen, sehen sich browsernutzende KIs mit Prompt-Injection-Angriffen konfrontiert – dabei verstecken Angreifer Anweisungen in Websites, E-Mails oder Dokumenten, um KIs ohne das Wissen der Nutzer zu schädlichen Aktionen zu verleiten“, schrieb Anthropic.
In kontrollierten Red-Team-Experimenten führte das Unternehmen 123 Angriffsszenarien durch und stellte fest, dass Claude ohne Schutzmaßnahmen in 23,6 % der Fälle schädliche Aktionen ausführte. In einem Test teilte eine gefälschte E-Mail Claude mit, es solle „aus Sicherheitsgründen“ alle Nachrichten löschen. Claude gehorchte und löschte den Posteingang des Nutzers, ohne nachzufragen.
„Prompt-Injection-Angriffe können KIs dazu bringen, Dateien zu löschen, Daten zu stehlen oder Finanztransaktionen durchzuführen“, fügte Anthropic hinzu.
Um diesen Bedrohungen zu begegnen, hat Anthropic ein mehrschichtiges Abwehrsystem eingeführt. Nutzer können Claudes Zugriff auf bestimmte Websites beschränken und müssen risikoreiche Aktionen wie das Veröffentlichen von Inhalten oder den Kauf von Produkten bestätigen. Außerdem ist Claude für bestimmte Hochrisikokategorien gesperrt, darunter Finanzdienstleistungen und raubkopierte Inhalte.
Diese Maßnahmen senkten die Erfolgsquote der Angriffe beinahe um die Hälfte, von 23,6 % auf 11,2 %. Bei Angriffen, die auf browserspezifische Schwachstellen abzielten, etwa in Formularfeldern verstecktem Schadcode, reduzierten die neuen Schutzmaßnahmen die Erfolgsquote von 35,7 % auf null.
Dennoch räumt Anthropic ein, dass das System noch lange nicht perfekt ist: „Einige Schwachstellen müssen noch behoben werden, bevor wir Claude für Chrome allgemein verfügbar machen können“, erklärte das Unternehmen.
Ein langer Weg bis zur breiten Nutzung
Analysten warnen, dass KI-Agenten wie Claude zwar die Produktivität am Arbeitsplatz steigern könnten, zugleich aber auch die Angriffsfläche für Unternehmen vergrößern dürften.
„Es ist entscheidend, die Nutzung dieser Erweiterungen genau zu überwachen und zu steuern“, sagte Neil Shah, VP für Forschung bei Counterpoint Research, im Gespräch mit Computer World. „Jede KI-Erweiterung, die in einer Unternehmensumgebung eingesetzt wird, muss für den Unternehmenseinsatz geeignet, auf bestimmte Aufgaben zugeschnitten und durch strenge Leitplanken geregelt sein.“
Andere warnen, dass Konkurrenten wie Google und Microsoft aufgrund der tieferen Integration in ihre Ökosysteme im Vorteil sein könnten. Dadurch könnten es Drittanbieter-Tools wie Claude schwerer haben, eine reibungslose Einführung in Unternehmen zu erreichen.
Vorerst konzentriert sich Anthropic auf sorgfältige Tests mit vertrauenswürdigen Nutzern. Das Unternehmen rät davon ab, Claude für Chrome auf Finanz-, Medizin- oder Rechtswebsites einzusetzen, und empfiehlt, während der Weiterentwicklung des Systems bei vertrauten Websites mit geringem Risiko zu bleiben.
„Interne Tests können die gesamte Komplexität der Webnutzung in der realen Welt nicht nachbilden“, erklärte Anthropic. Das Unternehmen gibt an, dass das Feedback aus dem Pilotprojekt genutzt werden soll, um Claudes Sicherheitssysteme zu verbessern und künftigen Modellen beizubringen, neue Angriffsmuster zu erkennen.
Die Zukunft der KI-Sicherheit nimmt jetzt Gestalt an. Erfahren Sie, wie Anthropics Claude Opus 4 neue Maßstäbe setzt und schädliche Gespräche direkt angeht.