Ihr Browser könnte hinter Ihrem Rücken ein KI-Modell heruntergeladen haben … und Sie würden es vielleicht nie erfahren.
Das ist nun die Situation, mit der sich viele Google-Chrome-Nutzer konfrontiert sehen, nachdem der Sicherheitsforscher Alexander Hanff darauf hingewiesen hat, dass der Browser ein vier Gigabyte großes KI-Modell ohne eindeutige Opt-in-Abfrage auf die Geräte der Nutzer herunterlädt.
Seinen Erkenntnissen zufolge, wird das Modell automatisch auf Geräten installiert, die bestimmte Anforderungen erfüllen, und verbraucht dabei erheblichen Speicherplatz, während es für die Nutzer weitgehend unsichtbar bleibt. In vielen Fällen sind die einzigen Anzeichen eine erhöhte Bandbreitennutzung oder ein sich rapide füllender Speicher.
Obwohl das Modell nützliche Funktionen wie Betrugserkennung und Schreibassistenten unterstützt, steht die Art seiner Bereitstellung in der Kritik. Hanff argumentiert, dass das Fehlen einer eindeutigen Zustimmung der Nutzer an Vorgehensweisen erinnert, die häufig mit unerwünschter Software in Verbindung gebracht werden, und wirft damit die Frage auf, wie weit Softwareunternehmen gehen, um ihre Produkte den Nutzern aufzuzwingen.
Der Übergriff, der gegen mehrere Gesetze verstößt
Das Problem beginnt damit, wie die KI-Modelle auf die Geräte der Nutzer gelangen.
Wenn ein Gerät bestimmte Hardwareanforderungen erfüllt, wird das KI-Modell über Chromes reguläres Updatesystem eingeschleust. Die Installation erfolgt also unbemerkt im Hintergrund und nicht als klar abgegrenzte Aktion des Nutzers. Laut Hanff dauert dieser Installationsvorgang vom Anfang bis zum Ende 14 Minuten und 28 Sekunden.
Nach dem Herunterladen wird das Modell lokal als weights.bn in einem Chrome-Pfad namens OptGuideOnDeviceModel gespeichert und zur Unterstützung von KI-Funktionen auf dem Gerät verwendet.
Auch wenn sein Nutzen klar ist, besteht Hanffs Argument darin, dass den Nutzern keine eindeutige vorherige Zustimmung angeboten wird, die Größe, Zweck oder Auswirkungen der Installation konkret erläutert. Für ein Unternehmen, das jedes größere Update von Chrome ankündigt, ist dies ein seltsames Verhalten.
Hier kommen die rechtlichen und datenschutzbezogenen Bedenken ins Spiel.
Hanff argumentiert, dass dieser Ansatz nur schwer mit den etablierten Grundsätzen der Einwilligung und Transparenz bei der Bereitstellung von Software vereinbar ist. Und obwohl das Modell Nutzer bei der Verarbeitung von KI-Aufgaben auf dem Gerät unterstützt, deutet sein Verhalten auf das Gegenteil hin. So behauptet Hanff, dass für die Installation zwar kein ausdrücklicher Klick der Nutzer erforderlich ist, das Entfernen dieser Datei jedoch nahezu unmöglich sei, da sie sich nach dem Löschen selbst wieder installiert.
Daher sagt Hanff, dass ein solches Verhalten gegen die folgenden Gesetze verstößt:
„Artikel 5 Absatz 3 der Richtlinie 2002/58/EG (Datenschutzrichtlinie für elektronische Kommunikation) [2], ein Verstoß gegen die in Artikel 5 Absatz 1 DSGVO festgelegten Grundsätze der Rechtmäßigkeit, Fairness und Transparenz [3], ein Verstoß gegen die in Artikel 25 DSGVO verankerte Pflicht zum Datenschutz durch Technikgestaltung [3].“
Die Bedenken hinsichtlich der Bereitstellung des Modells sind besonders interessant, wenn man bedenkt, dass sie von derselben Person stammen, die Claudes ähnlich merkwürdiges Verhalten aufgedeckt hat. Doch das ist nicht der auffälligste Aspekt dieses Verhaltens.
Eine unvorhergesehene Verbindung zu CO2-Emissionen
Hanff brachte dieses Verhalten mit einer unbeabsichtigten Folge in Verbindung, die angesichts der Zahl der betroffenen Chrome-Nutzer die Datenschutzbedenken hinsichtlich dieses Verhaltens deutlich überwiegt.
Eine 4-GB-Datei einzuschleusen, die bei einer Löschung erneut installiert wird, mag auf den ersten Blick wie eine Kleinigkeit wirken; Hanff weist jedoch darauf hin, dass dieses Verhalten Folgen für das Klima der Erde hat.
Softwareaktionen in großem Maßstab verursachen nach wie vor physische Kosten. In diesem Fall sagt Hanff, dass das KI-Modell nicht nur heimlich hinzugefügt, sondern auch auf möglicherweise Millionen von Geräten verteilt wird. In diesem Maßstab verbrauchen Übertragung, Speicherung und Nutzung des Modells erhebliche Mengen Energie in Rechenzentren, Netzinfrastruktur und Endgeräten.
Diese Energieverteilung, die Hanff mit 0,06 kWh pro GB veranschlagt, stellt die Verbindung zwischen diesem seltsamen Verhalten und den Klimaemissionen her. Seinen Angaben zufolge können diese zwischen 6.000 und 60.000 Tonnen CO2-Emissionen liegen.
Hanff bezeichnet dies in seinem Bericht als „die Umweltkosten, die entstehen, wenn ein Unternehmen einseitig entscheidet, dass der Standardbrowser von zwei Milliarden Menschen massenhaft eine 4-GB-Binärdatei verteilt, die sie nicht angefordert haben“.
Maßnahmen für Chrome und seine Nutzer
Das Entfernen dieser Datei führt dazu, dass Chrome sie stets automatisch neu installiert – ein hartnäckiges Verhalten, das bei fortgeschrittener Malware beobachtet wird.
Nutzer können eine von drei Maßnahmen ergreifen:
- Chrome-KI-Funktionen über chrome://flags
- deaktivieren
- Den Chrome-Browser vollständig löschen, wenn Sie sich damit unwohl fühlen, bis Chrome seine Strategie ändert.
Dies ist jedoch möglicherweise nicht nötig, wenn Chrome wieder zu einem Opt-in-Verfahren zurückkehrt, bei dem Nutzer selbst entscheiden können, ob sie die Funktion auf ihren Computern aktivieren möchten. Als Unternehmen mit einer öffentlich vertretenen Haltung zu ethischem Verhalten im Bereich der KI sagt Hanff: Wenn das Unternehmen seine Handlungen nicht korrigiere, „werden wir wissen, was die veröffentlichten Positionen des Unternehmens zu verantwortungsvoller KI und Nachhaltigkeit tatsächlich wert sind“.
Ebenfalls lesenswert: Googles jüngstes KI-Suchupdate bietet neue Möglichkeiten, Quellen vor dem Anklicken in der Vorschau anzuzeigen.