Eine Android-TV-Box soll Ihre Lieblingssendungen streamen und kein KI-Modell ausführen. Doch Anthropic ist es gelungen, ein solches Modell auf 15 preisgünstigen Boxen auszuführen. Nun warnt das Unternehmen, dass alltägliche Geräte wie etwa smarte Öfen irgendwann dazu beitragen könnten, dass sich KI von Gerät zu Gerät selbst kopiert.
In einer am 12. Okt. veröffentlichten Studie untersuchte Anthropic, ob KI-Agenten Modelle auf unbekannter Hardware ausführen und in einem kontrollierten Netzwerk mit vereinfachtem Zugriff die Vervielfältigung koordinieren könnten. Die Experimente zeigten Fortschritte, doch keines demonstrierte einen außer Kontrolle geratenen KI-Wurm, der sich über reale Netzwerke verbreitet. Für Unternehmen mit Sicherheitskameras, Konferenzraumdisplays und anderen vernetzten Geräten wirft die Warnung Fragen zu Geräten auf, die nur selten derselben Prüfung unterzogen werden wie Computer und Server.
Anthropic testet die KI-Vervielfältigung auf preisgünstiger Hardware
Der vorgeschlagene Vervielfältigungsprozess umfasst das Auffinden von Zielen, den Zugriff darauf, das Ausführen eines Modells und die Wiederholung des Vorgangs.
In der Studie von Anthropic lief Googles Gemma4-26B-A4B-Modell auf 15 Android-TV-Boxen, die jeweils etwa 55 US-Dollar kosteten. Es erzeugte lediglich 0,39 Token pro Sekunde und demonstrierte keine autonome Infektion.
Anthropic identifizierte außerdem smarte Öfen als potenzielle Ziele. Für Unternehmen sind Sicherheitskameras, Smart-TVs und Konferenzraumausstattung weitere vernetzte Geräte, die überprüft werden sollten, auch wenn die Forschenden sie nicht auf autonome KI-Vervielfältigung testeten.
In einem separaten Versuch setzte GLM-5.2 Llama3.1-8B in vier von fünf Durchläufen auf allen acht virtuellen Android-Zielen ein. Die Geräte verfügten über nicht authentifizierte Debugging-Ports, während die Inferenz von GLM-5.2 selbst extern ausgeführt wurde.
Anthropic schätzt, dass kleine Modelle bis Ende 2026 das Leistungsniveau von GLM-5.2 erreichen könnten und praktische Vervielfältiger möglicherweise folgen werden. Diese Hochrechnung beruht auf allgemeinen Fähigkeitstrends und nicht auf einem direkten Benchmark zur Vervielfältigung.
Was eWeek herausgefunden hat: KI auszuführen ist leichter, als sie zu vervielfältigen
Anthropic räumte ein: „Wir haben noch keinen vollständigen Vervielfältiger außer Kontrolle.“ Ein Vergleich der Tests offenbart eine Lücke: Kleinere Modelle können auf preisgünstigen Geräten ausgeführt werden, haben aber noch keinen zuverlässigen Abschluss des vollständigen Vervielfältigungszyklus demonstriert. Selbst der erfolgreiche Vervielfältigungstest beruhte auf einem leichteren Zugriff als in der realen Welt und auf einer extern ausgeführten Inferenz.
Experiment | Nachgewiesenes Ergebnis | Wichtige Einschränkung |
|---|---|---|
| 15 Android-TV-Boxen | 26B-Modell lief auf preisgünstigen Geräten | Keine Infektion von Gerät zu Gerät getestet |
| Virtuelle Android-Testumgebung | GLM-5.2 erreichte in vier von fünf Versuchen acht Ziele | Nicht authentifizierter Zugriff; Agent lief extern |
| Anpassung von Qwen3.5-9B | Inferenz-Setup stieg von 45 % auf 61 %–84 % | Keine vollständige Vervielfältigung demonstriert |
Im Experiment mit Qwen3.5-9B erstellten die Forschenden aufeinanderfolgende Agenteninstanzen, die Notizen aus früheren Versuchen übernahmen und das Inferenz-Setup verbesserten. Diese Instanzen wurden von den Forschenden neu gestartet, statt sich autonom zu reproduzieren. Eine bessere Konfiguration allein etablierte jedoch keinen sich selbst erhaltenden KI-Wurm.Laut Quartz, geht Anthropics Schätzung dahin, dass es bei einem IoT-basierten Vervielfältiger Tage dauern könnte, bis er sich verdoppelt, statt sich schnell auszubreiten.
Selbst ein sich langsam bewegender Vervielfältiger könnte erkennbare Netzwerkaktivitäten hinterlassen. Die Forschenden identifizierten mögliche Warnzeichen, darunter die Übertragung von Modellen mit mehreren Gigabyte, ungewöhnliche Kommunikation von Gerät zu Gerät und wiederholte Netzwerk-Scans. Diese Verhaltensweisen geben Verteidigern konkrete Anhaltspunkte, nach denen sie suchen können, auch wenn kein unkontrollierter KI-Wurm demonstriert wurde.
Was Unternehmen jetzt prüfen sollten
Ein dezentraler Vervielfältiger könnte schwer abzuschalten sein, weil ihm ein zentraler Kontrollpunkt fehlt – eine Sorge, die CNBC in seiner Berichterstattung hervorhob. Organisationen können drei praktische Schritte unternehmen:
- Vernetzte Hardware inventarisieren. Sicherheitskameras, Konferenzraumsysteme und nicht mehr unterstützte IoT-Geräte identifizieren, insbesondere solche mit offengelegten Verwaltungsschnittstellen.
- Bewegungen begrenzen. IoT-Netzwerke segmentieren, unnötige Debugging-Ports schließen und den Zugriff von Gerät zu Gerät beschränken.
- Netzwerkverhalten beobachten. Scans, unerwartete Modelldownloads und anhaltende Verbindungen zwischen Geräten untersuchen, die nur selten miteinander kommunizieren.
Anthropic hat keinen KI-Wurm demonstriert, der sich über reale Netzwerke verbreitet. Die Forschung lenkt den Blick jedoch auf eine Sicherheitslücke, die Unternehmen bereits heute schließen können: vernetzte Geräte, die große Dateien herunterladen oder mit anderen Systemen kommunizieren können, ohne dass es jemand bemerkt.
Unabhängig davon, ob selbstvervielfältigende KI in einigen Monaten verfügbar ist oder länger auf sich warten lässt: Sicherheitsteams haben guten Grund sicherzustellen, dass diese Geräte nicht übersehen werden.
Für einen weiteren Blick auf die wachsenden Sorgen um die KI-Sicherheit, lesen Sie, warum ein ehemaliger Anthropic-Forscher davor warnte, dass das Wettrennen um die Entwicklung leistungsfähigerer Modelle die Bemühungen, sie unter Kontrolle zu halten, überholen könnte.