Das jüngste Update zu Project Glasswing von Anthropic enthält eine Warnung für die Softwarewelt.
Claude Mythos Preview hat 23.019 potenzielle Sicherheitslücken in Open-Source-Projekten entdeckt, davon werden 6.202 als mittelschwer oder kritisch eingestuft. Anthropic erklärte, die Menge der von KI entdeckten Schwachstellen mache Verifizierung, Offenlegung und Patchen zum neuen Engpass.
Die KI-gestützte Suche nach Sicherheitslücken könnte schon bald auf die Probe stellen, ob Verteidiger ebenso schnell handeln können wie die Modelle, die ihren Code scannen.
Viele der von der KI entdeckten Fehler hielten der Prüfung stand
Das KI-Modell hat mit seinem Open-Source-Scan mehr als 1.000 Projekte abgedeckt. Ein Teil davon wurde zusätzlichen Prüfungen durch unabhängige Sicherheitsfirmen oder Anthropic selbst unterzogen, und die ersten Validierungszahlen waren beachtlich:
- 1,752: Von externen Sicherheitsfirmen oder internen Forschern geprüfte Befunde mit hoher oder kritischer Einstufung.
- 90.6%: Geprüfte Befunde, die als valide echte Treffer eingestuft wurden.
- 62.4%: Geprüfte Befunde, die als von hoher oder kritischer Schwere bestätigt wurden.
- Knapp 3.900: Prognostizierte Open-Source-Sicherheitslücken mit hoher oder kritischer Schwere, sofern die aktuellen Raten nach der Triage Bestand haben.
Ein Beispiel stammt von wolfSSL, einer quelloffenen Kryptografiebibliothek, die in Milliarden von Geräten eingesetzt wird. Mythos Preview entdeckte eine inzwischen gepatchte Schwachstelle, durch die ein Angreifer Zertifikate hätte fälschen können. Dadurch hätte eine gefälschte Banking- oder E-Mail-Website für einen Endnutzer legitim erscheinen können.
Die Entdeckung selbst wird zum leichteren Teil. „Mit Mythos Preview ist es inzwischen weitaus einfacher geworden, sie überhaupt erst zu finden“, erklärte das KI-Unternehmen.
Das Patchen kam nicht hinterher
Die koordinierte Offenlegung soll Softwareteams Zeit geben, Schwachstellen zu verifizieren und Fehlerbehebungen vorzubereiten, damit Nutzer ihre Software aktualisieren können, bevor Details öffentlich werden. Mythos Preview testet, wie gut dieser Prozess funktioniert, wenn die Befunde in großer Zahl eintreffen.
Jeder Bericht muss weiterhin von Menschen geprüft werden. Forscher müssen das Problem reproduzieren, seinen Schweregrad bewerten, prüfen, ob bereits eine Fehlerbehebung existiert, und den Maintainern genügend Details liefern, um den Code sicher zu reparieren. Einige Maintainer baten Anthropic, das Tempo der Offenlegungen zu drosseln, weil sie mehr Zeit für eine Reaktion benötigten.
Anthropic zufolge wurden bislang 530 Fehler mit hoher oder kritischer Schwere an Maintainer gemeldet, aber nur 75 davon wurden gepatcht. Im Durchschnitt dauert es etwa zwei Wochen, einen Fehler dieser Schwere zu beheben.
Die geringe Zahl der Patches spiegelt teilweise die frühe Phase des standardmäßigen 90-tägigen Offenlegungszeitraums wider. Außerdem sind einige Fehlerbehebungen möglicherweise noch nicht sichtbar, weil nicht jeder Patch mit einem öffentlichen Sicherheitsbericht einhergeht.
Eine öffentliche Veröffentlichung bleibt vorerst ausgeschlossen
Anthropic hat Modelle der Mythos-Klasse von einer allgemeinen Veröffentlichung ferngehalten und die Technologie stattdessen mit Partnern von Project Glasswing eingesetzt. Modelle mit den Fähigkeiten von Mythos Preview werden laut dem Claude-Hersteller bald von vielen KI-Unternehmen entwickelt werden, wodurch Zugriffskontrollen und Schutzmaßnahmen noch dringlicher werden.
Der Zugriff bleibt eingeschränkt, weil die Schutzmaßnahmen nicht mit den Fähigkeiten Schritt gehalten haben. „Kein Unternehmen – einschließlich Anthropic – hat Schutzmaßnahmen entwickelt, die stark genug sind, um den Missbrauch solcher Modelle zu verhindern“, erklärte das Unternehmen.
Der kurzfristige Zugang läuft stattdessen über Project Glasswing. Das Programm wird auf weitere kritische Partner ausgeweitet, darunter die USA und verbündete Regierungen. Qualifizierte Sicherheitsteams erhalten defensive Werkzeuge wie Claude Security, Scan-Workflows, ein Werkzeug zur Abbildung von Codebasen und einen Builder für Bedrohungsmodelle.
Googles jüngstes Search-Problem zeigt, wie generative KI alte Spam-Taktiken plötzlich wieder gefährlich erscheinen lassen kann.