In einem Schritt, der noch vor wenigen Jahren unwahrscheinlich erschienen wäre, schließen sich einige der größten Technologiekonkurrenten der Welt, darunter Apple, Google und Microsoft, zusammen, um sich einer ihrer Ansicht nach rapide eskalierenden, durch künstliche Intelligenz verursachten Bedrohung für die Cybersicherheit zu stellen.
Die von Anthropic geleitete Partnerschaft namens Project Glasswing bringt mehr als 45 Organisationen aus den Bereichen Technologie, Finanzen und Cybersicherheit zusammen. Ihr gemeinsames Ziel ist es, leistungsfähige KI-Modelle der nächsten Generation einzusetzen, um kritische Softwareschwachstellen zu identifizieren und zu beheben, bevor sie ausgenutzt werden können.
Im Mittelpunkt des Projekts steht Claude Mythos Preview, ein noch nicht veröffentlichtes KI-Frontier-Modell entwickelt von Anthropic , das bereits gezeigt hat, dass es Tausende bislang unbekannter Sicherheitslücken aufdecken kann, darunter einige, die seit Jahrzehnten in Software für kritische Infrastrukturen verborgen waren.
Eine neue Art von Sicherheitstool
Erste Tests deuten auf beeindruckende Ergebnisse hin.
Berichten zufolge hat Mythos Preview bereits subtile Schwachstellen entdeckt in weit verbreiteten Softwaresystemen, darunter einen 27 Jahre alten Fehler im sicherheitsorientierten Betriebssystem OpenBSD sowie eine lange übersehene Schwachstelle in Vide Software, die Millionen Mal automatisierte Sicherheitstests bestanden hatte.
Was Mythos Preview einzigartig macht, ist die Fähigkeit des Modells, zu analysieren, wie sich Software in größeren Technologieökosystemen verhält. Sein Verständnis komplexer Softwaresysteme ermöglicht es, Schwachstellen zu erkennen, die erst beim Zusammenspiel mehrerer Systeme entstehen – ein Bereich, in dem herkömmliche Tests oft an ihre Grenzen stoßen.
Offenbar ist KI im Bereich Cybersicherheit inzwischen leistungsfähig genug, um menschliche Sicherheitsforscher nicht nur zu unterstützen, sondern sie in bestimmten Bereichen möglicherweise sogar zu übertreffen.
Vorbereitung auf ein Wettrüsten in der KI-Cybersicherheit
Eine der größten Sorgen hinter Project Glasswing ist die Geschwindigkeit. Sicherheitsexperten befürchten zunehmend, dass KI die Zeit zwischen der Entdeckung einer Schwachstelle und ihrer Umwandlung in eine Waffe drastisch verkürzt.
Dadurch entsteht eine gefährliche Dynamik: Dieselben KI-Fähigkeiten, die Verteidiger bei der Identifizierung von Risiken unterstützen, können auch von Angreifern genutzt werden, um Cyberoperationen auszuweiten. Unternehmen stehen daher unter Druck, ihre Abwehrmaßnahmen ebenso schnell zu modernisieren, wie die KI Fortschritte macht.
Project Glasswing umfasst mehr als 45 Organisationen aus den Bereichen Cloud Computing, Halbleiter, Cybersicherheit, Finanzen und Open-Source-Software. Zu den Teilnehmern gehören Amazon Web Services, Cisco, Nvidia, die Linux Foundation, JPMorgan Chase, CrowdStrike und Palo Alto Networks. Gemeinsam erhalten sie kontrollierten Zugang zu Mythos Preview, um ihre eigenen Systeme zu testen und ihre Abwehr zu stärken.
Diese Initiative spiegelt die zunehmende Überzeugung wider, dass kein einzelnes Unternehmen diesen Wandel allein bewältigen kann.
Die zweischneidige Seite der KI-Sicherheit
KI-Modelle mit fortschrittlichen Fähigkeiten in den Bereichen Programmierung und Schlussfolgern können zunehmend sowohl Schwachstellen finden als auch Möglichkeiten zu ihrer Ausnutzung vorschlagen. Das bedeutet, dass die Tools, die Verteidiger heute unterstützen, auch Angreifern in die Hände spielen könnten.
Natürlich gibt es Bedenken, ein derart leistungsfähiges System zu umfassend freizugeben, da dies Angreifern denselben Vorteil verschaffen könnte, den sich die Verteidiger erst aufbauen wollen. Berichten zufolge hat Mythos Preview bereits Schwachstellen mit hohem Schweregrad in wichtigen Betriebssystemen und Webbrowsern identifiziert und in einigen Fällen autonom potenzielle Exploit-Ketten entwickelt.
Diese Fähigkeit ist ein Grund dafür, dass Anthropic den Zugang auf vertrauenswürdige Partner beschränkt, anstatt das Modell öffentlich freizugeben. Ein Teil des Plans besteht darin, diesen Organisationen kontrollierten Zugang zu Mythos Preview zu gewähren, damit sie ihre eigene Infrastruktur testen und Schwachstellen beheben können, bevor ähnliche Tools allgemein verfügbar werden.
Dass direkte Konkurrenten überhaupt zur Zusammenarbeit bereit sind, zeigt, wie ernst die Branche die Bedrohung nimmt.
Unterstützung des Open-Source-Ökosystems
Ein weiterer Schwerpunkt des Projekts ist Open-Source-Software, die einen großen Teil der heutigen digitalen Infrastruktur trägt, aber häufig von kleinen Teams oder einzelnen Entwicklern mit begrenzten Ressourcen gepflegt wird.
Um diese Lücke zu schließen und das breitere Softwareökosystem zu unterstützen, hat Anthropic außerdem 4 Millionen US-Dollar an direkten Fördermitteln zugesagt und stellt Kontingente für die KI-Nutzung bereit, um Sicherheitsverbesserungen in kritischen Open-Source-Projekten zu fördern. Ziel ist es, fortschrittliche Sicherheitstools nicht nur großen Unternehmen, sondern auch unabhängigen Entwicklern zugänglich zu machen, damit sie Sicherheitsprobleme schneller erkennen und beheben können.
Auch das Interesse der Regierung nimmt zu. Anthropic bestätigte, US-Beamte über die defensiven und potenziell offensiven Cyberfähigkeiten von Mythos Preview informiert zu haben, und unterstrich damit die Auswirkungen fortschrittlicher KI-Cybersicherheitstools auf die nationale Sicherheit.
Ein Vorgeschmack auf das, was kommt
Project Glasswing könnte einen Wendepunkt in der Art und Weise darstellen, wie die Technologiebranche mit gemeinsamen Sicherheitsrisiken umgeht. Zum jetzigen Zeitpunkt ist es noch zu früh, um zu sagen, ob daraus ein dauerhaftes Modell für Zusammenarbeit oder nur ein frühes Experiment in der KI-gestützten Cyberabwehr wird.
Dennoch zeigt das Projekt, dass selbst die erbittertsten Konkurrenten im Zeitalter KI-beschleunigter Bedrohungen möglicherweise auf einem gemeinsamen Schlachtfeld zusammenarbeiten müssen, um die digitalen Grundlagen zu schützen, von denen sie alle abhängen.
Lesen Sie auch: Google baut Gemini in Suche, Geräte und Entwicklertools aus und macht damit deutlich, wie schnell große Technologieunternehmen fortschrittliche KI in ihre Ökosysteme integrieren.