Googles Threat Intelligence Group meldete am Montag den ersten beobachteten Fall, in dem eine Hackergruppe einen von KI generierten Zero-Day-Exploit einsetzte, der nach ihren Angaben entwickelt wurde, um Systeme zur Multifaktor-Authentifizierung zu umgehen.
Zero-Day-Exploits sind für Sicherheitsforscher ein zentrales Thema, da fortgeschrittene KI-Modelle möglicherweise Hunderte davon deutlich schneller identifizieren können als menschliche Experten. Die jüngsten eingeschränkten Veröffentlichungen von Cybersicherheitsmodellen durch Anthropic und OpenAI sowie der Hype in der Branche um ihr Potenzial haben die Befürchtung verstärkt, dass KI von Cyberkriminellen und feindlich gesinnten Staaten eingesetzt werden könnte.
Google gab weder die für den Angriff verantwortliche Hackergruppe noch das verwendete KI-Modell bekannt. In einem anschließenden Kommentar gegenüber Bloomberg erklärte das Unternehmen, es glaube nicht, dass der Exploit von Mythos oder Google Gemini erstellt worden sei. Google hat noch kein eigenes fortgeschrittenes Cybermodell auf den Markt gebracht.
Mythos und die Zukunft der Cybersicherheit
Anthropic schürte im vergangenen Monat mit der eingeschränkten Einführung von Mythos Ängste in der Welt der Cybersicherheit. Dem waren mehrere Wochen vorausgegangen, in denen das Unternehmen vor den möglichen Auswirkungen von KI auf die Sicherheit gewarnt hatte. Rund 40 Organisationen erhielten eingeschränkten Zugang zu dem Modell, darunter öffentliche Einrichtungen, Infrastrukturbetreiber und Finanzinstitute.
Erste Tests von Mythos deuten darauf hin, dass Anthropic mit der Begrenzung seiner Veröffentlichung richtiglag. Mehrere der 40 Organisationen meldeten sich zu Wort und warnten vor den Cybersicherheitsfähigkeiten von Mythos, während andere das KI-Modell nutzten, um ihre internen Abwehrmaßnahmen zu testen und die von ihm entdeckten Schwachstellen zu schließen.
Mozilla erklärte, man habe 271 von Mythos identifizierte Schwachstellen geschlossen, was die Fähigkeit des Modells unterstreiche, Fehler schnell zu erkennen und Lösungen bereitzustellen.
Den Wert dieser KI-Modelle hat auch die Kehrtwende der Trump-Regierung im Umgang mit Anthropic deutlich gemacht. Zuvor hatte sie den Einsatz von Anthropic-Tools durch staatliche Behörden verboten, während das Verteidigungsministerium nach der Einstufung des Unternehmens als Lieferkettenrisiko Vereinbarungen mit den meisten seiner Konkurrenten unterzeichnet hatte.
Die Einführung von Mythos veranlasste mehrere Behörden, Zugang zu beantragen, darunter die National Security Agency, die das Modell Berichten zufolge zur Verstärkung ihrer Abwehrmaßnahmen einsetzt.
Die Suche nach Fehlern und das Einspielen von Sicherheitsupdates waren noch nie so präsent wie derzeit. Microsoft veröffentlichte kürzlich das zweitgrößte monatliche Sicherheitsupdate seiner Geschichte und behob 160 Fehler, darunter zwei Zero-Day-Schwachstellen. Mit Anthropic Mythos und anderen KI-Cybertools sind diese Unternehmen möglicherweise in der Offensive – doch es ist nur eine Frage der Zeit, bis sich die Technologie auf weitere Kriminelle ausbreitet.
Mythos ist nur eines von mehreren KI-Modellen, die Hacker zum Entwickeln von Zero-Day-Exploits einsetzen könnten. Sein wichtigster Konkurrent OpenAI hat den Zugang zu seinem Cybermodell großzügiger gehandhabt und den eingeschränkten Zugang von Anthropic sogar als „angstbasiertes Marketing“ bezeichnet, bevor das Unternehmen selbst den Zugang zu seinem Cybermodell beschränkte.
Anthropic warnte, dass chinesische KI-Modellentwickler etwa 12 Monate hinter dem technologischen Spitzenstand der USA zurückliegen und bis 2027 über Werkzeuge von ähnlicher Komplexität verfügen könnten.
Lesen Sie auch: Googles KI-Ankündigungen im April behandelten Gemini-Agenten, die Automatisierung am Arbeitsplatz und KI-Updates im Verteidigungsbereich.