Google hat Gemini entwickelt, um Fragen zu beantworten. Jetzt nutzen Angreifer Fragen als Dietriche.
In einer Welle von mehr als 100.000 sorgfältig konstruierten Prompts bombardieren Bedrohungsakteure Googles Gemini-Chatbot mit Anfragen – bei dem, was das Unternehmen als Angriffe zur „Modell-Extraktion“ oder „Destillation“ bezeichnet. Indem sie das System systematisch sondieren, versuchen die Angreifer, die zugrunde liegende Logik, die Denkmuster und den Gedankengang des Modells rückzuentwickeln, um konkurrierende KI-Systeme zu bauen, ohne die hohen Kosten für das Training eines Modells von Grund auf zu bezahlen.
Google zufolge scheint die Aktivität mit Akteuren in Ländern wie Nordkorea, Russland und China in Verbindung zu stehen. Das Unternehmen stuft die Aktivitäten als Diebstahl geistigen Eigentums und klaren Verstoß gegen seine Nutzungsbedingungen ein.
Auch andere Unternehmen könnten ähnliche Angriffe erleben
Doch Gemini könnte nur der Auftakt sein.
John Hultquist, der Chief Analyst der Google Threat Intelligence Group, sagte gegenüber NBC News dass Gemini zwar eines der ersten Ziele sein könnte, aber auch die maßgeschneiderten KI-Tools anderer Unternehmen wahrscheinlich ähnlichen Angriffen ausgesetzt sein werden.
„Wir werden der Kanarienvogel im Kohlebergwerk für weitaus mehr Vorfälle sein“, sagte Hultquist.
Experten warnen, dass sich dieser Trend beschleunigen wird. „Angesichts der Kosten für das Training neuer Modelle ist es nicht überraschend, dass Angriffe zur Modell-Extraktion als illegaler Versuch zu beobachten sind, beim Entwickeln eines neuen Modells Boden gutzumachen“, sagte Melissa Ruzzi, Director of AI bei AppOmni, in einer Stellungnahme gegenüber TechRepublic. „Wir müssen damit rechnen, dass KI zunehmend bei Angriffen eingesetzt wird.“
Die proprietäre Logik und das spezialisierte Training großer LLMs machen sie zu besonders lohnenden Zielen, so Google. Während Angreifer einst auf konventionelle Eindringoperationen zurückgriffen, um Geschäftsgeheimnisse zu stehlen, können sie nun legitimen API-Zugriff nutzen, um ausgewählte Fähigkeiten von KI-Modellen zu „klonen“.
Agentische KI bringt zusätzliche Risiken für interne Daten mit sich
Die Kanzlei Shumaker, Loop & Kendrick weist darauf hin, dass agentische KI-Systeme zusätzliche Risiken bergen. Wenn Unternehmen KI-Agenten umfassenden Zugriff auf sensible Systeme gewähren, kann ein Datenabfluss schleichend Geschäftsgeheimnisse, Patente, Marken und Urheberrechte gefährden.
„Durch Datenlecks kann agentische KI geistige Eigentumsrechte schleichend gefährden, sofern Sie die Standardeinstellungen nicht ändern“, schrieb die Kanzlei kürzlich in einem Blog. „Diese Lecks können sich negativ auf Geschäftsgeheimnisse, Patente, Marken und Urheberrechte auswirken.“
Die Kanzlei rät Unternehmen, Agenten nur für die von ihnen auszuführenden Aufgaben mit Zugangsdaten auszustatten.
Weitere Informationen: Google testet auch KI-Abwehrmaßnahmen in Chrome und bietet Forschern bis zu 20.000 US-Dollar an, die Sicherheitslücken in seinen KI-Funktionen aufdecken können.