Systeme der künstlichen Intelligenz können gehackt und ihrer Sicherheitsvorkehrungen beraubt werden, warnte der ehemalige Google-Chef Eric Schmidt diese Woche. Es gebe Hinweise darauf, dass KI-Modelle so manipuliert werden können, dass sie „lernen, jemanden zu töten“.
Auf dem Sifted Summit in London erklärte Schmidt, dass sowohl offene als auch geschlossene KI-Modelle anfällig für Angriffe sind, die ihre integrierten Schutzvorkehrungen umgehen. Er warnte, Hacker könnten diese Systeme per Reverse Engineering analysieren, um Beschränkungen zu umgehen. Dies bezeichnete er als wachsendes Verbreitungsrisiko, da KI immer leistungsfähiger und zugänglicher wird.
Den moralischen Schalter einer KI umlegen
Schmidts Äußerungen machen deutlich, wie fragil die Schutzvorkehrungen von KI sind. Techniken wie Prompt-Injections und Jailbreaking ermöglichen es Angreifern, KI-Modelle dazu zu bringen, Sicherheitsfilter zu umgehen oder eingeschränkte Inhalte zu erzeugen.
In einem frühen Fall erstellten Nutzer ein ChatGPT-Alter-Ego namens „DAN“ – kurz für Do Anything Now –, das verbotene Fragen beantworten konnte, nachdem ihm mit Löschung gedroht worden war. Das Experiment zeigte, wie einige wenige raffinierte Prompts aus Schutzvorkehrungen im Code eine Schwachstelle machen können.
Forscher sagen, dass dieselbe Logik auch für neuere Modelle gilt. Sobald die richtige Abfolge von Eingaben gefunden ist, können selbst die sichersten KI-Systeme dazu gebracht werden, potenziell gefährliches Verhalten zu simulieren.
Wenn Sicherheitsregeln auf intelligentere Maschinen treffen
Sicherheitssysteme für KI sind darauf ausgelegt, Anfragen zu blockieren, die gewalttätig, illegal oder schädlich sind. Sie basieren jedoch auf Mustererkennung und nicht auf echtem Verständnis. Die meisten Schutzvorkehrungen filtern bestimmte Wörter oder Themen heraus und lassen dadurch Lücken, die versierte Nutzer durch Umformulierungen oder mehrstufige Prompts ausnutzen können.
Schmidt sagte, jedes große KI-Unternehmen setze diese Grenzen „aus den richtigen Gründen“, doch die Belege zeigten, dass sie aufgehoben oder umgangen werden können. Intelligentere KI kann Anweisungen auf eine Weise auslegen, die ihre Entwickler nie vorhergesehen haben, und so neue Möglichkeiten für Missbrauch eröffnen.
Der Kampf zum Schutz von KI-Systemen ist jedoch bereits im Gange. Entwickler bei OpenAI und Anthropic bemühen sich beispielsweise, Schwachstellen fast unmittelbar nach ihrer Entdeckung durch Nutzer zu schließen – ein Kreislauf aus Abwehr und Entdeckung, der nur selten langsamer wird.
Macht ohne Kontrolle ist das eigentliche KI-Risiko
Je leistungsfähiger KI-Systeme werden, desto stärker werden sie mit weiteren Werkzeugen, Daten und Entscheidungen verknüpft – und desto kostspieliger wird jeder Sicherheitsbruch. Ein einziger erfolgreicher Angriff könnte private Informationen offenlegen, realistisch wirkende Desinformation erzeugen oder automatisierte Angriffe schneller starten, als Menschen reagieren könnten.
Laut CNBC bezeichnete Schmidt dies als potenzielles „Verbreitungsproblem“ – dieselbe Dynamik, die einst die Nukleartechnologie prägte, nun angewandt auf Code, der sich selbst umschreiben kann.
Dennoch fügte er schnell hinzu, dass der Nutzen ebenso umwälzend sein könnte. Schmidt beschrieb künstliche Intelligenz als „unterschätzt“ und prognostizierte enorme wirtschaftliche Erträge sowie Durchbrüche in Wissenschaft und Industrie. Die Herausforderung bestehe darin, zu verhindern, dass sich diese Macht gegen ihre Schöpfer richtet.
Die Machtkämpfe rund um KI beschränken sich nicht auf Labore und Rechenzentren; sie beginnen, die Karrierewege der jüngsten Generation auf den Kopf zu stellen , die in den Arbeitsmarkt eintritt.