Künstliche Intelligenz hat eine erschreckende neue Schwelle überschritten und erzeugt Morddrohungen, die so realistisch sind, dass sie Strafverfolgungsbehörden täuschen und Opfer wie nie zuvor terrorisieren.
Die Richterin Jennifer Johnson aus Florida erhielt einen Clip, der wie ein Videospielausschnitt im Stil von Grand Theft Auto aussah. Dann erkannte sie, dass darin ihr eigener Mord in drastischen Einzelheiten dargestellt wurde.
Das gewalttätige, von einer KI erzeugte Video zeigte einen animierten Angreifer, der einer Frau auf der Straße folgte und sie anschließend mit einem Beil und einer Schusswaffe tötete, während eine Stimme sagte: „Richterin Johnson, lasst uns das Kriegsbeil begraben“, wie The New York Times am 31. Oktober berichtete.
Angesichts der menschlichen Natur ist es vielleicht nicht überraschend, dass Technologie, die das Leben leichter machen soll, Drohungen nun glaubwürdiger klingen und unmittelbarer wirken lässt. Von KI-generierten Nachrichtenvideos, die für Erpressungen eingesetzt werden, bis hin zu Deepfake-Attentatssimulationen gegen Richter: Kriminelle machen sich alles zunutze – von Stimmklonen bis zu gefälschten Nachrichtensendungen – und schaffen damit eine neue Form des digitalen Terrors, die schwer zu erkennen und noch schwerer abzutun ist.
Fiel in düstere Zeiten
Der Fall Johnson zeigt, wie ausgefeilt diese Angriffe geworden sind. Das Video beschränkte sich nicht auf animierte Gewalt, sondern listete zutiefst persönliche Details auf und erwähnte, wie sie sagte: „meine Scheidung, meine Wiederheirat, meine Namensänderung, meine Kinder, wo ich lebe und wo ich arbeite“.
Die Strafverfolgungsbehörden taten die Drohung zunächst ab, doch es dauerte fünf Monate, bis die Behörden sie ernst nahmen. Der Täter wurde schließlich verurteilt und erhielt die Höchststrafe von 15 Jahren Gefängnis.
Doch Johnsons Erfahrung ist erst der Anfang. Vor drei Wochen ergab eine Sicherheitsanalyse, dass extremistische Gruppen zunehmend KI-Tools einsetzen, darunter Chatbots, Deepfake-Bilder und generative Inhalte, um Desinformation zu automatisieren und zu verstärken und zugleich die Selbstradikalisierung von Einzeltätern zu fördern, wie CBS News.
Das Bulletin warnt, dass „die Grenze zwischen echt und gefälscht verschwimmt“, wenn „KI-generierte Inhalte zunehmend hochwertigere Bilder hervorbringen“, wodurch falsches Drohmaterial glaubwürdiger wirken kann.
Anfang dieses Jahres, als ein Tesla Cybertruck vor dem Trump International Hotel in Las Vegas explodierte, stellten Ermittler fest, dass der Angreifer angeblich ChatGPT genutzt hatte, um Informationen über Sprengstoffe zu sammeln und den Angriff zu planen.
Der Sheriff von Las Vegas, Kevin McMahill, erklärte, dies sei „der erste Vorfall auf US-amerikanischem Boden, von dem ich weiß, bei dem ChatGPT eingesetzt wurde, um einer Person beim Bau eines bestimmten Geräts zu helfen“, und bezeichnete ihn als „beunruhigenden Moment“.
Die Jahre des gefährlichen Lebens
Die Technologie hinter diesen Drohungen entwickelt sich mit rasender Geschwindigkeit weiter. Im Mai dokumentierte das FBI eine koordinierte Kampagne, bei der seit April KI-gestützte Smishing- und Vishing-Techniken gegen Regierungsvertreter eingesetzt wurden.
Bei diesen Angriffen kommen KI-generierte Stimmen zum Einsatz, die nur schwer von echten und gefälschten Anrufen oder Sprachnachrichten zu unterscheiden sind. Dadurch eignen sie sich besonders gut, um Vertrauen aufzubauen, bevor sensible Informationen abgegriffen werden.
Im März legte eine Studie des UK’s Turing Institute „umfangreiche Belege dafür vor, dass sich die durch KI ermöglichte Kriminalität erheblich beschleunigt“. Kriminelle Organisationen profitieren von der Fähigkeit der KI, „das Ausmaß krimineller Aktivitäten zu automatisieren und rasch zu vergrößern“, während die Täuschungsmöglichkeiten der Technologie perfekt zu den psychologischen Schwachstellen des Menschen passen. Der Studie zufolge könnte sich diese Bedrohung „in den nächsten fünf Jahren sogar noch schneller beschleunigen“, wenn Gegenmaßnahmen nicht „rasch ergriffen“ werden.
Am beängstigendsten ist das Ausmaß. Kriminelle nutzen inzwischen KI-Stimmklonen, um überzeugende Audionachrichten zu erstellen, Deepfake-Videotechnologie, um realistisch wirkendes Filmmaterial zu simulieren, und automatisierte Tools, um persönliche Informationen für gezieltere Belästigungen zu sammeln. Untersuchungen aus dem vergangenen Jahr zeigen, dass nur 61 % der Teilnehmer zwischen KI-generierten und echten Menschen unterscheiden konnten, wie die University of Waterloo.
Öffentliche Profile, große Gefahren
Die Folgen gehen weit über Ziele mit großer öffentlicher Bekanntheit hinaus. Vor acht Monaten ergab eine Analyse, dass in den fünf Wochen nach einem aufsehenerregenden Mord in der Unternehmenswelt mehr als 2.200 direkte Drohungen gegen CEOs identifiziert wurden. Führungskräfte sind inzwischen zunehmend Risiken durch KI-gestützte Desinformation, Deepfake-Angriffe und Online-Belästigung ausgesetzt, wie research from Nisos zeigt.
Seit Beginn dieses Jahres haben Vorfälle von Doxxing und Swatting deutlich zugenommen. Die wachsende Verfügbarkeit von KI-Tools und Technologien zum automatisierten Scraping von Daten hat das Ausmaß, die Präzision und die Anonymität, mit denen diese Angriffe durchgeführt werden, weiter verstärkt, stellten Ermittler fest. Automatisierte Tools zum Scraping von Daten ermöglichen es böswilligen Akteuren, mit minimalem Aufwand persönliche Profile zusammenzustellen, während synthetische Medien – darunter Stimmklonen und Bildmanipulation – überzeugendere Falschmeldungen ermöglichen.
Die Strafverfolgungsbehörden haben Mühe, Schritt zu halten. Die britischen Behörden kamen zu dem Schluss, dass „die Strafverfolgung nicht ausreichend ausgestattet ist, um KI-gestützte Kriminalität zu verhindern, zu unterbinden oder zu untersuchen“, und empfahlen die Einrichtung einer neuen Taskforce für KI-Kriminalität. Besonders besorgniserregend ist, dass das FBI und große Medienunternehmen in öffentlichen Warnungen auf den zunehmenden Einsatz KI-generierter Stimmen bei betrügerischen Notrufen im Laufe dieses Jahres hingewiesen haben.
Der Anstieg KI-generierter Morddrohungen ist mehr als nur ein technologischer Fortschritt in der Methodik von Kriminellen. Er stellt einen grundlegenden Wandel dar, der die digitale Welt für jeden mit öffentlicher Präsenz gefährlicher macht.
Solange die Reaktionssysteme nicht aufholen, wird es schlimmer werden, bevor es besser wird.
Im August betrog ein KI-Deepfake-Betrug mit einem Soapstar eine Frau um 431.000 US-Dollar.