In einem Novum für das Vereinigte Königreich hat die Polizei von Essex gemeinsam mit dem Mobilfunkanbieter EE und dessen Muttergesellschaft BT eine Kampagne gestartet, die Familien vor der wachsenden Bedrohung durch Deepfakes schützen soll.
Die Initiative namens „Fake or Real? Know the Deal“ bietet jungen Menschen, Eltern, Erziehungsberechtigten und Lehrkräften praktische Ratschläge zur sicheren Nutzung von KI und zum Umgang mit schädlichen, von KI erzeugten Bildern.
Die Zusammenarbeit befasst sich direkt mit den Risiken der Deepfake-Technologie, mit der sich äußerst überzeugende, aber vollständig gefälschte Bilder und Videos erstellen lassen. Während viele KI-Apps für positive, lehrreiche oder kreative Zwecke genutzt werden, bergen sie laut Polizei auch das Potenzial für „unermesslichen Schaden“.
Ab Donnerstag, dem 27. November, werden auf der LearnSmart-Plattform von EE „hilfreiche Ratschläge“ bereitgestellt. Außerdem bieten EE-Filialen in ganz Essex ab Februar spezielle Termine vor Ort an, die sich auf die Aufklärung von Familien über KI-Sicherheit. Diese Maßnahme integriert Hinweise zur Online-Sicherheit direkt in den Moment, in dem ein Nutzer möglicherweise ein neues Gerät kauft.
„Dies ist das erste Mal, dass eine britische Polizeibehörde direkt mit einem globalen Technologieunternehmen zusammenarbeitet, um Eltern von dem Moment an zu beraten, in dem sie ihr Gerät kaufen, wie sie neue KI-Technologie sicher nutzen können“, merkte die Polizei von Essex in einer Stellungnahme an.
Die Risiken hinter der Technologie
Die Dringlichkeit dieser Partnerschaft ergibt sich aus dem Einsatz der Deepfake-Technologie bei schweren Straftaten. Die größte Sorge gilt der Erstellung gefälschter expliziter Bilder, die sich gegen junge Menschen richten.
Detective Inspector Emma Portfleet, die das Police Online Investigation Team (POLIT) der Behörde leitet, hob das Ausmaß der Bedrohung hervor: „Wir beobachten zunehmend, dass KI-Apps zur Manipulation oder Erstellung sexualisierter Bilder eingesetzt werden. Wenn die abgebildete Person unter 18 Jahre alt ist, ist das illegal. Das bedeutet nicht nur, dass die Täter strafrechtlich verfolgt werden, sondern auch lebenslanges Leid für die Opfer.“
DI Portfleet erklärte, die Kampagne ziele darauf ab, „dem Problem zuvorzukommen“, und betonte, dass die Polizei von Essex zwar stets Straftaten untersuchen werde, sie aber „viel lieber von vornherein verhindern würde“.
Die Website der Kampagne bietet Hinweise dazu, was zu tun ist, wenn ein Kind zum Opfer wird, darunter konkrete Schritte zum Entfernen schädlicher Bilder und zur Meldung des Vorfalls bei der Polizei. Die in Cambridge ansässige Internet Watch Foundation bietet außerdem das Tool Report Remove an – in Zusammenarbeit mit Childline. Es wurde entwickelt, um sexuelle Bilder von Kindern aus dem Internet zu entfernen.
Die Deepfake-Katastrophe: Eine globale Bedrohung kennt keine Grenzen
Während die Kampagne im englischen Essex für den Schutz junger Menschen wichtig ist, stellt der Missbrauch von KI eine gewaltige globale Herausforderung dar, die Politik, Finanzen und Ethik betrifft.
Deepfakes sind inzwischen so ausgefeilt, dass sie Vertrauenssysteme überfordern. Weltweit nutzen Betrüger KI zum Klonen von Stimmen und Videos, um massiven Betrug zu begehen; ein Opfer in den USA verlor mehr als 431.000 US-Dollar nachdem es von einem Deepfake einer prominenten Person überzeugt worden war. Darüber hinaus wird KI als Waffe für hochgradig personalisierten Terror eingesetzt, wie der Fall einer Richterin aus Florida zeigt, die mit einem drastischen, von KI erzeugten Video konfrontiert wurde, das ihren eigenen Mord simulierte.
Die Bedrohung erstreckt sich auch auf das öffentliche Leben, wo Deepfakes für politische Desinformation eingesetzt werden. Die BBC berichtete dass ein konservativer britischer Abgeordneter bei der Polizei Anzeige wegen eines „gefälschten Videos“ erstattete, das ihn scheinbar beim Übertritt zu einer rivalisierenden Partei zeigte.
EE Retail Director Asif Aziz OBE merkte an, dass „das Aufwachsen in einer Online-Welt schwierig sein kann“, und dass es darum gehe, jungen Menschen und ihren Eltern zu helfen, „sich selbstbewusster und positiver in der Online-Welt zurechtzufinden“.
Ob durch Betrug, politische Einflussnahme oder die illegale Erstellung expliziter Bilder – die Technologie verwischt die Grenzen zwischen der realen und der digitalen Welt und schafft weltweit einen dringenden Bedarf an fortschrittlichen Gegenmaßnahmen.
Das ist Realität. Wenn du schon einmal in ein Selfie hineingezoomt und dich gefragt hast, ob dein Haaransatz wirklich so weit zurückliegt, hat die KI jetzt vielleicht die Antwort – ob sie dir gefällt oder nicht.