Virale Aufnahmen von Software, die zur Erstellung von KI-generierten Deepfakes in Echtzeit über Live-Webcam-Feeds eingesetzt wird, haben neue Ängste vor dem möglichen Einsatz dieser Technologie der künstlichen Intelligenz (KI) geweckt – von Finanzbetrug bis hin zur Wahlbeeinflussung. Die Software Deep-Live-Cam kann ein Gesicht aus einem einzelnen Foto extrahieren und es live auf eine andere Person in einem Webcam-Feed übertragen.
Videos, die in Echtzeit Nachahmungen des republikanischen Vizepräsidentschaftskandidaten J.D. Vance, von Elon Musk, Mark Zuckerberg sowie den Schauspielern George Clooney und Hugh Grant zeigen, haben das Interesse an der Open-Source-Software geweckt. Sie verdeutlichen außerdem, wie einfach sich Deepfakes dank der technologischen Entwicklungen erstellen lassen.
Risiken der KI-Deepfake-Technologie
Laut Ars Technica haben Deepfakes bereits zu mehreren erfolgreichen, öffentlichkeitswirksamen Betrugsfällen geführt. In einem Fall stahl jemand mehr als 25 Millionen US-Dollar von einem Unternehmen in Hongkong, nachdem er sich bei einem Videoanruf als dessen Finanzvorstand ausgegeben hatte.
Die Software Deep-Live-Cam bündelt mehrere Softwarepakete in einer einzigen Benutzeroberfläche. Sie erkennt Gesichter in den Quell- und Zielbildern und verwendet die KI-Modelle „inswapper“ und GFPGAN, um Gesichter auszutauschen und das Bildmaterial zu verbessern. Obwohl sie noch nicht für den breiten Einsatz bereit ist und sich nicht so einfach wie eine Plug-and-Play-Installation einrichten lässt, bringt das Softwarepaket anspruchsvolle Technologie in die Hände einer größeren Nutzergruppe.
Aufgrund der Natur von Open-Source-KI-Software ist davon auszugehen, dass sie sich weiter verbessert, je mehr Menschen sie nutzen und weiterentwickeln.
Erfahren Sie mehr darüber, wie Sie identitätsbezogenen Betrug auf KI-Basis verhindern können, in unserem eWeek-Video-Interview mit Patrick Harding von Ping Identity.