Eine neue Untersuchung von Consumer Reports hat gravierende Sicherheitslücken in einigen KI-Sprachklon-Tools aufgedeckt, die Cyberkriminelle mit minimalem Aufwand für Betrug ausnutzen. Die Ergebnisse werfen dringende Fragen zum Verbraucherschutz und zur Notwendigkeit strengerer Vorschriften auf, um der wachsenden Bedrohung durch Betrugsmaschen mittels KI-gestützter Identitätsnachahmung entgegenzuwirken.
Die meisten Unternehmen für KI-Sprachklonung lassen die Tür für Missbrauch offen
Consumer Reports untersuchte sechs Unternehmen für KI-Sprachklonung — Descript, ElevenLabs, Lovo, PlayHT, Resemble AI und Speechify — und stellte fest, dass nur Descript und Resemble AI über wirksame Schutzmaßnahmen gegen Missbrauch verfügen. Die vier anderen KI-Sprachklon-Tools setzen auf schwache Systeme zur Selbstbestätigung, bei denen Nutzer lediglich bestätigen, dass sie rechtlich dazu befugt sind, eine Stimme zu klonen; diese Lücke öffnet Betrügern die Tür.
Grace Gedye, Policy-Analystin bei Consumer Reports, kritisierte diese KI-Unternehmen dafür, dass sie es versäumten, grundlegende Schutzmaßnahmen gegen unbefugtes Klonen einzuführen. „Unsere Untersuchung zeigt, dass Unternehmen grundlegende Schritte unternehmen können, um das Klonen der Stimme einer Person ohne deren Wissen zu erschweren — doch einige Unternehmen tun dies nicht“, sagte Geyde.
Der Bericht fordert strengere Vorschriften und proaktive Maßnahmen von Technologieunternehmen, um diese Schwachstellen zu beheben.
Wie KI-Sprachklonung Ihre Stimme in Sekundenschnelle nachahmt
Mit der Technologie zur KI-Sprachklonung lässt sich Ihre Stimme mit beunruhigender Genauigkeit nachbilden – dafür genügen nur wenige Sekunden Audiomaterial. Sobald eine Sprachprobe hochgeladen wurde, KI-Modelle analysieren Sprachmuster, Tonfall und Sprechtempo, um synthetische Audiodaten zu erzeugen, die dem ursprünglichen Sprecher stark ähneln.
Die Technologie ist inzwischen so weit fortgeschritten, dass geklonte Stimmen in Echtzeitgesprächen eingesetzt oder nahtlos in Audioaufnahmen eingefügt werden können. Consumer Reports warnt, dass KI-Sprachklonung ohne stärkere Schutzmaßnahmen zu einem wichtigen Werkzeug für Betrug werden könnte, mit dem Cyberkriminelle Opfer durch nahezu perfekte Imitationen täuschen.
Werden Sie nicht zum nächsten Opfer: Diese Schritte sollte Ihr Unternehmen unternehmen
Die Erkenntnisse von Consumer Reports zur KI-Sprachklonung zeigen beispielhaft, wie einige generative KI-Tools, denen es an angemessenen Schutzmaßnahmen mangelt, für Betrug missbraucht werden können. Um nicht zum Opfer zu werden, müssen Unternehmen:
- Für sensible Kommunikation eine Multi-Faktor-Authentifizierung (MFA) einführen.
- Mitarbeiter darin schulen, Versuche zur Sprachklonung zu erkennen.
- Die Fortschritte bei Technologien zur Betrugserkennung durch künstliche Intelligenz überwachen.
Da KI-generierte Stimmen immer ausgefeilter werden, ist es entscheidend, den sich wandelnden Bedrohungen einen Schritt voraus zu sein. Ohne strengere Vorschriften werden böswillige Akteure diese Technologie weiterhin ausnutzen — und Stimmen in Waffen der Täuschung verwandeln.