Eine KI-generierte Stimme, die Außenminister Marco Rubio imitierte, hat US-amerikanische und ausländische Amtsträger in einem über Signal durchgeführten betrügerischen Nachrichtenangriff ins Visier genommen und interne Sicherheitswarnungen ausgelöst.
Laut einer von The Washington Post berichteten Depesche schien der Identitätsbetrüger zu versuchen, Amtsträger zu manipulieren, um an sensible Informationen zu gelangen oder Zugriff auf interne Konten zu erhalten. Das Außenministerium hat angesichts der wachsenden Besorgnis über Schwachstellen in offiziellen Kommunikationskanälen eine Untersuchung eingeleitet.
Ein vertrauter Name und eine überzeugende Stimme
Der Identitätsbetrüger nahm Mitte Juni Kontakt auf und verschickte über Signal Nachrichten, die den Anschein erweckten, von Rubio zu stammen. Durch den Einsatz von KI-Sprachgenerator-Technologie imitierte der Täter seinen Tonfall und Schreibstil. Laut The Post, wurden die Nachrichten von einem Signal-Konto mit dem Anzeigenamen „Marco.Rubio@state.gov“ verschickt, bei dem es sich nicht um eine echte Regierungsadresse handelt.
In der Depesche wurde außerdem vermerkt, dass die Nachrichten an drei Außenminister, einen US-Gouverneur und ein Kongressmitglied zugestellt wurden. In mindestens zwei Fällen wurden Sprachnachrichten hinterlassen, während ein anderes Ziel eine Textnachricht erhielt, in der es eingeladen wurde, das Gespräch auf Signal fortzusetzen.
Die Kommunikation war überzeugend genug, dass einige Empfänger zunächst glaubten, sie sei echt. Die Identität des Absenders wurde nicht bestätigt, und die Amtsträger lehnten es ab, den Inhalt der betrügerischen Nachrichten offenzulegen.
Amtsträger leiten Untersuchung ein, während Fälle von KI-Imitation zunehmen
Das Außenministerium hat bestätigt, dass der Fall intern geprüft wird. „Das Ministerium nimmt seine Verantwortung zum Schutz seiner Informationen ernst und unternimmt kontinuierlich Schritte, um die Cybersicherheitslage des Ministeriums zu verbessern und künftige Vorfälle zu verhindern“, wurde ein hochrangiger Beamter von The New York Times zitiert. Weitere Einzelheiten wurden unter Verweis auf „Sicherheitsgründe“ und den noch laufenden Charakter der Untersuchung nicht bekannt gegeben.
Die Depesche wies US-amerikanische diplomatische Vertretungen an, externe Partner vor dem Risiko von Identitätsbetrugsversuchen zu warnen und verdächtige Aktivitäten zu melden. Personen außerhalb des Ministeriums, die die Nachrichten erhalten hatten, wurde außerdem geraten, das Internet Crime Complaint Center des FBI zu kontaktieren.
Das Bureau of Diplomatic Security leitet die Reaktion. Es wurde kein Zeitplan dafür genannt, wann die Untersuchung abgeschlossen werden könnte.
Neben Rubio wurde auch die Stabschefin des Weißen Hauses, Susie Wiles, Anfang dieses Jahres mit synthetischen Medien ins Visier genommen. Dies unterstreicht, wie künstliche Intelligenz zunehmend eingesetzt wird, um Aussagen zu erfinden und hochrangige Amtsträger zu imitieren.
Leicht zu fälschen und noch leichter durchzulassen
Stimmenimitate erfordern nicht unbedingt hochentwickelte KI-Tools. In dem Artikel von The Post erklärte der Experte für digitale Forensik Hany Farid, dass sich bereits mit 15 bis 20 Sekunden Audiomaterial ein überzeugendes Stimmimitat erstellen lasse.
In einer Stellungnahme per E-Mail erklärte Element-CEO Matthew Hodgson, der Vorfall um Rubio habe offengelegt, wie das Fehlen von Identitätskontrollen in Verbraucher-Apps wie Signal die Kommunikation von Regierungen verwundbar mache. Seiner Ansicht nach hätte nur ein speziell angepasstes, von der Regierung betriebenes verschlüsseltes System mit verifiziertem Zugang den Angriff verhindern können – eine Lücke, die durch Erkenntnisse noch dringlicher wird, wonach die meisten Plattformen zum Klonen von KI-Stimmen den Missbrauch nicht stoppen können.
Neugierig, wie Betrüger das Klonen von KI-Stimmen einsetzen, um selbst versierte Nutzer zu täuschen? Lesen Sie unseren Artikel über neue Bedrohungen durch Sprachbetrug und darüber, wie Sie sich schützen können.