OpenAI-CEO Sam Altman schlägt Alarm angesichts des zunehmenden Einsatzes künstlicher Intelligenz bei Finanzbetrug, insbesondere durch fortschrittliche Technologien zum Klonen von Stimmen. Bei einem Kamingespräch mit der stellvertretenden Vorsitzenden der Federal Reserve für Bankenaufsicht, Michelle Bowman, bezeichnete Altman die Bedrohung am Dienstag als eine „drohende Betrugskrise“ und warnte, dass viele Banken der Entwicklung gefährlich hinterherhinken. Er zeigte sich ungläubig darüber, dass einige Finanzinstitute noch immer Stimmabdruck-Technologie zur Überprüfung der Kundenidentität einsetzen.
„Was mich in Schrecken versetzt, ist, dass offenbar noch immer einige Finanzinstitute den Stimmabdruck als Authentifizierung akzeptieren“, sagte Altman. „Das ist völlig verrückt. KI hat diese Methode vollständig unbrauchbar gemacht.“
Die sprachbasierte Authentifizierung, die einst als zuverlässige Sicherheitsmaßnahme galt, ist zunehmend manipulationsanfällig geworden, da KI-Systeme menschliche Sprache mit beunruhigender Genauigkeit nachahmen können. Die bei wohlhabenden Kunden beliebte Methode, die über Challenge-Phrasen auf ihre Konten zugreifen, öffnet nun Tür und Tor für äußerst überzeugende Betrugsmaschen, bei denen sich Täter als andere Personen ausgeben.
Altmans Warnung spiegelt die wachsenden Bedenken hinsichtlich der realistischen Wirkung KI-generierter Deepfakes wider. Da Software inzwischen in der Lage ist, die Stimme einer Person nahezu perfekt zu klonen, könnten Kriminelle Sicherheitssysteme möglicherweise überwinden, indem sie die Stimme eines Nutzers imitieren, um Geld zu überweisen oder an sensible Informationen zu gelangen.
„Ich bin sehr besorgt, dass uns eine erhebliche Betrugskrise bevorsteht“, sagte Altman. „Im Moment ist es ein Telefonanruf, bald wird es ein Video oder ein FaceTime-Anruf sein, der nicht von der Realität zu unterscheiden ist.“ Bowman bestätigte das Problem und schlug vor, mögliche Partnerschaften mit der Tech-Branche auszuloten, um Lösungen zu finden.
Trotz der herausragenden Stellung von OpenAI in der KI-Branche stellte Altman klar, dass das Unternehmen keine Werkzeuge zur Täuschung über die eigene Identität entwickelt. Dennoch betonte er, dass die gesamte KI-Community Verantwortung für die Entwicklung neuer Verifizierungssysteme übernehmen müsse, etwa für Lösungen zum „Nachweis, dass es sich um einen Menschen handelt“.
Altman unterstützt Werkzeuge wie The Orb, das von Tools for Humanity entwickelt wurde. Das Gerät soll in einer digitalen Welt voller Fälschungen einen „Nachweis der menschlichen Identität“ ermöglichen. Seine Bedenken gehen über Finanzbetrug hinaus und erstrecken sich auf die Möglichkeit, dass KI-Superintelligenz in Bereichen wie Cyberkrieg oder biologischen Bedrohungen missbraucht werden könnte.
Wirtschaftliche Auswirkungen und Fragen zu Arbeitsplätzen
In dem Gespräch ging es nicht nur um Risiken. Altman sprach auch über die weitreichenderen Auswirkungen von KI auf Arbeit und Wirtschaft. Im Gegensatz zu einigen Tech-Führungskräften, die einen massenhaften Verlust von Arbeitsplätzen befürchten, nahm Altman eine eher philosophische Haltung ein.
„Niemand weiß, was als Nächstes passiert“, sagte er und fügte hinzu, dass die Technologie zu neu und zu komplex für genaue Vorhersagen sei. Er räumte ein, dass einige Arbeitsplätze verschwinden würden, glaubt aber, dass an ihre Stelle neue Formen der Arbeit treten werden.
OpenAI baut Präsenz in Washington, D.C. aus
Während KI weiterhin die politischen Debatten dominiert, baut OpenAI seine Präsenz in den USA aus. Das Unternehmen plant, im kommenden Jahr sein erstes Büro in Washington, D.C., zu eröffnen, um politische Entscheidungsträger zu empfangen, neue Werkzeuge zu demonstrieren und Programme zur KI-Kompetenz für Lehrkräfte und Amtsträger durchzuführen.
OpenAIs Leiter für globale Angelegenheiten in den USA und Kanada, Chan Park, wird das Büro leiten, unterstützt von Joe Larson, der zuvor beim Verteidigungstechnologieunternehmen Anduril tätig war. Der Schritt erfolgt zu einem Zeitpunkt, an dem das Weiße Haus die Veröffentlichung seines KI-Aktionsplans vorbereitet und nachdem der Senat ein vorgeschlagenes 10-jähriges Moratorium abgelehnt hat für die Regulierung von KI auf Ebene der Bundesstaaten.
Da die Risiken von KI-Betrug zunehmen, müssen Banken und Regulierungsbehörden stärkere Authentifizierungsmethoden einführen. Unterdessen setzt sich OpenAI weiter für ausgewogene KI-Regeln ein und bereitet sich auf eine Zukunft vor, in der es immer schwieriger wird, zwischen echt und gefälscht zu unterscheiden.
Lesen Sie unsere vollständige Analyse von Sam Altmans Auftritt bei der Veranstaltung Hard Fork Live, bei der er die dringenden Bedrohungen durch KI für Identität, Sicherheit und die Zukunft der Arbeit erläuterte.