Der KI-Forscher und emeritierte Professor an der New York University Gary Marcus fordert eine Regulierung zum Schutz der Demokratie, da immer leistungsfähigere Modelle für generative künstliche Intelligenz mit Deepfakes und Desinformation zunehmend zu mächtigen Werkzeugen für Lügen und politische Propaganda werden. In seinem neuesten Buch Taming Silicon Valleylegt Marcus präzise die oberflächlichen Schichten frei, die die gegenwärtigen und künftigen Gefahren generativer KI offenbaren, und führt ihre Auswirkungen in der realen Welt auf.
Die Gefahr, die Marcus sieht
Generative KI wird eingesetzt, um Lügen und Desinformation zu verbreiten, urheberrechtlich geschützte Bücher und Kunstwerke nachzuahmen und Cyberkriminalität sowie Betrugsmaschen im virtuellen Raum und in sozialen Medien zu verbreiten. Zugleich wächst die Sorge um den Datenschutz von Verbrauchern in den Händen unregulierter Technologieunternehmen, die private Daten ungehindert verkaufen können.
In den Augen vieler Experten, darunter Marcus, sind die USA ein digitaler Wilder Westen. Die Gefahr, die von der Technologie ausgeht, besteht nicht so sehr in einem Weltuntergangsszenario, in dem KI die Menschheit auslöscht, sondern vielmehr darin, was große Sprachmodelle wie ChatGPT der Gesellschaft bereits angetan haben und welchen weiteren Schaden sie Menschen und Institutionen zufügen werden, wenn sie unreguliert bleiben.
„(Es) wird viel darüber gesprochen … wie wahrscheinlich es ist, dass Maschinen alle Menschen auslöschen“, schreibt Marcus in Taming Silicon Valley. „Ich bezweifle, dass wir erleben werden, wie KI die Menschheit im wörtlichen Sinne auslöscht.“
Die von Marcus vorgeschlagene Lösung
In einem Interview mit The Register über das, was ihn an ChatGPT und ähnlichen Modellen am meisten beunruhigt, nannte Marcus „die Bedrohung der Demokratie durch automatisch erzeugte Desinformation und Deepfakes“. Seiner Ansicht nach sollte eine Regulierungsbehörde – eine KI-Behörde, die Richtlinien eingehender prüft und Regeln erlässt – geschaffen werden, um die verantwortungsvolle Nutzung von KI und digitalen Technologien im Allgemeinen zu regulieren und zu fördern.
Er prangert an, dass große Technologieunternehmen „zunehmend mächtiger werden und nahezu keinerlei Einschränkungen unterliegen“, und argumentiert, dass Silicon Valley gezähmt werden müsse. Dafür ist öffentlicher Druck nötig. „Ohne mehr öffentlichen Druck“, sagte er, „wird in den USA sehr wenig getan werden, um Bürger vor zunehmend invasiver und problematischer KI zu schützen.“
Von KI erzeugte Deepfake-Stimmen, -Videos, -Fotos und -Bücher , die eingesetzt werden, um Menschen zu betrügen, sowie große Technologieunternehmen, die ohne Rechenschaftspflicht für ihre Handlungen agieren, sind nur einige der Gefahren, die von künstlicher Intelligenz ausgehen – und sie schaden der Gesellschaft bereits. KI wurde bereits genutzt, um Desinformation zu erzeugen und zu verbreiten, die Wahlen in den USA und auf den Philippinen beeinflusst hat. Autoritäre Machthaber profitieren davon, wenn die Wahrheit kompromittiert wird und alternative Versionen der Realität an die Stelle von Fakten treten. Ohne ernsthafte gesetzgeberische Arbeit zur Schaffung von Regeln gefährdet generative KI die viel geschätzte Demokratie Amerikas.