Ein roter Faden in meiner Karriere ist, dass ich mich typischerweise damit beschäftige, die Nachteile einer bestimmten Technologie zu untersuchen, wenn alle anderen deren Vorteile betrachten. Cloud Computing ist das jüngste Beispiel: Alle schauen auf die Vorteile, während nur wenige die Nachteile berücksichtigen. Daher bin ich sowohl Fachexperte für Cloud Computing als auch Kommentator zu diesem Thema – jemand, der sich der Herausforderungen der Cloud sehr bewusst ist.
Es ist kein Geheimnis, dass Erfolg darin liegt, die Vor- und Nachteile jeder neuen Technologie zu berücksichtigen. Leider sind die Menschen in einem aufkommenden Markt weniger bereit, sich mit den Problemen auseinanderzusetzen, wenn die Fachpresse einer neuen Technologie mit ihrem Hype Rückenwind verleiht – sie wollen nur hören, was gut läuft.
So kommt es, dass wir mit einer Technologie Dinge tun, für die sie nie gedacht war. In vielen Fällen hätte ein wenig Verständnis zu Beginn einen Misserfolg am Ende verhindert. Werfen wir also einen gesunden Skeptizismus auf die neueste Technologie, die derzeit die Welt in Aufruhr versetzt: generative KI.
Was ist bei generativen KI-Systemen falsch und was richtig? Der alte, allgemeingültige Rat gilt weiterhin: Betrachten Sie alles aus einer ausgewogenen Perspektive.
Zu einem verwandten Thema: Was ist generative KI?
Siehe auch: Start-ups für generative KI
Generative KI mit schlechten Daten füttern
Generative KI-Modelle benötigen große Datenmengen, um zu lernen und neue Inhalte zu erzeugen. Tatsächlich haben generative KI-Systeme wie ChatGPT kürzlich sämtliche Daten im Internet genutzt, um sich darauf zu trainieren, einige äußerst beeindruckende Antworten zu liefern.
Es ist nicht so, dass wir die Antwort nicht auch anderswo finden könnten; vielmehr können wir das System dazu bringen, auf sehr spezifische Weise zu antworten. Zum Beispiel: „Schreib mir ein Lied über Quantencomputing, das für Bluttestsysteme eingesetzt wird.“
Wenn die zum Trainieren des Modells verwendeten Daten jedoch verzerrt oder unvollständig sind, kann sich das negativ auf die erzeugten Ergebnisse auswirken und ungenaue oder sogar anstößige Resultate hervorbringen. Das ist das Prinzip „Müll rein, Müll raus“ – eine zentrale Einschränkung von KI im Allgemeinen und generativer KI im Besonderen.
Je mehr Fragen Sie einem generativen KI-System stellen – Fragen, deren Antworten bekannt sind –, desto häufiger werden Sie feststellen, dass es Dinge falsch wiedergibt. Je spezifischer die Fragen sind, desto spezifischer sind die Fehler der Antworten. Das ist nicht die Schuld des Systems, sondern der falschen Daten, mit denen es trainiert wurde. Daher werden auch seine Antworten zu verwandten Themen falsch sein.
Ich bat ChatGPT beispielsweise darum, alle von mir geschriebenen Bücher aufzulisten. Es führte ein Buch zweimal auf und nannte zwei Bücher, die ich nicht geschrieben hatte. Eine kurze Google-Suche hätte in diesem Fall genauere Ergebnisse geliefert. Deshalb nutze ich generative KI-Systeme nicht als einzige Recherchequelle.
Und: ChatGPT: Der ChatBot ChatGPT erklärt
Mangelnde Kontrolle bei generativer KI
Generative KI-Modelle sind darauf ausgelegt, autonom zu sein, das heißt, sie arbeiten unabhängig und treffen eigenständige Entscheidungen. Infolgedessen kann es schwierig sein, die Ausgabe zu kontrollieren oder sicherzustellen, dass die erzeugten Inhalte dem vorgesehenen Zweck oder den gewünschten Werten entsprechen.
Wenn Sie ein generatives KI-System eine gewisse Zeit lang genutzt haben, sind Ihnen sicher schon Antworten begegnet, die nicht dem entsprachen, was Sie wollten – weder hinsichtlich des Formats noch des Kontexts. Das treibt Nutzer generativer KI in den Wahnsinn: Sie müssen die Kernfrage richtig formulieren und festlegen, wie das System antworten soll. Andernfalls erhalten Sie Antworten, die nicht weiterhelfen.
Weitere Informationen finden Sie auch unter: Die führende KI-Software
Generative KI und geistiges Eigentum
Mit dem Aufstieg generativer KI gibt es Bedenken hinsichtlich des geistigen Eigentums und der Eigentumsrechte an den erzeugten Inhalten. Die Frage, wem die erzeugten Inhalte gehören, kann schwierig zu beantworten sein, insbesondere wenn das Modell mit öffentlich zugänglichen Daten trainiert wurde.
Auch wenn es sich streng genommen nicht um ein Plagiat handelt, da der Text eines anderen Autors nicht wortwörtlich kopiert wird, bestehen doch Bedenken, dass Sie die Arbeit anderer ohne Quellenangabe nutzen. Das kann ethische und rechtliche Fragen aufwerfen.
Noch größere Sorgen bereitet, dass mithilfe generativer KI eine Kombination von Informationen gesammelt wird und die daraus entstehenden Daten auf andere urheberrechtlich geschützte Werke zurückgeführt werden können. Dadurch entsteht das Risiko, rechtlich oder ethisch – oder in beiderlei Hinsicht – zur Verantwortung gezogen zu werden. Das nimmt einem einen großen Teil des Spaßes daran, ein generatives KI-System die ganze Arbeit erledigen zu lassen.
Weitere Informationen finden Sie auch unter: Die führenden KI-Start-ups
Ethische Bedenken bei generativer KI
Generative KI wirft ethische Fragen auf, insbesondere im Zusammenhang mit Deepfakes und synthetischen Medien, bei denen die Technologie aus gefälschten oder irreführenden Inhalten lernen oder zu deren Erstellung eingesetzt werden kann. Die möglichen Auswirkungen auf Privatsphäre, Sicherheit und Vertrauen lassen sich nur erahnen.
Während wir häufig die Rechtmäßigkeit und Ethik jeder aufkommenden Technologie hinterfragen, veranlasst die außergewöhnliche Leistungsfähigkeit generativer KI viele dazu, zu fragen: „Sollten wir das tun?“ statt: „Können wir das tun?“
Im Mittelpunkt steht die negative Wirkung, die generative KI auf Menschen haben könnte – und damit eine ganze Reihe eigener Bedenken. Eine weitere Sorge ist, dass generative KI als Waffe eingesetzt werden könnte, um Straftaten wie Betrug und Sicherheitsverletzungen zu begehen, vor denen sich Unternehmen schützen und gegen die sie sich wappnen müssen.
Ein vereinfachtes Beispiel: Neue Bedrohungen durch generative KI könnten ein Unternehmen dazu zwingen, 8 Dollar für verbesserte Sicherheits- und Erkennungsmechanismen auszugeben, obwohl es durch den Einsatz generativer KI nur einen zusätzlichen Nutzen von 5 Dollar erzielt hat. Für viele Unternehmen bedeutet allein das Auftauchen dieser spezifischen Technologie in ihrem Unternehmen einen Nettoverlust.
Zu einem verwandten Thema: Der KI-Markt: Ein Überblick
Generative KI: Die große Frage
Sollte generative KI zu zentralen Erweiterungen Ihrer IT-Systeme werden? Oder bringt der Einsatz dieser sich weiterentwickelnden Technologie mehr Nachteile als Vorteile? Die Antwort auf beide Fragen lautet: „Vielleicht.“
Wir müssen das Gute zusammen mit dem Schlechten betrachten. Wenn wir die Fakten über generative KI und die Anforderungen unserer individuellen Anwendungsfälle kennen, können wir den richtigen Weg einschlagen. Neue Technologien entwickeln sich stets so schnell weiter, wie wir mit ihren Veränderungen Schritt halten können. Die Technologie der generativen KI könnte unsere Fähigkeit überholen, ihre Konsequenzen vorherzusehen, bevor wir mit ihnen konfrontiert werden. Heute gilt mehr denn je: Die Zukunft ist jetzt.
Zu einem verwandten Thema: Die Zukunft der künstlichen Intelligenz