Eine aktuelle Studie von Deloitte Consulting zur Frage, ob man KI vertrauen kann, untersuchte, von welchen neuen Technologien das größte Potenzial für ernsthafte ethische Risiken ausgeht. Der Bericht „State of Ethics and Trust in Technology“ ergab, dass kognitive Technologien wie KI mit 54 % den höchsten Wert erreichten – deutlich vor der zweitplatzierten digitalen Realität mit 16 % – und dass 40 % der Befragten den Datenschutz als eines der wichtigsten Anliegen im Zusammenhang mit generativer KI (GenAI) nannten.
Allerdings erklärten 46 % der Befragten, dass kognitive Technologien auch das größte Potenzial für das Gemeinwohl böten. Das unterstreicht, wie stark die Technologie die Meinungen polarisiert, seit sie auf der Bildfläche erschienen ist. Die Ergebnisse zeigen, dass Misstrauen und ethische Bedenken gegenüber künstlicher Intelligenz seit 2023 um 3 % zurückgegangen sind, während die Hoffnung, dass sich KI letztlich als Kraft für das Gute erweisen wird, um 7 % gestiegen ist.
Offensichtlich hat die zunehmende Vertrautheit das Vertrauen von Beschäftigten in Wirtschaft und IT in KI und GenAI gestärkt. Doch die Umfrage zeigt, dass die Frage noch nicht entschieden ist. Die beschleunigte Einführung von GenAI scheint die Fähigkeit der Organisationen zu übersteigen, die Technologie zu steuern und ethische sowie Datenschutzstandards aufrechtzuerhalten.
Was kann getan werden?
Vertrauen ist bei nahezu jeder Diskussion über KI ein Thema – genährt durch Jahrzehnte, in denen Romanautoren und Drehbuchautoren Geschichten über außer Kontrolle geratene KI hervorgebracht haben. Die Deloitte-Studie zeigt zwar, dass ethische Bedenken fortbestehen, zugleich deutet sie aber darauf hin, dass sich die Entwicklung allmählich umkehren könnte. Eine Möglichkeit, die öffentliche Wahrnehmung in die richtige Richtung zu lenken, besteht darin, beim Aufbau von Vertrauen zu helfen.
„Die Befragten zeigen sich besorgt über Reputationsschäden für eine Organisation, die mit dem Missbrauch von Technologie und der Nichteinhaltung ethischer Standards in Verbindung gebracht wird“, heißt es in dem Bericht. „KI ist ein leistungsfähiges Werkzeug, braucht aber Leitplanken.“
Unternehmen, die ihrer KI-Nutzung Leitplanken für Governance und Compliance hinzufügen, können die Unterstützung von Beschäftigten und Kunden gewinnen und das Vertrauen in die Technologie stärken.
Ist KI zuverlässig?
Eine weitere Studie äußert erhebliche Zweifel an der Genauigkeit der Ergebnisse von GenAI. Zwar lässt die Genauigkeit bei Aufgaben nach, die Menschen als anspruchsvoll empfinden würden, doch überraschend war die Erkenntnis, dass GenAI auch bei Aufgaben, die als sehr einfach gelten würden, keine 100-prozentige Genauigkeit erreicht.
„Hochskalierte Modelle geben sehr viel häufiger eine scheinbar vernünftige, aber falsche Antwort“, sagte der Mitautor der Studie, Lexin Zhou, Forscher an der Polytechnischen Universität Valencia in Spanien, „darunter auch Fehler bei schwierigen Fragen, die menschliche Aufsichtspersonen häufig übersehen.“
Deloitte empfiehlt, Chief Ethics Officers zu ernennen, die im Rahmen eines umfassenderen Ansatzes zur Einhaltung ethischer Best Practices für die Technologie die Aufsicht über KI übernehmen. Diese Personen würden Prozesse für die sichere und korrekte Nutzung von KI entwickeln, gleichzeitig die Einhaltung von Vorschriften durchsetzen, die Befolgung von Standards vorantreiben und Verantwortung für die ethische Nutzung fördern. So können ethische Grundsätze beispielsweise in Softwarecode, Anwendungen und Arbeitsabläufe eingebettet werden.
„Die frühzeitige und wiederholte Einbettung ethischer Grundsätze in den Entwicklungslebenszyklus von Technologien kann dazu beitragen, ein umfassenderes Bekenntnis von Organisationen zu Vertrauen zu demonstrieren und Ethik im Mittelpunkt der Prioritäten und Prozesse Ihrer Belegschaft zu halten“, sagte Bill Briggs, Chief Technology Officer bei Deloitte Consulting.
Die entsprechenden Prozesse und Leitplanken sollten vorhanden sein, um GenAI-Nutzern zu versichern, dass sie auf die Zuverlässigkeit der Ergebnisse vertrauen können und nicht unbeabsichtigt Diebstahl, Plagiate oder den Missbrauch geistigen Eigentums (IP) begehen. Außerdem sollten Prozesse sicherstellen, dass Menschen die Schlussfolgerungen und Antworten der KI nicht blind als 100 % wahr akzeptieren.
„Das zunehmende Ausmaß der Einführung von GenAI könnte die ethischen Risiken neuer Technologien erhöhen. Der potenzielle Schaden, der daraus entsteht, diese Risiken nicht zu beherrschen, könnte Reputations-, Organisations-, Finanz- und Personenschäden umfassen“, sagte Lori Lewis, Senior Manager bei Deloitte Consulting.
Erfahren Sie mehr über die Ethik generativer KI oder KI-Richtlinien und Governance.