OpenAI vergab einen Zuschuss in Höhe von 1 Million US-Dollar an ein Forscherteam der Duke University, das Algorithmen erforschen will, die in der Lage sind, die moralischen Urteile von Menschen vorherzusagen. Der Zuschuss unterstützt die akademische Forschung zur „KI-Moral“, während die Debatten über den ethischen Einsatz künstlicher Intelligenz im öffentlichen Diskurs weiter an Fahrt gewinnen. Duke erforscht den Einsatz von KI, um Menschen bei ethischen Entscheidungen zu unterstützen, und erstellt dabei Ressourcen zur Ethik im Zusammenhang mit den neuesten KI-Technologien.
Die Studie „Making Moral AI“ wird von Dukes Moral Attitudes and Decisions Lab (MADLAB) durchgeführt und von Walter Sinnott-Armstrong, Professor für praktische Ethik und wissenschaftlicher Leiter des Projekts, geleitet. Die Mitforscherin Jana Schaich Borg vom Social Science Research Institute arbeitet ebenfalls an dem Projekt mit.
MADLAB ist ein interdisziplinäres Labor, das verschiedene Faktoren erforscht, die die „moralischen Einstellungen, Entscheidungen und Urteile“ von Menschen prägen und beeinflussen. Die Forschenden versuchen zu verstehen, welche Rolle KI spielt und wie sie als „moralisches GPS“ eingesetzt werden kann, um Menschen zu besseren, an ethischen Standards und Traditionen ausgerichteten Urteilen zu verhelfen. Dabei greifen sie auf „Informatik, Datenwissenschaft, Philosophie, Wirtschaftswissenschaften, Spieltheorie, Psychologie und Neurowissenschaften“ zurück.
Über den OpenAI-Zuschuss
Der Zuschuss von OpenAI wird dazu verwendet, „Algorithmen zu entwickeln, die menschliche moralische Urteile in Szenarien vorhersagen können, in denen in Medizin, Recht und Wirtschaft Konflikte zwischen moralisch relevanten Merkmalen bestehen“, laut einer Pressemitteilung der Duke University. Informationen über den Forschungszuschuss wurden nicht veröffentlicht, aber für OpenAI wäre es ein guter Anfang, in ein solches Vorhaben zu investieren. Ethik ist äußerst nuanciert. Für aktuelle Technologien ist es nach wie vor sehr schwierig, die Feinheiten moralischer Urteile zu erfassen – insbesondere, wenn menschliche Emotionen ebenfalls eine entscheidende Rolle spielen.
KI-Modelle werden trainiert Daten und Statistiken zu berechnen und zu verarbeiten. Große Sprachmodelle stützen sich größtenteils auf Muster in Sprache und Schlussfolgerungen, um Vorhersagen zu generieren. An der Erforschung von Moral sind verschiedene Fachgebiete beteiligt, darunter Philosophie, soziokulturelle Studien und Psychologie. Diese Disziplinen mit KI, Informatik und Datenwissenschaft zu verbinden, wäre eine gewaltige Aufgabe. Außerdem braucht es Zeit, Erkenntnisse aus den Sozialwissenschaften und der Philosophie vollständig in KI-Algorithmen zu integrieren.
Lesen Sie unseren Leitfaden zum Umgang mit den ethischen Herausforderungen von KI oder unseren Überblick über die Ethik generativer KI-Modelle für weitere Informationen.