KI-gestützte Systeme für die Personalauswahl erhöhen die Rate, mit der Schwarze und asiatische Bewerber aussortiert werden. Untersuchungen zeigen, dass einige dieser Tools weiterhin inhärente menschliche Verzerrungen aufweisen.
Eine neue, von Forschern der Stanford University geleitete Studie zeigt, dass Arbeitgeber, die die Einstellungsplattform Pymetrics nutzen – ein KI-gestütztes Screening-Tool für große Bewerberzahlen, das Online-Spiele im Bewerbungsprozess einsetzt –, systematische Ablehnungsmuster und menschenähnliche Verzerrungen aufwiesen. Untersucht wurde ein Datensatz aus dem Zeitraum von Dezember 2018 bis Dezember 2022, der 4 Millionen Bewerbungen bei 156 Arbeitgebern umfasst.
Laut der Forschungsarbeit, wiesen etwa eine von 10 Stellen für Schwarze Bewerber und etwa eine von 20 Stellen für asiatische Bewerber einen „nachteiligen Effekt“ auf. Obwohl dies nur eine Minderheit der Stellen betraf, entfiel auf diese Ausschreibungen ein weitaus größerer Anteil der betroffenen Bewerbungen: 26 Prozent der Schwarzen Bewerber waren davon betroffen. Dies deutet darauf hin, dass sich die Verzerrung auf Stellen mit dem höchsten Bewerbungsaufkommen oder auf Positionen konzentrierte, die mehr Schwarze und asiatische Bewerber anzogen.
„Adverse Impact“ ist ein von der US-Bundesregierung verwendeter Begriff dafür, dass eine Gruppe aufgrund ihrer Rasse, ihres Geschlechts oder ihrer ethnischen Zugehörigkeit mit einer Rate ausgewählt wird, die weniger als vier Fünftel der Rate der am häufigsten ausgewählten Gruppe beträgt.
Neben den Verzerrungen im Modell verlassen sich Arbeitgeber, die die Pymetrics-Plattform nutzen, häufig auf denselben algorithmischen Aufbau, um Bewerber zu prüfen. Wurde ein Bewerber von einer Organisation abgelehnt, war es wahrscheinlicher, dass er auch von einer anderen Organisation abgelehnt wurde, die denselben Algorithmus einsetzte. Der Studie zufolge wurden 42 Modelle von den 156 Arbeitgebern gemeinsam genutzt.
Explosion beim Einsatz von KI in der Personalauswahl
Die Studie verwendete zwar Daten aus der Zeit vor der Explosion des KI-Einsatzes nach dem Start von ChatGPT, ist aber eine weitere viel beachtete Untersuchung, die zeigt, dass inhärente Verzerrungen bei der Personalauswahl durch den Einsatz von KI eher zunehmen als abgebaut werden. Zugleich müssen Bewerber einen langwierigen Testprozess durchlaufen, wobei nur sehr wenige eine Phase erreichen, in der sie mit einem Menschen interagieren.
Der Einsatz von KI im Bewerbungsprozess hat in den vergangenen Jahren dramatisch zugenommen. Laut der Society for Human Resource Management stieg die Einführung von KI im Personalwesen von 26 % der Organisationen im Jahr 2024 auf 43 % im Jahr 2025.
Die Stanford-Studie ist nur eine von immer mehr Untersuchungen, die gezeigt haben, dass KI bei der Personalauswahl nicht unfehlbar ist. Eine Studie von Forschern der University of Illinois und der Ahmedabad University ergab, dass Empfehlungen von KI-Systemen zur Personalauswahl Männer gegenüber Frauen bevorzugten, wobei Frauen häufig für schlechter bezahlte Stellen empfohlen wurden.
Hinzu kommt, dass Workday, eines der größten Softwareunternehmen für Personalverwaltung, kürzlich verklagt wurde, weil das Unternehmen mit seiner KI-Software für die Personalauswahl Bewerber angeblich zu Unrecht aussortiert habe. Es sieht also so aus, als wären wir noch weit vom utopischen Traum entfernt, dass KI Verzerrungen bei der Personalauswahl beseitigt.
EU AI Act soll die Qualität von KI-Systemen für die Personalauswahl verbessern
Dies war einer der Gründe dafür, dass die Personalauswahl vom EU AI Act als zentraler Hochrisikobereich eingestuft wurde. Das Gesetz verlangt, dass KI-Systeme vor und während ihres Einsatzes über stärkere Schutzvorkehrungen verfügen. Jedes Unternehmen für die Personalauswahl und jeder Arbeitgeber, der in der Region KI einsetzt, muss eine ordnungsgemäße technische Dokumentation, Transparenz und menschliche Aufsicht gewährleisten, um die Anforderungen zu erfüllen.
Das Gesetz richtet sich sowohl an Unternehmen, die diese KI-Systeme einsetzen, als auch an die Entwickler der Modelle, damit beide Seiten bei der Entwicklung, dem Training und dem Einsatz dieser Systeme sorgfältiger vorgehen.
Es gibt Anzeichen dafür, dass sich die Vereinigten Staaten auf eine umfassendere Regulierung von KI bei der Personalauswahl zubewegen könnten. New York, Colorado und Illinois haben Gesetze verabschiedet, die das Risiko beim Einsatz von KI-Systemen für die Personalauswahl erhöhen, mit möglichen Strafen, wenn diese Systeme nicht geprüft werden oder zentrale Anforderungen nicht erfüllen. Kalifornien und andere Bundesstaaten haben Praktiken zur KI-gestützten Personalauswahl in bestehende Gesetze integriert und damit sichergestellt, dass Unternehmen und Entwickler von KI-Modellen bestimmte Anforderungen erfüllen.
Die größere Frage lautet nicht mehr, ob KI die Personalauswahl beschleunigen kann. Es geht darum, ob Arbeitgeber nachweisen können, dass diese Systeme fair, nachvollziehbar und gesetzeskonform sind, bevor sie Tausende Bewerber aus dem Verfahren herausfiltern.
Lesen Sie auch: Mehr darüber, wie KI die Arbeitswelt verändert, erfahren Sie in unserer Berichterstattung über Cloudflare’s workforce cuts despite record revenue.