Workday sieht sich mit einer Sammelklage konfrontiert, nachdem ein Bundesrichter Klagen zugelassen hat, denen zufolge die KI-gestützte Recruiting-Software des Unternehmens Bewerber über 40 zu Unrecht herausfiltert. Eingereicht wurde der Fall von mehreren Klägern, die angeben, aufgrund voreingenommener Algorithmen wiederholt für Stellen abgelehnt worden zu sein.
Das führende HR-Softwareunternehmen weist die Vorwürfe zurück, bezeichnete die Entscheidung des Richters als verfahrensrechtlicher Natur und erklärte, die Klage stütze sich ausschließlich auf Behauptungen. Der Ausgang des Falls könnte erheblichen Einfluss darauf haben, wie KI branchenübergreifend bei der Personalbeschaffung eingesetzt wird.
Wie die Klage gegen Workday begann
Workdays KI-Einstellungstool im Mittelpunkt des Falls ist ein automatisiertes Vorauswahlsystem, das in die Plattform des Unternehmens integriert ist. Es wird von Tausenden Unternehmen weltweit eingesetzt. Die Kläger argumentieren, dass das Tool häufig innerhalb von Minuten nach der Bewerbung überproportional folgende Personen ausschließt:
- Bewerber über 40.
- Schwarze Menschen.
- Menschen mit Behinderungen.
Die rechtlichen Schritte begannen mit Derek Mobley, der angibt, trotz entsprechender Qualifikationen und Erfahrung über mehrere Jahre hinweg für mehr als 100 Stellen abgelehnt worden zu sein, ohne zu einem Vorstellungsgespräch eingeladen zu werden. Inzwischen haben sich weitere Kläger mit ähnlichen Beschwerden angeschlossen.
Muster bei Ablehnungen geben Anlass zur Sorge
Der Klageschrift zufolge deutet die Geschwindigkeit, mit der Absage-E-Mails verschickt wurden, darauf hin, dass die Entscheidungen automatisch und ohne menschliches Zutun getroffen wurden. Mobley verwies auf einen Fall, in dem er sich um 0:55 Uhr auf eine Stelle bewarb und vor 2:00 Uhr abgelehnt wurde, was darauf hindeutet, dass künstliche Intelligenz seine Bewerbung abgelehnt hatte.
Eine weitere Klägerin, Jill Hughes, berichtete, innerhalb weniger Stunden Hunderte Absagen erhalten zu haben, meist in den Nachtstunden. Sie stellte außerdem fest, dass in einigen Absagen fälschlicherweise behauptet wurde, sie erfülle grundlegende Anforderungen nicht. Dies nährte weitere Bedenken hinsichtlich möglicher Fehler im Vorauswahlverfahren.
Der Einfluss von KI auf Einstellungsentscheidungen
Die Klage gegen Workday verdeutlicht übergreifende Probleme im Zusammenhang mit KI-Voreingenommenheit bei Einstellungsverfahren. Forschungen der University of Washington zeigen, dass solche Systeme rassistische und geschlechtsspezifische Vorurteile übernehmen und verstärken können. Dies bestärkt die Sorgen um die Fairness von Recruiting-Technologien.
Voreingenommenheit beschränkt sich nicht auf die Lebenslaufprüfung. Auch KI, die bei Vorstellungsgesprächen, der Sprachanalyse und der Rangfolge von Bewerbern eingesetzt wird, kann fehlerhafte Ergebnisse liefern und das Risiko unfairer Entscheidungen erhöhen, wenn die menschliche Kontrolle minimal ist. So verlor eine Maskenbildnerin ihren Job bei einer renommierten Marke, nachdem ein KI-Tool mit Gesichtserkennung ihre Körpersprache negativ bewertet hatte.
Schutz von Arbeitssuchenden vor KI-Diskriminierung
Angesichts der zunehmenden Überprüfung algorithmischer Einstellungsverfahren drängen einige Gesetzgeber und Interessenvertretungen auf neue Gesetze, die Transparenz und Fairness bei der KI-gestützten Personalbeschaffung vorschreiben.
Dazu könnte gehören, Unternehmen dazu zu verpflichten offenzulegen, wann automatisierte Tools eingesetzt werden, zu erklären, wie Entscheidungen getroffen werden, und Bewerbern die Möglichkeit zu geben, eine menschliche Überprüfung zu beantragen. Experten warnen davor, dass Technologien, die den Einstellungsprozess effizienter machen sollen, ohne solche Schutzvorkehrungen stattdessen die Ungleichheit auf dem Arbeitsmarkt verschärfen könnten.