Eine neue Studie hat gezeigt, dass beliebte quelloffene KI-Tools, die bei Personalentscheidungen eingesetzt werden, eher Männern als Frauen eine Empfehlung geben – insbesondere bei besser bezahlten Stellen.
Die von Sugat Chaturvedi von der Ahmedabad University und Rochana Chaturvedi von der University of Illinois, Chicago, geleitete Untersuchung analysierte, wie mittelgroße quelloffene Large Language Models (LLMs) reagieren, wenn sie aufgefordert werden, zwischen männlichen und weiblichen Bewerbern mit gleicher Qualifikation zu wählen.
In ihrer Studie „Who Gets the Callback? Generative AI and Gender Bias“ führten die Autoren mehr als 40 Millionen Simulationen mit 332.044 echten Stellenanzeigen aus dem Portal National Career Services in Indien durch. Die Ergebnisse zeigen geschlechtsspezifische Verzerrungen bei den Empfehlungen von KI-Systemen für die Personalauswahl und geben Anlass zu neuen Bedenken hinsichtlich Fairness und Gleichbehandlung bei der Personalgewinnung.
„Wir stellen fest, dass die meisten Modelle stereotype Geschlechterzuordnungen reproduzieren und gleich qualifizierten Frauen systematisch schlechter bezahlte Stellen empfehlen“, schrieben die Forscher in der Studie.
Männer bei besser bezahlten Stellen bevorzugt
Die Forscher testeten sechs weit verbreitete quelloffene Modelle (Llama-3-8B, Qwen2.5, Llama-3.1, Granite-3.1, Ministral-8B und Gemma-2), um zu ermitteln, wie häufig jedes davon Frauen zu Vorstellungsgesprächen empfahl. Die Ergebnisse wiesen große Unterschiede auf:
- Ministral hatte mit gerade einmal 1,4 % die niedrigste Rückrufquote für Frauen.
- Gemma hatte mit 87,3 % die höchste Rückrufquote.
- Das von Meta entwickelte Llama wirkte am ausgewogensten: Es empfahl in 41 % der Fälle Frauen und verweigerte in 6 % der Fälle eine geschlechtsspezifische Empfehlung – häufiger als jedes andere Modell.
Lohngefälle und die „Persönlichkeit“ der Modelle
Selbst wenn weibliche Bewerber ausgewählt wurden, wurden sie eher für schlechter bezahlte Stellen empfohlen.
„Wir stellen fest, dass das Lohngefälle bei Granite und Llama-3.1 am geringsten ist (bei beiden ≈ 9 Log-Punkten), gefolgt von Qwen (≈ 14 Log-Punkte), wobei Frauen für schlechter bezahlte Stellen als Männer empfohlen werden“, schrieben die Forscher in der Studie. „Die geschlechtsspezifische Lohnbenachteiligung von Frauen ist bei Ministral (≈ 84 Log-Punkte) und Gemma (≈ 65 Log-Punkte) am stärksten. Im Gegensatz dazu weist Llama-3 eine Lohnbenachteiligung von Männern (einen Lohnvorteil für Frauen) von etwa 15 Log-Punkten auf.“
Die Studie ergab außerdem, dass die KI-Modelle Frauen in „weiblich konnotierte“ Tätigkeiten wie Körperpflege und Dienstleistungen drängten, während sie Männer in Richtung Baugewerbe, Rohstoffgewinnung und anderer traditionell von Männern dominierter Bereiche lenkten.
Um zu verstehen, warum dies geschieht, analysierten die Forscher die Sprache in Stellenanzeigen und stellten fest, dass KI-Modelle eng mit den im Text enthaltenen geschlechtsspezifischen Stereotypen übereinstimmten.
Bemerkenswerterweise stellten die Forscher fest, dass weniger umgängliche KI-Personas weniger Verzerrungen zeigten, als sie mithilfe psychologischer Eigenschaften, die als Big Five bekannt sind (Offenheit für Erfahrungen, Gewissenhaftigkeit, Extraversion, Verträglichkeit und Neurotizismus), unterschiedliche „Persönlichkeiten“ von Personalverantwortlichen simulierten. Das deutet darauf hin, dass Persönlichkeitsmerkmale in KI-Prompts die Fairness bei der Personalauswahl beeinflussen können.
Verborgene Risiken der Automatisierung bei der Personalauswahl
Obwohl in vielen Ländern Vorschriften geschlechtsspezifische Präferenzen in Stellenanzeigen verbieten, enthielten etwa 2 % der Anzeigen im indischen Datensatz ausdrücklich eine solche Präferenz. Die KI-Modelle folgten diesen Hinweisen tendenziell sehr genau.
„Wir wissen nicht abschließend, welche Unternehmen diese Modelle möglicherweise einsetzen“, sagte Chaturvedi gegenüber The Register, und fügte hinzu: „Die Unternehmen legen dies normalerweise nicht offen, und unsere Ergebnisse deuten darauf hin, dass solche Angaben für die Einhaltung der KI-Vorschriften von entscheidender Bedeutung sein könnten.“
Die Ergebnisse haben eine neue Debatte über die Ethik von KI im Personalwesen ausgelöst, insbesondere da immer mehr Unternehmen automatisierte Tools einsetzen, um große Mengen von Bewerbungen vorzusortieren.
Wie Meta bei der Veröffentlichung seines Modells Llama-4 einräumte, ist Verzerrung ein seit Langem bestehendes Problem: „Es ist allgemein bekannt, dass alle führenden LLMs Probleme mit Verzerrungen hatten – insbesondere neigten sie bei kontroversen politischen und gesellschaftlichen Themen in der Vergangenheit nach links“, erklärte das Unternehmen und führte dies auf die Beschaffenheit der für das Training verwendeten Internetdaten zurück.