Ein Richter hat SafeRent, ein KI-gestütztes Tool zur Überprüfung von Mietinteressenten, angewiesen, die von der KI generierten Bewertungen zur Beurteilung von Mietern mit geringem Einkommen, insbesondere von Personen mit Wohnraumgutscheinen, nicht mehr zu verwenden. US-Bezirksrichterin Angel Kelley genehmigte einen Vergleich über 2,3 Millionen US-Dollar, der auf Vorwürfe zurückgeht, SafeRents Vorgehen habe gegen das Recht des Bundesstaats Massachusetts und den Fair Housing Act verstoßen.
So funktionierte das SafeRent-Bewertungssystem
Die Sammelklage von 2022 behauptete, SafeRents Bewertungssystem habe schwarze und hispanische Mieter sowie Personen, die auf Wohnbeihilfen angewiesen sind, ungerecht benachteiligt. Die Kläger machten geltend, das System habe diesen Gruppen überproportional häufig niedrige Bewertungen zugewiesen, woraufhin Vermieter ihre Bewerbungen ablehnten. Der Vergleich schreibt weitreichende Änderungen an SafeRents Bewertungspraxis vor und entschädigt betroffene Mieter in Massachusetts, deren Wohnungsbewerbungen abgelehnt wurden.
- SafeRents KI-Algorithmus bewertete Mietinteressenten anhand von Faktoren wie Kredithistorie und nicht aus Mietverhältnissen stammenden Schulden und erstellte daraus einen „SafeRent Score“, den Vermieter für ihre Mietentscheidungen nutzten.
- Der Klage zufolge fehlte es diesem Verfahren an Transparenz, da die Vermieter nicht darüber informiert wurden, wie die Bewertungen berechnet wurden.
- Das System benachteiligte angeblich Bewerber mit Wohnraumgutscheinen – eine Praxis, die als diskriminierend und als Verstoß gegen Wohnraumgesetze kritisiert wurde.
Shennan Kavanagh, Leiter der Prozessabteilung beim National Consumer Law Center, erklärte, dass solche Bewertungen auf Daten zurückgreifen, die darauf ausgelegt sind, die Rückzahlung von Krediten und nicht von Mieten vorherzusagen. Dadurch seien sie für die Beurteilung der Zuverlässigkeit von Mietern ungeeignet.
Vergleich bringt umfassende Reformen beim KI-gestützten Vermieter-Screening
Im Rahmen des fünfjährigen Vergleichs wird SafeRent landesweit keine Bewertungen für Bewerber mit Wohnraumgutscheinen mehr verwenden oder anzeigen. Außerdem werden Vermieter, die das „bezahlbare“ SafeRent-Score-Modell einsetzen, weder Bewertungen noch Empfehlungen sehen, ob sie Mieter aufgrund der Nutzung eines Wohnraumgutscheins annehmen oder ablehnen sollen. Stattdessen müssen sie Bewerber ganzheitlicher beurteilen und dabei ihre gesamte Miethistorie berücksichtigen.
SafeRent-Sprecherin Yazmin Lopez verteidigte das Unternehmen und erklärte, seine Bewertungspraxis habe dem Gesetz entsprochen. Sie räumte jedoch ein, dass der Rechtsstreit kostspielig und zeitaufwendig gewesen sei.
„Die Verteidigung des SRS Score würde Ressourcen binden, die SafeRent besser für die Erfüllung seiner Kernaufgabe einsetzen könnte“, sagte Lopez.
Zunehmende Kontrolle von KI im Wohnungswesen
Der Fall verdeutlicht die zunehmende Kontrolle algorithmischer Entscheidungsprozesse im Wohnungswesen. Im August verklagte das Justizministerium RealPage, eine weitere Software für die Immobilienverwaltung, weil das Unternehmen angeblich KI-gestützte Preis-Tools einsetzte, um die Mieten in die Höhe zu treiben. Der Vergleich mit SafeRent unterstreicht die rechtlichen Risiken beim Einsatz von KI bei Entscheidungen im Wohnungswesen und stellt die Fairness solcher Systeme infrage.
Der Vergleich über 2,3 Millionen US-Dollar ist ein Sieg für Befürworter des fairen Wohnens und schafft einen Präzedenzfall dafür, KI-gestützte Tools für diskriminierende Praktiken zur Verantwortung zu ziehen. Die Vereinbarung soll Vorurteile bei Mietentscheidungen abbauen und den gleichberechtigten Zugang zu Wohnraum sichern, indem gewährleistet wird, dass Wohnungsbewerber anhand ihrer vollständigen Unterlagen und nicht anhand undurchsichtiger Algorithmen beurteilt werden.