Wer mit einer KI spricht, die sich als Frau präsentiert, zahlt ihr weniger als einer männlich wirkenden KI mit gleicher Leistung. Das ist das Ergebnis einer Studie der Universitäten Zürich, Limerick und der Pariser Business School. Die Differenz lag bei rund zehn Prozent. Der sogenannte Gender Pay Gap überträgt sich damit offenbar auch auf den Umgang mit Maschinen. Die Forschenden schliessen daraus: Bestehende gesellschaftliche Vorurteile werden durch KI-Systeme sichtbar.
In der Studie wiesen Teilnehmende nach einer Interaktion mit KI-Assistenten Geld zu. Da KI-Agenten kein Einkommen beziehen, flossen die Beträge in die Weiterentwicklung des jeweiligen Systems. Die Zahlungen galten als Mass für den Wert, den die Teilnehmenden den Systemen beimasssen. Obwohl die Leistung beider Assistenzen identisch war, erhielt die männlich präsentierte KI systematisch mehr Geld als die weiblich präsentierte.
Auffällig: Viele Teilnehmende bestritten, dass das Geschlecht der KI ihre Einschätzung beeinflusse. Ihre Zahlungen zeugten vom Gegenteil. Die Forschenden stellen fest, dass manche Teilnehmenden weibliche KI-Assistenzen eher mit zwischenmenschlichen oder pflegerischen Aufgaben assoziierten, männliche hingegen mit technischen Bereichen oder «hard facts». Solche Zuschreibungen spiegeln laut den Autoren etablierte Berufsbilder wider.
Bias entsteht nicht durch Design
Die Forschenden betonen, dass das Design von KI-Systemen Vorurteile nicht erzeugt, sondern bestehende sichtbar macht. Geschlechtliche Hinweise in KI-Systemen wie Namen, Stimmen oder Aussehen können soziale Erwartungen aktivieren, die Menschen bereits bei menschlichen Interaktionen anwenden. In kontrollierten Experimenten liessen sich solche Effekte klarer beobachten als in der realen Arbeitswelt, wo Berufswahl, Karriereunterbrechungen oder strukturelle Ungleichheiten hinzukommen.
Werbung
Die Erkenntnisse haben praktische Konsequenzen für die Gestaltung von KI-Produkten. Messen Nutzer:innen bestimmten KI-Systemen weniger Wert bei, beeinflusst das, welche Systeme in Arbeitsprozesse integriert werden. Die Forschenden fordern weitere Studien zu unmittelbaren Bewertungsverzerrungen und ihrer Kumulation über Zeit.
Die Untersuchung erschien im Rahmen der CHI Conference on Human Factors in Computing Systems 2025. Sie reiht sich ein in eine wachsende Debatte: Wie übertragen Designentscheide bei KI-Systemen gesellschaftliche Hierarchien in neue technologische Kontexte?
Quelle: «Der Standard» – «Zehn Prozent weniger: Auch weibliche KI-Bots werden schlechter bezahlt»
DOI: 10.1145/3829807.3829910
