Der Chatbot diskriminiert höflicher

Die Jahresgespräche stehen an. Sie bedeuten für Mitarbeitende Karriere, Geld und manchmal Sorgen. Führungskräfte sollen korrekt beurteilen, was aber nur begrenzt gelingt. Warum ist das so? Studien zeigen, wo Mensch und KI gleichermassen auf dem Holzweg sind und was man tun kann.

Bewerten Führungskräfte ihre Mitarbeiter und Mitarbeiterinnen, urteilen Menschen über Menschen. Sympathie, Ähnlichkeit, Präsenz und der letzte Eindruck fliessen mit ein, ob man will oder nicht. Unternehmen setzen auf das Leistungsprinzip: Belohnt wird, was jemand nachweislich erreicht, unabhängig von Namen, Herkunft oder Beziehungen. Im Grunde ist das einfach, es hat jedoch seine Tücken.

Der MIT-Professor Emilio Castilla zeigte, dass Führungskräfte identische Leistungsprofile, mal mit Männer- und mal mit Frauennamen, unterschiedlich belohnten. Betonte das Unternehmen das Leistungsprinzip, erhielten Männer höhere Boni als gleich gute Frauen. Ohne diese Betonung war der Vorsprung kleiner. Castilla nennt dies das «Paradox der Meritokratie» und erklärt: Wer sich in einem fairen System wähnt, überwacht die eigenen Vorurteile (hier wohl: Männer leisten mehr) weniger.

Mit dem Aufstieg der KI wuchs die Hoffnung, endlich objektiv und fair sein zu können. Schliesslich kennt die KI weder Sympathie noch Eitelkeit oder Bauchgefühl. Castilla liess tausend KI-Agenten vergleichbare Bonusentscheidungen treffen. Die neuen Ergebnisse stellte er kürzlich an der AI@Strategy Conference der Technischen Universität München vor und liess das Auditorium abstimmen. Die Mehrheit tippte auf eine korrekte Verteilung gemäss Leistung – und lag daneben. Das Resultat schockte: Die Agenten gaben Frauen und Schwarzen durchwegs niedrigere Boni als gleich leistungsstarken Männern und Weissen. Auch die KI diskriminiert.

Damit nicht genug. Auf derselben Konferenz zeigte Hannah R. Bowles von der Harvard University die brandneuen Ergebnisse ihres Teams: Vier gängige Sprachmodelle wurden 80’000-mal um Rat für eine Gehaltsverhandlung gebeten, mit demselben Kurzprofil – nur Vorname und Pronomen wechselten. Männern empfahlen alle vier Modelle höhere Gehaltsziele und räumten ihnen mehr Verhandlungsspielraum ein. Zusätzlich sollten sie Lohnerhöhungen, Aktienoptionen und Kundenkontakt einbringen. Für Frauen veranschlagten sie tiefere Gehälter mit weniger Spielraum. Ihnen rieten sie, Homeoffice, Elternurlaub und Teilzeit auszuhandeln. Keine Anfrage verriet etwas über Familie oder persönliche Wünsche. Die Rollenbilder von gestern in der KI von heute.

Menschen haben Vorurteile. Diese greifen schlimmer, wenn man denkt, man hätte keine. Gegenmassnahme und somit Pflicht bei jeder Mitarbeiterbeurteilung ist, sich und die KI zu hinterfragen und zu überprüfen. Leichter hat es, wer qualitative Ziele vereinbart hat. Dort sind Leistung, erwartetes Verhalten und Kriterien der Zielerreichung konkret beschrieben. Entscheide müssen begründet und transparent sein. Wo Rechenschaft abzulegen war, schrumpften die Lohnunterschiede gemäss Studie.

Das ist Arbeit und kostet Zeit. Aber Menschen verdienen eine Beurteilung, die mehr Nachdenken erfordert als ein Ankreuzsystem. Und wer die KI hinzuzieht, bleibt skeptisch und macht die Gegenprobe: dieselbe Anfrage, ein anderer Name. Vollständige Objektivität zu wollen, ist redlich – aber oft unrealistisch. Wichtiger und erreichbar ist, Willkür auszuschliessen.