Gender bias und (un)faire Algorithmen: «Fairness hängt von unseren Werten ab»

Corinna Hertweck arbeitet seit 2020 in einem Forschungsprojekt der ZHAW School of Engineering und ist Doktorandin an der Universität Zürich. In einem gemeinsamen Projekt mit der ZHAW, Universität Zürich und Universität St. Gallen beschäftigt sie sich mit der Schnittstelle von Technik und Gesellschaft. Anlässlich des Internationalen Frauentags 2022 spricht sie im Interview über Stereotypen, Gender bias und fairere Algorithmen.

Welches weibliche Stereotyp ärgert dich?

Besonders stört mich das Klischee, dass Frauen nichts von Technik verstünden. Solche Stereotype verhindern, dass Mädchen und Frauen überhaupt erst auf die Idee kommen, sich mit Technik zu beschäftigen. Um mehr Frauen in MINT-Bereichen zu sehen, sollten wir Mädchen und Frauen aber aktiv ermutigen, sich mit Technik zu beschäftigen.

Wie «fair» sind Algorithmen in Bezug auf Gleichberechtigung von Mann und Frau? Braucht die künstliche Intelligenz (KI) hier noch Nachhilfe?

Da braucht es unbedingt Nachhilfe. Schon mehrere Beispiele sind publik geworden, die gezeigt haben: KI behandelt Frauen und nicht-binäre Personen oft systematisch schlechter als Männer, zum Beispiel im Einstellungsprozess oder in der Kreditvergabe.

KI wird oft mit dem Ziel trainiert, möglichst “akkurat” zu sein. Aber was heisst das eigentlich? “Akkurat” bedeutet, dass die KI, das, was sie in den Daten vorfindet, möglichst gut nachahmen kann. Sind bisher wenige Frauen eingestellt worden? Dann wird die KI auch in Zukunft wenige Frauen einstellen. Eine KI überlegt sich nicht: Warum haben wir als Unternehmen bisher so wenige Frauen eingestellt? Haben die Personaler*innen unterbewusst Vorurteile gegenüber Frauen? Oder haben wir wenige Bewerbungen von Frauen bekommen, weil die Stellenanzeigen vor allem Männern angezeigt wurden? Oftmals werden Ungerechtigkeiten aus den Daten sogar noch verstärkt. Dem müssen wir aktiv entgegensteuern.

Was tut ihr an der ZHAW, um Algorithmen fairer zu gestalten?

Auf wissenschaftlicher Seite entwickeln wir Methoden zur Bewertung der Fairness von Algorithmen und Methoden zur Verringerung von Unfairness. Doch in der Wissenschaft zeigt sich: Es gibt keine objektive Definition von Fairness. Was Fairness ist, hängt vom Kontext und — ganz wichtig — unseren Werten ab. Daher ist die Diskussion über die Fairness von Algorithmen eine gesellschaftliche Diskussion über die Fairness des Systems, in dem sie eingesetzt werden. Die Frage nach der Fairness eines Algorithmus zur Vergabe von Sozialhilfe, zum Beispiel, ist keine mathematische Frage, sondern eine Frage nach den Werten, die in unserem Sozialhilfesystem verankert sein sollen. In unserem Projekt versuchen wir diesen gesellschaftlichen Diskurs mitanzuregen, beispielsweise durch unsere Kollaboration mit AlgorithmWatch Schweiz und dem Museum für Gestaltung zur Ausstellung “Planet Digital”.

Frauenquote in Unternehmen – ja oder nein?

Ja! Denn Frauen haben bisher schlechtere Chancen, in Führungspositionen zu kommen. Das liegt meiner Einschätzung nach an vielen Faktoren: Frauen und Männer werden anders sozialisiert und entscheiden sich dann für andere Studienrichtungen. Viele Frauen steigen aus dem MINT-Bereich aus, da sie mit Sexismus und anderen Formen von Diskriminierung konfrontiert sind. Der Elternurlaub ist ungleich verteilt, sodass Frauen öfters Pflegeaufgaben übernehmen (müssen).

Die Frauenquote wirkt ausserdem repräsentativ: Frauen in Führungspositionen können jungen Frauen Vorbilder sein, die zeigen: In diesem Bereich sind auch Frauen erfolgreich. Und das ist wichtig, denn wir verschenken viel Talent, wenn Frauen nicht die gleichen Chancen haben wie Männer. Ausserdem bedarf es in allen Bereichen mehr Perspektiven als nur die von weissen Männern, denn wer etwas für die gesamte Gesellschaft entwickeln will, der muss die gesamte Gesellschaft einbeziehen. Mehr Repräsentation von Frauen bedeutet auch mehr Mitdenken der Lebensrealität von Frauen.

Auf zum Planet Digital!

Selbstlernende Algorithmen, seltene Erden oder segnende Roboter: In der Ausstellung Planet Digital treffen innovative Forschungsteams auf kreative Köpfe aus Gestaltung und Kunst. Vom 11. Februar bis 6. Juni machen sie Wissenschaft mit und über Digitalisierung an rund 25 Installationen mit allen Sinnen erlebbar. Das Programm gibt es hier, der Eintritt ist für ZHAW-Angehörige frei (bitte CampusCard bereithalten).

Planet Digital ist ein Innovationsprojekt der 
DIZH. Diese Ausstellung findet in Zusammenarbeit mit der ZHdK (Zürcher Hochschule der Künste), der ZHAW und AlgorithmWatch Schweiz statt.


1 Kommentar

  • Vielen Dank für diesen aufschlussreichen Blogbeitrag an der Schnittstelle von KI und Gender Equality. Danke für den kritischen Umgang mit der Fairness von Künstlicher Intelligenz und der Entwicklung von Methoden, die helfen Unfairness abzubauen. Auch wir an der Stabsstelle Diversity der ZHAW setzen uns für den Abbau von Gender Bias ein. Wunderbar, wenn das Digital Future Lab hier weiterhilft!


Leave a Reply

Your email address will not be published. Required fields are marked *