{"id":555,"date":"2022-03-08T08:08:51","date_gmt":"2022-03-08T07:08:51","guid":{"rendered":"https:\/\/blog.zhaw.ch\/digital-futures-lab\/?p=555"},"modified":"2022-06-02T17:37:35","modified_gmt":"2022-06-02T15:37:35","slug":"gender-bias-und-unfaire-algorithmen-fairness-hangt-von-unseren-werten-ab","status":"publish","type":"post","link":"https:\/\/blog.zhaw.ch\/digital-futures-lab\/2022\/03\/08\/gender-bias-und-unfaire-algorithmen-fairness-hangt-von-unseren-werten-ab\/","title":{"rendered":"Gender bias und (un)faire Algorithmen: \u00abFairness h\u00e4ngt von unseren Werten ab\u00bb"},"content":{"rendered":"\n

Corinna Hertweck<\/a> arbeitet seit 2020 in einem Forschungsprojekt der ZHAW School of Engineering und ist Doktorandin an der Universit\u00e4t Z\u00fcrich. In einem gemeinsamen Projekt mit der ZHAW, Universit\u00e4t Z\u00fcrich und Universit\u00e4t St. Gallen<\/a> besch\u00e4ftigt sie sich mit der Schnittstelle von Technik und Gesellschaft. Anl\u00e4sslich des Internationalen Frauentags 2022 spricht sie im Interview \u00fcber Stereotypen, Gender bias und fairere Algorithmen.<\/strong><\/p>\n\n\n\n

Welches weibliche Stereotyp \u00e4rgert dich?<\/strong><\/h2>\n\n\n\n

Besonders st\u00f6rt mich das Klischee, dass Frauen nichts von Technik verst\u00fcnden. Solche Stereotype verhindern, dass M\u00e4dchen und Frauen \u00fcberhaupt erst auf die Idee kommen, sich mit Technik zu besch\u00e4ftigen. Um mehr Frauen in MINT-Bereichen zu sehen, sollten wir M\u00e4dchen und Frauen aber aktiv ermutigen, sich mit Technik zu besch\u00e4ftigen.<\/p>\n\n\n\n

Wie \u00abfair\u00bb sind Algorithmen in Bezug auf Gleichberechtigung von Mann und Frau? Braucht die k\u00fcnstliche Intelligenz (KI) hier noch Nachhilfe?<\/strong><\/h2>\n\n\n\n

Da braucht es unbedingt Nachhilfe. Schon mehrere Beispiele sind publik geworden, die gezeigt haben: KI behandelt Frauen und nicht-bin\u00e4re Personen oft systematisch schlechter als M\u00e4nner, zum Beispiel im Einstellungsprozess oder in der Kreditvergabe<\/a>.<\/p>\n\n\n\n

KI wird oft mit dem Ziel trainiert, m\u00f6glichst \u201cakkurat\u201d zu sein. Aber was heisst das eigentlich? \u201cAkkurat\u201d bedeutet, dass die KI, das, was sie in den Daten vorfindet, m\u00f6glichst gut nachahmen kann. Sind bisher wenige Frauen eingestellt worden? Dann wird die KI auch in Zukunft wenige Frauen einstellen. Eine KI \u00fcberlegt sich nicht: Warum haben wir als Unternehmen bisher so wenige Frauen eingestellt? Haben die Personaler*innen unterbewusst Vorurteile gegen\u00fcber Frauen? Oder haben wir wenige Bewerbungen von Frauen bekommen, weil die Stellenanzeigen vor allem M\u00e4nnern angezeigt wurden<\/a>? Oftmals werden Ungerechtigkeiten aus den Daten sogar noch verst\u00e4rkt. Dem m\u00fcssen wir aktiv entgegensteuern.<\/p>\n\n\n\n

Was tut ihr an der ZHAW, um Algorithmen fairer zu gestalten?<\/strong><\/h2>\n\n\n\n

Auf wissenschaftlicher Seite entwickeln wir Methoden zur Bewertung der Fairness von Algorithmen und Methoden zur Verringerung von Unfairness. Doch in der Wissenschaft zeigt sich: Es gibt keine objektive Definition von Fairness. Was Fairness ist, h\u00e4ngt vom Kontext und \u2014 ganz wichtig \u2014 unseren Werten ab. Daher ist die Diskussion \u00fcber die Fairness von Algorithmen eine gesellschaftliche Diskussion \u00fcber die Fairness des Systems, in dem sie eingesetzt werden. Die Frage nach der Fairness eines Algorithmus zur Vergabe von Sozialhilfe, zum Beispiel, ist keine mathematische Frage, sondern eine Frage nach den Werten, die in unserem Sozialhilfesystem verankert sein sollen. In unserem Projekt versuchen wir diesen gesellschaftlichen Diskurs mitanzuregen, beispielsweise durch unsere Kollaboration mit AlgorithmWatch Schweiz<\/a> und dem Museum f\u00fcr Gestaltung zur Ausstellung \u201cPlanet Digital\u201d<\/a>.<\/p>\n\n\n\n

Frauenquote in Unternehmen \u2013 ja oder nein?<\/strong><\/h2>\n\n\n\n

Ja! Denn Frauen haben bisher schlechtere Chancen, in F\u00fchrungspositionen zu kommen. Das liegt meiner Einsch\u00e4tzung nach an vielen Faktoren: Frauen und M\u00e4nner werden anders sozialisiert und entscheiden sich dann f\u00fcr andere Studienrichtungen. Viele Frauen steigen aus dem MINT-Bereich aus<\/a>, da sie mit Sexismus und anderen Formen von Diskriminierung<\/a> konfrontiert sind. Der Elternurlaub ist ungleich verteilt, sodass Frauen \u00f6fters Pflegeaufgaben \u00fcbernehmen (m\u00fcssen).<\/p>\n\n\n\n

Die Frauenquote wirkt ausserdem repr\u00e4sentativ: Frauen in F\u00fchrungspositionen k\u00f6nnen jungen Frauen Vorbilder sein, die zeigen: In diesem Bereich sind auch Frauen erfolgreich.<\/a> Und das ist wichtig, denn wir verschenken viel Talent, wenn Frauen nicht die gleichen Chancen haben wie M\u00e4nner. Ausserdem bedarf es in allen Bereichen mehr Perspektiven als nur die von weissen M\u00e4nnern, denn wer etwas f\u00fcr die gesamte Gesellschaft entwickeln will, der muss die gesamte Gesellschaft einbeziehen. Mehr Repr\u00e4sentation von Frauen bedeutet auch mehr Mitdenken der Lebensrealit\u00e4t von Frauen.<\/p>\n\n\n\n